AI 개발 기업 PrismML이 개발하는 AI 모델 “1-bit Bonsai”는 80억 파라미터의 모델을 1.15GB라는 적은 메모리 사용량으로 실행할 수 있도록 하는 고성능 및 저메모리 AI 모델로서 주목을 받고 있습니다. 그런 PrismML이 AI 모델의 저메모리화 기술을 활용하여 Qualcomm의 Snapdragon 탑재 스마트 글래스에 1-bit Bonsai를 제공한다고 발표했습니다. PrismML — PrismML Brings 1-Bit Bonsai Models to AI Smart Glasses Powered by Snapdragon https://prismml.com/news/prismml-brings-1-bit-bonsai-models-to-ai-smart-glasses-powered-by-snapdragon
오늘 스냅드래곤 서밋에서 1-비트 Bonsai 비전-언어 모델이 Snapdragon® AR1 Gen 1 플랫폼 기반의 AI 스마트 안경에서 로컬로 실행됨을 발표합니다. Qualcomm Technologies와 협력하여 Bonsai를 Snapdragon Hexagon™ NPU에 최적화하여 메모리 사용량을 4배 감소시키고 2배… pic.twitter.com/D6traBJnyZ
고성능 AI 모델은 메모 사용량이 클 수 있으며, Qwen3.8 27B와 같은 고성능 모델을 실행하려면 대용량의 VRAM 및 RAM을 갖춘 고성능 PC가 필요합니다. PrismML은 AI 모델 처리 정확도를 2비트(1비트) 또는 3비트까지 낮춰 메모리 사용량을 줄이는 기술을 개발하고 있으며, 2026년 9월에 등장한 Ternary Bonsai 2 27B는 Qwen3.8 27B를 5.9GB까지 소형화하여 노트북 등의 RAM 용량이 제한된 환경에서도 작동하도록 합니다. Qwen3.8 27B를 5.9GB까지 소형화하면서 성능은 98.2%를 유지한 AI 모델 “Ternary Bonsai 2 27B”가 등장 – GIGAZINE
그렇다면 PrismML은 2026년 9월 23일, Qualcomm이 하와이의 마우이에서 개최한 Snapdragon Summit 2026에서 Snapdragon AR1 Gen 1 플랫폼을 탑재한 AI 스마트 글래스에서 1-bit Bonsai를 로컬에서 실행하는 것을 발표했습니다. Snapdragon Summit 2026 Day 2: Personal AI, Sound, and PC Keynotes | Snapdragon for the Agentic Age - YouTube
이 모델은 2026년 4월에 출시된 “1-bit Bonsai 1.7B”를 기반으로 스마트 글래스용으로 구축된, 20억 개 파라미터를 가진 새로운 시각 언어 모델입니다. 모델은 착용자가 보고 있는 것을 이해하고, 그 맥락에 따라 추론하며, 실시간으로 응답하는 등 다양한 경험을 실현하기 위해 필요한 시각 기능과 언어 기능을 제공한다고 합니다. PrismML에 따르면, 스마트 글래스용 1-bit Bonsai는 기존 스마트 글래스용 AI 모델에 비해 파라미터 수가 4배에 확대되었다고 합니다. 이러한 최적화는 메모리, 전력, 열 부하에 관해 극도로 엄격한 제약 속에서 동작하면서도 응답성을 유지하고, 하루 종일 배터리가 지속되어야 하는 스마트 글래스에서 특히 중요하다고 PrismML은 밝혔습니다. Qualcomm의 XR, 웨어러블, 개인 AI 담당 상급 부사장 겸 제너럴 매니저 디어라즈 라오(Dheeraj Rao)는 “개인 AI의 미래는 사람들이 일상적으로 사용하는 기기에 강력한 지능을 직접 탑재할 수 있는지에 달려 있습니다. Snapdragon AR1 Gen 1으로 PrismML의 혁신적인 1비트 모델을 지원함으로써, 경량화되고 전력 효율이 우수한 웨어러블 기기에서 고도화된 AI 경험을 더욱 실용적으로 만드는 것을 목표로 합니다. 이 획기적인 기술은 로컬에서 동작하고, 응답성이 높으며, 프라이버시를 중시한 기능을 갖춘 시각 기반의 지원 등 더욱 풍부한 멀티모달 AI 경험으로 나아가는 길을 열어줍니다”라고 밝혔습니다.
또한, PrismML의 공동 창업자이자 CEO인 바바크·하시비氏は성명에서 “AI가 보급되기 위해서는 사람들이 이미 소지하거나 착용하고 있는 기기에 고성능의 지능이 탑재되어야 합니다. 스마트 글래스는 이 과제를 매우 구체적으로 보여줍니다. 시각을 통해 방대한 양의 컨텍스트 정보가 얻어지는 반면, 그것을 이해하기 위한 기기는 극도로 제약이 많습니다. Qualcomm와 협력하여 우리는 이러한 제약 속에서 Bonsai를 설계했습니다. 그 결과, 같은 하드웨어 크기 안에서 훨씬 더 높은 지능을 달성할 수 있었습니다. 우리는 모델과 하드웨어의 협조 설계가 AI를 클라우드에서 사람들이 일상적으로 사용하는 기기로 전환시키는 길이라고 생각합니다”라고 밝혔습니다. 또한, X의 게시물에서는 “Snapdragon AR1 Gen 1에 의해 구동되는 1비트 2B Bonsai 모델은 1비트 멀티모달 모델이 개인용 AI 플랫폼에서 작동하는 최초의 사례입니다. 그리고 앞으로도 더 많은 것들이 이어질 것입니다”라고 향후 파트너십에 대해서도 시사했습니다.
Qualcomm의 Snapdragon 서밋에서 1-비트 2B Bonsai 모델이 AI 스마트 글래스에서 로컬로 실행되는 것을 기쁘게 알립니다. Snapdragon AR1 Gen 1에 의해 구동되는 이 모델은 1-비트 멀티모달 모델이 개인 AI 플랫폼에서 처음으로 실행되는 사례입니다. 앞으로 더 많은 모델이 뒤따라올 예정입니다…. https://t.co/7DbUYF1ikk
원문 보기 | 출처: Gigazine