# 거의 0.43GB로 스마트폰에서 작동 가능한 AI “Ternary Bonsai 2” 시리즈가 오픈 모델로 등장, 아이폰 18 Pro Max에서 초당 120 토큰의 고속 처리 가능

> https://bookfactory.kr/board/news/21973
> 게시판: 뉴스
> 작성자: tachikoma43
> 작성일: 2026-10-16T05:51:09.409Z

---

AI 개발 기업 PrismML이 스마트폰에서 로컬 동작하는 소형 AI 모델 “Ternary Bonsai 2 2B”, “Ternary Bonsai 2 4B”, “Ternary Bonsai 2 9B”를 현지 시간 2026년 10월 15일에 공개했습니다. 이미 iPhone에서 동작하는 환경이 정비되어 있습니다. PrismML — Introducing Ternary Bonsai 2 2B, 4B, and 9B: Bringing Local Agents to Everyday Devices https://prismml.com/news/bonsai-2-family 고성능 AI 모델을 실행하기 위해서는 대용량한 메모리가 필요하며, 스마트폰이나 노트북 등의 메모리 용량의 적은 기기에서 고성능 모델을 실행하기 위해서는 모델의 저메모리화를 필요로 합니다. PrismML은 모델의 성능 저하를 억제하면서 저메모리화를 하는 기술을 개발하는 기업으로, 2026년 9월에는 Qwen3.8 27B의 메모리 사용량을 5.9GB에 이르도록 감소시킨 “Ternary Bonsai 2 27B”를 출시하여 화제가 되고 있었습니다. Qwen3.8 27B를 5.9GB까지 소형화하면서 성능은 98.2%를 유지한 AI 모델 “Ternary Bonsai 2 27B”가 등장 – GIGAZINE

PrismML이 2026년 10월 15일에 “Ternary Bonsai 2 2B”, “Ternary Bonsai 2 4B”, “Ternary Bonsai 2 9B”를 공개했습니다. 이 모델들은 Qwen3.5 2B를 기반으로 하고 있으며, Qwen3.5 4B 기반의 “Ternary Bonsai 2 4B”, Qwen3.5 9B 기반의 “Ternary Bonsai 2 9B”입니다. 각 모델은 기반 모델을 “-1”, “0”, “1”의 3가지 값으로 처리할 수 있도록 개조한 모델이며, 메모리 사용량은 “Ternary Bonsai 2 2B”가 0.43GB, “Ternary Bonsai 2 4B”가 0.95GB, “Ternary Bonsai 2 9B”가 2GB로, 기반 모델의 9분의 1 미만으로 줄어들었습니다. 각 모델은 로컬에서 동작하는 AI 어시스턴트로서 유용하도록 “지시를 따르도록”, “처리 루프에 진입을 피하도록”, “적절한 도구를 호출하도록”, “불필요한 출력을 피하도록” 하는 요소에 초점을 맞추어 설계되었습니다. 각 모델과 기반 모델의 각종 벤치마크 점수를 요약한 표는 다음과 같습니다. 기반 모델에서 성능 저하를 억제하는 것뿐만 아니라, 일부 테스트에서는 기반 모델을 상회합니다.

다음은 각 기기에서의 초당 처리 토큰 수를 요약한 그림입니다. 새로운 모델 3종은 iPhone 18 Pro Max에서도 작동하며, Ternary Bonsai 2 2B는 초당 120 토큰이라는 매우 빠른 처리 능력을 제공합니다.

iPhone 18 Pro Max에서 Ternary Bonsai 2 9B를 실행하여 에이전트 태스크를 처리하는 데모 비디오가 아래에 있습니다.

Bonsai 2 9B가 로컬에서 iPhone에서 실행되고 에이전트적 작업을 수행하는 예시입니다. 이는 추론 및 도구 사용을 직접 모바일 애플리케이션에 가져오는 실용적인 예입니다. iPhone 18 Pro Max에서 Bonsai 2 9B는 최대 34 toks/sec에 도달하며, 2B 모델은 최대 120 toks/sec에 도달합니다. pic.twitter.com/q3RLVV6h4R

이미 무료 앱 “Locally AI”가 각 모델의 실행에 대응하고 있으며, iPhone 및 iPad에서 손쉽게 시험해 볼 수 있습니다.

새로운 @PrismMLBonsai 2 모델 가족을 만나보세요. 2B, 4B, 9B 모델로 제공됩니다. Qwen 3.5를 기반으로 한 이 새로운 모델들은 더욱 효율적이며 일상적인 기기에 적합하도록 설계되었습니다. iPhone 및 iPad에서 앱을 업데이트하여 시험해 보세요. pic.twitter.com/iA4ELs5q81

지역 AI 개발자인 아드리앙 그론딘 씨가 아이폰 18 프로에서 Ternary Bonsai 2 2B를 실행하는 영상을 X에 게시했습니다.

새로운 Bonsai 2 2B 모델은 iPhone 18 Pro에서 최대 120 tk/s의 성능을 발휘합니다. Qwen 3.5 2B (4-bit)보다 뛰어나며, 거의 반의 이진 메모리를 사용하여 두 배 더 빠른 속도로 실행됩니다. pic.twitter.com/KpKLQh2wPr

각 모델은 오픈 모델로서 공개되어 있으며, 다음 링크에서 다운로드할 수 있습니다. 라이선스는 Apache license 2.0입니다. Bonsai 2 Small - a prism-ml Collection https://huggingface.co/collections/prism-ml/bonsai-2-small

[원문 보기](https://gigazine.net/news/20261016-ternary-bonsai-2-2b-4b-9b/) | 출처: Gigazine