AI 스타트업 Thinking Machines Lab이 2주 전에 출시한 바로 미 9750억 파라미터의 AI 모델 “Inkling”과 동등한 성능을 약 3분의 1에서 4분의 1의 크기로 구현하는 오픈 웨이트 모델 “Inkling-Small”을 출시했습니다. Introducing Inkling-Small - Thinking Machines Lab [https://thinkingmachines.ai/news/inkling-small/](https://thinkingmachines.ai/news/inkling-small/)
Thinking Machines가 오픈 소스 AI 모델 Inkling Small을 출시, 이전 모델의 성능에 비해 약 1/4 크기로 출시 | VentureBeat
Thinking Machines에서 Inkling Small 오픈 소스 AI 모델을 출시하며, 총 파라미터 수는 2760억 개, 활성 파라미터 수는 120억 개의 Mixture-of-Experts(MoE) 방식의 Transformer 모델입니다. NVIDIA GB300 NVL72에서 훈련이 진행되었습니다. Inkling과 마찬가지로 음성 및 이미지에 대한 네이티브 추론 기능, 가변적 思考負荷, 최대 100만 토큰의 컨텍스트 윈도우를 갖추고 있으며, 다양한 벤치마크에서 균형 잡힌 성능을 발휘한다고 합니다.
이전 모델인 Inkling에 비해 Inklink-Small은 훨씬 적은 계산 자원으로 동등한 성능을 발휘합니다. 아래 그래프는 Inklink-Small과 Inkling, DeepSeek V4 Flash, Gemini 3.5 Flash-Lite, GPT 5.6 Luna의 5가지 모델로 10가지의 벤치마크를 수행했을 때의 점수를 겹쳐 놓은 그래프입니다. Inklink-Small과 Inkling의 2가지 모델은 사실성을 측정하는 벤치마크인 SimpleQA Verified에서 Inklink-Small이 크게 뒤쳐진 점을 제외하고는 전반적으로 유사한 점수를 기록하고 있습니다.
Thinking Machines Lab에 따르면, Inkling-Small은 추론 작업이나 에이전트 작업에서 Inkling과 동등하거나 그 이상의 성능을 발휘하며, 동 웨이트 클래스 오픈 웨이트 모델과 비교했을 때, 성능과 토큰 수의 균형이 좋다고 합니다. 또한, Inkling이 그랬듯이, Inkling-Small도 음성 처리에 특화된 개발이 진행되어 음성 애플리케이션의 최적 후보가 될 수 있다고 합니다. 반면, 시각 처리도 소홀하게 이루어지지 않고 있으며, 일부의 클로즈드 모델에 가까운 성능을 발휘합니다.
안전성 측면에서도 Inkling과 동일한 훈련 후 안전 대책을 이어받아, Thinking Machines Lab의 내부 안전 기준을 충족하는 대책이 적용되었습니다. 범죄나 폭력적인 행위의 위험과 관련된 안전성을 측정하는 “FORTRESS”와, 명백히 유해하다고 판단되는 요청을 AI 모델이 거부하는지 측정하는 “StrongREJECT”는 Inkling과 동등한 성능을 보이며, 다른 모델들과도 충분히 경쟁할 수 있는 수준을 보여줍니다.
Inkling-Small은 Inkling과 함께 Thinking Machines Lab의 서비스 “Tinker”에서 이용 가능하며, Hugging Face에서는 BF16 모델과 NVFP4 모델이 공개되었습니다.
원문 보기 | 출처: Gigazine