AI 개발 기업 Liquid AI가 “LFM2.5-24B-A2B” 모델을 공개했습니다. LFM2.5-24B-A2B는 자신보다 규모가 큰 구글 모델이나 알리바바 모델보다 높은 성능을 보이며, 특히 로컬 환경에서 AI 에이전트 실행을 위한 용도로 적합하다고 강조하고 있습니다. LFM2.5-24B-A2B: Built for Fast On-Device Agents | Blog | Liquid AI LFM2.5-24B-A2B는 총 파라미터 수가 240억 개, 활성 파라미터 수가 24억 5천만 MoE 모델입니다. 33조 토큰의 데이터를 활용하여 사전 학습되었으며, 추가 학습을 통해 에이전트 워크플로우에 적합한 능력을 갖추게 되었습니다. “LFM2.5-24B-A2B”, “Qwen3.6-35B-A3B”, “Gemma-4-26B-A4B-it”, “Nemotron-3.5-Lightning(30B-A3B)”와 같은 다양한 벤치마크 결과를 보여주는 그래프가 아래에 제시되어 있습니다. LFM2.5-24B-A2B는 파라미터 수로 측정했을 때 경쟁 모델보다 높은 점수를 기록하고 있습니다. 특히 AutomationBench 및 BFCLv4와 같은 에이전트 성능을 측정하는 테스트에서 경쟁 모델을 능가하는 결과를 나타냈으며, Liquid AI는 LFM2.5-24B-A2B를 “에이전트 훈련에 이상적인 기반이 될 수 있다”고 평가하고 있습니다.
llama.cpp, MLX, vLLM, SGLang, ONNX가 이미 LFM2.5-24B-A2B의 추론에 대응하며, Windows, Mac 등 다양한 환경에서 실행 가능합니다. 각종 기기에서 LFM2.5-24B-A2B의 Q4_K_M 양자화 버전을 실행한 결과가 다음과 같습니다. M5 Max를 탑재한 MacBook Pro에서는 매초 184 토큰이라는 빠른 데코딩 처리가 가능하며, 사용 메모리는 15GB였습니다. Ryzen AI Max+ 395를 탑재한 PC에서도 매초 114 토큰으로의 데코딩이 가능합니다.
M5 Max 탑재 MacBook Pro에서 Hermes Agent를 실행하고, LFM2.5-24B-A2B를 사용하여 “Hugging Face에서 화제가 되고 있는 AI 모델에 대한 브리핑을 생성하는” 작업을 실행하는 데모 영상도 공개되었습니다.
이 데모에서는 오픈소스 데스크톱 에이전트 Hermes Agent가 𝙻𝙵𝙼𝟸.𝟻-𝟸𝟺𝙱-𝙰𝟸𝙱에서 실행됩니다. 단 하나의 노트북입니다. 로컬 모델 추론이며, 클라우드 모델 API 호출이나 모델 API 키가 필요 없습니다. 데이터가 존재하는 곳에서 추론하고 행동하는 에이전트를 구축하세요. 5/pic.twitter.com/u9pjZIHgkV
LFM2.5-24B-A2B는 오픈 모델로 공개되어 있으며, 다음 링크에서 다운로드할 수 있습니다. LiquidAI/LFM2.5-24B-A2B · Hugging Facehttps://huggingface.co/LiquidAI/LFM2.5-24B-A2B
원문 보기 | 출처: Gigazine