스탠포드 대학교, Together AI, 일리노이 대학교 아바나 샴페인 캠퍼스, Meta 연구팀이 “Hybrid Reasoning Agents”라는 AI 실행 기법을 발표했습니다. AI 모델의 사고(thinking)를 잠재 공간에서 실행 가능하도록 후속 학습을 적용하여, 처리 토큰 수를 줄여 고속화 및 저 비용화를 가능하게 한다고 합니다. [2610.18861] Hybrid Reasoning Agents https://arxiv.org/abs/2610.18861
당신의 LLM 에이전트는 작동하기 전에 토큰별로 소리 내어 생각해야 합니다. 우리는 토큰별로 생각하고, 필요한 경우에만 말합니다. 인간의 언어가 기계의 사고의 한계로 설계된 적은 없습니다. 🚀Hybrid Reasoning Agents를 소개합니다… pic.twitter.com/f9Qi1gVCJQ
기존의 대규모 언어 모델(LLM)은 “생각”, “툴 호출”, “최종 출력”의 모든 단계에서 토큰을 생성합니다. Hybrid Reasoning Agents에서는 생각을 잠재 공간에서 수행함으로써 속도를 향상시킵니다. 여기서 잠재 공간(잠재 공간)이란 다양한 데이터를 AI가 다루기 쉬운 형식으로 변환한 수치 공간을 의미합니다. Hybrid Reasoning Agents에 의한 추론은 기존 모델에 그대로 적용될 수 없는 것으로, 사전 학습된 모델에 지도 학습 방법인 “HybridSFT”와 강화 학습 방법 “HybridRL”을 적용하여 잠재 공간에서의 생각을 가능하게 합니다.
모델의 추론 처리는 출력과 툴 호출을 담당하는 “텍스트 모드”와 생각을 담당하는 “잠재 모드”를 전환하며 실행됩니다. 또한, 잠재 모드에서의 생각 내용은 사람이 읽을 수 있도록 정렬됩니다.
연구팀의 검증 결과, Hybrid Reasoning Agents에 의해 모델의 벤치마크 점수가 향상되고 처리 속도가 최대 2.1배 빨라지는 것이 확인되었습니다. 또한, Qwen3 4B에 Hybrid Reasoning Agents를 적용했을 때 비용이 3.7분의 1로 감소한 것도 보고되었습니다.
하이브리드 추론 에이전트 관련 코드 및 데이터셋은 다음 링크에서 공개되어 있습니다.
GitHub - togethercomputer/HybridAgent · GitHubhttps://github.com/togethercomputer/HybridAgent
HybridAgent - a togethercomputer Collectionhttps://huggingface.co/collections/togethercomputer/hybridagent
원문 보기 | 출처: Gigazine