OpenAI는 2026년 7월 9일에 GPT-5.6 시리즈를 출시했습니다. 이 GPT-5.6 시리즈에 대해 OpenAI는 GPT-5.6 자체를 이용하여 계산 비용 절감과 GPU 사용 효율 개선을 수행했음을 밝혔습니다.
GPT-5.6는 출시 이후 GPT-5.6 솔(Sol)을 적용하여 효율의 최전선을 발전시키고, 더 효율적으로 실행되도록 개선했습니다. 그 결과는 다음과 같습니다.
* 생산 GPU 커널 개선으로 20% 낮은 서비스 비용
* 개선된 추론적 예측(speculative decoding)으로 토큰 생성 효율 15% 이상 향상
GPT-5.6 시리즈는 고성능의 “GPT-5.6 솔(Sol)”, 균형 잡힌 “GPT-5.6 테라(Terra)”, 저비용의 “GPT-5.6 루나(Luna)”의 3가지 종류로 출시되었습니다. 이 중 GPT-5.6 솔은 Claude Fable 5를 능가하는 성능을 절반의 비용으로 달성할 수 있는 모델로 어필되고 있습니다. OpenAI는 “GPT-5.6”를 공식적으로 출시했으며, 제3자 테스트에서 Claude Fable를 초과하는 코딩 성능을 보인다고 발표했습니다(GIGAZINE).
OpenAI에 따르면 GPT-5.6 솔의 비용 효율성은 GPT-5.6 솔 자체를 활용한 자가 개선을 통해 달성되었다고 합니다. 추론에서는 추론 엔진의 커널 자체를 GPT-5.6 솔로 개선했습니다. GPT-5.6 솔은 OpenAI의 커널에 사용되는 프로그래밍 언어인 “트리톤(Triton)”과 “글루온(Gluon)”의 효율화에 기여하는 표현 방식을 학습하여 커널 최적화를 통해 엔드투엔드 서비스 비용을 20%까지 절감하는 데 성공했습니다. 추론적 예측(speculative decoding) 개선도 자율적으로 이루어졌습니다. 추론적 예측은 소형 “드래프트 모델(Draft Model)”을 사용하여 다음 토큰을 예측하는 추론 속도 기술로, GPT-5.6 솔을 사용하여 드래프트 모델을 개선하여 토큰 생성 효율이 15% 향상되었습니다. 또한, KV 캐시 처리 방식이나 GPU에 대한 계산 처리 할당 시스템도 자율적으로 개선했습니다.
더욱이 OpenAI는 에이전트 시스템의 하네스(Harness)도 효율화했습니다. 구체적으로는 “MCP 서버와 스킬이 필요할 때만 호출”, “툴(Tool)을 통한 출력의 최대 토큰 수를 기본적으로 1만 토큰으로 제한하고, 그 이상의 토큰 수는 모델이 요청할 경우에만 허용”, “툴 호출 순서를 고정” 등의 개선을 적용하여 캐시 활용률을 향상시키는 데 성공했습니다.
OpenAI는 “GPT-5.6가 추론 및 하네스 개선에 크게 기여했기 때문에, 앞으로는 최적화 속도가 가속화될 것이라고 확신합니다”라고 코멘했습니다.
원문 보기 | 출처: Gigazine