OpenAI와 미국 Cerebras는 2026년 8월 13일 (현지 시간), AI 모델 “GPT-5.6 Sol”을 고속으로 동작시키기 위한 새로운 API 서비스 티어 “Ultrafast 모드”를 발표했다. 표준 처리와 비교하여 최대 14배 가속화되며, 최대 750 출력 토큰/초에 생성할 수 있다고 한다. 먼저 OpenAI API에서 일부 고객에게 한정된 프리뷰 형태로 제공한다.
## GPT-5.6 Sol을 최대 750 토큰/초로 실행
Ultrafast 모드는 OpenAI의 고성능 모델 GPT-5.6 Sol을, 추론 속도를 중시한 Cerebras의 컴퓨팅 기반에서 동작시키는 서비스이다. OpenAI에 따르면, Standard processing와 비교하여 최대 14배 빠르고, 생성 속도는 최대 750 출력 토큰/초에 달한다.
기존에는 높은 응답 속도를 요구할 경우에는 더 작은 모델이나 특정 용도에 최적화된 모델을 선택하는 경우가 많았다. 이번의 Ultrafast에서는, GPT-5.6 Sol 자체를 고속한 추론 기반에서 동작시켜, 높은 모델 능력과 응답 속도 양쪽을 맞추는 것을 목표로 한다. Cerebras는 Standard 처리와 동일한 모델 능력을 유지한다고 설명하고 있다.
## Cerebras에 대하여 “거대한 1장의 칩”으로 AI 추론을 고속화
Cerebras는 미국의 AI 인프라 기업으로, AI 모델의 학습 및 추론에 특화된 컴퓨팅 시스템을 개발하고 있다. 특징 중 하나가, 일반적인 반도체 칩보다 훨씬 더 큰 “Wafer-Scale Engine (WSE)”라고 불리는 프로세서이다.
OpenAI는 Cerebras에 대해, 막대한 계산 능력, 메모리, 대역폭을 1개의 거대한 칩 위에 집약함으로써, 기존 하드웨어에서 AI 추론을 느리게 하는 요인인 데이터 전송의 병목 현상을 줄이고 있다고 설명하고 있다.
이번에 GPT-5.6 Sol의 Ultrafast 모드에도 이 WSE 아키텍처를 채택한다. Cerebras에 따르면, 각 웨이퍼 사이즈의 칩에 44GB의 SRAM을 탑재하여, 모델의 가중치를 칩 위에 유지함으로써, 대규모 모델의 추론 시에 발생할 수 있는 메모리와의 데이터 이동을 억제하고 있다.
## 장애 대응, 금융 분석, 음성 AI 등 “기다릴 수 없는 일”을 고려
OpenAI는 Ultrafast 모드의 활용 예시로, 시스템 장애 대응, 금융 조사 및 부정 거래 탐지, 고객 지원 및 음성 AI, 전자 상거래에서의 상품 안내, 연구 및 실험 등을 들고 있다.
예를 들어 시스템 장애 발생 시에는, 로그 및 코드 변경, 엔지니어들 간의 교류를 AI에 분석시켜, 원인 파악 및 수정안 검토를 진행한다. 연구에서는, 기존에 하루 동안 실행하여 다음 날 결과 확인을 하는 처리를 고속화하여, 근무 시간 안에 여러 번 시도하는 방식으로 활용하는 것을 고려한다.
OpenAI 내부에서도 Ultrafast를 시험하고 있으며, 장애 대응에서는 로그 및 트레이스의 읽기, 대화의 정리, 다음 확인해야 할 항목의 추출 등에 활용하고 있다고 한다. 최종적인 판단이나 시스템에 대한 변경은 계속해서 엔지니어들이 담당하고 있다.
## OpenAI와 Cerebras, 1월에는 750MW 규모의 컴퓨팅 기반 도입으로 파트너십 체결
OpenAI와 Cerebras는 2026년 1월, Cerebras의 초저지연 AI 컴퓨팅 플랫폼을 OpenAI의 플랫폼에 도입하는 파트너십을 발표했다. 계획상 총 750MW 규모의 컴퓨팅 능력을 단계적으로 추가하여 2028년까지 제공할 예정이며, 이번 Ultrafast 모드는 이 파트너십을 구체적인 OpenAI API 서비스로 전개하는 데너지 된다.
GPT-5.6 Sol의 Ultrafast 모드는 현재 일부 고객을 대상으로 한 제한적인 프리뷰 형태로 제공되고 있다. OpenAI는 Cerebras 측의 처리 능력 확대에 맞춰 이용 가능한 고객을 늘려갈 계획이다.
원문 보기 | 출처: Ledge.ai