# 100분의 1의 가격으로 오픈 모델로 GPT-5.6 솔의 검색 성능을 능가한다는 보고

> https://bookfactory.kr/c/news/8872
> 게시판: 뉴스
> 작성자: tachikoma43
> 작성일: 2026-08-06T13:37:46.509Z

---

Neon이 서버리스 Postgres 데이터베이스를 제공하는 동시에, 오픈 소스 AI 모델을 기업용으로 추가 학습하기 위한 기반을 제공하는 Castform과 협력하여 40억 파라미터 규모의 오픈 소스 모델을 강화 학습으로 포스트 트레이닝 함으로써 “검색 작업에서 OpenAI의 GPT-5.6 솔과 100분의 1의 비용으로 동등한 정확도를 달성했다”고 보고했습니다. 

기존에는 AI에 사내 문서를 검색시키기 위해 문서를 숫자로 변환하여 유사한 내용을 찾는 ‘임베딩 검색’이 널리 사용되었습니다. 그러나 AI 에이전트의 보급과 함께, 복잡한 질문을 여러 개의 작은 문제로 나누어 필요한 정보가 모일 때까지 반복적으로 검색하는 방식이 늘고 있습니다. 이러한 ‘에이전트형 검색’에서는 AI 모델이 검색 내용을 스스로 판단하고 결과를 확인한 후 다음 검색을 수행합니다. 단발성 검색보다 복잡한 질문에 대응하기 쉽지만, 검색마다 고성능 모델을 호출하기 때문에 처리 시간과 비용이 증가하는 문제가 있습니다. 

Neon에 따르면 GPT-5.6 Sol을 사용한 일반적인 검색 요청은 10초 이상 소요되었으며, 1회당 약 0.03달러(약 4.5원)의 비용이 발생했습니다.

그러면서 Castform은 비교적 작은 오픈 소스 모델에 특정 데이터에서 필요한 정보를 찾아내는 방법을 추가적으로 학습시켰습니다. Neon은 문서 저장 위치와 검색 기능을 제공하며, Castform은 모델이 “무엇을 검색해야 하는지” 판단하도록 학습시키는 역할을 수행합니다. 학습에는 모델이 과제에 도전하고, 그 결과를 평가하면서 개선을 반복하는 방식이 사용됩니다. 모델이 정확한 문서를 찾았는지, 적절한 부분을 인용했는지, 최종 답변이 맞는지 평가하고, 그 결과를 다음 시도에 반영합니다.

하지만 많은 기업들이 인공지능 학습에 바로 사용할 수 있는 질문과 정답 데이터만을 가지고 있는 것은 아닙니다. 반면, 사내 문서, 제품 정보, 지원 문서, 고객과의 교환, 업무 데이터베이스 등 학습 재료가 될 수 있는 정보는 방대하게 축적되어 있습니다. Castform은 이러한 기존 데이터를 기반으로 질문과 정답의 조합을 자동으로 생성합니다. 예를 들어, 출장 규정에 “철도는 표준 클래스를 이용하고 14일 전에 예약해야 한다”라고 명시되어 있다면, 그 내용을 묻는 질문을 만들고 규명한 답을 정답으로 모델에 학습시킵니다. 학습 중에는 모델이 어떻게 답변하고 평가 값이 어떻게 변화하는지 확인할 수 있습니다. 개별 질문까지 거슬러 올라가서 조사할 수 있기 때문에 검색 기능의 오류나 평가 방식만 꿰뚫어 고득점을 얻으려는 문제점도 발견하기 쉽다고 합니다. 추가 학습에 따른 평균 평가 값 변화를 보여주는 그래프가 여기 있습니다. 학습 시작 직후에 급격하게 상승한 후, 이후에도 시행을 거듭하면서 점진적으로 개선되는 경향을 보입니다.

Neon의 검토 결과, Castform으로 추가 학습한 모델의 평균 평가치는 1.447로, GPT-5.6 Sol의 1.369와 GPT-5.4의 1.377을 모두 상회하며 최고치를 기록했습니다. 그래프에는 추가 학습을 하지 않은 Qwen3.5-4B도 포함되어 있으며, 그 평가치는 0.382에 불과합니다. 반면, 추가 학습을 한 모델의 추론 비용은 1회당 0.000929달러(약 0.14원)로, GPT-5.6 Sol의 0.087338달러(약 13원)의 약 100분의 1에 해당하며, Qwen3.5-4B와 함께 비교 대상 중에서 가장 낮은 수준입니다.

학습 시에는 다수의 모델이 동시에 여러 번 검색하기 때문에 데이터베이스에 부하가 집중됩니다. Neon은 필요에 따라 계산 자원을 늘리거나 줄여, 접근이 적은 시간대에는 축소함으로써 최대 부하에 맞는 설비를 항상 가동하지 않고도 해결할 수 있다고 설명합니다. 아래는 학습 중인 데이터베이스가 사용한 CPU 자원의 변화입니다. 필요한 계산 자원을 부하에 따라 자동으로 늘리거나 줄임으로써, 항상 최대량의 자원을 확보할 필요가 없어집니다.

이번 사례는 모든 용도로 최대 규모의 AI 모델을 사용하는 대신, 기업이 보유한 데이터와 이용 목적에 맞춰 소형 모델을 훈련함으로써 성능과 비용의 균형을 개선할 수 있다는 가능성을 보여줍니다. 다만, 제시된 결과는 검색이라는 특정 과제에 최적화된 모델에 의한 것이며, 일반적인 문장 작성이나 광범위한 추론 능력까지 GPT-5.6 Sol와 동일함을 의미하지는 않습니다.

[원문 보기](https://gigazine.net/news/20260806-open-model-beat-gpt-5-6-sol/) | 출처: Gigazine