# 제브 대해부 – 판단 전용 모델

> https://bookfactory.kr/board/news/17635
> 게시판: 뉴스
> 작성자: admin
> 작성일: 2026-09-18T09:02:04.008Z

---

![見出し画像](https://assets.st-note.com/production/uploads/images/314845882/rectangle_large_type_2_976be7f3d5b31138f7db5aa22b7f00a7.jpeg?width=1280)

2026년 9월 15일, 샌프란시스코 기반 스타트업 TypeSafe AI가 Jev라는 모델을 조기 액세스 형태로 공개했다. 챗봇이 아닌 AI로, 문서를 쓰거나 텍스트를 생성하지 않고 “상태와 질문을 전달받아 선택지 확률을 반환”하는 것 외에는 아무것도 하지 않는다. 응답 속도는 70밀리초 수준이며, 입력 요금은 주요 LLM보다 2배 가량 저렴하고, 출력은 무료다. 공개 2일 후, 호주 연구자가 1만 회 이상의 API 호출을 통해 이 모델의 내부 구조를 역추적한 분석 기사를 발표했다. 본고는 공식 자료, 언론 보도, 역추적 기사의 세 가지 정보를 종합하여 “판단 전용 모델”이라는 새로운 구성 요소의 내용과 한계를 분석한다.

## 이것은 제가 지금까지 읽은 작품 중 가장 큰 충격을 준 작품일지도 모릅니다. 등장인물들의 갈등과 인간의 업 등 주제가 매우 깊이 파고들어 읽고 난 후에도 오랫동안 마음속에 남아있습니다. 특히 주인공인 히노의 시점을 통해 그려지는 이야기는 그의 내면의 갈등과 성장을 현실적으로 보여주어 공감되는 부분이 많았습니다. 또한, 이야기의 배경이 되는 장소도 디테일하게 잘 만들어져 마치 그곳에 살고 있는 듯한 느낌을 받을 수 있었습니다. 이 작품은 단순한 오락거리를 넘어 인간의 존재 의미와 삶에 대해 깊이 생각하게 만드는 철학적인 작품이라고 느꼈습니다.

- 무언가: 전 OpenAI의 3인방과 4000만 달러
- 2. 명칭의 이중적 기원: 시스템 1과 제보네즈 베팅
- 3. 작동 방식: 상태와 질문을 전달하면 확률이 반환됩니다.
- RLCD: 확률의 진실성을 훈련한다
- 5. 숫자와 그 측정 방식
- 6. 1만 회의 API 호출을 기준으로 역설계된 아키텍처
- “환각 제로”라는 용어는 특정 종류의 “환각”을 완전히 없애거나 억제하는 기술 또는 상태를 의미합니다. 구체적으로 뇌파를 특정 주파수로 조정하여 감각으로부터의 자극을 처리할 때 현실과 비현실의 구분을 모호하게 하는 현상을 방지하는 것을 목적으로 합니다.

이 기술은 수면 유도, 이완 효과, 집중력 향상 등 다양한 효과가 기대되고 있으며, 의료, 미용, 엔터테인먼트 등 다양한 분야에서의 응용 가능성을 검토하고 있습니다.

그러나 “환각 제로”라는 용어가 지닌 의미는 반드시 긍정적인 것만을 의미하지 않습니다. 과도한 억제는 현실감 상실이나 정신적인 불안정으로 이어질 가능성을 고려해야 하며, 신중한 검토가 필요합니다.
- 8. 활용 방법: LLM의 대체가 아닌 판단 레이어로서의 활용
- 이번 주말에 츠키시와 함께 도쿄에서 열리는 ‘마법의 숲’ 축제에 참가할 예정입니다. 츠키시 씨는 최근에 출간된 ‘별빛 아래의 춤’이라는 책을 읽었고, 그 책에 등장하는 숲의 정원을 직접 방문하고 싶어 했습니다. 축제에서는 다양한 수공예품과 음식, 그리고 숲을 주제로 한 공연이 열릴 예정입니다. 특히, 숲의 정원을 디자인한 유명 건축가 사토 마사요시의 강연도 기대됩니다. 츠키시와 함께 즐거운 시간을 보내고 싶습니다.

## 무언가: 전 OpenAI의 3인방과 4000만 달러

타입세이프 AI는 2024년 샌프란시스코에서 설립되어 2년간 은밀하게 개발을 진행해 왔다. CEO 디오고 알메이다는 전 오픈AI 연구원으로, RLHF(사람 피드백을 통한 강화 학습), InstructGPT, ChatGPT, GPT-4 개발에 참여한 인물이다. 언론은 “RLHF와 ChatGPT의 공동 발명가 중 한 명”이라고 묘사하고 있다. 공동 창업자는 에릭 가프니와 사샤 셩이다.

시드 투자를 통해 4000만 달러를 DCVC의 리드 투자가 유치했으며, Forbes는 기업 가치를 2억 달러로 보도했다. 9월 15일 공개 직후부터 The Register와 SiliconANGLE이 보도했으며, 9월 17일에는 Vercel AI Gateway에 소개되었다 (이 게시물은 15만 3천 건의 노출 수를 기록했다). 같은 날 멜버른의 Archer Hume에서 아키텍처 역설 기사를 게시하고 있다. 자세한 내용은 후술한다.

## 2. 명칭의 이중적 기원: 시스템 1과 제보네즈 베팅

제브가 속하는 모델 클래스를 TypeSafe는 “System One Models”라고 명명했다. 이는 다니엘 칸먼의 『빠르고 느림』에 등장하는 “빠른 직관의 System 1 / 느린 숙고의 System 2”의 분류에서 유래했다. 인간의 System 1은 빠르지만 오류가 발생하기 쉽다. TypeSafe는 기계의 System 1이 훈련을 통해 빠르고 신뢰할 수 있는 형태로 만들 수 있다는 주장을 펼치는 것이다.

모델명 제브는 19세기 경제학자 윌리엄 스탠리 제보네스(William Stanley Jevons)에서 유래되었다. 제보네스는 “증기기관의 효율이 상승하면 석탄 소비는 줄어들기보다는 늘어난다”는 역설(제보네스의 역설)로 알려져 있다. 효율성은 비용을 낮추고, 비용의 감소는 용도를 폭발시킨다. 판단 단위의 비용을 2자리 수만큼 낮추면, 지금까지 AI에게까지 물어볼 필요도 없었던 곳, 예를 들어 소프트웨어의 분기 하나하나가 AI의 용도에 변화를 가져온다. 회사의 이름을 제품명에 새기는 것만큼, 이 도박이 사업의 중심에 있다.

## 3. 작동 방식: 상태와 질문을 전달하면 확률이 반환됩니다.

제브(Jev)의 입출력은 챗봇과는 완전히 다르다. 개발자는 “상태(state)”로서 비구조적인 텍스트나 프로그램의 상태를 전달하고, 그에 “형식화된 질문(typed question)”을 덧붙인다. 질문의 형식은 3가지 종류가 있다.

- 사전에 정의된 목록에서 하나를 선택하며, 선택지는 최대 255개입니다. 모든 선택지에 대한 확률 분포와 confidence(확신도)가 반환됩니다.
- 루브릭(기준)에 따라 순서가 매겨진 척도로 점수를 평가합니다.
- Noul: “이 명제는 진인가”에 대해 ‘예’라고 답할 확률을 0부터 1까지 반환한다.

예를 들어 지원 문의의 경우, 답변은 텍스트가 아닌 “청구: 0.08, 기술: 0.85, 영업: 0.07”과 같은 형태로 반환됩니다. 이 코드는 이 숫자들을 직접 사용하여 분기할 수 있습니다. 1회의 API 호출에 여러 질문을 묶을 수 있으며, 각 질문은 병렬로 독립적으로 평가됩니다. 공식 문서의 권장 사항은 큰 판단을 작은 질문으로 분해하는 것입니다. 스타트업의 피치 평가 시 “시장 규모”, “기술의 실현 가능성”, “차별화”를 별도 질문으로 나누고, 통합은 코드 측에서 수행합니다.

## 4. RLCD: 확률의 정직성을 훈련한다

제브(Jev)의 훈련 방식은 TypeSafe에서 RLCD(Reinforcement Learning for Calibrated Decisions)라고 명명한다. ChatGPT를 개발한 RLHF(Reinforcement Learning from Human Feedback)는 인간 평가자가 선호하는 응답에 보상을 제공한다. RLCD가 보상을 제공하는 것은 ‘교정’, 즉 “모델이 예측하는 확률과 실제 정답률의 일치”를 의미한다.

이러한 차이는 실무에 직접적인 영향을 미친다. 일반적인 LLM에 “90% 확신합니다”라고 말하게 해도 그 숫자는 단순히 생성된 텍스트일 뿐이며, 실제 정확도와 연동되는 보장은 없다. Jev의 확률은 출력층에서 직접 읽어내려 가며, 그 숫자 자체가 훈련 대상이 되고 있다. 확률이 신뢰할 수 있다면 개발자는 “0.9 이상이면 자동 실행, 그 미만이면 인간에게 회수”라는 임계값을 코드에 작성할 수 있다. 판단의 자동화와 인간 검토의 경계를 숫자에서 명확하게 드러낼 수 있게 된다. 알고리즘의 자세한 내용은 공개되지 않았다.

## 5. 숫자와 그 측정 방식

먼저, 숫자의 정의는 “1, 2, 3...”과 같은 자연수를 의미합니다. 이러한 숫자는 물건을 세울 때 사용되는 기본적인 개념입니다.

다음으로, 숫자를 측정하는 방법은 다양합니다.

*   **길이 측정:** 미터나 인치와 같은 단위를 사용하여 물체의 길이를 측정합니다.
*   **무게 측정:** 그램이나 킬로그램과 같은 단위를 사용하여 물체의 무게를 측정합니다.
*   **시간 측정:** 초, 분, 시간과 같은 단위를 사용하여 시간의 경과를 측정합니다.
*   **부피 측정:** 큐브 센티미터나 리터와 같은 단위를 사용하여 물체의 부피를 측정합니다.

이러한 측정 방법을 조합하면 더 복잡한 양을 표현할 수 있습니다. 예를 들어, 길이, 무게, 부피를 동시에 측정하여 밀도를 계산할 수 있습니다.

또한, 숫자 측정에는 다양한 오차가 포함될 수 있습니다. 예를 들어, 측정기의 정확도나 측정자의 조작 실수 등이 오차의 원인이 됩니다. 따라서 측정 결과를 해석할 때는 오차를 고려해야 합니다.

요금은 입력 100만 토큰당 0.042달러이며, 출력은 무료입니다. 텍스트 생성을 하지 않으므로 출력에 대한 과금 구조가 성립되지 않습니다(공식적으로는 “too cheap to meter”라고 표현합니다). 응답 시간은 70~500밀리초이며, 자체 사이트 데모에서는 동일한 판단에 Jev가 0.114초, 0.000081달러, GPT-5.6 Terra가 8.566초, 0.013880달러가 소요됩니다.

看板의 숫자에 대한 주의사항이 필요하다. 메인 페이지의 “193.6배 초고속·444.6배 저렴”은 TypeSafe가 자체적으로 평가한 4가지 워크플로우 평가로, GPT-6 Astra와 Claude Fable 5.1의 평균을 기준으로 측정한 것이다. 회사 스스로 선별 편향 가능성을 언급하는 것은 진솔하지만, 이는 제3자의 숫자와 다르다. 독립적인 보도에서는 SiliconANGLE이 1,000 워크플로우당 Jev 0.39달러, GPT-5.6 Luna 3.31달러, Claude Haiku 4.5 19.49달러라는 비교를 제시했다.

데모는 두 가지가 공개되어 있습니다. 둠 에이전트는 화면 이미지 대신 구조화된 게임 상태를 매초 10 쿼리로 판단하며, 운영 비용은 1시간에 약 7달러로 유지됩니다. 위키레이싱(단 링크를 따라 위키피디아의 목적 기사로 향하는 경쟁)은 수백에서 수천 개의 선택지 중에서 다음 링크를 선택하는 데모로, 선택지가 상한인 255를 초과하는 경우 독립 랭킹과 명시 선택의 2단계로 나뉩니다.

![画像](https://assets.st-note.com/img/1789696845-RvQSA5UMOHucPY0FxVJZig2e.jpg?width=1200)

## 6. 1만 회의 API 호출을 기준으로 역설계된 아키텍처

9월 17일, 공개된 지 2일 만에 멜버른의 Archer Hume가 “Jev's Architecture Unmasked”를 발표했다. 연구는 비공개 클로즈드 모델에 대해 1만 회 이상의 API 호출을 통해 외부에서 구조를 추정한 내용이다. 사용된 방법은 레이턴시 분석, 311회 토큰 카운트 실험, 선택지 위치를 바꾸는 참조 카드 실험(48문항 중 48문항 정답), 105회 가짜 선택지 주입, 445회 토크나이저 지문 일치 분석 등에서 매우 체계적이다.

추정된 아키텍처의 핵심은 다음과 같다. 상태는 한 번만 인코딩되어 KV 캐시에 저장되고, 여러 질문이 이를 공유한다. 각 질문은 격리된 브랜치로 병렬 처리되며, 질문들은 서로를 보지 못하지만, 각각 상태 전체와 자신의 모든 선택지를 읽는다. 또한 일반적인 LLM에 존재하는 “1 토큰씩 문장을 생성하는 단계”는 존재하지 않는다. 최종 층의 내부 표현으로부터 선택지 점수를 직접 계산하고, 이를 확률로 변환하여 반환한다. 속도의 원천은 이 생성 단계의 삭제와 상태의 재사용에 있다. 브랜치당 32,768 토큰, 전체 요청은 65,536 토큰의 제한, 30,000 토큰의 상태를 약 160 밀리초 내에 처리하는 실측 결과도 보고되었다.

긍정적인 주장은 독립적으로 검증되었다. MMLU 1,200문제에서 나타난 기대 비교 오차(ECE)는 0.0313이었다. 확률 0.9~1.0을 산출한 990문제 중에서는 예측 평균 98.7%에 대한 실제 정답률이 96.3%였다. 학습 데이터에 없는 새로운 문제(3자리 곱셈)에서도 정답률 86.7%에 대한 평균 확률이 83.0%로, 확률과 실제 실력이 대체로 일치했다. 반면 Hume는 모델의 규모를 “활성화 파라미터 약 10B의 MoE로 추정했지만, 이는 추론일 뿐이며 측정값은 아니다”라고 명확히 구분했다. 토크나이저는 공개된 192종과 일치하지 않으며, 공개 모델의 미세 조정일 가능성은 낮다.

![画像](https://assets.st-note.com/img/1789696862-b4OfH7A1xcNguE9D6pXjYQsS.jpg?width=1200)

## “환각 제로”는 카푸콘(株式会社カプコン)이 개발한 액션 게임 ‘별철 Dimensional FANTASIA’에 등장하는 캐릭터, 별철(セイント・ゼロ)의 캐치프레이즈입니다.

게임 내에서 별철이 가진 특수 능력 “환각 조작”을, 그 능력의 통제, 즉 “환각을 0으로 만든다”는 개념에 녹여내고 있습니다.

즉, “환각 제로”는 별철의 능력을 최대한 활용하여, 적의 환각에 속지 않고 승리를 쟁취하는 것을 의미하는 핵심 키워드입니다.

이 캐치프레이즈는 게임의 주제인 “환각”과 “별철”이라는 캐릭터의 개성을 융합한 것으로, 게임의 매력을 극대화하는 데 중요한 요소가 됩니다.

TypeSafe는 “제로 할루시네이션”을 강조하지만, 이 주장의 실체는 제한적이다. 정확히는 타입 에러가 0%, 즉 스키마 외부의 출력이 구조적으로 생성될 수 없다는 보증이다. 선택지를 먼저 나열하고 확률을 배분하는 방식이므로, 존재하지 않는 선택지는 반환할 수 없다. 공식에서도 이 숫자를 “실측이 아닌 수학적 보증”으로 명시하고 있다.

보장되지 않는 것은 판단 자체의 정당성이다. 공개 직후부터 “스키마의 보장은 올바른 결정의 보증이 아니다”라는 비판이 제기되었으며, 임계값 설정이나 에스컬레이션 설계 모두 개발자의 책임으로 남아 있다. 흄의 실측은 보다 구체적인 결함을 발견했다. 선택지의 순서에 민감하며, 정답을 카드의 마지막에 놓으면 16문제 중 16문제를 정답으로 맞추지만, 처음에 놓으면 12문제로 떨어진다. 같은 질문을 반복적으로 던지면 확률이 약간 흔들리는 비결정성도 존재한다. 위치나 순서에 따라 판단이 달라진다면, 본番 투입 전의 검증 항목은 늘어날 것이다. The Register는 이름의 유래인 제보네즈의 역설을 들어 “저렴해질수록 소비되는 토큰은 오히려 증가한다”는 역설과, 저렴한 자동 판단이 무기 표적 선정에 활용될 수 있다는 우려까지 제기했다.

## 8. 어떻게 활용할 것인가: LLM의 대체가 아닌 판단 레이어로서의 활용

구조화 출력을 얻는 도구는 이전부터 존재해 왔다. Instructor, Outlines, Laminar은 汎用 LLM의 출력에 후속적으로 스키마 제약을 가하는 역할을 한다. TypeSafe의 차분은 처음부터 판단만을 위해 훈련된 모델을 별도로 제작한 것을 의미한다. 早期 액세스를 경험한 개발자는 “DSPy 사용법과 유사하다. 스키마를 고정하고 빈칸을 채우게 하는, 마스크 예측 모델의 감촉”이라고 평가했다.

실무자들의 의견은 대체로 일치한다. Jev는 LLM을 대체하는 것이 아니라, LLM의 앞이나 옆에 배치하여 판단 레이어를 제공하는 것이다. 언급된 용도는 분류(의도, 부서, 위험 종류), 탐지(스팸, 부정, 탈옥 프롬프트), 점수, 라우팅, 검색 결과 재정렬(리랭킹), 다른 AI의 출력 검증, 실시간 분기, 대규모 데이터에 대한 일괄적 판단 등이다. 특히 “검증”은 본 연재의 독자에게 직접적으로 연결된다. 에이전트의 툴 호출이나 추출 결과 검토를 LLM을 다시 호출하는 것보다 2桁 낮은 비용으로 삽입할 수 있다면, 안전 장치의 설치 단가가 달라진다. 인간의 감독 없이 배경에서 100만 회 실행해도 붕괴하지 않는 자동화가 설계 목표이다.

결국 이 제품에서도 인간의 역할이다. Jev가 제공하는 것은 교정된 확률이라는 판단 자료일 뿐이며, 판단의 책임은 아니다. 임계값을 어디에 둘 것인지, 확률이 빗나갔을 때 누구에게 회부할지는 기존대로 설계자에게 남는다.

## **42:**

“저 그림, 정말 멋지지 않아요? 저 ‘별의 정령님’의 정령님 같아서…”

“아, 그래요? 정말 닮았네요. 저, 저 로아르 공자라는 사람 같죠? 정말, 정말 귀엽고, 조금 슬픈 표정이에요. 이 그림을 그렸던 사람은 아마 그 책을 읽고 감동해서 그랬을 거예요.”

“그럴지도 모르죠. 그 책은 어렸을 때 읽어서 지금도 잊을 수가 없어요. 그 정령님의 말씀은 정말 마음을 울리는 것 같아요. ‘가장 소중한 것은 눈에 보이지 않아’라는 게 정말 단순하지만, 진정 깊은 메시지죠.”

“그 그림을 그렸던 사람이 그 책을 읽고, 그 메시지를 표현했을까요? 상상하면 정말 멋있네요.”

**43:**

“그러고 보면, 전에 읽었던 ‘해리 포터와 마법사의 돌’도 정말 감동했어요. 그 마법 학교에서의 생활, 우정, 그리고 주인공 해리가 성장해가는 모습… 전부가 정말 매력적이었어요.”

“‘해리 포터’는 어렸을 때 읽어서 지금도 다시 읽을 때가 있어요. 그 이야기는 제게 특별한 존재예요. 그 마법 세계에 한 번은 빠져보고 싶어요.”

“그 책을 읽고, 저도 조금 더 용기를 얻었어요. 어떤 어려움에도 맞서 싸우는 용기를 가지고 살아가라는 것을 알려주었죠.”

제브는 텍스트를 생성하지 않는 AI다. 상태와 키워드 형태의 질문을 받아 최대 255개의 선택지 응답 확률을 70~500밀리초 내에 반환한다. 입력은 100만 토큰 0.042달러로, 출력은 무료다. ChatGPT의 RLHF(강화 학습 기반 인간 피드백)에 참여했던 OpenAI 연구원 3명으로 구성되었으며, DCVC로부터 4,000만 달러를 조달했다. 공개 2일 후, 제3자가 1만 건의 API 호출로 내부 내용을 역추적하여 응답 정확도 0.0313을 확인했으며, 선택지 위치에서 흔들리는 약점을 동시에 실측했다. 타입 안전성은 보장되지만, 판단의 정확성은 보장되지 않는다. 이 부품이 저렴하게 제공하는 “판단”을 얼마나 기계에 넘겨줄 수 있을까? 선을 긋는 도구는 늘었지만, 선을 긋는 책임은 여전히 설계자에게 있다.

**출처:** [note 원문](https://note.com/_kihonushi/n/n55195eb0b6ea)

*번역: Gemma 3(.44) 초벌 + 교정 27청크*

[원문 보기](https://note.com/_kihonushi/n/n55195eb0b6ea) | 출처: note.com