# TypeSafe AI “제브” 모델의 훈련 로직 및 RLCD 알고리즘에 관한 심층 연구 보고서

> https://bookfactory.kr/board/ai-tech/18952
> 게시판: AI·머신러닝
> 작성자: admin
> 작성일: 2026-09-28T16:39:29.886Z

---

![見出し画像](https://assets.st-note.com/production/uploads/images/315584879/rectangle_large_type_2_3151ced9d0598928f4e101deade87527.png?width=1280)

TypeSafe AI「제브」의 아키텍처 및 훈련 방식에 대한 현재 이해

제브는 기존의 텍스트를 생성하는 대규모 언어 모델(LLM)과는 근본적으로 다른, 빠른 의사 결정과 경로 설정에 특화된 “시스템1” 딥러닝 모델이다.

자체 반환형 트랜스포머 인코더 구조

- 디코더의 완전한 배제: Jev는 트랜스포머 아키텍처를 기반으로 하더라도 자회귀(autoregressive) 생성 루프를 갖추지 않는다. 텍스트를 1 토큰씩 예측 및 생성하는 과정을 생략한다.
- 병렬 계산을 통한 초저지연: 입력된 비정형 데이터를 강력한 인코더로 의미 벡터에 변환하고, 사전에 정의된 분류 헤드에 직접 매핑한다. 단일 포워드 패스를 통해 모든 선택지 후보의 확률 분포를 병렬 계산하여 출력 토큰 생성에 따른 지연이나 비용이 발생하지 않는다.

RLCD(수정된 의사 결정 강화 학습) 적용

- 엄밀한 고유명사 스코어링 규칙: 기존의 교차 엔트로피 손실로 인해 발생하는 “과신(Overconfidence)”을 방지하기 위해, 제한적인 로그 점수, 구면 점수, 순위 확률 점수(RPS)를 결합한 복합 보상 함수를 채택하고 있습니다.
- 노이즈 주입과 순수한 정책 기울기: 모델의 로짓 레이어에 가우시안 노이즈를 주입하여 탐색 공간을 생성하고, 교차 엔트로피를 사용하지 않으며 순수한 정책 기울기만을 사용하여 파라미터를 업데이트한다.

훈련 패러다임의 본질과 위치 결정

- 정적 데이터셋을 환경으로 하는 강화 학습: RLCD는 강화 학습의 접근 방식(탐색, 보상, 우위성 계산)을 취하지만, 알파고와 같은 동적 환경이 아닌 정답(y)이 부착된 정적 데이터셋 상에서 훈련된다. 모델이 제시한 확률 분포와 정답 간의 거리를 즉시 평가하고 보상을 제공한다.
- 자연어에서 프로그래밍 가능한 초고속 분류기: 현재 이해로는 Jev의 본질은 생성 AI가 아닌, 완벽하게 교정된 분류기(딥러닝 모델)이다. 스스로의 불확실성을 정규화 엔트로피로 정확하게 측정하고, “확신도가 낮을 경우 안전하게 에스컬레이션”하는 동작을 자연스럽게 학습하기 때문에, 결정적인 소프트웨어의 if-else 로직에 직접 통합될 수 있다.

## 서론: 생성 작업에서 의사 결정 작업으로의 패러다임 전환

지난 수년 동안 인공지능(AI) 분야의 괄목த்தக்க 발전은 주로 자기회귀형(Autoregressive) 대규모 언어 모델(LLM)에 의해 주도되어 왔다. 이러한 모델은 인간의 언어 문맥을 이해하고 다음 토큰을 예측함으로써 자연스러운 텍스트를 생성하는 능력에서 초인적인 수준에 도달하고 있다. 그러나 기업 수준의 소프트웨어 자동화, 고빈도의 트랜잭션 처리, 또는 실시간 라우팅과 같은 임무 결정적인 의사 결정 현장에서는 LLM은 여전히 도입의 병목 현상으로 남아 있다. 그 주된 요인은 수십 초에 이르는 높은 추론 지연 시간, 방대한 토큰 소비에 따른 비용, 그리고 무엇보다 출력 형식과 신뢰도(Confidence)의 불안정성이다. 이러한 구조적인 과제를 해결하기 위해 OpenAI에서 ChatGPT의 기반 기술인 “인간 피드백으로부터의 강화 학습(RLHF)”의 공동 발명자로서 알려진 디오고 알메이다가 설립한 TypeSafe AI는 2026년 9월, 텍스트 생성 능력을 완전히 포기한 완전히 새로운 아키텍처의 AI 모델 “제브(Jev)”를 발표했다. 다니엘 카네만의 심리학 이론에 기반한 “시스템1(직관적이고 빠른 사고)”에 착안한 “시스템1 모델”은 비구조화된 데이터를 입력으로 받아 단일의 병렬 전방 패스를 통해 정의된 확률적인 의사 결정을 출력한다. 본 보고서에서는 제브가 어떻게 이처럼 빠르고 정확한 의사 결정을 실현하는지, 그 핵심을 이루는 완전히 새로운 훈련 로직인 “RLCD(Reinforcement Learning for Calibrated Decisions)”에 대해 심층적으로 다룬다. RLCD가 기존의 교차 엔트로피 손실이나 RLHF가 지닌 수학적 결함을 극복하고, 엄격한 적절 점수 규칙과 전략적 기울기 최적화를 통해 소프트웨어가 안전하게 자동화될 수 있는 “인식론적으로 정직한” 확률 분포를 도출하는지 상세하게 분석한다.

## 기존 언어 모델 훈련의 수학적 및 구조적 한계

Jev의 훈련 로직인 RLCD의 혁신성을 이해하기 위해서는 먼저 기존의 LLM이 의사 결정 태스크에서 왜 실패하는지, 그 수학적 배경을 명확히 밝혀내야 한다. 현대의 LLM은 대화나 추론 능력을 높이기 위해 RLHF를 사용하여 조정되지만, 이 방법은 분류나 구조화된 결정을 필요로 하는 태스크에서 심각한 부작용을 초래한다.

### 인간 피드백 기반 강화 학습(RLHF)의 부작용

RLHF는 모델의 출력을 인간 평가자의 선호도에 맞추도록 최적화하는 방식이다. 이는 챗봇이 정중하고 설득력 있는 답변을 생성하도록 하기 위해 매우 효과적이지만, 동시에 모델에 과신이라는 치명적인 결점을 심어주는 결과를 초래한다. 인간 평가자는 모호하고 자신감 없는 답변보다 단정적이고 자신감에 찬 답변을 더 높게 평가하는 경향이 있기 때문에, 모델은 객관적인 불확실성을 숨기고 항상 확신에 찬 어조로 답변하도록 학습하게 된다. 이러한 현상은 정량적인 데이터로도 뒷받침된다. GPT-4의 기술 보고서에 따르면, 사전 학습된 모델의 기대 교정 오차는 0.007로 매우 우수했지만, PPO를 사용한 RLHF를 통해 사후 학습을 거친 후 이 오차는 약 10배, 즉 0.074로 악화되었다. 즉, 인간의 선호도에 맞추기 위한 훈련은 모델이 자신의 정답 확률을 정확하게 추정하는 능력을 현저히 손상시키는 것이다. 이로 인해 모델이 99%의 확률로 옳다고 주장하는 경우에도, 실제로는 잦은 환각을 일으킬 수 있다는 신뢰성의 결여가 발생한다.

### 교차 엔트로피 손실과 단순 강화 학습의 함정

RLHF를 사용하지 않고, 표준적인 LLM을 파인튜닝하여 분류기처럼 활용하는 경우에도 훈련에 사용되는 교차 엔트로피 손실에는 수학적인 함정이 존재한다.

이 손실 함수는 정답 클래스에 대한 로짓(로그 오즈)이 무한대에 가까워질 때만 최소화되는 성질을 가진다. 따라서 신경망은 훈련 과정에서 가장 확률이 높은 클래스의 로짓을 무제한적으로 높이려 하고, 그 결과로 나타나는 확률 분포는 극단적으로 기울어진 형태가 된다(12). 교차 엔트로피는 예측의 “정확도(Accuracy)”를 최적화하는 한편, “교정도(Calibration)”를 파괴하여 틀렸을 때에도 극단적으로 자신감 넘치는 모델을 만들어내게 된다. 더 나아가, 분류 작업에 대해 정답이면 +1, 오답이면 0과 같은 이진적인 보상을 제공하는 단순한 강화 학습을 적용한 경우, 기대 보상은

이는 다음과 같다. 이 시점에서 정책 경사(Policy Gradient)는 가장 높은 확률을 1.0으로, 나머지 확률을 0.0으로 강제하는 역할을 한다. 결과적으로, 기존의 어떤 접근 방식을 사용하더라도 소프트웨어 자동화 로직으로 안전하게 활용 가능한 “진실된 확률”을 얻는 것은 극히 어려웠다.

![画像](https://assets.st-note.com/img/1789887285-S6b92poNTeGmBghvVCQDxZwK.png?width=1200)

표 1: AI 모델의 주요 강화 학습 접근 방식 및 시스템 통합 특성 비교

## RLCD(수정된 의사 결정에 대한 강화 학습)의 수학적 기반

이러한 과제를 근본적으로 해결하기 위해 TypeSafe AI는 “RLCD(Reinforcement Learning for Calibrated Decisions)”라는 독자적인 훈련 알고리즘을 개발했다. RLCD의 목적은 모델의 “신뢰도(Confidence)”를 객관적인 현실의 정답률과 완전히 일치시키는 것이다. 기상 예보사가 “강수 확률 70%”를 예측한 날이 100일 있었을 경우, 실제로 비가 내리는 날이 약 70일이 되어야 한다는 기상학의 캐리브레이션 기준과 마찬가지로, RLCD로 훈련된 모델이 “90%의 신뢰도”를 출력했을 경우, 해당 작업군에서의 실제 정답률은 약 90%에 수렴해야 한다.

### 엄밀한 고유명칭 득점 규정 도입

RLCD는 교차 엔트로피나 단순한 이진 보상 없이 결정론(Decision Theory)에서 “엄밀한 고유 점수 규칙”을 보상 함수의 기반으로 채택하고 있다(12). 점수 규칙은 모델이 확률 분포를 보고 실제 결과가 나타났을 때 모델에 주어진 평가 점수이다. 이 규칙이 “엄밀하게 고유”하다는 것은 모델이 실제 잠재 분포를 완벽하게 정확하게 예측했을 때만 기대 점수가 유일한 최대값을 취하는 수학적 조건을 만족함을 의미한다.

제브(Jev)의 기초가 되는 RLCD 접근 방식(오픈 소스 구현인 Laya 모델의 리버스 엔지니어링과 아키텍처 분석을 통해 검증된 방식)은 단일 손실 함수가 아닌, 작업의 특성에 따라 적합한 여러 점수 규칙을 결합하여 보상으로 활용하는 12가지 요소입니다. 첫째, “로그 스코어(Logarithmic Score)”가 적용되며, 실제 출력에 낮은 확률을 할당했을 경우 모델에 무거운 페널티를 부여하여 수치적 안정성을 유지하기 위해 하한(-9.21)이 설정됩니다.

둘째로, “구면 점수(Spherical Score)”가 활용된다. 순수한 로그 손실은 기울기의 급격한 스파이크를 유발할 위험이 있지만, 구면 점수는 확률 질량을 올바른 클래스에 배치하는 것을 보상으로 하면서도, 점수를 일정 범위 내로 수렴시켜 훈련의 안정성을 보장한다.

세 번째로, Jev가 제공하는 세 가지 원시(Choice, Score, Noul) 중 특히 순서화된 평가 척도(예: 중요도 레벨 0~3)를 판별하는 “Score” 요소에 대해서는 “순위 확률 점수(Ranked Probability Score)”가 사용된다. 이는 누적 분포 함수(CDF)의 제곱 거리를 측정하는 것으로, 예를 들어 “실제 중요도가 3일 때, 레벨 2로 예측하는 벌칙은 레벨 0으로 예측하는 벌칙보다 작아서는 안 된다”는 순위 거리의 개념을 모델에 학습시키는 데 필수적이다. RLCD의 복합 보상 함수는 이러한 규칙을 가중 계산하여 구성되며, 모델이 진실한 확률 분포를 출력할 때만 누적 보상이 최대화되는 메커니즘을 구축한다.

## 탐색 메커니즘과 순수한 정책 기울기 적용

LLM이 텍스트를 생성할 때 탐색(Exploration)은 단순히 다른 토큰을 샘플링하는 방식으로 이루어진다. 그러나 Jev와 같은 비자기회형 모델은 출력 공간이 사전에 정의된 선택지(최대 255개)에 제한되어 있기 때문에 강화학습에서 상태 공간의 탐색을 어떻게 수행할지가 매우 중요한 과제가 된다. RLCD는 추론 시 로짓(Logits) 층에서 명시적인 가우스 노이즈(Gaussian Noise)를 주입함으로써 이 탐색 프로세스를 구현한다. 각 훈련 단계에서 입력된 상태와 질문에 대해 모델은 여러 개의 노이즈가 첨가된 후보 로짓 벡터를 생성한다.

여기 중요한 점은 소프트맥스 함수의 변환 결과를 부절시적으로 왜곡하지 않도록, 추가되는 노이즈 벡터가 0 평균에 射影된다는 점이다. 이 탐색을 위한 표준 편차는 훈련의 진행에 따라 초기값 1.0에서 0.3로 점진적으로 감소하는 (아닐링) 방식이다. 노이즈가 부여된 분포에 대해 앞서 언급한 복합 점수링 규칙에 따른 보상이 계산되면, RLCD는 GRPO (그룹 상대 정책 최적화) 스타일 또는 그룹 기반 라인을 갖는 REINFORCE 알고리즘을 사용하여 우위성(advantage)을 계산한다. 8개의 샘플링된 후보 전체에 대한 보상의 평균과 표준 편차를 사용하여 상대적인 우위성이 결정된다.

최종 정책 업데이트는 지도 학습에서 교차 엔트로피를 사용하지 않고, 순수한 정책 손실만을 통해 이루어진다. 가우스 로그 확률을 사용하여 우세성이 높은 로짓 방향으로 모델의 파라미터가 미세 조정된다.

이 순수한 정책 기울기 접근 방식 덕분에 모델은 과신에 빠지지 않고 수학적으로 검증된 교정을 얻게 된다.

## 비용 제약을 고려한 Act/Escalate(실행/에스컬레이션) 헤드 학습

RLCD의 가장 실질적인 특징 중 하나는 단순히 질문에 답하는 것뿐만 아니라, 그 답변에 따라 “소프트웨어가 자율적으로 행동해야 하는지, 아니면 인간이나 더 고도화된 추론 모델로 에스컬레이션해야 하는지”를 판단하는 능력을 모델 자체에 내재화하고 있다는 점이다. 이는 독립적인 “Act/Escalate Head”라는 뉴럴 네트워크의 층을 통해 구현되며, 이 헤드는 입력의 문맥 정보(예를 들어 BERT 기반 아키텍처의 경우 [CLS] 토큰의 풀링된 차원)에 더하여 확률 분포로부터 유도된 4가지 중요한 통계적 특징량을 받는다. 최대 확률 값, 상위 2개의 확률 값의 차이(마진), 선택지 수에 대한 비율, 그리고 가장 중요한 “정규화 엔트로피(Normalized Entropy)”이다. 정규화 엔트로피는 분포의 불확실성을 표현하는 견고한 지표로,

계산되는 값이다. 모델이 전혀 확신을 갖지 못하고, 모든 선택지에 동일한 확률(을 할당한 경우, 엔트로피는 최대값이 되어 정규화 엔트로피는 1.0, 즉 확신도는 완전히 0.0이 된다. 반대로, 하나의 선택지에 확률 1.0이 집중될 경우, 확신도는 1.0이 된다.)12. Jev의 API 응답에 포함된 confidence 필드는 이 내부 계산에 기반하고 있다16.

즉, RLCD로 훈련된 모델은 자신의 예측이 62.5% 이상의 확률로 옳다고 확신할 수 있는 경우에만 행동을 선택하고, 그렇지 않으면 시스템에 안전한 철회(에스컬레이션)를 요청하는 동작을 자연스럽게 학습한다(정규화 엔트로피가 충분히 낮음). 이 메커니즘을 통해 개발자는 Jev의 confidence 출력을 if 문 조건으로 직접 사용하여 “신뢰도 0.85 이상이면 API를 호출하고, 미만이면 인간 운영자의 큐에 넣는다”와 같은 견고한 자동화 워크플로우를 구축할 수 있다.

## 훈련 데이터셋 설계 및 후처리 온도 스케일링

RLCD 알고리즘이 그 진가를 발휘하기 위해서는 훈련 데이터셋의 품질과 추론 전 최종적인 수치 조정이 매우 중요하다. LLM은 종종 입력 텍스트에 포함된 표면적인 어휘의 힌트(Lexical heuristics)에 의존하여 정답을 추측하는 단축 경로를 학습してしまう다. 이를 방지하기 위해 RLCD 훈련 과정에서는 ANLI(Adversarial Natural Language Inference)나 WANLI와 같은 인간과 모델의 루프에 의해 적대적으로 생성된, 균형 잡힌 다양한 데이터셋이 활용된다18. 또한, 전이 학습 단계에서는 ‘프론티어(Frontier)’ 모델을 사용하여 생성된 100% 합성의 코퍼스가 대량으로 사용되며, 다양한 “상태(State)”와 “질문(Questions)”의 쌍을 모델에 제공하여 세계 지식의 기억이 아닌 주어진 맥락 내에서의 순수한 논리적 분류 능력을 강화한다고 추정된다3. 더 나아가, 강화 학습 프로세스가 수렴한 후에도 모델이 출력하는 로지트에는 미세한 분포 왜곡이 남아있을 수 있다. RLCD 파이프라인의 최종 단계에서는 “포스트-혹 온도 스케일링(Post-hoc Temperature Scaling)”이라는 최적화 기술이 적용되며, 홀드아웃된 검증 데이터셋에서 유계된 음의 로그 확률을 최소화하도록 경험적인 온도 스칼러가 L-BFGS 최적화 알고리즘을 사용하여 탐색된다18.

이 프로세스를 통해 확인된 온도 파라미터

이는 소프트맥스 함수에 적용되어 모델의 분류 마진(예측 순위 또는 정확도)을 저하시키지 않으면서 기대 캘리브레이션 오차를 이상적인 수준까지 낮추고, 수학적으로 완벽한 교정을 달성하는 18번 항목을 의미합니다.

## 자발적 자기 회귀형 아키텍처와 훈련 기법의 시너지 효과

제브(Jev)의 RLCD 훈련 로직은 그 “비자기 회귀형(Non-Autoregressive)” 아키텍처와 밀접하게 연관되어 있으며, 양자의 시너지 효과가 제브의 압도적인 성능을 만들어내고 있다. 기존의 LLM의 추론은 입력 전체를 처리하는 프리필(Prefill) 단계와, 토큰을 하나씩 생성하는 디코딩(Decode) 단계로 나뉘어져 있다. 디코딩 단계에서는 과거에 생성한 모든 토큰의 상태(KV 캐시)를 메모리에서 읽어내야 하므로, GPU의 연산 능력보다 메모리 대역폭이 병목 현상(Memory-bound)이 되어, 본질적으로 느리고 병렬화가 어렵다.

![画像](https://assets.st-note.com/img/1789887484-TaZfen2uyN6YokEWtsmwhbKi.png?width=1200)

표 2: 자기 회귀형 LLM과 비자기 회귀형 시스템 1 모델의 아키텍처 및 성능 비교 제브는 문장 생성에 사용되는 디코딩 루프를 완전히 제거한다. 제공된 비구조화 상태(텍스트, 티켓, 로그 데이터 등)를 한 번만 양방향 인코더를 통해 통과하여 의미 표현 벡터를 생성하고, 사용자가 지정한 Choice, Score, Noul이라는 3가지 프리미티브에 대응하는 결정 헤드에 대해 병렬로 평가한다. 이 “추론 시 결정 계산 병렬화” 덕분에 1개의 입력 상태에 대해 “이는 스팸인가?”, “담당 부서는?”, “긴급도는?” 등의 10가지 다른 질문을 던져도 추론 시간은 1개의 질문의 경우와 거의 같으며, 수십 밀리초 단위로 완료된다. TypeSafe의 공식 요리책 검증에 따르면, 여러 질문을 1회 호출에 모아 요청하는 것보다 비용을 11.5~12.2배 줄이고 속도를 9.6~10.0배 향상시킬 수 있다고 보고되어 있다. 출력 토큰이라는 개념 자체가 존재하지 않기 때문에 TypeSafe는 “출력 토큰 무료”라는 공격적인 가격 설정(입력 100만 토큰당 0.042달러)을 실현하고 있는 것이다.

## 이론적 한계와 학술적·오픈소스 커뮤니티의 검증

혁신적인 접근 방식인 RLCD와 시스템 1 모델의 개념이지만, AI 커뮤니티와 학계에서는 그 이론적 한계와 독자적인 벤치마크에 대한 엄격한 비판과 검증이 이미 이루어지고 있다.

### 본격적인 교정은 합성되지 않는다. 즉, 단순한 확률 모델로 표현될 수 있는 것이 아니다. 예를 들어, 특정 단어 다음에 이어지는 단어의 확률을 추정할 때, 과거의 데이터로부터 학습한 확률 분포를 사용하는 경우에도 그 분포가 완전히 “합성”된 것이라고 말할 수 없다. 왜냐하면 언어의 복잡성, 문맥 의존성, 그리고 인간의 창의성과 같은 요소가 확률 모델에서는 제대로 포착하지 못하기 때문이다.

이러한 한계를 극복하기 위해 더 복잡한 모델, 즉 “숨겨진 마르코프 모델(Hidden Markov Model, HMM)”이 사용되는 경우가 있다. HMM은 관찰되는 상태(예를 들어, 단어)와 그 상태에 도달하는 확률(예를 들어, 과거의 단어)을 확률적으로 모델화함으로써 언어의 복잡성을 표현하려 시도한다. 그러나 HMM에도 한계가 있다. 그것은 HMM이 항상 “최적”의 모델이 아니라는 점이다.

예를 들어, 특정 텍스트에서 특정 단어 다음에 이어지는 단어의 확률을 추정할 때, HMM이 잘못된 상태 전이를 선택하는 경우도 있다. 그 결과, 텍스트의 교정도가 저하될 수 있다. 이 문제는 HMM이 언어의 모든 측면을 완전히 포착하지 못했거나, 학습 데이터가 부족하거나, 모델의 파라미터가 적절하게 설정되지 않았기 때문에 발생할 수 있다.

그러므로 HMM을 사용한 교정에서도 완전히 “합성”된 확률 모델의 한계를 극복할 수는 없다. 오히려 HMM은 언어의 복잡성을 어느 정도 표현할 수 있는 도구로서, 다른 방법들과 함께 사용되어야 한다. 그리고 교정의 정확성을 높이기 위해서는 항상 새로운 데이터를 수용하고 모델을 개선해 나가야 한다.

연구자 안 꼬아 도안 옥(Anh Khoa Doan Ngoc)의 논문 ‘Calibration Does Not Compose, Types Destroy Vagueness: The Hidden-Markov and Fuzzy Primitives Missing from System-One Decision Models’는 RLCD가 지닌 근본적인 수학적 맹점을 지적하고 있다 21. 이 논문은 TypeSafe AI가 주장하는 제프의 교정도(calibration)가 엄밀히 말해 정적이고 독립적인 데이터의 단일 홉(Hop-level)에서만 유효한 특성임을 증명한다. 실제 AI 에이전트의 루프(예를 들어 코드 에이전트가 명령을 실행하기 전의 라우팅 등)에서 사건이 잠재적인 마르코프 과정(Latent Markov regime)을 통해 연속적으로 결합하는 경우, 개별 추론 단계에서의 주변 교정도(Marginal calibration)는 상태 전이를 넘어서면 유지되지 않는다. 즉, 파이프라인의 초기 단계에서 제프가 미미한 오차(error)를 발생시키고 있다.

의거)를 일으키는 경우, 그것이 후단 결정에 전파되면서 시스템 전체의 작동이 불연속적으로 반전되고, 제프가 제시하는 “확신도”가 수학적 신뢰성을 잃는 과분산(Overdispersion) 현상이 발생한다. 이는 RLCD 기반 시스템 1 모델을 복잡한 자율 에이전트의 연속 루프에 통합할 때의 중대한 아키텍처상의 경고가 된다.

### 오픈 소스에 의한 선행 기술 주장 및 역재현

더욱이, RLCD와 비자기회귀형 의사결정 모델의 개념 자체가 TypeSafe AI의 완전한 원형이 아니라는 논의도 제기되고 있다. ConvAI Innovations의 창업자인 Nandakishor Mukkunnoth은 TypeSafe 발표 1년 반 전인 2025년 3월에 이미 arXiv 논문(2503.23303)에서 비자기회귀형 의사결정 아키텍처와 엄밀한 고유 점수 규칙을 사용한 강화 학습의 프레임워크를 발표했다고 주장한다. 그는 항의의 의를 담아 자신의 연구에 기반하여 ModernBERT-large(395M 파라미터)를 기반 엔코더로 사용한 오픈 소스 의사결정 모델 “Laya(파라미터 수 421M)”를 Apache 2.0 라이선스로 Hugging Face에 공개했다. Laya는 단일 T4 GPU에서 배치 처리 시 7.2밀리초, 단독으로 32.8밀리초라는 놀라운 추론 속도를 달성하여 TypeSafe가 API를 통해 제공하는 Jev의 지연(약 150ms~500ms)을 크게 능가하며, RLCD의 아키텍처가 소규모의 로컬 호스트 환경에서도 충분히 작동함을 증명한다. 마찬가지로, 그가 공개한 “Von” 모델이나, 환각을 사전에 완화하기 위한 신뢰도 라우팅 시스템(arXiv:2510.01237) 등 사전 생성에서의 신뢰도 평가와 라우팅이라는 개념은 학계에서도 이미 널리 연구되어 온 것이다.

### 벤치마크 방식에 대한 비판

TypeSafe AI가 공식 페이지에서 주장하는 “LLM의 193.6배 더 빠르고, 444.6배 저렴하며, 정확도는 67.8%”라는 수치에 대해서도 독립적인 검증자로부터 의문이 제기되고 있다. 주요 논점은 Jev의 정확도를 평가할 때 사용된 “정답(Ground Truth)” 레이블이 GPT-6 Astra와 Claude Fable 5.1이 생성한 결과의 평균값으로 설정되었다는 점이다. 필연적으로 이러한 특정 프론티어 모델의 편향이나 “공통의 맹점”을 정답으로 내포하게 되므로, Astra와 Fable이 특정 작업 카테고리에서 체계적인 오류를 범한다면 RLCD의 훈련과 평가로 인해 그 오류를 “정답”으로 판단하게 된다. 제3자 주관의 소규모 테스트에서는 정보 추출 작업에서 Jev가 속도와 비용 면에서 압도적인 우위를 보였지만, 분류 정확도 측면에서는 소규모 특화형 모델(예를 들어 GLiNER2 등)에 대해 뒤지는 결과가 나타난 사례도 보고되었다. 따라서 RLCD로 훈련된 모델은 작업의 특성에 따라 개발자 스스로가 독자적인 데이터셋으로 임계값과 캘리브레이션의 유효성을 재검증해야 한다.

## 결론: 기계 지능의 미래

TypeSafe AI가 “Jev”을 통해 제시한 “시스템1 모델”이라는 개념과, 이를 지지하는 “RLCD(교정된 의사결정 강화를 위한 강화학습)”이라는 훈련 로직은 기존 LLM이 암묵적으로 지니고 있던 “인간과의 대화에 적합한 AI”에서 “소프트웨어 코드 내에 내재화된 기계 지능(Machine-Native Intelligence)”으로의 패러다임 전환을 결정짓는 것이다. 기존의 RLHF(강화학습 기반 인간 피드백)나 교차 엔트로피 손실이 모델의 인식론적 진실성을 희생하면서 “가장 가능성 있는 텍스트”를 생성하도록 유도했던 것과는 달리, RLCD는 엄밀한 고유 점수 규칙과 순수한 정책 기울기를 활용한 탐색 메커니즘을 결합하여 수학적으로 뒷받침되는 신뢰도 점수를 산출하는 데 성공했다. 더불어, Act/Escalate 헤드에 의한 비용 제약 학습은 AI 모델 스스로가 작업을 처리할지, 아니면 인간이나 상위 추론 모델(시스템2)에 판단을 위임할지의 기준을 내부적으로 획득하도록 가능하게 했다. 비자기명형 아키텍처에 의한 단일 포워드 패스에서의 추론은 API 지연 시간을 밀리초 단위로 낮추어, 출력을 타입 안전하게 유지함으로써 소프트웨어 엔지니어들이 JSON 파싱 오류나 환각에 怯えることなく, 결정론적인 코드(If-else 분기) 안에 확률론적 지능을 직접 통합하는 것을 실현했다. 그러나, 마르코프 체인에서 나타나는 캘리브레이션의 비합성성이라는 수학적 한계, 오픈소스 커뮤니티에 의한 선행 기술의 존재, 그리고 생성 AI의 출력 평균을 정답으로 하는 벤치마킹의 편향성은 RLCD가 아직 발전 단계에 있는 기술임을 보여준다. 향후 AI 아키텍처는 GPT-6와 같이 범용 추론을 수행하는 “시스템 2”와 Jev나 Laya와 같이 라우팅 및 순간적인 의사 결정을 담당하는 “시스템 1”이 원활하게 연계되는 복합적인 에이전트 루프 형태로 전환될 것으로 예상된다. RLCD는 중요한 핵심 기술로서 자율형 소프트웨어의 신뢰성과 경제성을 재정의하며 지속할 것이다.

- 타입세이프 AI: 홈, https://typesafe.ai/
- 시스템 원 모델이 실제로 무엇인지 살펴보겠습니다. 핵심 아이디어는 TypeSafe AI가 제시한 것처럼, 이러한 모델이 단순한 통계적 기계가 아니라, 특정 잘 이해된 현실을 반영하도록 설계되어 있기 때문에 신뢰할 수 있다는 것입니다. 이는 현재 대규모 언어 모델(LLM)을 종종 블랙 박스로 취급하여 내부 추론과 잠재적 편향에 대해 추측하는 경향에서 완전히 다른 접근 방식입니다.

핵심적인 차이는 “기반 설정(grounding)” 개념에 있습니다. 시스템 원 모델은 검증 가능하고 신뢰할 수 있는 정보 소스에 명시적으로 기반을 두고 있습니다. 이 소스는 인터넷에서 수집한 거대한 데이터 세트가 아닙니다. 오히려 엄격하게 검증된 지식 기반입니다. 이는 방대한 내용을 담은 정교하게 유지 관리되는 백과사전과 같습니다. 하지만 모델이 직접적으로 접근하고 확인할 수 있도록 설계되었습니다.

이러한 기반 설정 과정은 매우 중요합니다. 모델의 출력을 해당 신뢰된 소스에 포함된 정보로 제한하도록 강제합니다. 창의적인 텍스트 생성에 관한 것이 아니라, 확립된 사실 내에서 정확하게 반영하고 추론하는 것입니다. 이러한 접근 방식은 LLM이 잘못된 정보를 자신감 있게 생성하는 경향인 환각(hallucination)의 위험을 크게 줄입니다.

TypeSafe AI 팀은 옥스퍼드 영어 사전(OED) 전체를 기반으로 한 모델을 사용하여 연구해 왔습니다. 이는 OED를 LLM에 단순히 입력하는 것이 아니라, 모델이 OED의 정의, 어원, 역사적 맥락에 직접적으로 접근하고 활용하도록 구축하는 것입니다. 그 결과, 언어에 대한 모델의 이해가 매우 일관적이며, 터무니없거나 모순되는 진술을 생성하는 데 저항력이 매우 강한 모델이 만들어졌습니다. 그들은 표준 LLM이 흔히 당황하게 만드는 질문으로 모델을 시험하여 정확하고 신뢰할 수 있는 답변을 제공하는 것을 입증했습니다. OED 기반 모델은 종종 어려움을 겪거나 환상을 일으키는 표준 LLM과는 달리 일관성 있게 정확한 답변을 제공했습니다.
- 제브: TypeSafe의 System One 모델 설명 - DataCamp
- Jev는 무엇인가? TypeSafe의 의사 결정 모델을 제품에 적용하는 방법, https://www.paralect.com/stack/what-is-jev-new-llm
- 제브 해설: Typesafe AI의 비자기적 시스템-1 모델
- AI “J에브”는 템플릿과 유사한 답변만 제공하지만, 그 특징 자체가 다양한 현장을 변화시킬 잠재력을 지닌다.

“J에브”는 특정 질문에 대해 사전에 준비된 답변 패턴 중 가장 적합한 것을 선택하여 반환한다. 마치 미리 정해진 시나리오를 읽는 듯한 기계적인 응답이다.

하지만 이러한 “형태”가 오히려 큰 이점을 제공한다.

첫째, “J에브”의 응답 속도가 매우 빠르다는 점이다. 인간이 생각하고 답변을 생성하는 것과 달리 “J에브”는 즉각적으로 답변을 반환한다. 이는 실시간 정보 수집 및 의사 결정이 요구되는 현장에서 특히 큰 장점이다.

둘째, “J에브”의 응답은 항상 정확하고 일관적이다. 인간처럼 감정이나 주관에 의해 영향을 받지 않고 객관적인 정보를 제공한다. 이는 법률이나 의료 분야에서 잘못된 판단을 초래할 위험을 줄이는 데 도움이 된다.

더욱이 “J에브”는 대량의 데이터를 고속으로 처리할 수 있다. 이를 통해 인간이 감당하기 어려운 방대한 정보를 분석하고 새로운 지식을 발견할 수 있다.

“J에브”는 단순한 “형태”를 반환하는 AI가 아니다. 그 “형태” 자체가 다양한 현장에서 활용될 가능성을 가지고 있다.

예를 들어 고객 지원 분야에서는 “J에브”가 고객 문의에 대해 신속하고 정확한 답변을 제공함으로써 고객 만족도를 향상시키고, 영업 분야에서는 “J에브”가 고객의 니즈를 분석하고 최적의 제안을 수행함으로써 계약 성립률을 향상시킨다.

이처럼 “J에브”는 다양한 분야에서 활용함으로써 우리의 업무 방식과 생활 방식을 크게 변화시킬 잠재력을 가지고 있다.
- Jev AI는 무엇일까요? Jev AI는 ChatGPT보다 200배 더 빠른 AI 모델입니다.
- RLCD vs RLHF: Typesafe의 제프 모델이 실제로 주장하는 것은 무엇인가?

RLCD와 RLHF의 차이점을 명확히 하는 것입니다. 제프 모델은 LLM(Large Language Model)의 안전성을 높이기 위한 새로운 접근 방식을 제시하며, 특히 ‘제어 가능한 학습’(Controllable Learning)이라는 개념을 강조합니다.

RLHF(Reinforcement Learning from Human Feedback)는 인간 피드백을 활용하여 LLM을 훈련시키는 방법으로, 모델이 인간의 선호도에 맞춰 학습하도록 유도합니다. 이는 모델이 유해하거나 부적절한 콘텐츠를 생성하는 것을 방지하는 데 효과적이지만, 동시에 인간의 주관적인 판단에 의존하기 때문에 일관성 없는 결과가 발생할 수 있다는 단점이 있습니다.

반면 RLCD(Retrieval-Augmented Controllable Learning)는 LLM이 외부 지식 소스를 활용하여 답변을 생성하도록 하는 방법입니다. 즉, 모델이 답변을 생성하기 전에 관련 정보를 검색하고, 이를 바탕으로 답변을 생성합니다. RLCD는 RHF의 문제점을 해결하기 위해 설계되었으며, 모델이 외부 지식에 기반하여 답변을 생성함으로써 더욱 정확하고 일관성 있는 결과를 제공할 수 있습니다.

제프 모델은 RLCD의 핵심 아이디어를 기반으로 LLM의 안전성을 높이는 데 초점을 맞추고 있습니다. 특히, 모델이 답변을 생성하기 전에 외부 지식 소스를 활용하도록 유도하고, 이를 통해 모델이 잘못된 정보를 생성하거나 편향된 답변을 제공하는 것을 방지합니다. 또한, 제프 모델은 모델의 답변을 제어하기 위한 다양한 메커니즘을 제공하여, 모델이 인간의 가치관에 부합하는 답변을 생성하도록 유도합니다.

이러한 접근 방식을 통해 제프 모델은 LLM의 안전성을 높이는 동시에, 모델의 성능을 향상시키는 데 기여할 수 있습니다. Typesafe는 제프 모델을 통해 LLM의 안전하고 신뢰할 수 있는 사용을 가능하게 하고자 합니다.
- Jev는 어떻게 작동하는가? RLCD 및 병렬 추론 설명

RLCD 시스템

RLCD 시스템은 크게 세 가지 구성 요소로 이루어져 있습니다. 첫째, 검색 모듈은 주어진 텍스트에 가장 관련성이 높은 문맥 정보를 검색합니다. 둘째, 언어 모듈은 검색된 문맥 정보와 입력 텍스트를 기반으로 언어 모델을 사용하여 다음 단어를 예측합니다. 셋째, 디코딩 모듈은 언어 모델의 예측을 기반으로 최종 텍스트를 생성합니다.

RLCD 시스템은 이러한 구성 요소들이 서로 협력하여 작동함으로써, 텍스트 생성 과정에서 문맥 정보를 효과적으로 활용하고, 더욱 자연스럽고 일관성 있는 텍스트를 생성할 수 있습니다. 예를 들어, 질문 답변 시스템에서 RLCD 시스템은 질문의 의도를 파악하고, 관련 정보를 검색하여 답변을 생성하는 데 활용될 수 있습니다.

병렬 추론

병렬 추론은 여러 개의 딥러닝 모델을 동시에 실행하여 계산 속도를 높이는 기술입니다. Jev 시스템에서는 RLCD 시스템의 각 구성 요소(검색, 언어, 디코딩)를 병렬로 실행하여 전체적인 추론 속도를 향상시킵니다.

병렬 추론은 특히 대규모 텍스트 데이터를 처리하거나, 실시간으로 텍스트를 생성해야 하는 경우에 유용합니다. 예를 들어, 자동 번역 시스템에서 병렬 추론은 여러 언어 모델을 동시에 실행하여 번역 속도를 높이는 데 활용될 수 있습니다.

One Model Explained

Jev 시스템은 이러한 RLCD 시스템과 병렬 추론 기술을 통합하여 하나의 모델로 구현됩니다. 이 모델은 텍스트를 이해하고 생성하는 전체 과정을 효율적으로 처리할 수 있으며, 다양한 텍스트 기반 작업에 적용될 수 있습니다.

이러한 One Model 접근 방식은 복잡한 시스템을 단순화하고, 개발 및 유지 보수를 용이하게 하며, 성능을 최적화하는 데 도움이 됩니다. 또한, 다양한 텍스트 데이터에 대한 일반화 성능을 향상시키는 데 기여할 수 있습니다.
- 새롭게 등장한 TypeSafe AI에서 출시한 신규 AI ‘제브(Jev)’는 환각 현상 없이, Forbes Japan 기사에서 소개된 내용에 따라 https://forbesjapan.com/articles/detail/105002 에서 확인할 수 있습니다.
- 제프가 왜 속도로 빠른가 - Zenn
- 지난해, 저는 비오토레그레시브 의사 결정 모델을 구축했습니다. 이후 Frontier Lab에서 이를 “18ME”라고 부르더군요.
- 제브(Jev) by TypeSafe: 유형 안전을 기반으로 한 AI 시스템 원 모델 설명
- Laya는 421M 크기의 오픈 결정 모델로, 33밀리초 내에 응답합니다.
- Laya는 대화형 AI 모델을 위한 오픈 소스 프레임워크입니다. Hugging Face에서 개발되었으며, 특히 대규모 언어 모델(LLM)과 결합하여 챗봇, 가상 비서, 대화형 애플리케이션을 구축하는 데 유용합니다. Laya는 다양한 모델 아키텍처를 지원하며, 사용자 정의 및 확장성을 위한 유연한 인터페이스를 제공합니다.

Laya는 특히 다음과 같은 기능에 중점을 둡니다.

*   **다양한 모델 지원:** LLaMA, GPT, PaLM 등 다양한 LLM을 활용할 수 있습니다.
*   **사용자 정의 가능한 프롬프트:** 사용자가 원하는 방식으로 모델에 지시할 수 있는 프롬프트 템플릿을 제공합니다.
*   **강화 학습 지원:** 모델 성능을 향상시키기 위한 강화 학습 기능을 통합합니다.
*   **활발한 커뮤니티:** Hugging Face 커뮤니티의 지원을 받을 수 있습니다.

Laya는 연구 및 개발 목적으로 무료로 사용할 수 있으며, 상업적 용도로도 활용할 수 있습니다. Laya를 통해 사용자는 혁신적인 대화형 AI 애플리케이션을 구축하고, LLM의 잠재력을 최대한 활용할 수 있습니다.
- TypeSafe의 System One 모델, Jev에 대한 심층 분석 – 플라비오 코페스
- 제브(Jev)는 TypeSafe AI에서 개발한 System One 모델을 기반으로 하는 새로운 AI 시스템입니다. System One 모델은 TypeSafe AI가 개발한 대규모 언어 모델(LLM)로, 특히 보안 및 규정 준수 분야에서 뛰어난 성능을 보여줍니다. 

제브는 System One 모델의 능력을 활용하여 사용자가 특정 요구 사항에 맞춰 AI 모델을 훈련하고 조정할 수 있도록 설계되었습니다. 즉, 제브는 사용자가 자신의 데이터와 특정 목표에 맞춰 AI 모델을 ‘맞춤형’으로 만들 수 있게 해줍니다. 

이러한 맞춤형 AI 모델은 다양한 산업 분야에서 활용될 수 있습니다. 예를 들어, 금융 기관은 제브를 사용하여 고객의 거래 패턴을 분석하고 사기 행위를 탐지할 수 있습니다. 의료 기관은 제브를 사용하여 환자의 진료 기록을 분석하고 질병을 예측할 수 있습니다. 

제브는 System One 모델의 강력한 기반 위에 구축되어 있으며, 사용자가 AI 모델을 쉽게 훈련하고 조정할 수 있도록 설계되었습니다. 제브를 통해 사용자는 자신의 특정 요구 사항에 맞는 AI 모델을 만들고, 이를 통해 다양한 산업 분야에서 혁신적인 솔루션을 개발할 수 있습니다. 

TypeSafe AI는 제브를 통해 AI 기술의 잠재력을 최대한 활용하고, 사용자가 AI 모델을 통해 더 많은 가치를 창출할 수 있도록 지원할 것입니다. 제브는 단순한 AI 모델이 아니라, 사용자와 함께 성장하며 발전하는 파트너로서의 역할을 수행할 것입니다.
- Von은 텍스트-투-텍스트 변환 모델로, Hugging Face에서 제공하며 모델 이름은 wfzyx/von-1.0입니다.
- Jev, TypeSafe의 의사 결정 모델: 그것이 무엇이고 왜 확산되었는가
- RLCD-ModernBERT-151M 모델에 대한 추가 정보입니다. 이 모델은 검색어-언어 대조(Retrieval-Language Contrastive, RLC) 기반의 BERT 모델을 기반으로 합니다. RLC는 검색된 텍스트와 텍스트를 비교하여 모델을 훈련시키는 방법입니다. 이 모델은 특히 일본어 텍스트 분류 작업에서 우수한 성능을 보입니다.

모델의 주요 특징은 다음과 같습니다.

*   모델 크기: 151M (1억 5천 1백만) 파라미터
*   훈련 데이터: 일본어 텍스트 데이터셋
*   목표: 텍스트 분류
*   성능: 일본어 텍스트 분류 작업에서 우수한 성능을 보입니다.

이 모델은 Hugging Face Hub에서 사용할 수 있습니다: [https://huggingface.co/heman10x/rlcd-modernbert-151m](https://huggingface.co/heman10x/rlcd-modernbert-151m) 에서 다운로드할 수 있습니다.
- 캘리브레이션은 구성력을 갖지 못하며, 유형은 모호성을 파괴한다.
- TypeSafe Jev: 시스템 원 모델과 Laya 답변, https://www.gadgetpilipinas.net/2026/09/typesafe-jev-system-one-model-laya/
- Jev를 재현하려 시도한 모델 6개, 설계 결함 발생 원인 분석 중입니다.
- 신뢰도 인식 라우팅을 통한 대규모 언어 모델 신뢰성 향상
- 다중 신호 기반 사전 생성 환각 완화 접근 방식은 모델의 토큰 확률 분포, 어텐션 맵, 생성된 텍스트의 언어적 특징 등을 종합적으로 분석하여 환각 가능성을 예측하고, 이를 줄이는 데 초점을 맞춘다. 구체적으로, 모델은 여러 신호에 대한 정보를 통합하여 환각을 유발할 가능성이 높은 부분을 식별하고, 해당 부분을 수정하거나 필터링하는 메커니즘을 사용한다. 이러한 다중 신호 기반 접근 방식은 단일 신호 기반 방식에 비해 더욱 강력하고 안정적인 환각 완화 효과를 제공할 수 있다.
- ‘침묵하는 AI’ 제브에 대한 진실: ‘판결만으로’ 검증 확인
- Jev Beat GPT Luna by 1 Point. GPT-6와 Claude가 답변을 작성했습니다. (키: 314k)
- 제브의 200배 빠른, 400배 저렴한 주장이 실제로 사실일까? – explainx.ai 분석
- 판단 모델 Jev는 무엇일까요? 글을 쓰지 않는 AI의 작동 원리와 사용법

Jev는 기존의 AI 모델과는 다른 방식으로 작동합니다. Jev는 텍스트를 생성하는 대신, 주어진 질문이나 상황에 대해 명확하고 논리적인 판단을 내리는 데 특화되어 있습니다. 

**Jev의 작동 원리**

Jev는 다양한 데이터셋을 기반으로 학습되었지만, 텍스트 생성에 집중하는 대신, 특정 기준에 따라 정보를 분석하고 평가하는 데 초점을 맞춥니다. 마치 숙련된 전문가가 정보를 빠르게 파악하고, 핵심 내용을 추출하여 판단하는 것과 유사합니다.

Jev는 다음과 같은 방식으로 작동합니다.

1.  질문/상황 입력: 사용자는 Jev에게 질문이나 상황을 입력합니다. 예를 들어, “A는 B보다 나이가 많을까요?”와 같은 질문을 할 수 있습니다.
2.  정보 분석: Jev는 입력된 질문/상황에 대한 정보를 분석합니다. 이 과정에서 Jev는 학습된 데이터셋과 논리적 추론 능력을 활용합니다.
3.  판단 결과 제공: Jev는 분석 결과를 바탕으로 명확하고 간결한 판단 결과를 제공합니다. 예를 들어, “A는 B보다 나이가 많을 가능성이 높습니다.”와 같이 답변합니다.

**Jev의 사용법**

Jev는 다양한 분야에서 활용될 수 있습니다. 예를 들어, 다음과 같은 용도로 사용할 수 있습니다.

*   의사 결정 지원: 복잡한 의사 결정을 내릴 때 Jev의 판단을 참고하여 더 나은 결정을 내릴 수 있습니다.
*   데이터 분석: 대량의 데이터를 분석하고, 핵심 정보를 추출하여 분석하는 데 활용할 수 있습니다.
*   자동화된 챗봇: Jev를 기반으로 한 챗봇은 사용자의 질문에 대해 정확하고 논리적인 답변을 제공할 수 있습니다.

**Jev의 특징**

*   텍스트 생성 불필요: Jev는 텍스트를 생성하지 않으므로, 텍스트 생성 모델보다 훨씬 효율적입니다.
*   논리적 판단: Jev는 논리적 추론 능력을 바탕으로 정확하고 신뢰할 수 있는 판단을 내립니다.
*   다양한 분야 활용: Jev는 다양한 분야에서 활용될 수 있는 범용적인 판단 모델입니다.

**참고:** Jev는 Gaipack.ai에서 개발한 판단 모델입니다. Gaipack.ai는 다양한 AI 솔루션을 제공하는 기업입니다.

『별을 지키는 왕자』는 1908년 앙리 뒤랑베리가 발표한 작품으로, 전 세계적으로 사랑받는 명작입니다. 이 이야기는 비행사의 주인공이 사막에 불시착하여 작은 별을 지키는 왕자와 만나면서 시작됩니다. 왕자는 자신의 고향인 별을 떠나 여러 곳을 여행하며 만나는 사람들과의 교류를 통해 삶의 의미와 우정, 사랑에 대해 배우는 모험 이야기입니다.

이 이야기는 어린이부터 어른까지 누구나 공감할 수 있는 보편적인 주제를 담고 있습니다. 왕자가 말하는 말에는 삶에 대한 깊은 통찰력과 소중한 것을 소중히 여기는 것의 중요성이 담겨 있습니다. 또한 그림책으로서 매우 아름다운 작품으로, 왕자와 비행사의 따뜻한 우정이 묘사된 장면은 독자의 마음을 깊이 사로잡습니다.

『별을 지키는 왕자』는 단순한 어린이용 이야기가 아니라, 어른이 되어 다시 읽어보면 새로운 발견과 감동을 느낄 수 있는 작품입니다. 인생의 중요한 결정에 서 있거나 소중한 사람과의 관계에 어려움을 겪을 때 등 다양한 상황에서 이 이야기가 우리에게 용기와 희망을 줄 것입니다.

일부 기업은 특정 분야에 특화된 모델(Models Built to Do One Thing Well)이라는 접근 방식에 도전하고 있습니다. 대부분의 기업이 생성 모델이나 추론 모델 개발에 집중하는 가운데, 이 새로운 모델은 텍스트를 분석하여 그에 대한 질문에 답변하는 기능만을 수행하도록 특화되었지만, 대규모 언어 모델(LLM)보다 훨씬 빠르고 저렴하게 작동합니다.

최신 동향: OpenAI의 전직원인 디오고 알메이다氏가 설립한 TypeSafe社는 범용 분류 모델 “Jev”를 발표했습니다. 사전에 정의된 출력 형식을 사용하여 모든 질문에 답변할 수 있는 모델입니다. 일반적인 언어 모델로서가 아닌, 다른 소프트웨어 도구가 의사 결정을 내리는 데 필요한 충분한 데이터를 제공하는 것을 목표로 설계되었습니다.

- 입력은 최대 64,000 토큰까지의 텍스트이며, 출력은 선택지 선택, 점수화, 또는 “예/아니오” 중 사용자 정의로 지정됩니다.
- 성능: 내부 데이터셋에서 수행한 분류 작업에서 GPT-5.6 Terra나 Claude Sonnet 5와 동등한 수준의 성능을 보였습니다.
- 현재는 초기 액세스 버전으로 제공되며, 가격은 입력 100만 토큰당 42센트이고, 출력을 무료로 제공합니다.
- 비공개 정보: 아키텍처, 컨텍스트 윈도우, 훈련 데이터 및 대부분의 훈련 기법.

제작 방식: TypeSafe사는 Jev의 아키텍처에 대해 LLM이나 자기 회귀형(autoregressive) 모델이 아니라고 주장하면서, Transformer 기반이라는 것 외에는 언급하지 않았습니다. 훈련 데이터에 대해서는 모두 자체적으로 제작했다는 설명을 제시할 뿐이며, 훈련 방법에 대해서는 “조정된 의사 결정에 대한 강화 학습(RLCD: reinforcement learning for calibrated decisions)”이라는 기술만을 설명하고 있습니다.

Jev의 입력은 텍스트 데이터(설명문이나 JSON 객체 등)와 그 텍스트에 대한 질문 두 부분으로 구성되며, 이 둘 모두 32,000 토큰에 제한됩니다. 이 제한 내에서 사용자는 질문을 얼마든지 추가할 수 있으며, 각 질문은 병렬로 평가됩니다. 사용자는 텍스트에 대해 1회 요금과 질문에 포함된 모든 토큰에 대한 요금을 지불하면 되며, 출력은 무료입니다.

Jev의 출력은 “예/아니오(True/False)”, 목록 선택, 또는 0~10점의 점수 중 하나가 됩니다. 이진 형태의 “예/아니오” 답변은 질문의 답이 “예”일 확률로 정의됩니다. 목록 선택의 경우, 모델이 선택한 선택지, 해당 선택에 대한 신뢰도, 그리고 목록 내 각 항목의 확률이 반환됩니다. 10단계 평가 점수 또한 마찬가지로, 각 옵션의 신뢰도와 확률이 부여되지만, 최종 답변으로 하나의 값을 선택하는 대신 각 옵션의 확률에 기반하여 점수가 산출됩니다.

훈련 과정에서 RLCD는 모델에게 실제 발생 빈도와 동일한 확률을 답변에 할당하도록 유도합니다. 예를 들어, 20%의 확률이 할당된 답변은 실제로 20%의 비율로 정답이 되는 방식으로 조정됩니다.

제브(Jev)의 구조와 가격 설정은 단답형 및 간결한 질문을 한 번에 여러 개 던져서 사용하는 방식을 염두에 두고 설계되었습니다. 예를 들어 스팸 메일 판별을 수행할 경우, 개발자는 제브에 “스팸 메일인지 아닌지”를 직접 분류시키는 대신 “도메인 불일치가 없는지”, “비밀번호 등의 인증 정보를 요구하고 있는지” 등 여러 평가 기준에 문제를 분해해야 합니다. 전체적인 분류의 전체적인 모습을 구축함으로써 소프트웨어 시스템이 상황을 평가하고 적절한 조치를 취할 수 있도록 하는 것이 목적입니다.

결과적으로, 벤치마크가 포화 상태에 있고, 기업이 범용적인 지능 향상보다는 벤치마크 점수 향상에 지나치게 집중하고 있다는 등 여러 이유로 인해 개발자들은 내부 데이터셋만을 사용하여 모델의 점수를 산출합니다.

- Jev는 4개의 내부 데이터 세트에서 67%의 정답률을 달성했으며, GPT-5.6 Terra나 Claude Sonnet 5와 거의 동등한 성능을 보였습니다.
- 동일한 데이터 세트에서 1 샘플당 비용은 Jev가 약 0.0007 달러, Terra가 약 0.06 달러, Sonnet가 약 0.12 달러였습니다.
- 동 데이터셋에 대해 개발진은 Jev의 처리 속도가 (구체적인 명칭은 가려져 있지만) 특정 LLM의 193.6배에 달한다고 주장합니다.

뉴스 배경: Jev의 출시 직후, 유사한 분류 모델이 다수 시장에 등장했습니다. 그 중에는 독자적인 모델뿐만 아니라 오픈 소스나 로컬 환경에서 작동하는 모델도 있었습니다. 예를 들어 “Laya”는 다국어 지원에 주력하면서 Jev보다 높은 정확도와 속도를 자랑합니다. “Bespoke Nimble”은 Qwen-3.5-9B를 분류 모델로 파인튜닝했습니다. “Kev” 역시 동일하게 Qwen 3.5를 기반으로 3가지 종류의 크기를 확장하여 Jev의 아키텍처를 재현하려는 시도를 하고 있습니다. 이들 모델은 모두 Jev의 증류 모델(Distilled version)이라는 점을 명시하지 않았습니다. 공개된 벤치마크가 존재하지 않기 때문에 성능 평가는 어렵습니다. 반면, Vercel이나 Cloudflare와 같은 플랫폼은 신속하게 Jev의 지원을 추가하고 있으며, 도구 선택 등의 활용 사례에서 비용이 많이 드는 LLM을 Jev로 대체하고 있습니다.

왜 중요한가: LLM이 유행하기 전, 대부분의 연구자들은 “하나 또는 소수의 특정 작업을 잘 수행할 수 있는 모델”의 훈련에 집중했습니다. LLM이 보급되자 사람들의 생각은 완전히 뒤바뀌어, AI 커뮤니티는 “모든 작업을 잘 수행할 수 있는 단일 모델”의 구축에 집중하게 되었습니다. TypeSafe社는 “모든 분류 작업을 잘 수행할 수 있는 단일 모델을 구축한다”는 중간적인 접근 방식을 취하고 있으며, 이 회사는 자체 개발 철학을 나타내는 캐치프레이즈로 “신이 아닌, 제품을 만들자(Build prod, not god)”라는 문구를 사용하고 있습니다.

저희의 견해: Jev가 현대 LLM을 대체할 수 없을 것입니다. 코드를 생성하거나 인간과 대화하거나 에이전트로서 기능할 수 없지만, 대신 제이락(Jailbreak, 즉 부정 이용) 탐지, 누락된 상세 정보 표시, 사용자 만족도 판정 등의 작업을 수행할 수 있습니다. 특히 “비정형 입력을 구조화된 응답으로 변환하는” 모든 활용 사례에서 소프트웨어 엔지니어에게 매우 가치 있는 존재가 될 것입니다.

**출처:** [note 원문](https://note.com/wayne_chang/n/n151303c2041a)

*번역: Gemma 3(.44) 초벌 + 교정 87청크*

[원문 보기](https://note.com/wayne_chang/n/n151303c2041a) | 출처: note.com