안녕하세요, 미야치입니다.🧑💻
2026년 9월 16일(미국 시간), TypeSafe AI라는 회사가 Jev라는 AI 모델을 조기 액세스 형태로 공개했습니다. 문장을 전혀 작성하지 않는 AI로, 요약도 하지 않고, 설명도 하지 않으며, 이메일도 작성하지 않습니다. 전달된 상태와 사전에 정해진 질문에 대해 “선택”, “평가”, “확률”만을 반환합니다.
먼저 솔직하게 말씀드리면, 저는 아직 Jev를 직접 사용해보지 않았습니다. 공식 블로그와 공식 웹사이트, 공식 평가 페이지를 어제 읽어보고 “무엇이 진실이고, 무엇이 과장되었으며, AI 에이전트 제작자들은 무엇을 재고해야 하는가”를 정리한 것이 이 글입니다.
글을 쓰지 않는다는 것이 무슨 의미인지
평범한 ChatGPT나 Claude는 어떤 질문에도 “다음 단어”를 하나씩 써서 대답합니다. JSON으로 반출해 달라고 요청해도, 내부적으로는 기호나 문자를 순서대로 쓰고 있습니다. Jev는 이 과정을 완전히 버렸습니다.
전달되는 것은 “상태”와 “사전에 정해진 질문”입니다. 돌아오는 답변의 형태는 3가지뿐입니다. N개 중에서 1개를 선택하거나, 척도로 평가하거나, 진위 확률을 반환합니다. “이 문의사항은 청구, 기술, 영업 중 어느 것이 맞습니까?”, “긴급도는 1부터 5까지 어느 것이며, 그 정도는 어느 척도입니까?”, “이 문장은 취소의 징조인지, 그 확률은 얼마입니까?”와 같이 여러 질문을 한 번에 병렬로 평가하여 각 답변에 확률과 확신도를 함께 부여합니다.
입력 측은 지금까지와 같이 언어를 사용한다. 문의 본문이나 로그를 읽고, 버린 것은 출력 측의 언어만 해당한다. 즉, Jev는 “언어를 이해하지만 생성하지 않는” 모델이다.
무엇이 달라졌나요?
AI를 활용한 제품을 한 번이라도 만든 사람이라면 알겠지만, 채팅 앱이 아니더라도 앱 내부에서 AI에 의존하는 작업은 대부분 “구조화된 출력”이다. 문의를 분류하고, 담당 부서로 배정하고, 우선순위를 매기고, 다음 행동을 결정하는 것들이다. 답은 “선택지 중 하나”이거나 “점수” 형태이고, 자유로운 형태의 문서는 아니다.
그동안 저는 글을 쓰기 위해 만들어진 모델에 “JSON으로 돌려줘”라고 요청하며 돌아다니고 있었습니다. 이 과정에서 발생했던 비용을 저는 “생성이라는 세금”이라고 부릅니다. 생성의 지연, 출력 토큰의 과금, 길이 제한에 의한 중간 끊김, 거부 시 예외 처리 등이 이에 해당합니다. Jev가 놓친 것이 바로 이 세금입니다.
숫자는 공식 값입니다. 응답 시간은 70~500밀리초입니다. 요금은 입력 100만 토큰당 0.042달러이며, 출력은 무료입니다. TypeSafe AI 스스로가 공개한 평가에 따르면, 4가지 업무 워크플로우의 평균으로 Jev는 67.8%의 일치율을 0.4초, 1건 0.0004달러로 제시했으며, GPT-5.6 Terra의 67.9%·10.1초·0.0304달러와 거의 동일한 정확도를 약 25배 빠르고 약 76배 저렴하게 출력했습니다.
이 “단순 판단만 빠르게 저렴하게 반환하는 부품”을 자신의 업무에 어디에 배치할지. 그 설계에 대한 이야기는 12월 3일(목) 21시 무료 세미나 “2026년 총결산 AI 세미나 -THE FINAL-”에서 그대로 다룹니다. 사전 안내는 여기에서 확인하실 수 있습니다.
이 부분은 제가 개인적으로 느낀, 이 프로젝트의 매력의 일부입니다.
가장 먼저, 이 프로젝트의 팀원 여러분은 진심으로 열정을 가지고 이 프로젝트에 참여해 주셨습니다. 여러분의 열정과 노력이 이 프로젝트를 성공으로 이끌고 있다고 생각합니다.
다음으로, 이 프로젝트를 통해 얻은 지식과 경험은 저에게 매우 귀중한 자산이 되었습니다. 지금까지 경험해보지 못했던 새로운 관점과 생각에 접하며, 저의 성장을 실감할 수 있었습니다.
또한, 이 프로젝트를 통해 많은 사람들을 만나 교류할 수 있었습니다. 각자의 배경과 가치관을 가진 사람들과 협력하여 하나의 목표를 향해 나아가는 과정에서 서로 배우고 지지하며 함께 했습니다.
이러한 요소들이 결합되면서, 이 프로젝트는 단순한 일 이상의 의미를 갖게 되었다고 생각합니다. 그것은 저의 삶을 더욱 풍요롭게 해주는 소중한 경험이었을 것입니다.
이것은 매우 중요한 내용이므로, 가능한 한 동일한 양만큼 작성하겠습니다. 문장 생성은 전혀 하지 않으며, ChatGPT나 Claude의 대체물은 되지 않습니다.
해상화(환각)라는 설명 또한 좁은 의미입니다. 공식 자체가 해상화율 0%는 실측치ではなく“정한 형태 밖의 값을 구조상 추출할 수 없는 것による0%”라고 설명하고 있습니다. 제시된 선택지 중에서 높은 확신을 가지고 틀린 것을 고르는 것은 흔히 발생할 수 있습니다. 왜 그런 판단을 내렸는지에 대한 설명 또한 돌아오지 않습니다.
평가 항목의 “일치율” 또한 인간이 제시한 정답이 아니며, GPT-6 Astra와 Claude Fable 5.1이라는 상위 2 모델의 답변 평균을 정답으로 하고 있습니다. “테라만큼 현명하다”가 아니라 “선택한 4가지 업무에서 테라와 같은 상위 모델의 답변에 동의하는 정도”가 정확합니다. 공식 탑의 “193.6배 빠르고 444.6배 저렴하다” 역시 공식 블로그 자체에서 “실제 운영에서는 상한값 쪽으로 치우쳐 있다”고 부연 설명하는 숫자입니다.
요약하자면, “AI의 새로운 시대”라기보다는 “생성 모델을 분류기(클래서)로 활용하면서 발생했던 낭비를, 전용 설계로 제거한” 것이 더 정확합니다. 그 낭비를 위해 노력해왔던 사람들에게는 혁명처럼 보일 것이고, 챗봇 화면을 만드는 사람들에게는 그렇게 크게 느껴지지 않는 온도 차이의 실체가 여기에 있습니다.
왜 지금까지 아무도 만들지 않았을까요
여기, 제가 이번에 가장 신중하게 생각한 부분입니다. “특정 유형으로 반환하기”와 “함수 호출”이라는 아이디어는 수년 전부터 있었습니다. 왜 추론을 판단만 사용하는 모델이 상품으로 출시되지 않았을까요.
정답의 전반부는 “과거에는 오히려 여기 쪽이 주류였다”입니다. 2018년부터 2022년쯤의 실무 AI는 거의 대부분 분류기였습니다. 언어를 “쓰고 되돌리는” 대신 “읽고 레이블을 붙이는” 모델을, 각 작업마다 하나씩 학습시키고 있었습니다. Jev의 조상은 바로 여기입니다.
ChatGPT 이후부터는 LLM(대규모 언어 모델) 중심으로 빠르게 전환되었습니다. 그 이유는 기술적인 문제라기보다는 경제성과 UX(사용자 경험) 때문입니다. 하나의 모델로 모든 것을 어느 정도 할 수 있는 것이 회사 입장에서는 더 효율적이었고, 분류기는 각 작업에 따라 데이터를 모아서 다시 학습해야 했지만, LLM은 프롬프트만 바꾸면 다음 날 바로 결과물을 얻을 수 있었습니다. 연구와 자본은 “다음 단어를 예측하는” 것에 집중했고, 그 결과 채팅이라는 직관적인 상품이 만들어졌습니다. 함수 호출(Function Calling)이나 JSON 모드도 모두 생성 모델 위에 추가된 호환 레이어에 불과하며, 그 본질은 여전히 문자를 순차적으로 작성하는 것이었습니다.
아직 통증은 작았었다. 이용자 한 분의 발언마다 LLM을 한 번 호출하는 방식이라면 2초 정도 대기하는 데 어려움이 없다. 한계가 온 것은 AI 에이전트가 내부적으로 수십 번이나 분기하고 판단의 수가 숫자로 크게 늘어났기 때문이다. Jev가 지금 나온 것은 그 시장이 먼저 생겨났기 때문이라고 나는 생각한다. 개발자를 위한 것이므로 외관은 평범하지만, 내부적으로 판단을 회전시키는 개발자의 수가 지난 2년 동안 기하급수적으로 늘어났기 때문에 실현된다.
개발자 측에는 “언어 통일”이라는 이점이 없었다.
여기서 제가 이 발표에서 얻은 핵심은 LLM이 “입력과 출력 모두 자연어”로 통일했다는 점입니다. 인간이 상대라면 그것은 맞습니다. 인간은 글을 읽고 싶어하고, 글을 통해 요청합니다.
하지만 앱 내부에서 AI의 답변을 받는 것은 프로그램입니다. 프로그램이 원하는 것은 “영업”이라는 레이블과 “0.87”이라는 숫자이며, “이 문의는 영업과 관련된 내용입니다. 이유는……”와 같은 문구는 아닙니다. 개발자 측에는 답변을 언어로 통일하는 이점이 처음부터 없었습니다. 오히려 언어로 받기 때문에 지연되고, 비용이 많이 들고, 오류가 발생하기 쉬워졌습니다.
제브는 그 “언어에 통일하지 않는” 측에 베팅한 모델입니다. 이 분기점은 앞으로 더욱 명확해질 것입니다. 챗봇과 긴 추론은 LLM, 빠른 덩크는 전용 모델로 나뉩니다. 전용 모델 간의 대결은 문장의 완성도나 유창함이 아닌 “짧은 판단의 정확성, 확률의 진실성, 응답 시간”으로 결정됩니다.
AI의 진화가 “더욱 지능적으로 대화하는 것”이라는 유일한 목표가 아니게 되었다는 이야기는, 2026년 총결산 AI 세미나 -THE FINAL- (12월 3일(목) 21시)에서 2026년에 발생한 다른 분기들과 함께 정리합니다. 선행 안내는 이쪽에서 확인하실 수 있습니다.
제작자들은 무엇을 수정해야 하는가
Jev를 즉시 사용하는 것보다 더 중요한 것은 “추론을 어떤 시점에서 사용할지”를 설계하는 관점을 갖는 것입니다.
제 개인적인 사례를 말씀드리겠습니다. AI Crew의 사이트에서는 Claude Code를 사용하여 매일 아침 그 날의 AI 뉴스를 “기사로 작성한다/거절한다”로 분류하는 시스템을 운영하고 있습니다. 이는 판단입니다. 다만, 현재 상태로 괜찮다고 생각합니다. 이유는 반복 횟수입니다. 하루 1회 판단만 한다면, 몇 초를 기다리거나 가끔 재시도해도 문제가 되지 않습니다. Jev와 같은 모델이 효과를 발휘하는 것은, 같은 판단을 하루에 수천 회, 수만 회 반복하거나 100밀리초 단위로 다음 수를 결정해야 하는 경우이기 때문입니다.
다만, 시점은 바뀝니다. 지금까지는 “먼저 모든 것을 AI에게 글로 질문하여” 만들었습니다. 이제부터는 자신의 업무 안에서 “답변의 형태가 먼저 결정된 판단”이 어디에 있는지 찾아내고, 그 부분은 먼저 상자를 먼저 정의한 후 제작합니다. “청구, 기술, 영업 중 어느 것인지”, “긴급도 1~5”, “취소 징조가 있는지 여부”와 같은 상자를 작성할 수 있는 것은 해당 업무를 담당하는 본인뿐입니다.
지금은 판단과 생성 모두 Claude Code·Codex에 맡겨 움직이는 것을 만들고, 판단 횟수가 늘어나 세금이 많이 발생한 상자에서는 전용 모델로 교체해 나갈 것입니다. 이 순서로 만들어질 수 있는 사람들은 다음 2년 안에 더욱 강해질 것이라고 생각합니다. Jev의 어떤 부분이 진실이고 어떤 부분이 과장된 것인지, AI Crew 블로그에 공식적으로 숫자를 붙여 정리했습니다.
자신의 업무 중 “정답의 형태가 정해져 있는 판단”을 기록하고 싶다면, 12월 3일(목) 21시 무료 세미나 “2026년 총결산 AI 세미나 -THE FINAL-”가 적합한 기회가 될 것입니다. 사전 안내는 여기에서 확인하실 수 있습니다. 우선, 그곳에서 뵙겠습니다.
출처: note 원문
번역: Gemma 3(.44) 초벌 + 교정 21청크
원문 보기 | 출처: note.com