# AI “Jev”에 매료되었다. 긴 문장을 출력하지 않으면 드러나는 것

> https://bookfactory.kr/board/news/17660
> 게시판: 뉴스
> 작성자: admin
> 작성일: 2026-09-18T14:05:41.785Z

---

![見出し画像](https://assets.st-note.com/production/uploads/images/314965672/rectangle_large_type_2_5222cd77ee00d70940d6e46eb75a7d2d.png?width=1280)

프로그램 안에서 AI에 판단을 맡기고 싶은 건데, 장황한 프리 텍스트를 돌려받고 JSON 파싱에 실패한다. 이 조용한 스트레스를 해결하고 싶어 정보를 뒤지고 있었는데, 문장을 쓰지 않고 판단만 하는 AI 모델 “Jev”의 설명글을 보게 되었다. 내가 찾던 것이 바로 이것이라며 화면 앞에서 깊이 납득했다.

Qiita에서 화제가 되고 있던 Jev의 해설 기사에 따르면, 이는 샌프란시스코의 TypeSafe AI가 개발 중인 텍스트 생성만을 목적으로 하지 않는 AI 모델입니다.

일반적으로 우리가 ChatGPT나 Claude와 같은 LLM을 코드에서 호출할 때 돌아오는 것은 어디까지나 “토큰(단어)의 나열”입니다. 따라서 입력된 텍스트가 이용 약관에 위반되는지 판별하도록 하려 해도, AI는 친절하게 “네, 인지했습니다. 귀하께서 제시하신 텍스트를 분석한 결과……”라고 말을 시작해 버립니다.

이를 막기 위해, 프롬프트에 “불필요한 인사말은 절대 포함하지 않고, 순수한 JSON만 출력해 주세요”라고 요청하는 것이 현재 개발 현장의 일상입니다. 그럼에도 불구하고 모델의 기분에 따라 백틱이 붙은 마크다운 블록으로 돌아오기도 하고, 결국에는 불필요한 텍스트를 제거하기 위해 복잡한 정규 표현을 삽입하고 나서 파싱하게 됩니다. 최근 각사의 API에 구조화 출력 기능이 탑재되어 꽤 안정화되었지만, 모델 내부에서는 여전히 “문장을 생성하는 데 필요한 거대한 계산”이 진행되고 있습니다.

그것은 근본적으로 “문장 생성 자체를 막는” 접근 방식이었습니다. Jev는 텍스트를 1단어씩 예측하고 출력하는 대신, 처음부터 “판단이나 분류와 같은 확정적인 값”을 반환하도록 특화되어 있습니다.

이 이야기를 알게 되었을 때, 오랫동안 맴돌던 답답함이 한꺼번에 사라지는 듯한 기분이 들었습니다.

우리가 업무나 개인 개발의 백엔드에 AI를 통합하고 싶을 때, 우리가 원하는 것은 “매력적인 채팅 파트너”가 아닙니다. 우리가 원하는 것은 True 또는 False, 혹은 정의된 Enum 중 어느 것에 해당하는지에 대한 “단호한 판단 결과”입니다. 문장을 보기 좋게 구성하기 위한 파라미터나 계산 리소스를 완전히 제거하고, 문맥의 이해와 판단에만 모든 것을 집중해 준다면, 응답 속도와 메모리 소비는 크게 줄어들 것입니다.

최근, 제가 직접 만든 도구의 코드를 재검토하면서 외부 라이브러리에 대한 의존성을 줄였을 때도 느꼈지만, 저는 마치 ‘불필요한 기능 없이, 단 하나의 역할만을 극한까지 정교하게 다듬은 시스템’에 강하게 끌리는 성격인 것 같습니다.

거대한 멀티모달 모델이 유창한 일본어로 이야기하는 듯 기술의 발전은 물론 훌륭하지만, 그것과는 정반대의 방향으로, AI를 “침묵하는 논리의 부품”으로서 시스템에 통합하려는 시도에는 엔지니어로서 솔직한 기능미를 느낍니다.

어떤 것이든 모든 것을 거대 클라우드 모델에 의존하여 긴 글을 읽어달라고 요청하는 대신, 개인 소지 환경에서 필요한 판단만 밀리초 단위로 바로 돌려받는 경량화된 모델이 갖춰진다면, 개인 개발자가 만들 수 있는 도구의 범위도, 지금보다 훨씬 가볍고 재미있는 방향으로 발전해 갈 것이라고 생각합니다.

여러분은 AI를 시스템에 통합하는 코드를 작성하면서 “좀 더 침착하게 결과만 반환해 줬으면 좋겠다”라는 답답한 느낌을 느낀 적이 있을까요?

죄송합니다. 제공해주신 정보가 없어 번역할 내용이 없습니다. 일본어 note.com 게시글의 본문 청크 12/14를 제공해주시면, 100% 한국어 번역본을 출력해 드리겠습니다.

- 제브는 문서를 생성하지 않고, 주어진 문서에 대해 판단만 수행하는 AI 모델입니다.

제브의 작동 방식

제브는 대규모 언어 모델(LLM)을 기반으로 하지만, 특징은 문서 생성 능력이 없다는 것입니다. 즉, 사용자가 “〇〇에 대해 설명해 주세요”와 같이 문장을 지시하는 대신 “이 문서는 〇〇입니까?” 또는 “이 문장의 요약은 무엇입니까?”와 같이 판단을 묻는 질문에 답변하도록 설계되었습니다.

제브의 활용 예시

*   문서 품질 평가: 사용자가 작성한 문서의 문법, 표현, 논리성 등을 평가하고 개선점을 제안합니다.
*   요약: 긴 문서의 내용을 요약하고 중요한 내용을 추출합니다.
*   감성 분석: 문서에 포함된 감정(긍정, 부정, 중립 등)을 분석합니다.
*   사실 확인: 문서의 내용이 사실과 일치하는지 검증합니다.

제브의 장점

*   빠른 판단: 문서 생성 과정이 없으므로 판단이 매우 빠릅니다.
*   객관적인 평가: LLM의 편향을 줄이고 보다 객관적인 평가가 가능합니다.
*   다양한 활용: 문서 품질 평가, 요약, 감성 분석 등 다양한 용도로 활용할 수 있습니다.

제브의 과제

*   지시의 모호성: 판단 기준이 모호한 경우 기대하는 결과가 나오지 않을 수 있습니다.
*   문맥 이해의 한계: 문서의 문맥을 완전히 이해하는 데 어려움이 있을 수 있습니다.

결론

제브는 문서 생성 능력이 없는 AI 모델로, 판단만 수행한다는 독특한 특징을 가지고 있습니다. 빠른 판단 능력과 객관적인 평가는 다양한 분야에서 활용될 것으로 기대됩니다.

참고

제브는 아직 개발 단계이며, 향후 개선을 통해 성능이 더욱 향상될 것으로 예상됩니다.

**ギン의 테크 일기 14**

LLM과 프로그래밍의 융합: 코드 생성의 가능성

LLM의 발전은 눈에 띄게 이루어지고 있으며, 프로그래밍 코드 생성에서도 큰 가능성을 가지고 있습니다. 저는 특정 작업을 LLM에 지시하여 코드의 뼈대를 자동으로 생성하고, 이를 기반으로 수정 및 개선해나가는 접근 방식을 시도하고 있습니다.

구체적으로, 파이썬 코드 생성에 집중하고 있습니다. 예를 들어, 간단한 웹 애플리케이션 제작이나 데이터 분석을 위한 스크립트 작성 등 다양한 상황에서 LLM의 활용이 기대됩니다.

하지만 현재 LLM이 생성하는 코드는 반드시 완벽하지는 않습니다. 생성된 코드를 그대로 사용하는 것이 아니라, 반드시 인간의 눈으로 확인하고, 필요한 경우 수정해야 합니다.

또한, LLM에 지시를 내릴 때는 명확하고 구체적인 지시를 주는 것이 중요합니다. 애매모호한 지시를 주게 되면 LLM은 기대하는 대로 코드를 생성하지 못합니다.

**출처:** [note 원문](https://note.com/magic_seal6661/n/n3ff996f8ca6a)

*번역: Gemma 3(.44) 초벌 + 교정 8청크*

[원문 보기](https://note.com/magic_seal6661/n/n3ff996f8ca6a) | 출처: note.com