# 생각하는 AI에서 결정하는 AI로 – TypeSafe “Jev”가 제시하는 업무 시스템 내재화의 새로운 관례

> https://bookfactory.kr/board/news/17653
> 게시판: 뉴스
> 작성자: admin
> 작성일: 2026-09-18T11:07:53.403Z

---

![見出し画像](https://assets.st-note.com/production/uploads/images/314900753/rectangle_large_type_2_bad5c57e16e1e5d4e20b354861535a80.png?width=1280)

생성형 AI를 자사 시스템에 통합해 보았지만, 출력이 가끔씩 엉망이 되어 문제이고 있습니다.

최근에는 이런 상담을 많이 받아들이고 있습니다. ChatGPT와 같은 AI에게 채팅으로 질문하는 것은 편리하지만, 막상 업무 시스템 내부에서 “예” 또는 “아니오”라고 판단하게 하거나, 숫자를 반환하게 하려고 하면 갑자기 사용하기가 어려워집니다. 프롬프트를 개선해도 가끔 불필요한 서론이 붙거나, 기대했던 형식과 다른 답변이 돌아오기도 합니다. 저 또한 시스템 개발 현장에서 이 벽에 여러 번 부딪혀 왔습니다.

그 가운데 2026년 9월 18일, AI 스타트업 TypeSafe( 타입세프)社가 새로운 AI 모델 “Jev”을 발표했습니다. 문장을 만드는 것이 아니라 판단만으로 결과를 반환하는 데 특화된 모델입니다. 오늘 이 Jev를 통해 “생성 AI를 업무 시스템에 통합하는 것”의 본질과 우리 수탁 개발 현장에서 중요하게 생각하는 가치관을 전달하고자 합니다.

## 결론부터: Jev는 “지능형 if-then 문”을 만드는 AI입니다.

먼저 결론을 말씀드리겠습니다. Jev는 문장을 생성하는 대신, 모호한 질문에 대해 확률이나 범주를 반환하는 AI 모델입니다. 예를 들어 “이 이메일은 화가 난 고객으로부터 온 것인가?”라는 질문에 대해 “예”라는 문장이 아닌, 0에서 1 사이의 확률 또는 미리 정해진 선택지 중 어느 것에 해당하는지를 고속かつ低コスト으로 답변해 줍니다.

즉, Jev는 챗봇으로서 대화를 하기 위한 AI가 아닙니다. 업무 시스템 내부에서 “다음으로 무엇을 할 것인가”를 자동으로 결정하는 부품으로 사용하기 위한 AI입니다. 이 점을 이해하는 것이 이번 설명의 가장 중요한 기반이 됩니다.

## 2026년, 생성 AI의 “다음 단계”가 주목받는 배경이 될 것이다.

최근 몇 년 동안 ChatGPT를 비롯한 생성형 AI는 글쓰기, 요약, 아이디어 발상 등 다양한 용도로 급속하게 확산되었습니다. 우리와 같은 IT 위탁 개발 현장에서도 고객들로부터 “생성 AI를 자사의 핵심 시스템에 통합하고 싶다”는 요청을 다수 받게 되었습니다.

하지만 실제로 시스템에 통합하는 단계에서는 문제가 단순하지 않습니다. 생성 AI는 원래 인간이 읽기 위한 자연스러운 문장을 만드는 것을 목표로 훈련되어 있습니다. 따라서 프로그램이 기대하는 “정해진 형식의 답변”을 안정적으로 반환시키려면, 생각보다 많은 노력이 필요합니다.

구체적으로, 다음과 같은 과제에 자주 직면합니다.

- 출력 형식은 매번 미묘하게 다릅니다(같은 질문이라도 문장의 시작과 끝맺음이 달라짐).
- 예상했던 수치나 카테고리 대신 설명 문구가 반환되는 경우가 있습니다.
- 판단할 때마다 거대 모델을 호출하여 처리 속도와 비용이 증가합니다.
- 대량의 요청을 처리하는 업무 시스템에서는 이 불안정성이 누적되어 장애를 발생시킨다.

이러한 문제들은 생성 AI가 “나쁜” 것이 아니라, “글을 쓰는” 것과 “판단하는” 것은 본질적으로 다른 업무라는 점을 강조하는 이야기라고 생각합니다. Jev는 바로 이 “판단하는” 것에만 특화함으로써 이 문제에 정면으로 맞서는 모델이라고 할 수 있습니다.

## 현장 경험을 바탕으로 “출력 안정화”를 위한 노하우 (Experience)

오랫동안 정부, 공공기관의 시스템부터 민간 기업의 핵심 시스템에 이르기까지 다양한 외주 개발에 참여해 왔습니다. 생성 AI가 등장한 이후로는 이 “AI의 답변을 프로그램이 바로 사용할 수 있는 형태로 만드는”이라는 과제에 여러 번 맞닥뜨려 왔습니다.

지금까지 현장에서는 DSPy라는 파이썬 프레임워크를 주로 사용했습니다. DSPy는 대규모 언어 모델에 대해 “이러한 형식으로 답변해 주세요”와 같은 지시를 프로그램 측에서 어느 정도 통제할 수 있도록 하는 메커니즘입니다. 이를 활용하여 출력 형식을 최대한 안정화하고 업무 시스템에 통합 가능한 수준까지 발전시키는 작업을 반복적으로 수행해 왔습니다.

솔직히 말씀드리면, 이 작업은 결코 쉽지 않습니다. 프롬프트 미세 조정, 출력 검사 처리, 실패했을 경우 재시도 처리 등 본래 하고 싶었던 “업무 자동화” 그 자체보다 “AI의 출력을 숙달하는” 과정에 시간을 많이 할애하는 경우가 많습니다. 중소기업 고객님들께 상담을 받으실 때도, 이러한 숨겨진 노력이 비용으로 돌아오는 경우가 있어 고민의 원인이 되곤 했습니다.

Jev와 같이 “처음부터 판단만 반환하는 데 특화된 모델”이 등장하게 된 배경에는 이러한 현장의 어려움이 업계 전체에서 공유되고 있었다고 생각합니다. 문장을 만들어낸 후, 억지로 숫자를 추출하는 대신, 처음부터 숫자(확률)만 반환하도록 설계하는 것이죠. 아이디어 자체는 간단하지만, 실무의 부담을 크게 줄일 수 있는 잠재력을 느끼게 합니다.

## 제브의 작동 방식을 전문 용어 없이 설명하면 (전문성)

좀 더 구체적으로 Jev의 작동 방식에 대해 살펴보겠습니다.

제브에게는 쉬운 단어로 질문을 던집니다. 애매하거나 주관이 개입하기 쉬운 질문도 괜찮습니다. 예를 들어 “이 문의 내용은 긴급 대응이 필요한지 여부”와 같은 질문입니다. 제브는 이에 대해 사전에 정의된 선택지(긴급, 보통, 우선순위 낮음 등) 중 어느 것에 해당하는지 확률과 함께 답변합니다.

여기 중요한 점은, 반환되는 것이 “문장”이 아닌 “숫자나 카테고리”라는 점입니다. 프로그램은 0부터 1 사이의 숫자나, 정해진 카테고리 이름을 받기 위해 설계되었으며, 중간에 “알겠습니다. 정중한 어조로 이메일 답변 문구를 작성해 드릴까요?”와 같은 문장이 반환될 경우 예상치 못한 데이터 형식을 받아 처리 중단됩니다. 실제 개발 현장에서는 이러한 작은 오류가 시스템 장애의 원인이 되는 경우가 많습니다.

제브는 이러한 “형식 불일치”가 발생하지 않도록 설계된 점이 특징입니다. 지금까지 DSPy와 같은 프레임워크를 사용하여 외부에서 어느 정도 수작업으로 구현했던 것을 모델 자체가 적으로(표준 기능으로서) 수행할 수 있게 되었습니다. 그 결과, 처리 속도가 향상되고 비용도 절감되는 장점이 있습니다.

업무 시스템 내에서는 이러한 “판단” 상황이 다수 존재합니다.

- 문의 이메일 내용에 따라 적절한 부서로 분류하는 것
- 발주서와 청구서 내용이 일치하는지 확인한다.
- 거래 내용에 따라 부정 행위 가능성을 분류합니다.
- 사용자 입력이 이용약관 위반 여부를 판단합니다.

이것들은 모두 “문장을 만드는” 일이 아니라 “결정하는” 일입니다. Jev와 같은 모델은 이러한 상황에 특히 적합하다고 할 수 있습니다.

## 제브(Jev)를 만든 회사는 어떤 회사인가 (권위성)

Jev를 개발한 TypeSafe사에 대해 조금 더 자세히 설명드리겠습니다.

TypeSafe社를 이끌고 있는 것은 공동 창업자이자 CEO인 디오고 알메이다氏입니다. 알메이다氏は、OpenAI나 Google Brain에서 오랫동안 AI 연구에 참여해 온 인물로, ChatGPT, InstructGPT, RLHF(인간 피드백을 사용한 강화 학습)와 같은 현재 AI의 기반이 되는 기술 개발에 관여해 왔다고 소개됩니다. 즉, 현재 생성 AI 열풍의 중심에 있던 연구자가 다음 단계로 “판단에 특화된 AI” 개발에 주력하게 된 구조입니다.

TypeSafe社 자체는 2024년 상반기부터 개발을 진행해 온 비교적 새로운 회사입니다. 2026년 3월 시점에서 3,500만 달러 이상의 자금을 조달하고 있다는 정보도 있었으며, 2026년 1월부터는 일부의 선진적인 엔지니어링 팀을 대상으로 제한적인 접근을 제공하기 시작했습니다. 이번에 발표된 Jev는 그 연장선상에 위치하는 신 모델이라고 할 수 있습니다.

이러한 배경을 고려할 때, Jev는 단순한 화제의 중심을 만드는 제품이 아니라, 생성 AI 초창기를 만들어온 연구자들이 “다음 업무 시스템에 본격적으로 통합될 AI에는 무엇이 필요한가”라는 질문을 진지하게 고민한 결과로 나온 모델이라고 평가합니다.

## 솔직히 말씀드리면 아직 많이 모르는 부분입니다.

지금까지 Jev의 가능성에 대해 말씀드렸지만, 수탁 개발을 생계로 하는 입장에서라면 과장하지 않고 전달하고 싶은 부분들도 있습니다.

먼저, Jev는 최근에 발표된 모델입니다. 실제 기업이 이를 본번의 업무 시스템에 얼마나 깊숙이 통합하고 운영하고 있는지에 대한 공개된 사례는 아직 많지 않습니다. “환각(근거 없는 잘못된 답변)을 거의 발생시키지 않는다”는 설명도 있지만, 이는 앞으로 실제 운영을 통해 검증되는 단계라고 생각하는 것이 솔직하다는 것입니다.

또한, 일본어 사용감 및 일본 내 상용 시스템 도입 용이성에 대해서도 현재 시점에서는 정보가 제한적입니다. 해외 발 AI 모델이 일본어 맥락에서도 동일하게 높은 정확도를 발휘할 수 있을지는 실제로 검증해 보지 않으면 알 수 없는 부분입니다.

또한, TypeSafe社 자체도 아직 설립된 지가 짧고, 웨이트리스 형식으로 선진적인 개발팀으로부터 순차적으로 접근을 개방하는 단계에 있습니다. 앞으로 가격 체계 및 이용 조건이 어떻게 변화할지도 주시해야 합니다.

새로운 기술을 섣불리 받아들이기보다는 “자사의 업무의 어떤 부분에, 어떤 형태로 통합했을 때 의미가 있을까”를 면밀히 검토하는 것이 결국 가장 중요하다는 생각을 합니다. 이러한 검토의 과정에 바로 우리가 겪었던 수탁 개발 경험이 도움이 될 수 있는 경우가 많다고 생각합니다.

## 판단 특화형 AI는 어떤 회사에 적합한가

지금까지의 내용을 바탕으로 Jev와 같은 판단 특화형 AI가 특히 두각을 나타낼 만한 상황들을 정리해 보겠습니다.

- 문의 응대 및 내부 신청 등 “분배” 및 “초기 검토” 작업이 많이 발생하는 업무
- 수많은 거래 데이터와 로그를 직접 확인하는 데 어려움을 겪고 계신 업무가 많으신가요.
- 생성형 AI를 시도해본 결과, 출력의 불안정성이 걸림돌이 되어 시스템화를 포기하려던 업무였습니다.
- 판단의 정확도뿐만 아니라 처리 속도와 운영 비용 또한 중요하게 고려해야 할 업무입니다.

한편으로는 고객에게 제안 문서를 만들거나, 내부용 매뉴얼을 제작하는 등 “문서 자체를 만드는” 업무에는 기존처럼 ChatGPT와 같은 생성형 AI가 더 적합합니다. 목적에 따라 AI를 활용하는 것이 앞으로 더욱 중요해질 것이라고 생각합니다.

저희가 지금까지 협력해 온 북관주 지방의 제조업 고객들 중에도, 수주·발주 관리나 품질 검사 현장에서 “인적 판단”에 많은 시간을 쏟고 있는 경우가 많습니다. 이러한 업무는 바로 Jev와 같은 판단 특화형 AI가 그 역량을 발휘하기 좋은 영역이라고 생각합니다.

## 생성형 AI의 “다음 단계”를 함께 고민해 나갈까요?

생성형 AI를 어떻게 업무에 활용할지에 대한 주제는 앞으로도 계속해서 새로운 선택지가 등장할 것이라고 생각합니다. 중요한 것은 현재 화제가 되고 있는 AI를 그대로 도입하는 것이 아니라, 자사의 업무의 어디에, 어떤 형태로 통합했을 때 의미가 있는지, 하나하나 꼼꼼하게 살펴가는 것입니다.

저희는 정부 및 공공기관의 시스템 개발부터 민간 기업의 웹 제작, DX(디지털 전환) 컨설팅까지, 업무 현장에 밀착하여 시스템을 구축해 왔습니다. 이전에 “싸고도 가장 갖고 싶었던 사이트가 만들어졌다”는 기사에서 말씀드린 것처럼, 중요한 것은 새로운 기술 자체라기보다는 고객의 업무에 어떻게 녹여낼 수 있는가에 초점을 맞추고 있습니다. 이 기사도 함께 참고해주시면 저희의 외부 개발에 대한 접근 방식이 잘 전달될 것으로 생각합니다.

가격이 가장 저렴하게 책정되었지만, 내가 가장 갖고 싶었던 사이트가 되었다.

생성형 AI를 업무 시스템에 통합하거나, 판단 전문형 AI 활용에 대해 “우리 업무에도 활용될 수 있을지 궁금하다”는 단계라도 괜찮습니다. 부담 없이 LINE 공식 계정을 통해 상담해 주세요.

LINE 공식 계정으로 상담받으세요.

#타입세이프 #제브 #생성AI #디엑스 #업무시스템 #AI활용 #수탁개발 #시스템개발 #프롬프트 엔지니어링 #판단특화형AI #LLM #자동화 #IT수탁개발 #DSPy #업무효율화 #枥木현 오야마시 #중소기업 디엑스 #AI 도입

**출처:** [note 원문](https://note.com/tkk_tech/n/nc25cb005510f)

*번역: Gemma 3(.44) 초벌 + 교정 42청크*

[원문 보기](https://note.com/tkk_tech/n/nc25cb005510f) | 출처: note.com