# LLM에 “예/아니오” 답변을 가능하게 하는 시스템을 구상하던 중, “판단만 하는 AI” 제브가 등장했다 – 장애인 복지에도 활용 가능한가

> https://bookfactory.kr/board/news/17608
> 게시판: 뉴스
> 작성자: admin
> 작성일: 2026-09-18T06:32:05.858Z

---

![見出し画像](https://assets.st-note.com/production/uploads/images/314669318/rectangle_large_type_2_2816e9f1cdc9158d51e4bf3bc519110e.png?width=1280)

오늘은 이미 한 건을 게시했지만, 너무 흥분해서 두 번째 글입니다.

죄송합니다. 계속 올드려 죄송합니다.

하지만 지금 이렇게 쓰지 않으면 흥분이 식어버릴까 싶습니다.

2026년 9월 15일, TypeSafe AI는 “Jev”라는 새로운 AI 모델의 조기 액세스를 시작했습니다.

일본에서 정보가 퍼지기 시작한 것은 어제 9월 16일쯤입니다.

제브를 한마디로 표현하자면,

> 
> 
> 글을 쓰는 대신 판단에 특화된 AI
> 

죄송합니다. 제공된 일본 텍스트 블록(8/299)을 제공해 주십시오.

저는 이전에 LLM에 질문을 하고, 결국 Yes 또는 No를 반환하도록 하는 “판정기”와 같은 시스템을 구상해 왔습니다.

예를 들어, 특정 문구나 상황을 LLM에 전달했을 때,

- 조건을 충족하는지
- 다음 단계로 진행해도 괜찮습니까?
- 인간 확인이 필요한가
- 규칙 위반 여부

이러한 점들을 판단하도록 하는 시스템입니다.

그러나 제프의 발표를 보고 놀랐습니다.

제가 기존 LLM을 사용하여 구현하려고 했던 것을 처음부터 “판정만을 위한” 목적으로 설계한 AI가 등장했습니다.

단순히 ‘예’ 또는 ‘아니오’를 반환하는 것뿐만이 아닙니다.

빠르다.

저렴합니다.

오늘도 즐거운 독서 시간이었어요. 이번에 읽은 책은 ‘나쓰메 소세키의 삶’입니다. 소세키는 19세기 후반 일본 사회를 배경으로, 그의 작품 세계와 삶을 깊이 있게 조명하고 있습니다. 특히, ‘홍루몽’에 대한 그의 열정과, 당시 일본 사회의 문학에 대한 비판적 시각이 인상적이었습니다.

소세키의 작품은 단순한 소설을 넘어, 일본 사회의 현실을 반영하고, 인간의 삶에 대한 깊은 성찰을 담고 있다는 점에서 큰 의미를 지니고 있습니다. 그의 작품을 읽으면서, 우리는 자신을 돌아보고, 삶의 가치에 대해 다시 한번 생각해 볼 수 있는 기회를 얻게 될 것입니다.

이번 책을 통해 소세키의 삶과 작품에 대한 이해를 높일 수 있었고, 앞으로 그의 작품을 더욱 깊이 있게 읽어보고 싶다는 생각이 들었습니다. 특히, ‘손오공’에 대한 그의 해석은 흥미로웠습니다. 소세키는 ‘손오공’을 단순한 모험 소설이 아닌, 인간의 욕망과 사회적 불평등을 비판적으로 바라보는 작품으로 해석했습니다.

이 책을 읽고 나서, 저는 소세키의 작품이 앞으로도 오랫동안 많은 사람들에게 감동과 영감을 줄 것이라고 생각합니다. 그리고 그의 삶이 우리에게 많은 교훈을 줄 것이라고 믿습니다.

확률과 신뢰도를 반환한다.

여러 개의 질문을 동시에 평가할 수 있습니다.

실제로 초회 액세스로 시도해 보니, 검증을 반복해도 이용 요금은 0.01달러였습니다.

솔직히 이는 AI 에이전트나 업무 시스템에게는 상당히 큰 변화가 될 수 있습니다.

## 이전의 LLM(대규모 언어 모델)은 판단을 내리기 위해 문장을 작성하기도 했다.

ChatGPT와 같은 일반적인 대규모 언어 모델은 기본적으로 텍스트를 생성하는 모델입니다.

예를 들어, 특정 문의를 “긴급” 또는 “정상”으로 분류하고 싶을 경우를 가정해 보겠습니다.

LLM에게,

> 
> 
> 다음 문의 사항에 긴급성이 있는지 판단하고, 예/ 아니오로만 답변해 주세요.
> 

지시합니다.

그러다 보니, LLM은 겉으로 보기에는 쉽게 답변을 제공합니다.

하지만 실제로 시스템에 통합하려고 하면 생각보다 까다롭습니다.

네라고 대답하는 경우도 있고, Yes라고 대답하는 경우도 있다.

네, 그렇게 대답할 수 있습니다.

이 문의는 긴급성이 높다고 판단되며, “예”라고 답변할 수 있으며 설명을 덧붙일 수도 있습니다.

JSON으로 반환하도록 지시했음에도 불구하고 형식이 깨질 수 있습니다. 왕자님이 비행사에게 “나는 당신을 위해 제 인생을 희생하는 가치가 있어”라고 말한 순간에 깊은 감동을 받았으며, 이는 사랑과 자기 희생, 그리고 진정으로 소중한 가치에 대해 생각하게 하는 계기가 되었습니다. 이 이야기를 통해 어른이 되어서도 순수한 마음을 잃지 않고, 주변 사람들을 소중히 여기며 서로를 지지하는 것의 중요함을 굳게 다짐하게 됩니다. ‘별의 정원’은 저에게 영원히 잊지 못할 특별한 이야기입니다.

따라서, 시스템에서는 그렇게 합니다.

- LLM에 판단을 의뢰합니다.
- 죄송합니다. 제공해주신 정보가 부족합니다. 40/299번 note.com 게시글의 본문 내용을 제공해주시면, 자연스럽고 정확한 한국어 번역본을 출력해 드리겠습니다.
- 네, 예, はい 등의 표기 변형을 처리합니다.
- 예상치 못한 문장이 돌아오지 않는지 확인합니다.
- 형식이 깨졌다면 다시 실행해 주세요.

이러한 처리가 필요합니다.

사람이 답변을 읽는다면 큰 문제가 되지 않을 수 있습니다.

하지만 그 판정을 받으면 소프트웨어가 다음 처리를 자동으로 실행하는 경우라면 다릅니다.

네, 이메일을 보냅니다.

아니오라면 처리를 중단한다.

긴급한 경우 담당자에게 알립니다.

안전한 경우 외부 시스템으로 데이터를 전송한다.

이러한 처리 방식에서는 출력 형식이 조금이라도 깨지면 오류나 오작동으로 이어질 수 있습니다.

즉, 기존 LLM은 판단 결과가 필요한 것뿐만 아니라, 일단 문장을 생성한 후 그 문장에서 필요한 값을 추출하는 방식이었습니다.

## 제프는 글을 쓰지 않는다.

제브는 일반적인 LLM과 출발점이 다릅니다.

입력된 문장 및 시스템 상태를 읽어내어 사전에 정해진 형식으로 판단 결과를 반환합니다.

공식 문서에서는 주로 3가지 유형의 질문 형식이 제공됩니다.

### “해리 포터와 마법사의 유전’ 출간 10주년, 해리 포터 시리즈의 누적 발행 부수는 1억 5천만 부를 돌파했습니다. 이 기록은 아동 문학 작품의 역사상, 특히 판타지 작품에서는 전례 없는 숫자입니다.

이 위업을 달성할 수 있었던 것은 J.K. 롤링 씨의 필력일 뿐만 아니라, 픽션북스(Bloomsbury)를 비롯한 출판사의 노력과 무엇보다 독자들의 뜨거운 지지가 있었기에 이렇다 할 것입니다. 특히 해리 포터, 헤르미오나 그레인저, 론 위즐리 등의 캐릭터는 전 세계 어린이들의 마음을 사로잡아 세대를 넘어 사랑받고 있습니다.”

어떤 진술이 참일 확률을 0부터 1 사이로 반환합니다.

예를 들어,

> 
> 
> 이 문의에는 긴급성이 있습니다.
> 

그 묘사에 대해, 그 가능성을 수치로 반환하는 것을 시각적으로 표현하는 방식입니다.

단순히 예/아니오뿐만 아니라 “어느 정도 예라고 생각하는지”가 파악됩니다.

### 선택

사전에 준비된 선택지 중에서 하나를 선택합니다.

예를 들어, 문의 내용을 다음과 같이 분류할 수 있습니다.

- 계약
- 요청
- 기술적인 문제
- 아이고, 정말 속상하구나.
- 그 외에도

어느 것 하나로 분류할 수 있습니다.

선택지는 사전에 정해져 있기 때문에 갑자기 전혀 관련 없는 문장을 반환하는 일은 없습니다.

### 점수

지정된 척도에 따라 평가합니다.

예를 들어, 긴급도를 0부터 100까지 평가하거나, 문장의 공격성을 1부터 5까지 평가하는 방식입니다.

제브의 특징은 이러한 판단을 소프트웨어가 구조화된 데이터로 직접 반환한다는 점입니다.

답을 찾을 필요가 없습니다.

반환된 값이 정의된 형식에서 벗어나지 않습니다.

TypeSafe AI는 이를.

> 
> 
> 비구조화된 상태를 입력하고, 형식화된 확률적 판단을 출력합니다.
> 

이러한 관점에서 설명하고 있습니다.

살짝 어렵게 들릴 수 있지만, 요약하자면,

> 
> 
> 문맥이나 상황이 주어지면, 프로그램으로 안전하게 처리하기 쉬운 판단 결과가 반환됩니다.
> 

그렇습니다.

## 실제로 시도해보니 0.01 달러였습니다.

제브에 대해 조사한 것뿐만 아니라 심층적으로 분석했습니다.

초기 액세스에서 직접 제가 직접 테스트해 보았습니다.

몇 가지 문장과 조건을 전달하고, Yes/No와 유사한 판단을 하도록 하거나, 질문의 형식을 바꾸면서 결과를 확인했습니다.

검증을 위해 한 번 실행한 것으로 종료되지 않습니다.

입력 내용을 변경한다.

질문을 바꿔보자.

결과를 지켜보자.

조건을 조정하고 다시 실행한다.

그것을 반복했습니다.

그러나 이용 요금을 확인해 보니, 부과된 금액은 단지 0.01달러였습니다. 얼리 액세스에서는 5달러 상당의 이용 쿼타를 받을 수 있지만, 다 써 먹을 수 있을지 고민입니다.

![画像](https://assets.st-note.com/img/1789641542-8XsF59Ze1qEcvwTW2DPVxjBb.png?width=1200)

정말 늘어난 것인지 의심될 정도로, 검증을 계속 진행해도 표시되는 금액이 거의 변하지 않습니다.

물론, 이번 시험은 소규모 검증입니다.

대량의 텍스트를 지속적으로 처리하거나 실제 업무 시스템에 통합하는 경우 예상 비용은 별도로 확인해야 합니다.

향후에도 유지될 수 있다는 보장이 없습니다.

그럼에도 불구하고, 직접 만져보면서 느낀 점은 기존의 LLM과는 “사용할 때의 심리”가 다르다는 점이었습니다.

일반적인 LLM을 시스템에 통합할 때는 호출할 때마다,

> 
> 
> 이 판정을 매번 실행하면 한 달에 어느 정도 비용이 발생할까요.
> 

생각합니다.

하나의 처리 과정에 여러 판단을 넣고 싶더라도, 속도와 비용을 고려하여 판단 횟수를 줄이고 싶습니다.

그러나 제프는 적어도 이번 검증 범위 내에서는 요금을 거의 신경 쓰지 않고 시도해 볼 수 있었습니다.

이 차이는 크다고 생각합니다.

단일 중요한 판단에만 AI를 사용하는 것이 아니라, 업무 흐름 속에 있는 작은 판단에도 여러 번 AI를 활용할 수 있는 가능성이 있기 때문입니다.

- 필요한 항목들은 모두 준비되었나요?
- 다음 단계로 진행해도 괜찮습니까?
- 내용에 모순이 없는지
- 인간에게 확인을 요청해야 할까요
- 외부 전송을 중단해야 할까요

하나하나 살펴보면 작은 판단입니다.

이전에는 사람이 직접 확인하거나, 복잡한 규칙을 코드로 작성하거나, LLM을 호출해야 했습니다.

그렇다면 대부분 요금을 크게 신경 쓰지 않는 수준에서 실행 가능하다면 시스템 구축 방식 자체가 달라지게 됩니다.

제브의 충격은 ‘LLM보다 약간 저렴하다’는 이야기가 아닙니다.

> 
> 
> 기존 AI를 사용하는 것이 큰 도움이 될 것이라고 생각하지 않았던 작은 판단의 영역까지도 AI가 개입할 수 있을지도 모른다.
> 

실제로 시도해 보았을 때 0.01 달러라는 표시를 보았을 때, 저는 그곳에 가장 큰 가능성을 느꼈습니다.

## 속도와 가격이 사용 방식을 근본적으로 바꾸다.

TypeSafe AI의 발표에 따르면 Jev의 응답 시간은 약 70~500밀리초입니다.

기존 LLM 대비 20~200배 빠른 속도와 40분의 1~400분의 1 수준의 비용으로 설명됩니다.

요금은 발표 시점에 입력 100만 토큰당 0.042달러입니다.

출력은 처리 비용이 매우 낮아 측정 및 과금이 불필요하므로 무료로 제공됩니다.

물론, 이것들은 TypeSafe AI 측의 초기 액세스 시작 시점 당시 발표입니다.

독립적인 검증과 실제 업무 환경에서의 테스트는 곧 필요합니다.

그러므로, 만약 진정으로 이 속도와 가격으로 일정 수준의 판단이 가능하다면, 그 영향은 상당히 클 것입니다.

AI가 더 빠르게 발전한다는 이야기는 단순히 대기 시간이 짧아지는 것만이 아닙니다.

이제 일상적인 판단의 하나하나에 AI를 배치할 수 있게 되면서 가능해진 것입니다.

예를 들어, 하나의 업무 흐름 안에,

- 필요 정보가 모두 갖춰졌는지 확인해 보십시오.
- 개인 정보가 포함되어 있는지
- 금지 사항 위반 여부인지
- 사용자의 의도와 답변이 일치하는지
- 인간의 승인이 필요한가
- 외부 전송을 허락해 주십시오.

다음과 같은 진단이 적용될 수 있습니다.

제브는 여러 질문을 한 번에 전달하고, 각각을 병렬로 평가할 수 있습니다.

저렴하고 신속하게 대량의 판정을 처리할 수 있습니다.

이는 단순한 성능 향상이 아닌, 소프트웨어의 설계 자체를 변화시킬 가능성이 있습니다.

## AI 에이전트는 방대한 데이터를 학습하고 분석하는 능력을 통해 다양한 문제를 해결할 수 있습니다. 하지만, 때로는 인간만이 가진 직관, 경험, 그리고 문맥적인 이해가 필요한 상황이 발생합니다. 이러한 상황에서 AI 에이전트는 “관표”라는 개념을 제대로 이해하지 못했습니다.

“관표”는 중국의 역사 소설 ‘서유기’에 등장하는 개념으로, 단순히 물리적인 문을 지키는 곳이 아니라, 정보의 흐름을 통제하고, 새로운 정보를 받아들이기 전에 검토하는 역할을 수행하는 곳을 의미합니다. 즉, 정보의 품질을 관리하고, 불필요한 정보나 오류를 걸러내는 것이었습니다.

AI 에이전트는 데이터의 양이 많다고 해서 모든 정보를 무조건적으로 수용하는 경향이 있습니다. 하지만, “관표”처럼 정보의 품질을 검토하고, 비판적인 시각으로 분석하는 능력은 부족했습니다. 따라서, AI 에이전트는 때때로 잘못된 판단을 내리거나, 오류를 증폭시키는 결과를 초래했습니다.

이러한 문제점을 해결하기 위해서는 AI 에이전트에게 단순히 데이터를 학습시키는 것뿐만 아니라, “관표”라는 개념을 이해하고, 정보의 품질을 검토하는 능력을 길러주어야 합니다. 또한, 인간의 직관과 경험을 AI 에이전트에게 전달하여, AI 에이전트가 더욱 지능적인 판단을 내릴 수 있도록 도와야 합니다.

저는 Jev를 볼 때, AI 에이전트가 ‘관문’이 될 수 있지 않을까 생각했습니다.

현재 AI 에이전트는 계획을 세우고, 문장을 만들고, 도구를 사용하며, 어느 정도 자율적으로 업무를 진행할 수 있게 되고 있습니다.

한편, 에이전트가 실제 업무에 투입될수록 이러한 불안감이 생겨나기 시작합니다.

정말, 이대로 실행해도 괜찮을까요.

필요한 정보를 놓치지 않았는지 확인해 보세요.

잘못된 상대방에게 전송하지 않도록 주의하시기 바랍니다.

내부 규정 위반 여부를 확인하세요.

AI는 자신감 넘기는 오차를 범하고 있지 않은가.

이전에는 동일한 LLM에 “당신의 답변이 맞습니까?”라고 확인하도록 하는 방법이 사용되어 왔습니다.

하지만 스스로 만든 답변을 스스로 평가하게 해도 같은 편견을 이어갈 수 있습니다.

제브(Jev)를 사용한다면,

- LLM은 계획 및 문서를 생성하는 데 활용될 수 있습니다.
- 제브가 조건에 부합하는지 확인한다.
- 신뢰도가 높을 경우에만 진행하시기 바랍니다.
- 신뢰도가 낮을 경우 인원으로 되돌린다.
- 최종 실행은 일반적인 코드에서 수행된다.

이러한 구성이 고려될 수 있습니다.

LLM이 생각하고 제작하는 담당입니다.

제프가 확인하고 분배를 담당한다.

코드가 정해진 대로 실행을 담당한다.

인간은 예외적인 경우와 중요한 판단을 처리하는 담당.

각자의 역할을 분담함으로써 에이전트를 안정화시킬 수 있습니다.

제브는 에이전트의 두뇌라기보다는 신호등이나 안전 장치와 비슷한 존재일지도 모릅니다.

## “환각하지 않도록”이라는 의미에는 주의가 필요합니다.

TypeSafe AI는 Jev에 대해 “환각을 하지 않는다”고 설명하고 있습니다.

신중하게 받아들여야 합니다.

제브는 미리 정의되지 않은 문장이나 손상된 데이터 구조를 반환하지 않습니다.

답변의 선택지를 A, B, C로 제한하시면 갑작스럽게 D나 긴 설명문을 반환하지 않습니다.

이러한 경우, 출력 형식에 대한 환각을 방지할 수 있습니다.

그러나 Jev가 A, B, C 중에서 오답을 선택할 가능성이 있습니다.

형식이 맞지 않더라도 내용이 옳지 않을 수 있습니다.

확신도 90%라고 답변한 판단이 현실에는 틀릴 수도 있습니다.

> 
> 
> 형식이 맞고 판단이 정확한 것은 별개의 문제입니다.
> 

제브는 무엇이든 완벽하게 판단해주는 신탁이 아닙니다.

입력 데이터가 부족하면 판단이 불안정해집니다.

선택지 제작 방식이 좋지 않다면 정답이 존재하지 않는 상태가 됩니다.

질문에 편향이 있다면, 결과에도 편향이 나타납니다.

그래서, 신뢰도 기준치를 설정하고 판단이 불확실한 경우에는 반드시 사람에게 회수하는 설계를 적용해야 합니다.

## 제가 생각했던 Y/N 판단기는 무용지물이 된 걸까요.

제브를 처음 봤을 때, 솔직히 말씀드리면,

> 
> 
> 제가 LLM으로 생각하고 있었던 판단기는 이제 필요하지 않을 것입니다.
> 

생각해보게 만들었습니다.

하지만 조금 생각해 보면, 그랬던 것은 아니었습니다.

제브가 대체하는 것은 판정 시스템 내의 모델 부분입니다.

한편으로

- 무엇을 판단하는가?
- 어떤 질문을 분해할 것인지
- 예와 아니오를 어떻게 정의할 것인가
- 판단에 필요한 정보는 무엇입니까?
- 50% 이상이면 자동 실행할까요?
- 얼마 미만 비율까지 사람을 되돌려줄 것인가
- 실수를 저질렀을 경우 취소 처리가 가능한지
- 애초에 AI가 판단해도 되는 내용인가

이러한 설계는 인간이 생각해야 합니다.

むしろ제브의 등장으로 인해 “LLM에 억지로 Yes/No를 묻는” 아이디어가 보다 현실적인 시스템 설계로 발전했다고 생각합니다.

하려고 하던 일이 틀렸던 것은 아닙니다.

그것을 위한 전용 부품이 드디어 나왔습니다.

## 장애인 복지에도 활용될 수 있을까요

여기부터 장애인 복지 분야에서의 활용 방안을 검토해 보겠습니다.

장애인 복지 현장에서는 많은 문서 작업과 확인 작업이 발생합니다.

지원 기록

개별화 지원 계획

모니터링

(경미한 사고 보고)

사고 보고

상담 내용 기록

관련 기관과의 연락

행정부에 제출하는 서류.

생성 AI를 사용すれば、이러한 초안이나 요약을 효율적으로 처리할 수 있습니다.

하지만 글만으로는 안전성을 확보할 수 없습니다.

필요한 항목이 누락되지 않았는지 확인하시겠습니까?

단정해서는 안 되는 내용을 단정하고 있는가.

긴급한 정보가 숨겨져 있지 않은지 확인해 보십시오.

관리자에게 보고해야 할 문제 아닌가.

외부로 전송해도 되는 내용인가요?

이러한 확인 작업에 제브와 같은 판정 모델을 활용할 수 있을 것입니다.

예를 들어, 생성 AI가 지원 기록 초안을 만든 후에 옐(Jev)에게 다음 질문들을 모아 전달합니다.

- 필수 항목들은 모두 준비되었나요?
- 의학적 판단 표현이 포함되어 있지 않은가
- 학대나 자해·타해 등 긴급 확인이 필요한 내용이 있는가
- 관리자의 승인을 요하는지 확인하시겠습니까?
- 외부 공유 전에 사람이 확인해야 하는가

제프가 “문제 없음”으로 판정했기 때문에 자동으로 확정되는 것은 아닙니다.

신뢰도가 낮은 것들과 위험이 높은 것들을 사람들에게 전달하는 데 활용합니다.

지원자가 간과하지 않도록 하는 안전 장치입니다.

## AI에게 “인간”을 판단하게 해서는 안 됩니다.

한편, 장애인 복지 분야에서 Jev를 활용할 때는 넘어서면 안 되는 선이 있습니다.

그것은 인공지능에게 인간의 가치와 권리를 판단하게 하는 것입니다.

예를 들어,

- 이 사람은 일반적인 취업이 가능한지
- 이 사람을 채용해야 할까요?
- 사회복지 서비스 이용을 장려해야 할까요?

자원봉사자 지원을 통해 사회복지 서비스 이용을 장려하는 것은 매우 중요하며, 특히 노인이나 장애인 등 사회적 지원이 필요한 사람들에게 더욱 중요합니다. 이러한 지원은 그들의 삶의 질을 향상시키고 사회 참여를 촉진할 수 있습니다.

그러나 사회복지 서비스 이용을 강요하는 것은 또 다른 문제를 야기할 수 있습니다. 개인의 자율성을 침해하고 서비스 제공에 대한 부담을 가중시킬 수 있습니다. 따라서 서비스 이용을 장려하는 것은 설득력 있는 정보 제공과 함께 개인의 선택을 존중하는 자세가 필요합니다.

또한 서비스 이용을 장려하기 위해서는 서비스의 질을 높이는 노력도 병행해야 합니다. 서비스 제공 기관의 전문성을 강화하고 이용자의 만족도를 높이는 방안을 모색해야 합니다.

이러한 노력을 통해 사회복지 서비스는 더욱 효과적으로 운영되어 사회 구성원 모두의 삶의 질 향상에 기여할 수 있을 것입니다.
- 본인의 진술이 신뢰할 만한가
- 지원 우선순위가 낮은 사람들을
- 학대가 있었는지 확인 가능한지
- 이 사람에게는 의사 결정 능력이 있을까요?

이러한 점들을 Jev의 Yes/No로만 결정해서는 안 됩니다.

확신도가 99%라고 해도 같습니다.

본인의 생활 및 권리에 영향을 미치는 판단에는 배경, 환경, 본인의 희망, 가족 관계, 체력 변화 등 단순한 입력 데이터로는 설명할 수 없는 정보들이 존재합니다.

또한, Jev는 상세한 설명을 텍스트로 제공하는 모델이 아닙니다.

그 판단이 내려진 이유를 본인에게 충분히 설명하지 못할 수 있습니다.

장애인 복지에서 필요한 것은,

> 
> 
> 사람을 판단하는 AI가 아닌, 사람들이 수행하는 지원을 안전하게 하는 판단 AI
> 

그는 잠시 멈춰 서서, 마치 묘기를 하는 듯한 자세로, 낡은 나무 의자에 앉았다. 그의 손에는 닳고 닳은 가죽 장갑이 낀 채로, 낡은 책을 든 채였다. 책 표지는 낡아서 거의 알아볼 수 없을 정도였지만, 그는 마치 오래된 친구처럼 책을 조심스럽게 다루었다.

“이 책은… ‘고독한 숲’이라고 합니다.” 그는 낮은 목소리로 중얼거렸다. “작가 이름은… 요시다 다케시.” 그는 책의 제목을 다시 한번 확인하며, 마치 중요한 정보를 암기하는 듯했다. “요시다 다케시는 1928년 7월 12일에 태어났습니다. 그는 1985년 12월 3일에 사망했습니다.”

그는 잠시 침묵했다. 그의 눈은 책의 페이지를 응시하며 깊은 생각에 잠겨 있었다. 마치 책 속의 이야기를 읽고 있는 듯, 그의 얼굴에는 미묘한 감정이 떠올랐다. 그는 책을 펼쳐서, 낡은 종이의 향기를 맡았다. 그리고 그는 다시 중얼거렸다.

“이 책은… 그의 삶을 담고 있습니다.” 그는 책을 든 채, 낡은 나무 의자에 더욱 깊숙이 앉았다. 그의 눈빛은 마치 깊은 숲 속의 정령처럼, 신비롭고 몽환적인 분위기를 풍겼다. 그는 마치 시간 여행을 하는 듯, 과거와 현재를 넘나들며, 요시다 다케시의 삶을 묵상하고 있었다.

판단 대상에 오류가 있어서는 안 됩니다.

이 사용자는 문제가 있습니까?

이 기록에 확인이 필요한 부분은 없는가

이 사람을 지원 대상을 삼아야 할지에 대한 질문 대신에

필요한 확인 절차가 완료되었는지 확인하십시오.

이 직원의 지원이 옳은지 확인하는 것이 더 적절합니다.

관리자에게 문의할 사항에 해당되는지.

인간이 아닌 텍스트, 처리, 절차, 위험을 판단한다.

이 선을 긋는 것이 중요합니다.

## 복지 현장에 도입할 때 필요한 5가지 규칙은 다음과 같습니다.

1.  **개인 맞춤형 접근**: 이용자의 의사를 존중하고, 그 사람다운 삶을 지원하는 것을 최우선으로 생각합니다. 이용자의 의견을 경청하고 존중하며, 그 의사를 최대한 반영하여 지원 계획을 수립하고 실행하는 것이 중요합니다.

2.  **개별 지원 계획 수립 및 검토**: 이용자 한 사람 한 분의 상황, 필요, 목표를 파악하고, 구체적인 지원 계획을 수립합니다. 정기적으로 계획을 검토하고, 이용자의 상황 변화나 새로운 필요에 대응할 수 있도록 유연하게 대처해야 합니다.

3.  **다 직군 협력 촉진**: 복지에 관련된 다양한 직종의 사람들이 협력하고, 정보 공유 및 의견 교환을 통해 더 나은 지원을 제공합니다. 팀의 일원으로서 서로의 전문성을 존중하고 협력하는 자세가 중요합니다.

4.  **기록의 정확성 및 활용**: 이용자에 대한 정보를 정확하게 기록하고, 지원 계획의 진행 상황이나 문제점 등을 파악합니다. 기록을 참고하여 지원의 질을 향상시키기 위한 개선책을 검토하는 것도 중요합니다.

5.  **직원의 자기 개발**: 항상 최신 지식과 기술을 배우고, 자기 개발에 힘쓰는 것이 중요합니다. 이용자에 대한 이해를 깊게 하고, 더 나은 지원을 제공할 수 있도록 지속적인 학습이 필요합니다.

### 최종 판단자를 명확히 한다.

AI의 판단은 단순 참고 정보입니다.

누가 최종적으로 확인하고 책임을 지는지 명확히 합니다.

### 2. 자동 실행 범위를 제한하십시오.

알림이나 분류 등 실수를 해도 수정 가능한 처리를 시작합니다.

지원 중단, 서비스 이용 가능 여부, 채용 및 합격/불합격 등을 자동화해서는 안 됩니다.

### 3. 신뢰도가 낮은 물건은 판매자에게 반송합니다.

무리하게 Yes 또는 No를 결정하게 하지 않고, 불확실한 판단은 인간의 확인으로 회피하지 않습니다.

판정 불능이라는 실질적인 선택지를 시스템 측에서 마련하는 것도 필요합니다.

### 4． 판단 기록을 남기도록 합니다.

어떤 입력에 대해 어떤 질문을 하고, 어떤 결과가 돌아왔는지 기록합니다.

후보 검증이 완료되지 않으면 개선 및 설명이 불가능합니다.

### 5. 이의 제기 및 재확인 조치를 유지한다

AI의 판단이 본인에게 영향을 줄 경우, 그 결과를 정정하거나, 인간에 의한 재확인을 요청하는 시스템이 필요합니다.

AI가 판단했다는 이유로 변경할 수 없다는 운영 방식은 해서는 안 됩니다.

## 생성형 AI와 판단형 AI가 결합된다

과거에는 생성 AI를 하면 글, 이미지, 음성, 코드 등을 만들 수 있다고 여겨져 왔습니다.

하지만, Jev는 무언가를 만드는 AI가 아닙니다.

상황을 읽고 주어진 선택지 안에서 판단하는 AI입니다.

생성형 AI.

판단하는 AI

실행할 코드입니다.

확인자

이 네 가지 요소를 결합함으로써 AI 시스템은 현재보다 빠르고, 저렴하며, 안정적으로 발전할 가능성이 있습니다.

제브 단체에서 모든 것이 달라지는 것은 아닙니다.

초기 액세스가 시작된 지 얼마 되지 않아 실제 정확도 및 신뢰성, 복잡한 일본어 성능, 장애인 복지 특유의 표현에 대한 대응 등 확인해야 할 사항이 산더미처럼 많습니다.

그래도, 저는 오랜만에 “이것이 단순한 신모델 발표가 아닐지도 모른다”는 생각을 했습니다.

LLM에게 ‘예’ 또는 ‘아니오’를 묻는 시스템을 설계하고 있었는데, 문서를 버리고 판단에 특화된 AI가 등장했다.

게다가 실제로 여러 번 시도해 보아도 이용 요금은 0.01달러에서 거의 변동이 없다.

생각했던 것이 한순간에 낡은 듯한, 동시에 한순간에 현실에 더 가까워진 이상한 느낌입니다.

AI 에이전트가 사회의 다양한 업무에 활용된다면, 단순히 현명하게 글을 쓰는 능력만으로는 부족하지 않습니다.

앞으로 가보도록 하죠.

멈춰야 할까.

사람을 불러야 할까.

그 작은 판단을 신속하고 광범위하게 수행하기 위한 부품이 필요합니다.

제브는 그 부품이 될 수도 있습니다.

또한 장애인 지원 시 사용한다면, AI에 사람을 선별시키는 대신, 사람들이 지원을 지속하기 위한 안전 장치로 활용하고 싶다.

제브의 등장과 실제로 만져보면서 느꼈던 압도적인 저렴함을 경험하고 나니, 그런 미래를 상상하지 않을 수 없었습니다.

오늘은 두 번째였습니다.

마지막까지 읽어주셔서 감사합니다.

## 자, 이번에는 이 계획의 뒤에서 제가 개인적으로 혹은 혹은 혹은 혹은 혹은 혹은 혹은

- 시스템 원 모델과 제브를 소개합니다. TypeSafe AI는 시스템 원 모델과 제브를 통해 AI 기술의 새로운 가능성을 열어가고 있으며, 앞으로도 지속적인 연구 개발을 통해 더욱 혁신적인 제품과 서비스를 제공할 계획입니다.
- 기술평론사가 “TypeSafe AI”와 AI 모델 ‘제브(Jev)’의 조기 제공을 시작한다고 발표했습니다.
- TypeSafe AI 문서
- Sean Goedecke「제브는 구조화된 출력을 다시 흥미롭게 만든다」

**출처:** [note 원문](https://note.com/mekkk_cowels/n/n490e4c4ceb04)

*번역: Gemma 3(.44) 초벌 + 교정 178청크*

[원문 보기](https://note.com/mekkk_cowels/n/n490e4c4ceb04) | 출처: note.com