“할루시네이션하지 않는다”라고 쓰여 있는 AI를 보게 되면, 저는 대체로 의심합니다.
대부분의 경우 “어렵게 되었습니다”라는 표현으로 바꾸었지만, 어색한 부분이 있습니다.
대부분은 “쉽지 않게 되었습니다”로 수정했습니다.
TypeSafe AI의 “제브(Jev)”는 그 표현 방식이 달랐다.
일어나는 것이 불가능하다고요.
또한, 구조상 그렇다는 설명을 하고 있습니다.
시스템을 읽어보니, 확실히 논리가 통했다.
동시에 오해의 소지가 있는 부분을 명확히 했다.
먼저, 일반적인 AI가 왜 거짓말을 하는지
전제부터 정리한다.
평범한 AI는 다음에 올 단어를 하나씩 골라 문장을 만든다.
일본의 수도는 “까지” 오면, 다음에 올 확률이 가장 높은 단어를 선택한다.
그것을 반복하십시오.
이 시스템에는 “모른다”라고 말할 수 있는 방법이 없다.
다음 말은 반드시 선택될 수밖에 없다.
그러므로, 존재하지 않는 논문의 이름과 존재하지 않는 조문의 번호도, 그럴듯한 형태로 나타난다.
단순히 자연스러운 표현으로 선택받는 까닭이다.
제브는 말을 곱씹지 않았다.
제브는 글을 쓰지 않는다.
이 점이 결정적으로 다릅니다.
제비에게 질문을 할 때는, 답변 선택지를 먼저 제가 전달합니다.
예를 들어 “이 문의는 어느 창구의 문제인지”를 묻는 경우 “청구”, “기술”, “기타”의 세 가지를 제공합니다.
돌아오는 것은 이 세 가지 중 하나입니다.
네 번째는 존재하지 않습니다.
선택지 외쪽으로 향하는 길은 없다.
단순히 주어진 상자 중 하나를 가리키고 있는 것뿐이므로, 말을 연결하여 답을 만들어내고 있는 것이 아니다.
TypeSafe는 이를 “형 오류와 스키마 불일치는 0%”라고 표현하며, 실제 측정값 대신 수학적으로 불가능하다는 주장을 하고 있다.
이 설명에 만족했다.
들어볼 수 있는 것은 3가지 종류뿐입니다.
그 부분은 들을 수 있는 것이 제한적입니다.
공식 문서에 따르면 세 가지 유형만이 존재한다.
선택하세요… 제시된 선택지 중에서 하나를 고르세요.
선택지는 최대 255개입니다.
점수(점수) … 단계로 평가한다.
2단계부터 10단계까지.
새로운(예/아니오) … 0부터 1 사이의 확률로 반환합니다.
요약 요청은 할 수 없습니다.
정답의 형태를 우리가 정할 수 없는 것은 본질적으로 물을 수 없는 것이다.
제약이 보이는 듯하지만, 그 제약こそ가 헛된 척할 수 없는 이유가 되고 있다.
표정과 본질은 일체이다.
바로 여기가 함정입니다.
중요한 것은 바로 이것입니다.
환청과 실수는 완전히 다른 이야기다.
공식 설명에도 이러한 취지 사항이 명시되어 있다.
스키마 외부의 값은 반환할 수 없습니다. 하지만 올바른 형식으로 잘못된 값을 반환하는 경우가 있습니다.
구체적으로 말씀드리자면 다음과 같습니다.
요청 사항, 기술, 기타 세 가지를 전달했다.
돌려받은 것은 기술이었다.
형식적으로는 100% 정확합니다.
존재하지 않는 창구의 이름은 절대로 나타나지 않는다.
하지만 그 문의가 사실 청구 건이었을 수도 있습니다.
결국 사라지는 것은 “엉뚱한 방식으로 돌아오는” 문제일 뿐이며, “판단을 잘못하는” 문제는 여전히 남아 있다.
여기 장소를 혼동하면 사고가 날 수 있습니다.
환각을 일으키지 않기 때문에 확인할 필요가 없다는 점을 강조하는 이유입니다.
형식이 항상 정확하고 출력이 전부 그것처럼 보입니다.
확인하기 어려워지는 측면이 있습니다.
평범한 AI라면 어색한 답변은 문장 자체로도 부자연스러움을 알아챌 수 있을 것이다.
제브의 답변은 0.93 또는 “기술”이다.
잘못했더라도, 외관은 전혀 달라지지 않는다.
그것을 위한 신뢰도
여기 잘 만들어진 점은 신뢰도가 함께 돌아온다는 것이다.
제브는 정답뿐만 아니라, 그 정답에 대한 자신감 수준을 수치로 제시한다.
또한 TypeSafe는 이러한 확률을 실제 결과에 맞춰 조정하고 있다고 설명하고 있다.
0.9가 나온 것은 대략 90% 정도의 정확도를 목표로 하고 있다는 의미입니다.
이 설계대로라면 이렇게 운영할 수 있습니다.
- 신뢰도가 높은 항목은 자동으로 처리합니다.
- 사람은 낮은 것만 본다.
사람 모두가 모든 것을 보거나, 모든 것을 완전히 맡길 필요는 없다.
선을 그릴 수 있다.
여기서가 실무적으로 가장 유용하다고 생각합니다.
공식을 스스로 작성한 취약 분야에 대해, 많은 질문이 들어오는 것이 놀랍습니다. “이 공식이 이해가 안 돼…”라고 어려움을 겪는 분들도 있습니다.
공식을 이해하기 위한 몇 가지 포인트는 다음과 같습니다.
1. **공식의 배경을 이해한다**: 공식이 왜 태어났는지, 어떤 문제를 해결하기 위해 사용되는지 아는 것이 공식의 이해를 깊게 합니다.
2. **공식의 전제 조건을 이해한다**: 공식을 사용하기 위해 어떤 조건이 충족되는지 이해하는 것이 중요합니다.
3. **공식을 실제로 사용해 본다**: 공식을 실제로 사용해 보면서 공식의 작용을 실감하고 이해를 깊게 할 수 있습니다.
4. **공식을 다양한 문제에 적용해 본다**: 공식을 다양한 문제에 적용해 보면서 공식의 활용성을 이해할 수 있습니다.
특히, **『통계학 입문』** 부분에서 질문이 많은 것 같습니다.
이 책은 통계학의 기초를 배우는 데 매우 중요한 책이지만, 내용이 난해하여 이해가 어렵게 느껴지는 분들도 있을 것입니다.
이 책을 읽을 때는 먼저, 통계학의 기본적인 개념을 이해하는 것부터 시작하는 것을 추천합니다.
또한, 이 책을 참고하여 다양한 통계학 예제를 풀어보는 것도 효과적입니다.
만약 공식의 이해에 어려움을 겪고 있다면, 주저하지 마시고 질문해주세요.
우리 모두 함께 공식을 이해해 나가도록 합시다.
또 한 가지 인상 깊었던 점은, 자신이 어려워하는 부분들을 공식적으로 목록으로 공개하고 있다는 점입니다.
읽고 나니 상당히 구체적이었다.
- 수를 세는 것이 어렵다. 문자 수, 단어의 빈도, 항목 수. 양이 증가할수록 오차가 커진다.
- 날짜는 순서대로의 양으로 취급할 수 없으며, 글자 그대로 읽기 때문에 앞뒤 관계 및 기간 계산이 불안정합니다.
- 중복된 부정어와 간접적인 표현 방식은 정확도를 떨어뜨립니다.
- 관련 없는 정보가 섞이면 정확도가 떨어집니다.
- 적대적 입력에 대한 방어가 부재하다. 내재된 지시사항에 따라 유도될 수 있다.
마지막 하나는 실무에서 사용한다면 특히 주의가 필요합니다.
외부에서 들어온 문서를 그대로 판별하게 하는 것은 이 점을 염두에 두고 설계하는 것이 옳다.
읽고 나온 결론
“할루시네이션하지 않기’라는 표현은 정확하지만 오해를 불러일으키기 쉬운 것으로 생각했다.
정확히는 이렇게 되어 있습니다.
돌려받는 형태는 반드시 정확하며, 돌려받는 내용이 반드시 정확한 것은 아니다.
또한, 내용의 정확성을 확인하기 위한 신뢰도 기능이 제공됩니다.
일반적인 AI보다 더 위험할 수 있다고 생각한다.
겉모습만으로는 실수를 알아차릴 수 없는 말일 것입니다.
저는 아직 줄을 서서 만져보지 않았습니다.
실제 정확성과 신뢰도는 움직인 후 작성한다.
이 시리즈에 대해
이 기사는 TypeSafe AI의 “제브”에 관한 총 8부작 시리즈의 세 번째 에피소드입니다.
각각 다른 각도에서 다루고 있어서, 궁금한 점부터 읽어봐도 괜찮습니다.
예, 우선 이 기획의 목적은 독자가 『별의 정원』을 더 깊이 이해하고, 자신만의 삶과 가치관에 대해 성찰하는 계기가 되도록 하는 것입니다.
구체적으로는, 이야기의 배경에 숨겨진 철학적 요소와 앙리 뒤랑드르가 전달하고자 했던 메시지를 심층적으로 탐구합니다. 예를 들어, 이야기 속 다양한 등장인물들의 심리 묘사나 그들이 처한 상황을 분석함으로써 독자는 자신만의 삶과 연결되는 부분을 발견하고, 더욱 깊이 있는 자기 이해를 얻을 수 있을 것입니다.
또한, 이야기를 펼쳐진 배경인 사탄틴 마을과 왕자가 여행하던 별의 환경 등 이야기의 배경에 있는 요소들에 대해서도 상세히 설명합니다. 이러한 요소들을 이해함으로써 독자는 이야기의 세계관에 몰입하고, 더욱 풍부한 독서 경험을 얻을 수 있습니다.
더 나아가, 이야기를 해석하는 데 도움이 되는 상징적인 의미를 지닌 단어와 모티프, 그리고 이야기 전체의 주제에 대해 고찰합니다. 예를 들어, 『별의 정원』에서 ‘별’은 소중한 사람이나 추억을 상징할 수 있습니다.
마지막으로, 독자가 『별의 정원』을 더욱 깊이 이해하고, 자신만의 삶과 가치관에 대해 성찰하는 계기가 되도록 다양한 각도에서 분석과 고찰을 제공함으로써 이 기획을 성공적으로 이끌어 나가고 싶습니다.
- ## 시스템 원 모델즈 및 Jev 소개 (TypeSafe AI 공식 블로그)
최근 TypeSafe AI는 시스템 원 모델즈(System One Models)와 Jev라는 두 개의 혁신적인 AI 모델을 소개하며 큰 관심을 받고 있습니다. 이 두 모델은 모두 TypeSafe AI의 TypeForm AI 플랫폼에 통합되어, 더욱 안전하고 효율적인 AI 활용 경험을 제공할 예정입니다.
시스템 원 모델즈(System One Models)는 특히 대규모 언어 모델(LLM)의 성능을 향상시키는 데 중점을 둔 모델입니다. 시스템 원 모델즈는 다양한 산업 분야에서 활용될 수 있도록 설계되었으며, 특히 금융, 법률, 의료 등 규제가 엄격한 분야에서 안전하고 신뢰할 수 있는 AI 솔루션을 제공할 것으로 기대됩니다. TypeSafe AI의 TypeForm AI 플랫폼을 통해 사용자들이 쉽게 접근하고 활용할 수 있도록 지원합니다.
Jev는 시스템 원 모델즈와 함께 TypeSafe AI 플랫폼에서 제공되는 또 다른 AI 모델입니다. Jev는 특히 데이터 분석 및 시각화에 특화되어 있으며, 복잡한 데이터를 빠르게 이해하고 분석하여 의사 결정을 지원하는 데 도움을 줍니다. TypeSafe AI의 TypeForm AI 플랫폼을 통해 사용자들이 편리하게 활용할 수 있습니다.
TypeSafe AI는 시스템 원 모델즈와 Jev를 통해 TypeForm AI 플랫폼의 기능을 더욱 확장하고, 사용자들에게 더욱 강력하고 유용한 AI 솔루션을 제공할 계획입니다. 앞으로 TypeSafe AI는 이러한 AI 모델들을 지속적으로 발전시키고, 다양한 산업 분야에 적용될 수 있도록 노력할 것입니다.
- 시스템 원 (TypeSafe AI 공식 문서) https://docs.typesafe.ai/concepts/system-one
- 제브 1.13의 약점 분야 (TypeSafe AI 공식 문서) https://docs.typesafe.ai/model-jaggedness/jev-1.13
본 기사는 2026년 9월 20일 시점의 공식 자료를 바탕으로 작성되었습니다.
저자는 초회 접근 순번에 예약 대기 중이며, 실제로 Jev를 작동시키지 않았습니다.
사양은 변경될 수 있습니다.
본문 청크 99/101: 도입 검토 시에는 반드시 공식 문서를 통해 최신 정보를 확인하시기 바랍니다.
이것은 제가 ‘별의 정원사’를 읽고 감동했을 때의 일입니다. 정원사의 말은 저에게 소중한 것을 알려주었습니다. ‘가장 중요한 것은 멀리까지 볼 수 있는 것’ ‘마음으로 보는 것만 가치가 있는 것’ 이런 말들은 지금도 제 마음속에 깊이 새겨져 있습니다. 이 책은 저에게 특별한 존재입니다. 이 책을 읽고 저는 제 인생에 대해 생각하게 되었습니다. 무엇이 중요한지, 무엇을 하고 싶은지, 자신에게 질문하게 되었습니다. ‘별의 정원사’는 저에게 꿈과 희망을 주었습니다. 그리고 이 책을 통해 저는 많은 것을 배우었습니다. 이 책은 저에게 소중한 보물입니다.
숫자나 날짜는 반드시 직접 확인해 주십시오.
출처: note 원문
번역: Gemma 3(.44) 초벌 + 교정 67청크
원문 보기 | 출처: note.com