안녕하세요, 여러분! 야샤리아입니다!
TypeSafe AI: 홈 소개 System One 모델 및 Jev - TypeSafe AI 블로그 최근 AI 뉴스를 따라가다 보면 “또 새로운 모델이 나왔구나”라는 생각에 솔직히 조금 지치곤 합니다. GPT-5, Claude, Gemini… 이미 이름을 외우는 것조차 일이 아니죠. 저 역시 처음 Jev 이야기를 들었을 때는 “또 채팅 AI의 새로운 종인가?” 정도로밖에 생각하지 못했습니다. 하지만 내용을 읽어 내려갈수록, 이것은 단순한 ‘새로운 AI’가 아니라는 것을 깨달았습니다. 오히려 지금까지와는 근본적으로 ‘다른 생물’을 만들려고 하고 있다는 생각이 들었습니다.
이번에는 ChatGPT의 창시자 중 한 명이 2년 동안 조용히 개발을 진행해 온, 조금 특이한 AI “제브”에 대해 이야기해 나갈 것이다. 전문 용어는 최대한 풀어서 설명하므로, AI에 자세히 밝지 않은 사람도 편안하게 읽어주길 바란다.
제브(Jev)를 만든 것은 바로 그 ChatGPT의 “공범자”였습니다.
먼저, 누가 이런 것을 만들었는지에 대한 이야기부터 시작해 볼까요.
캘리포니아 주 샌프란시스코에 TypeSafe AI라는 스타트업이 있다. CEO는 디오고 알메이다라는 이름의 인물로, 전 OpenAI 연구원이다. 그는 ChatGPT의 기반이 된 “InstructGPT” 연구에 관여했으며, 이 ChatGPT의 ‘생명’을 키우는 데 일조한 한 사람이다.
그는 ChatGPT를 만들고 나서 “초인적인 챗 모델이 만들어졌는데, 왜 세상의 일은 전혀 자동화되지 않은 걸까?”라는 의문을 품었을 겁니다.
이건 핵심을 정확히 짚고 있어. ChatGPT는 정말 엄청나게 똑똑하지 않나? 글도 쓰고, 코드도 만들 수 있고, 상담에도 응해 준다. 하지만 실제 업무에서 “그럼 전부 다 맡겨” 이렇게 되는 건 아니야.
왜냐하면 ChatGPT는 “사람과 대화하기 위해” 만들어진 것이기 때문이다.
알메이다는 DCVC 인터뷰에서 이렇게 밝혔습니다. “LLM이 잘 작동하는 이유는 인간의 취향에 최적화되어 있기 때문입니다. 하지만 인간의 취향에 최적화되어 있기 때문에 인간이 루프에 계속 빠져들도록 해야 하며, 이것이 인간의 감독 없이서는 신뢰하기 어려운 이유이기도 합니다.”
이 지적은 매우 날카로운 것이군요. ChatGPT는 “사람이 읽고 이해하기” 위해 문장을 생성합니다. 사람 입장에서는 편리하지만, 소프트웨어 입장에서는 큰 문제일 수 있습니다.
제브는 “글을 쓰지 않는 AI”다.
여기야말로 제프가 가장 흥미로운 부분이다.
평범한 AI, 예를 들어 ChatGPT는 문장을 생성한다. “이 고객의 해지 위험은?”이라고 질문하면 “이 고객은 최근 이용 빈도가 저하되어 있으며, 지원 문의도 증가했기 때문에 해지 위험은 비교적 높게 간주됩니다.”와 같은 문장이 돌아온다. 인간이 읽기에 편리하다.
하지만, 소프트웨어 입장에서는 이것이 심각한 문제였다. 프로그램이 “상대적으로 높다”고 평가받는 것을 우려했다. 이를 수치화하기 위해 다른 프로그램이 “상대적으로 높다”를 분석하여 대략 70% 정도로 판단하는 방식이었다. 불필요한 요소가 지나치게 많고, 실수를 겪기도 했다.
TypeSafe의 창립자 중 한 명인 사샤 첸은 이렇게 말한다. “TypeSafe는 인공지능이 사람과 대화하는 대신, 소프트웨어 시스템 내에서 확실하게 작동하도록 설계된 기계 본능적인 구성 가능한 지능을 개척하기 위해 설립된 회사이다.”
제브는 이것을 완전히 무너뜨릴 것이다. 어떤 텍스트도 생성하지 않고, 미리 정해진 선택지 중에서 “어떤 것을” 골라 그 확률과 “얼마나 자신 있는지”만 반환한다.
예를 들어 “이 문의는 어느 부서로 분류해야 하는가”라고 질문하면 “회계부: 92%, 기술 지원: 5%, 영업: 3%”와 같은 데이터가 답변으로 돌아온다. 숫자와 레이블로만 구성되어 있다.
이 소프트웨어는 이 숫자를 그대로 사용하여 회계 부서에 자동으로 배정한다. 아무도 문서를 읽지도, 분석하지도 않는다. 빠르고 정확하며, 불필요한 과정이 없다.
왜 그런 일이 가능한가
평범한 AI는 “하나씩 단어를 선택하여 문장을 만든다”는 방식으로 작동하며, ChatGPT가 글을 쓸 때 첫 번째 단어를 선택하고, 그 다음 단어를 선택하고, 또 그 다음 단어를 선택하는 등 매우 끈기 있는 작업을 반복합니다.
제브는 이 “단계별” 처리를 중단했다. 대신 모든 판단을 동시에, 병렬로 처리하여 빠르다.
알메이다는 직접적으로 X에서 이렇게 쓰고 있습니다. “병렬 계산을 순차적으로 대체하는 것은 Transformers가 RNN을 앞지른 것과 같은 방식이다.”
이 부분은 기술적으로 매우 중요한 포인트입니다. Transformer가 등장했을 때, 이전의 RNN(순환 신경망)은 한 단어씩 순차적으로 처리해야 했습니다. Transformer는 이를 병렬화하여 한 번에 처리할 수 있게 했기 때문에 LLM의 비약적인 발전이 일어났습니다.
제브는 동일한 작업을 “판단” 수준에서 수행하고 있다. 문장을 한 단어씩 생성하는 대신, 모든 판단을 한 번에 계산한다. 그래서 0.07초와 같이 인간이 눈 깜짝할 사이에 빠른 속도에서 답이 나온다.
또한, Jev가 답변할 수 있는 답은 미리 정해져 있다. 선택지 중에서 고르는 것뿐이다. 처음부터 문장을 만드는 것이 아니기 때문에 “말도 안 되는 답”을 지어낼 여지가 없다. 흔히 “할루시네이션(더욱이, 그럴듯한 거짓말)”이 구조적으로 발생하지 않도록 설계되어 있다.
이는 “거짓을 하지 않는 AI”라기보다는 “거짓을 할 수 없는 AI”라는 의미다. 선택지 안에 “회계부”, “기술 지원”, “영업” 세 가지밖에 없으므로, Jev는 이 세 가지 중에서만 선택할 수 있다. “사실 총무부면 좋겠습니다”와 같은 창의적인 답변은 절대 나오지 않는다. 소프트웨어에게 있어서 이 “지루함”이 최고의 신뢰성을 구축한다.
제프가 제공할 수 있는 답은 3가지 종류뿐입니다.
여기서 Jev가 어떤 방식으로 답변을 반환할지 좀 더 자세히 살펴보겠습니다.
TypeSafe 문서를 따르면 Jev가 처리할 수 있는 질문 형식은 3가지이다.
선택(선택) - 여러 선택지 중에서 하나를 선택한다. 최대 255개의 선택지에 대응할 수 있다. 문의 배분, 청구서 카테고리 분류, 고객 감정 분석 등에 활용할 수 있다.
점수(스코어)는 연속적인 척도로 숫자를 반환합니다. “이 고객의 이탈 위험을 0부터 1까지 평가해줘”와 같이 질문하면 0.73과 같은 숫자가 반환되며, 확률 분포도 함께 반환되어 어느 정도 폭으로 고려하고 있는지도 알 수 있습니다.
뉴얼(Nool)은 재미있는 이름인데, “Boolean(참/거짓)”을 빗댄 조어다. “네” 또는 “아니오”를 확률과 함께 반환하는 방식이다. “이 거래가 부정의 가능성이 높은가?”라고 질문하면 “네: 87%”와 같은 형태로 답변이 돌아온다.
이 세 가지 형태밖에 없다. 하지만 세상의 “소프트웨어가 하는 판단” 중 대부분은 이 세 가지 범주 안에 든다. 분류하거나, 평가하거나, 진실 여부를 판단하는 것이다. Jev는 그 세 가지에 특화되어 있다.
확신도를 확인하는 혁명
제브의 또 다른 장점은 모든 답변에 ‘신뢰도’가 함께 제공된다는 점이다.
이 청구서는 회계부에 전달해야 하는가?”라는 질문에 대해 Jev는 “회계부: 92%”라고 답한다. 이 92%라는 숫자는 사실상 매우 중요하다.
과거의 LLM은 답변을 제공해 주지만 “정답률에 대해 얼마나 자신 있는지”는 알려주지 않았다. 따라서 소프트웨어는 답변이 맞는지 판단할 수 없었다. 어쩔 수 없이 모든 답변을 그대로 사용하거나, 모든 답변을 사람에게 확인을 요청하는 방식으로 처리했다.
제브는 다릅니다. TypeSafe의 공식 웹사이트에서는 신뢰도 임계값을 설정하여 90% 이상이면 자동 처리하고, 90% 미만이면 인적 검토로 전환하는 방식이 구현될 수 있도록 소개되어 있습니다.
이는 실務적으로 매우 규모가 크다. 전부 자동화하는 것은 낯설다. 하지만 전부 인간이 확인하는 것과는 자동화의 의미가 없다. “자신 있는 자만 자동으로, 자신감이 없는 자는 인간이”처럼 뉘앙스를 세분화하여 구분할 수 있어야 처음으로 실용적인 자동화가 성립한다.
얼마나 빠르고, 얼마나 저렴한가요?
구체적인 숫자를 살펴보자.
가장 먼저 속도입니다. Jev의 응답 시간은 0.07초에서 0.5초입니다. 비교 대상 LLM이 3초에서 300초 이상 걸리는 것을 고려하면, 그 차이가 큽니다.
TypeSafe의 발표에서는 “최대 200배 속도 향상”이 언급되고 있다. 실제 데모 영상에서도 Jev가 0.114초에 답변하는 반면, OpenAI의 GPT-5.6 Terra는 8.566초가 소요된다.
비용도 매우 저렴합니다. 입력 100만 토큰당 0.042달러, 즉 10억 토큰에 대해 42달러입니다. 출력 토큰은 “너무 저렴해서 측정할 수 없는 수준”으로 무료로 제공되고 있습니다.
처음 이 내용을 보았을 때 “단위 계산에 오류는 없는지”를 의심했다. GPT 입력 비용이 토큰당 100만 개당 0.2달러에서 10달러 정도이기 때문에, 그 400분의 1 수준이 되기 때문이다. 출력은 완전히 무료이다.
TypeSafe 설명에 따르면, 이는 “값을 깎으려 노력한” 결과가 아니다. Jev의 작동 방식상, 출력 토큰이라는 개념이 존재하지 않기 때문에 과금이 불가능한 것뿐이다. 문장을 생성하지 않는 AI에게 출력 토큰의 요금이 발생하지 않는다. 논리적이다.
알메이다는 X(엑스)에 이렇게 쓰고 있습니다. “출력 토큰은 무료이며(영원히), 새로운 아키텍처에서는 측정 불가능할 정도로 저렴합니다.”
이 “너무 저렴해서 측정하기 아깝다”라는 표현은 1950년대에 원자력 발전의 미래를 이야기할 때 사용된 말의 인용문입니다. 그는 그 정도의 파급 효과를 진지하게 노리고 있습니다.
“안정적이지 않은 측정”의 실태
1차 번역문: “측정이 불가능”이라는 용어가 자주 등장하는 특정 의료기기 사례를 설명합니다.
잠시 멈춰서서 생각해보고 싶다.
왜 출력 토큰이 무료가 되는 걸까요? Jev는 “문장 생성”을 하지 않기 때문입니다.
일반적인 LLM의 비용 구조를 고려할 때, 입력 토큰보다 출력 토큰이 더 높은 경우가 많습니다. 출력은 “단어 단위로 순차적으로 생성하는” 방식이므로, 이는 컴퓨팅 자원을 소모하기 때문입니다. 따라서 출력 비용이 더 높습니다.
제브는 이 순차 생성 방식을 중단했다. 모든 판단을 병렬로 계산하며, “출력 토큰”이라는 순차적으로 생성되는 단어의 열은 존재하지 않는다. 따라서 출력에 대한 과금 대상이 부재하다.
이는 “할인”이 아니라 “구조적으로 과금 불가능한” 상황이다. TypeSafe는 “출력이 무료가 되도록 설계한” 것이 아니라 “출력이 무료가 되도록 구조를 만들었다”는 차이가 크다. 할인 정책은 언젠가 종료될 수도 있지만, 구조가 변하지 않는 한 지속될 것이다.
실제로 무엇에 사용할 수 있는지
지금까지 이야기만 들어보면 “이게 대체 무엇에 도움이 되나요”라고 생각할 수도 있겠네요.
TypeSafe는 소프트웨어 내부에서 작동하는 “의사 결정”을 의미합니다. 구체적으로,
- 문의 이메일을 어느 부서에 배정할지
- 청구서 내용이 부적절한지 확인하는 방법입니다.
- 고객이 해지하려 하시는군요.
- 이 로그는 보안 위협일까요?
- 다른 인공지능이 생성한 내용이 맞는지
이러한 “판단”은 현재 손으로 쓴 규칙으로 처리하고 있거나, 억지로 LLM에 맡기고 있는 경우다. 손으로 쓴 규칙은 곧바로 한계에 부딪히고, LLM은 느리고 비싸며 가끔 거짓말을 한다.
제브는 그 중간을 채운다. “규칙은 정해진 대로 단순하지 않지만, 인간이 대화하는 만큼 복잡하지 않다”는 판단을 소프트웨어가 직접 사용할 수 있는 형태로 빠르게 반환한다.
어느 독립형 테스트에서는 Jev에게 37개의 문서를 읽히게 하고 동시에 21개의 질문을 던진 결과, 777건의 판단을 0.7초 이내에 반환했다는 보고가 있었다. 비용은 1센트의 1/4 정도였다.
다른 테스트에서는 12개의 문장을 확인시켜 Claude의 최고급 모델과 비교했다. Jev의 중앙값은 0.35초, Claude는 8.83초였다. 약 25배 빠르고, 비용은 Claude의 580분의 1이다.
TypeSafe 데모에서 가장 큰 화제가 된 것은 Jev에게 DOOM을 플레이하도록 한 것이다. 1초에 약 10회 분량의 API 호출을 수행하여 게임의 상태를 판단하고 움직이는 방식이었다. 1시간 플레이에 소요된 비용은 7달러였다.
AI가 인간이 DOOM을 플레이하는 것과 같은 속도로 판단을 내리고 있다는 의미입니다. 기존의 LLM으로는 절대 불가능한 일입니다.
실제로 시도해 본 사람들의 솔직한 목소리
이제부터 실제로 Jev를 직접 만진 사람들의 평가를 소개한다. 좋은 이야기만 있는 것은 아니기 때문에, 그 부분도 포함하여 솔직하게 기록한다.
먼저 정확성에 대해 말씀드리자면, TypeSafe 자체 평가 결과, Jev의 종합적 일치율은 67.8%이며, 비교 대상 최고 모델인 74.1%에 비해 6% 포인트 낮습니다.
업무별로 살펴보면
- 보안 사고: Jev 61.7% vs Opus 5 66.2%
- 청구서 처리: Jev 61.8% vs. 비교 모델 79.1%
- 고객 서비스: Jev 76.0% vs 비교 모델 78.3%
- 에이전트 추적: Jev 71.6% vs. 비교 모델 76.6%
즉, Jev는 “대충 정확하다”고 할 수 있습니다. 최첨단 LLM에는 한 발짝도 뒤쳐지지 않지만, 가격과 속도를 고려하면 이 “대충” 정도의 정확도로도 충분히 활용할 만한 경우는 매우 많습니다.
독립형 테스트에서도 12개의 문장에 숨겨진 결함 7개 중 Jev는 6개를 찾았고, Claude는 7개를 모두 찾았다. “빠르고 저렴하지만 최고 정확도는 아니다”가 현재 시점에서의 평가이다.
어떤 평가 기사는 이렇게 쓰고 있습니다. “Jev는 최첨단 모델의 100분의 1 가격으로 최첨단 모델과 똑같이 똑똑하다는 비교는 성립되지 않는다. 올바른 비교는 ‘중견 모델 수준의 판단을 1회에 몇 센티 단위로, 매 턴마다 실행할 수 있는 속도로’ 내는 것이다.”
이것은 매우 냉철하고 정확한 평가라고 생각합니다. Jev는 “충분히 현명하고, 엄청 빠르며, 저렴한 AI”인 것입니다.
“해럴시네이션 하지 마세요”의 진정한 의미는 상상력의 한계를 인정하고, 자신의 내면에서 떠오르는 모든 것을 ‘진실’이라고 믿는 태도를 비판하는 용어입니다. 특히, 작가들이 자신의 작품에 대한 지나치게 강한 믿음이나 독자들의 반응에 맹목적으로 굴복하여 작품의 본질을 왜곡하는 행위를 지칭할 때 “해럴시네이션”이라는 용어를 사용하며, 자신의 상상력을 객관적으로 평가하고 비판적인 시각으로 바라보는 것이 중요하다는 메시지를 전달합니다. 이러한 관점에서 “해럴시네이션 하지 마세요”는 자신의 창작 활동에 대한 자기 성찰과 끊임없는 노력을 강조하는 표현이라고 할 수 있습니다. 예를 들어, 작가 A가 자신의 소설에 대해 “이 소설은 절대적으로 완벽하다”라고 주장하고, 비판적인 의견을 무시하며 작품을 고집하는 경우, 이는 “해럴시네이션”에 빠진 사례입니다.
TypeSafe는 Jev를 “환각 내성 보유”라고 표현하고 있으며, 발표 자료에는 “툴 호출 오류율 0%”라는 그래프가 포함되어 있습니다.
하지만 이 점에 유의해야 합니다. “해상화하지 않기”라는 말은 많은 사람들이 생각하는 것보다 훨씬 좁은 의미를 가질 수 있습니다.
제프가 보장하는 것은 “형식 오류가 발생하지 않는다는 것”입니다. 즉, 선택지에 없는 답을 반환하거나, 숫자일 자리에 문자열을 반환하는 등 “형식적인 오류”는 절대 발생하지 않습니다.
하지만 “내용적으로는 맞다”는 것을 보장하지 않는다. Jev가 “회계부: 92%”라고 자신만만하게 답변하더라도, 그것이 틀릴 수 있다. 형식적으로는 완벽한 답변이, 내용적으로는 틀린 것이다. 이는 “자신감을 가지고 틀리는” 상태이다.
알메이다는 이에 대해서도 인정하고 있습니다. “자신감을 가지고 틀릴 수도 있다. 미래의 모델은 더 똑똑해지겠지만, 그렇다고 해서 그 가능성이 사라지는 것은 아니다.”
즉, Jev를 무시하는 것은 “포맷 오류”인 것이고 “판단 오류”가 아닙니다. Jev를 사용하는 측은 정확성에 대해서는 스스로 제대로 측정해야 합니다. “환각이 일어나지 않으니 안심해도 된다”라고 맹신하는 것은 위험합니다.
이는 “GPT의 소형 버전”이 아닙니다.
여기, 오해하기 쉬운 부분이라 강조해야 합니다.
제브는 “ChatGPT의 퇴보판”이거나 “저렴한 대체품”이 아니며, 설계 철학이 근본적으로 다른 또 다른 카테고리의 AI이다.
ChatGPT는 “인간이 읽는 문장을 만드는” 데 존재한다. Jev는 “소프트웨어가 사용하는 판단을 반환하는” 데 존재한다. 용도가 다르므로, 어느 쪽이 더 좋고 더 나쁘다는 이야기가 아니다.
알메이다는 이렇게 말한다. “AGI가 경제의 대부분을 자동화한 세계에서는 AI 호출의 99% 이상이 인간이 아닌 소프트웨어에 의해 이루어진다.”
이건 정말 중요한 시각이다. 현재 AI 열풍이 ‘인간이 AI와 대화하는’ 것에 초점을 맞추고 있다. 하지만 진정으로 경제를 바꾸는 것은 ‘소프트웨어가 AI를 활용하여 판단하는’ 세상일 텐데.
공장의 전기 모터는 DCVC 인터뷰에서 언급된다. 전기 모터가 공장에 처음 도입되었을 때, 공장 설계자는 증기 기관을 전기 모터로 대체하는 것으로 만족했다. 하지만 진정한 혁명은 모터가 작아져 각 워크스테이션에 개별적으로 동력을 공급할 수 있게 된 것에서 일어났다. 공장의 레이아웃이 실제로 바뀌게 된 것은 그로부터 40년 후였다.
제브는 “증기 기관을 전기 모터로 대체하는” 단계인지 모를지도 모른다. 아직 진정한 혁명은 앞으로인데, 제브는 그 첫걸음이다.
RLCD라는 새로운 훈련 방법
제브(Jev)의 뒷면에는 “RLCD”라는 자체 개발 훈련 방법이 있다. 강화 학습 기반의 교정된 의사결정을 위한 방법이다.
알메이다는 OpenAI에서 RLHF(인간 피드백 기반 강화 학습)를 공동 발명한 인물이다. RLHF는 “인간이 선호하는 문장을 생성하도록” 모델을 훈련하는 방식이다. 이것이 ChatGPT의 성공의 핵심이었다.
하지만 RLHF에도 한계가 있다. 인간이 좋아하는 문장은 반드시 “정확한 판단”이 아니다. 오히려 인간은 자신감 있는 답변을 선호하는 경향이 있다. “대략 70% 정도라고 생각합니다”라고 말하는 것보다 “이것은 회계부입니다”라고 단정적으로 말하는 것이 더 선호된다.
RLCD는 ‘70% 자신 있다고 말하면, 정말 70% 확률로 옳은 것’이라는 ‘교정’에 최적화하도록 설계되었다.
95%의 확률로 정답을 맞힐 수 있는 모델이라도, 남은 5%의 “오류”를 정확하게 “확신이 없다”라고 표시할 수 없다면 실용적이지 않다. RLCD는 바로 그 부분을 훈련시킨다.
TypeSafe는 이 RLCD의 상세 내용을 아직 공개하지 않고 있으며, “아직 가슴 속에 넣어두어야 한다”고 말했습니다. 논문은 추후에 공개될 가능성이 있습니다.
하지만 알메이다가 RLHF의 공동 발명가임을 고려하면 RLCD가 진지한 기술임을 부정할 수 없다. 그는 ‘인간의 취향에 최적화하는’ 것의 문제점을 누구보다 잘 알고 있는 인물이다.
이름의 유래 “제폰스 역설”
제보너스 역설(Jevons Paradox)에서 유래했다.
제보네스의 역설은 19세기 경제학자 윌리엄 스탠리 제보네스가 제기한 개념이다. “석탄 사용 효율이 높아지면 오히려 석탄 소비량이 증가한다”는 역설적인 주장이다.
효율이 올라가면 석탄 가격이 하락하고, 석탄 사용 용도가 증가하면서 결국 소비량이 증가하는 메커니즘이다.
알메이다는 이를 AI에 적용하고 있다. “AI의 판단 비용이 낮아지면 판단을 필요로 하는 상황이 폭발적으로 늘어날 것”이라고 말한다. 또한 “제브(Jev)는 ‘지능당 비용’ 그래프로 인해 범위를 벗어나는 방식으로 설계되어 있다”라고 쓰고 있다.
이 이름은 정말 훌륭하다고 생각합니다. Jev가 할인될수록 Jev를 사용하는 경우가 많아질 것입니다. Jev의 존재 이유 자체를 이름이 잘 나타내고 있습니다.
요약이라는 이름의 감상
제브를 조사해 보니까, 이게 바로 “AI의 진화 방향성”에 대한 문제 제기라고 생각했어.
현재 AI 업계는 ‘더 똑똑하고, 더 인간처럼’이라는 방향으로 일직선으로 나아가고 있다. GPT, Claude, Gemini 모두 끊임없이 인간의 대화에 가까워지기 위해 노력하고 있다.
하지만 알메이다와 TypeSafe 팀은 이에 대해 “잠시만요”라고 말했다. “진정으로 자동화를 추진하고 싶다면 인간처럼 행동하지 말고, 기계가 기계를 위해 사용하는 AI를 만들어야 하지 않겠습니까?”
이것은 꽤 대담한 도박이다. 지금의 AI 붐은 “인간과 대화할 수 있는 AI”가 중심인데, 거기서 벗어난 곳에서 승기를 찾다니 보통은 두려워서 할 수 없는 일이다.
하지만 ChatGPT를 만든 본인인 옥시토치가 “이건 다르다”라고 말하고 있다는 점을 고려하면 설득력이 있습니다. 실제로 Jev는 믿을 수 없을 정도로 빠른 속도와 낮은 비용으로 작동하고 있습니다. 정확도에서는 최신 LLM에 한 발짝 뒤쳐질 수 있지만, 이 속도와 비용으로 “상당히 정확한” 결과를 얻을 수 있다면 활용할 수 있는 경우는 매우 많습니다.
앞으로 “인간과 대화하는 AI”와 “소프트웨어가 사용하는 AI”는 명확하게 분리될 것이라고 예상합니다. 전자는 더욱 지능적이고 인간적인 면모를 갖추게 될 것이며, 후자는 더욱 조용하고 꾸준하며 저렴해질 것입니다. Jev는 후자의 선구자 역할을 했습니다.
마지막으로, 알메이다의 말을 인용한다. “AI는 실제로 상당히 훌륭하지만, 현재 버전은 바다 한 방울에 불과하다.”
그는 진심으로 그 “바다”를 만들고자 하고 있다.
오늘은 사토군이 ‘네가 원하는 것은 거기에만 있다’라는 책을 읽으며 카페에서 시간을 보냈습니다. 이 책은 무라카미 하루키의 ‘바닷가 호수’를 참고했다고 합니다. 사토군은 이 책을 읽고 인생에 대해 깊이 생각하게 되었습니다.
- TypeSafe AI 공식 홈페이지 — Jev의 조기 액세스 신청은 여기서 진행됩니다.
- ## TypeSafe AI 공식 블로그 — Jev의 발표 기사 (영어)
**제목:** TypeSafe AI: 16비트 모델을 위한 새로운 방법
**본문:**
최근 TypeSafe AI에 대한 연구를 진행하면서 16비트 모델을 활용하는 데 있어 상당한 진전을 이루었습니다. 특히, 16비트 모델을 사용하여 대규모 언어 모델(LLM)을 효율적으로 실행하는 방법을 개발했습니다.
이 방법은 기존의 32비트 또는 64비트 모델에 비해 메모리 사용량을 크게 줄여줍니다. 이는 특히 리소스가 제한된 환경에서 LLM을 실행하는 데 매우 중요합니다. 예를 들어, 저전력 장치나 모바일 기기에서 LLM을 실행하는 데 적합합니다.
저희는 또한 16비트 모델을 사용하여 LLM의 추론 속도를 향상시키는 데 성공했습니다. 이는 모델의 크기를 줄이고, 연산량을 줄이는 데 기인합니다.
저희의 연구 결과는 TypeSafe AI를 통해 16비트 모델을 활용하는 것이 LLM의 성능과 효율성을 향상시키는 데 매우 효과적임을 보여줍니다.
앞으로 TypeSafe AI를 더욱 발전시켜 다양한 LLM에 적용할 계획입니다. 또한, 16비트 모델을 활용하는 데 대한 연구를 지속적으로 진행하여 LLM의 성능을 더욱 향상시키겠습니다.
저희는 TypeSafe AI에 대한 여러분의 관심과 지원에 감사드립니다.
- System One Models 문서 — 개발자를 위한 기술 문서
Y Combinator에서 “제폰 역설”에 대해 설명하는 영상도 참고할 만합니다. Jev의 이름이 유래된 경제학 이론이기도 합니다.
마지막까지 읽어주셔서 감사합니다.
다음 글에서 또 만나요.
이야, 정말 멋지네요.
출처: note 원문
번역: Gemma 3(.44) 초벌 + 교정 79청크
원문 보기 | 출처: note.com