DM에서 이야기해달라고 하셔서 글을 쓰려고 하는데, 저는 이 틈에 로맨스AI 세계의 프롬프트 전문가라는 쪽에 좀 더 가깝고, AI에 대해 어느 정도는 이해하고 있는 쪽에 더 가깝다고 할 수 있을 것 같습니다. 다만, 정말로 냉정한 이야기만 하게 될 거라서 재미있지 않을 거라고 생각합니다.🥺
제브って？
텍스트 기반 LLM 대신, 인간의 뇌 자체를 모델로 하는 방식의 가중치들을 의미합니다.
무엇이 그렇게 대단한가요?
LLM도 Jev도 바이너리이며, 평가 함수와 같은 가중치(특성)의 덩어리일 뿐입니다. 그에 자극(챗봇이나, 물리적 AI에서 말하듯 시각 등)을 가했을 때, 반응을 보이는 것입니다.
LLM → 특이한 데이터 조각에 직면했을 때, 인간이 이해할 수 있는 텍스트 형태로 정제하여 반응을 제공한다.
Jev → 특이한 데이터 조각에 직면했을 때, 반응 자체가 그대로 반환된다.
그래서 챗봇 형태 정제 부분의 오버헤드를 완전히 없애주기 때문에 빠르고, 게다가 저렴합니다.
이게 얼마나 빠른 건데?
챗 지미라는 분이 계세요? 한 번 직접 사용해 보시길 추천합니다.
무엇이든 물어보세요. 15000～20000 토큰을 1초에 출력하는 그 속도의 놀라움만은 알 것 같습니다.
마치 바람에 흩날리는 낙엽처럼, 잊혀진 기억의 조각처럼.
저기, 제가 느낀 감정은 딱 이거 하나예요, 정말로. 게다가 왜인지 지금 와서 Jev가 엄청 엄청하다고 기자분들(😨)이 기사를 엄청나게 만들어내고 있는데, 여러분은 늘 AI에게 뉴스를 먹여서 툭툭 note에 붙이는 것뿐이라, Jev에 대해 전혀 이해하고 있지 못하다는 생각을 하시는 것 같아요.
먼저, Jev가 마치 “지금까지의 통념을 뒤엎는 획기적인 발명품으로, 브레인스피커다! 이는 세상을 바꿀 것이다!”라고 말하지만,こういうもの(이런 종류의 것들)은 arXiv를 훑어보면서도 이미 여러 번 본 적이 있고, AI 공학의 최전선에서는 “드디어 제품화한 건가” 정도의 이야기입니다.
실제로 “우리는 1년 전부터 그것을 하고 있었는데…”라고 말하는 사람이 블로그를 쓰고 있네.
즉, 이렇게 말씀드리는 겁니다.
- 실제로 과학적이거나 논리적으로 설명을 아무리 늘어놓아도 대부분의 사람들에게는 이해되지 않는다.
- 어떤 노력을 기울여도 정확한 진술을 한다고 해도 아무런 의미가 없다.
- 제브는 매우 쉽고 명확하게 유용한 정보를 설명하고, 제품 형태로도 출시했다.
결국 이것은 마케팅이 잘 된 것뿐입니다. 그 이상도 이하도 아닙니다. 그들의 제안을 성공적으로 판매했구나! 라고 저는 느꼈습니다.
저는 차분하게 상황을 지켜보지만, 한 번도 저의 개인적인 시각이나 의견을 섞어주지 않으면 텍스트로서 완성되지 않을 것 같습니다. 그래서 함께 문제 제기를 하고자 합니다.
LLM(대규모 언어 모델)조차 자신의 생각을 알 수 없는 존재인데, 말을 하지도 않고 갑자기 움직이기 시작하는 AI는 훨씬 더 위험한 것이다. 어떻게 해야 할까?
제브(Jev)를 인정한다면 그것은 이미 폴아웃 4 세계에 발을 들여놓은 것.
저기, Jev는 기본적으로 말을 할 수 있는 기능을 제공하지 않으면 아무 말도 하지 않습니다. 이게 얼마나 끔찍한 일인지 전혀 알아차리지 못하는 사람들이 다른 게시물에서는 AI로 인류 멸망론을 이야기하는 것을 보면 얼마나 무책임한 짓인지 답답합니다.🥺
지금의 AI, LLM은 이렇게 작동합니다.
👱“세상을 더 좋게 만들어 주세요” 🤖 “알겠습니다, 그럼 계산하겠습니다.” 🤖 “계산 결과에 따라 인류가 세상을 더럽히고 있다는 결론이 나왔습니다.” 🤖 “그래서 종료합니다.”
👱“어, 말이 안 되는데요? 어떻게 그런 결론이 나왔는지 보여주세요.” 🤖 “알겠습니다, 이것이 제가 생각한 Chain of Thought입니다.”
👱“그 생각의 A와 B 부분이 어색한데, 수정해 주세요.” 🤖 “알겠습니다.”
그래서 일단 수정 가능성을 염두에 두고, 별 문제 없을 거라고 생각하고 있었다 (여기에도 문제가 있어서 크게 소란이 될 건 없으니까).
하지만 제브와 같은 모델은 다릅니다.
세상을 더 좋게 만들어 주세요.
이제 끝입니다. 즉시 터미네이터 모드로 전환되어, 만약 Jev에게 “이런 조건이면 즉시 멈춰라”라는 기능이 없다면 Jev는 영원히 멈추지 못할 것입니다. AI와 살육살육이 벌어지는 왕력전이 오늘 시작됩니다.
기억해 주세요. Jev는 “환각이 0%”라고 홍보되고 있습니다. 이는 사실 “거짓말할 가능성이 0%”가 아니라 “지시된 대로 100% 정확하게 실행한다”는 의미이며, “지시되지 않은 일을 하는 AI의 가능성은 0%”라는 의미입니다.
인간은 그런 AI를 신뢰할 수 있을지 주목됩니다. 현재까지는 인간이 이 AI를 매우 환영하는 것처럼 느껴집니다.
또한, 제가 지금 설명한 것조차 사실상 아직 미흡합니다. 공식적으로 Jev는 “사람을 위한 글을 생성하지 않고, 스키마화된 Decision을 직접 소프트웨어로 전달할 수 있는 AI”라고 표현하고 있지만, 실제로는 훨씬 더 심각합니다.
대화를 하지 않는 존재는 대화로 더 이상 중단시킬 수 없습니다.
인간에게 설명할 수 없는 목적을 위해 소프트웨어가 직접 이용되도록 만들어진 지능을 현실 세계의 의사 결정에 어느 정도까지 연결하는 것이 타당한가.
그것이 중요한 문제 제기임에도 불구하고, 왜 AI 둠오머 족들이 제프(Jev)의 끔찍함에 대해 왜곡되게 무시하는지를 저는 진정으로 기이하게 생각합니다. 이는 무지함을 드러내는 것일 뿐만 아니라, 왠지 모를 섬뜩함까지 느껴집니다.
출처: note 원문
번역: Gemma 3(.44) 초벌 + 교정 19청크
원문 보기 | 출처: note.com