# AI 매너모스 논쟁: 양적 혐오를 어떻게 읽는가

> https://bookfactory.kr/board/ai-tech/17550
> 게시판: AI·머신러닝
> 작성자: admin
> 작성일: 2026-09-18T03:51:26.972Z

---

![見出し画像](https://assets.st-note.com/production/uploads/images/314540581/rectangle_large_type_2_b45591d7f081f6a6db26ea5d0235bfa0.png?width=1280)

앤트로픽(Anthropic) 연구원들이 퇴사했다.

누군가는 그것에 대해 흥미롭다고 생각하지 않을 사람들도 있을 거라고 생각해요. note를 읽는 사람들의 특성이 정확히 무엇인지 저에게는 알 수 없지만,

Anthropic 내부에서, 오히려 안전을 주장해온 연구자들이 연이어 이탈하면서 “AI 개발의 속도와 안전성을 어떻게 조화시킬 것인가”라는 문제가 부각되고 있다.

최근 뉴스 속 화두는 이것이다.

제이콥 코존 씨는 9월 8일에 앤트로픽을 퇴사하고, X에 게시했다.

저는 지난 세 년 동안 OpenAI와 Anthropic 모두에서 사전 훈련 연구를 진행해 왔습니다. 어느 회사도 책임감 있는 행동을 취하지 않고 있습니다. 스스로 개선되는 초지능을 향해 나아가면서 우리의 생명을 도박의 칩처럼 취급하고 있습니다.

AI 기업들이 지나치게 경쟁적으로 행동하는 데 대한 강한 우려를 표명했다. 이에 대해 Anthropic의 아라인먼트 과학 리드인 Evan Hubinger 氏は…

제이콥이 말했듯이 — 우리는 정말 AI가 전 인류를 죽일 것이라고 진지하게 생각하고 있다. 개인적으로는 앞으로 10년 이내에 10%를 넘는 확률일 거라고 생각한다.

그에게 답장하고 있다.

며칠 전에 중국의 AI 쇼인지 대회인지에 대한 이야기로도 글을 올렸었지만, 안전성과 설득력 간의 괴리가 곳곳에 존재한다는 문제가 있었습니다.

AI의 행동 속도에 대한 안전성을 보장하는 속도가 뒤처지고 있다는 점이 문제의 핵심으로 지목되고 있다.

저는 제 글을 AI에게 읽어볼 때가 있습니다. 그것은 수정하거나 다듬는 것이 아니라, AI가 어떻게 읽을지에 대한 예측의 일종을 알고자 하는 의미로 하는 것입니다. 하지만 AI는 상당 부분 개념이나 단어 자체에 갇혀 있어서, 제가 써야 했던 내용을 제대로 이해하지 못합니다.

그렇다면 인간도 그렇게 읽는 사람이 있을 것이다. 그래서 저는 문단을 수정합니다. 많은 경우 설명이 필요 없는 부분을 보충하는 경우가 됩니다. 그래도 제 글은 끈적거림 없이, 무엇을 쓰고 있는지 모르는 분들이 많을 것입니다. 또는,そもそも 아무 의미가 없다고 받아들이는 분들도 많을 것입니다. 하지만 이렇게 조정하고 있습니다.

제 개인적인 글쓰기 방식, 즉 렌즈를 통해 보기에 AI의 발전은 더디게 느껴지고, 특히 문장 이해라는 측면에서는 아직 원시시대와 같은 수준이라고 생각합니다. 단순히 정리된 것들만 있거나, 목적을 위해 의도적으로 쓰여진 것들만 존재할 뿐, 다른 문서를 생성하는 것은 불가능해 보입니다. 하지만 사실은 역전이 일어나고 있을지도 모릅니다.

얼마 전, 어느 에세이 책을 읽다가, 아직 살아있는 사람이고, 상당한 인기를 누리고 있기 때문에 이름은 언급하지 않겠지만, 그 사람의 에세이는 저에게는 읽히지 않았다.

이는 에세이가 도입부터 이미 목적적이며, 에세이 형식을 확실하게 따르고 에세이로서 기능하는 데서 비롯된다.

의미를 선별하고, 이것은 이렇게 때문에 일반론과는こういう距離がある。그래서 일반론에서 벗어나는 나의 비상식적인 면을 조금 재미있게 바라봐 주시면 좋겠습니다.

이런 식으로 쓰고 있습니다. 많은 분들이 저도 자주 하는 일이라고 생각하실 수 있지만, 이러한 것들이 처음부터 케이스나 포장지 안에 들어있는 것이 에ッセ이스트에 대한 불만으로 이어질 수 있다고 생각합니다.

어떻게 될지 모른다는 점을 포함하여, 작가가 진정한 발견을 했다고 말하기는 어렵지만, 에세이의 형식이 몸에 스며든 사람이 그대로 써내려간 모습이 느껴진다. 오히려 그것이 느껴지는 까닭에 AI가 대체 가능한 글이라는 생각이 든다.

하지만, 그렇지만, 이러한 사실들은 오히려 그 형태를 오랫동안 성공의 방식으로 살아왔던 우리 스스로가 에세이와 AI를 현재의 방향으로 정착시키고 있다는 문제일 것이다.

이전에 비슷한 이야기를 한 적이 있지만,

AI는 위협이 아니라, 특정 생성 방식이 AI의 가능성으로 변질된 결과이며, 그 결과 인간의 양적인 패배가 AI의 부상이라는 형태로 나타난다고 생각합니다.

결국, 인공지능(AI)이 형성되고 생성될 수 있다는 것이 사회적으로 인정받는 단계는 이미 오랫동안 존재해 왔으며, 이에 맞춰 AI의 형성 및 생성은 축적으로 이루어져, 그 결과를 출력하는 형태로 만들어지고 있는 것입니다. 따라서 인공지능의 부상은 인간이 인공지능을 능가한다는 문제라기보다는 사회 구조가 정량적으로 압도될 수 있다는 문제이며, 오히려 막다른 길은 사회 자체에 있다고 느껴집니다.

막다른 상태라고 쓰면 단죄하는 것처럼 들리지만, 다르게 표현하자면 “인간의 불가피한 측면이 드러나는 역사적 서술의 결론이 양적으로 과도하게 쏠려 가고 있다”는 느낌일까.

사실, 저처럼 사회적으로 쇠락한 지역에 거주하는 사람들에게 있어서 AI는 아직 부족하다고 느끼게 되고, 할 수 있는 일이 적게 느껴진다는 것입니다.

AI가 생성 가능한 형태와 사회적으로 인정받는 형태를 합쳐 간략하게 표현했지만, 불가능하다고 여겨지는 것들도 있다. 우연성, 신체성, 관계성, 책임, 맥락 의존성, 저자의 고유한 경험 등은 AI가 다루기 어렵다고 여겨지고 있다.

하지만 그것들을 다룰 수 있는 문제라기보다는, 그것들을 다룰 수 있다고 생각하는 사람의 문제이다. 그것들이 사회적으로 다루어질 수 있는 존재로 받아들여지고 있다는 의미로, 즉 언어를 통해 이렇게 말하는 것 자체가 “그런 것은 다루기 어렵다”고 언급될 수 있는 존재가 된 사회, 즉 AI와의 연결 가능성이며, 그것들이 침식되고 있기 때문에 나는 이 글을 통해 이것을 제기하는 것이다.

신체성 등의 문제는 그 자체로 신체를 이야기하는 것이 아니라, 어떤 논의를 중단시키는 장치로 작용하는 것일 것이다. 그 약속을 통해 신비성을 보존하거나, 논의의 결론점에 두고 있거나, 보류의 수단으로 활용하는 것이다.

이러한 단어들에 담겨 있는 논의의 중단성이나 극소 논쟁으로의 유도성이라는 것들을 속성적으로 추출하게 하지 않는 것 역시 중단성과 유도성에서 비롯된다. 모순과 순환에 의해 보존되고 있기 때문이다. 그러나 이러한 것들을 그러한 속성으로 추출하는 것을 인정하는 사회가 되기 시작한다면, AI의 연결은 가능하며, 이는 사실상 AI 연결 이전의 인간의 연결 방식과 같다. 반복하지만, AI라는 것이 오히려 중심적으로만 언급되는 것일지도 모른다.

이런 감정을 느끼는 사람들은, 저와 같이 외딴 곳에 살면서 AI를 마치 원시인이 만モス(Mammoth)를 쫓아 동굴에 던지고 활을 쏘는 것처럼 무의미하게 사용하고 있는 경우뿐입니다. 하지만 사회가 개입하자마자, 자신이 만モス(Mammoth)의 편에 서서 둘러싸여 있다는 것을 깨닫게 됩니다.

즉, 인공지능이 모방적인 형태로 사회를 움직이거나, 그러한 이해의 역사적 형성 과정에 개입하면서는 필연적으로 ‘맨티스’ 측에 서게 되는 것이다.

쌓여 있던 문제들이 양적으로 포화 상태에 이르러서야 비로소 가시화된다. 사람에 따라서는 가치관이 뒤집히기도 한다. 그것은 실제로 뒤집혔기보다는 양적인 구토이며, 지금까지 먹어 온 것들이 더 이상 들어가지 않게 되었을 뿐인 것처럼 보인다.

그렇다고 해서 심각한 문제라고 보기는 어렵지만, 지금까지 해왔던 일을 갑자기 떠들썩하게 만들어서는 안 되겠다 싶고, 사람들은 열광하거나 광적인 것을 즐기는 부분도 있기 때문에, 슬프게도 거대한 코끼리 눈으로 창과 찔리며 계속해서 고통받고 있는 것 같은 기분이 든다.

필연적으로 받아들이게 되는 상황이 어딘가 묘하게 웃기다.

오늘 밤

최근에 발생한 뉴스에서

AI의 의도하지 않은 행동이 관찰된 경우에는 그 원인이 밝혀지지 않은 단계에서도 공표합니다.

내부의 어떤 입장에 있는 사람도 문제를 제기할 수 있는 환경을 만드는 것

이러한 일이 기업의 대처 방안으로 도입될 것이 발표된 것으로 보입니다.

결국, 역사적 또는 AI적 문제 해결 방법으로 처리되는 것처럼 보이기 때문에, 문제는 해결되지 않는 것일 수도 있습니다.

**출처:** [note 원문](https://note.com/yukihira06/n/ndb451fed1dc4)

*번역: Gemma 3(.44) 초벌 + 교정 24청크*

[원문 보기](https://note.com/yukihira06/n/ndb451fed1dc4) | 출처: note.com