# AI 연구자 제이콥 코크슨이 앤솔롭픽 사직과 폴란드 로봇 시연회에 대해 논평

> https://bookfactory.kr/board/ai-tech/16939
> 게시판: AI·머신러닝
> 작성자: admin
> 작성일: 2026-09-16T22:31:42.313Z

---

![見出し画像](https://assets.st-note.com/production/uploads/images/311931708/rectangle_large_type_2_6e5249bf729086866a82d987b526ffca.png?width=1280)

### 제이콥 코킨스의 사임에 대한 논의가 진행 중이다.

제작자 제이콥 코슨(@hilbertspaess)의 게시글 내용을 요약했습니다.

> 
> 
> 오늘 안트로픽(Anthropic)을 퇴사했습니다. 지난 세 년 동안 OpenAI와 안트로픽에서 모두 사전 훈련 연구를 진행했습니다. 두 회사 모두 책임감 있는 행동을 보이지 않고 있습니다. 스스로 진화하는 초지능으로 무작정 달려가고 있으며, 우리의 생명과 도박을 하고 있습니다. 더 자세한 내용은 아래를 참고해 주세요. — Jacob Coxon (@hilbertspaess) 2026년 9월 9일
> 

제이콥 코슨(Jacob Coxon) 씨(AI 연구자)가 Anthropic을 퇴사 발표 스레드입니다. 그는 과거 3년간 OpenAI와 Anthropic 양사 모두에서 pretraining 연구에 참여한 경험을 바탕으로 양사의 태도를 강하게 비판하고 있습니다.

### 해리 포터와 저주받은 아이’의 출간 10주년, 해리 포터 시리즈의 누적 발행 부수는 1억 5천 5백만 부를 돌파했습니다.

이는 세계에서 가장 많이 팔린 소설 시리즈 기록이며, J.K. 롤링의 재능과 해리 포터 시리즈가 전 세계 독자들을 매료시킨 증거입니다.

특히 ‘해리 포터와 저주받은 아이’는 시리즈의 새로운 전개로서 많은 팬들을 사로잡았고, 출간 10주년을 맞이하게 되었습니다.

사임 이유: 양사 모두 책임 있는 행동을 보이지 않았으며, 스스로 개선 가능한 초지능(self-improving superintelligence)을 향해 경쟁을 가속화하고 인류의 생명을 위협하는 행태라고 주장했습니다.

기술의 위험성: 이 기술의 힘을 과소평가해서는 안 된다. 곧 “모든 것을 해킹하고 모든 분야를 단번에 변화시키며 현실의 권력과 자원을 확보할 수 있는” 초인적인 시스템이 등장할 것이다. 발전은 멈추지 않는다.

개발자들의 속마음: AI를 만들고 있는 사람들은 진지하게 “지금까지의 마지막 세도 인간을 멸망시킬 가능성이 있다”고 생각하고 있다. 이는 마케팅이 아니라, 표면적으로는 신중한 표현을 사용하지만, 내적인 생각은 공포를 공유하고 있다. 다른 어떤 인간의 활동도 이 정도 수준의 위험을 지니지 않는다.

왜 계속 만들어 나아갈까: OpenAI는 문명 규모의 스테이크를 깊이 내면화하지 않은 사람들이 많다. Anthropic은 위험성을 잘 이해하고 있지만, “다른 사람들은 책임 있는 행동을 하지 않으니 우리들이 먼저 해야 한다”는 경쟁 로직에 갇혀, 위험을 인지하고 있음에도 불구하고 계속 진행하고 있다.

레이스에 대한 비판: 이 레이스를 받아들이고 “엔드게임”에 참여하는 것은 민간 기업의 소극적인 움직임에서 시작해야 할 자만적인 도박이다. 정렬을 서두르도록 진행하려면 “다른 더 좋은 길은 없다”는 비범한 확신이 필요하다.

협조에 대한 희망과 현실: Hugging Face 공격과 같은 “경고 사격”이 미국 내 연구소 간의 페이스 합의를 현실적으로 하는 데는 낙관적이다. 하지만 글로벌 경쟁을 방지하는 궤도에는 탑승하지 않고, 모델 능력 향상을 일시적으로 금지하는 듯한 비용이 많이 드는 조치가 필요해질 수도 있다.

연구자들에게 던지는 제안: 연구자들에게 “다음 수년 동안 실제로 어떻게 느껴질지 고려해 보아라. 엄밀한 이해 없이 초지능적인 RL 모델을 실행하고 싶은가? 아니면 ‘어차피 일어날 건데’ 하며 계속 머리를 숙이는 것인가, 아니면 지금 이 순간에 다른 조건을 요구하는 것인가?”라고 묻고 있다.

스레드는 매우 큰 반향을 불러일으켰다 (메인 게시물은 게시 시점에서 수백만 개의 좋아요 규모). AI 안전 관련 계정からも 반응이 따르고 있다. 전체적으로 AI 개발의 경쟁적인 현황에 대한 강한 위기감과 더 신중하고 협조적인 접근 방식을 요구하는 메시지이다.

전반적으로 이와 같은 내부 고발이 증가하는 것 자체만으로도 이미 “무언가 잘못되었다”는 신호라고 생각한다. 특히 Anthropic과 같이 “안전 지향적”이라고 자칭하는 회사에서도 나온 것은 상징적이다.

단순히 해결책이 쉬운 문제는 아니며, “멈춰!”라는 것만으로는 충분하지 않다. 현실적인 협조의 틀(검증 가능한 페이스 메이커 합의, 컴퓨트 모니터링, 위험한 자가 개선 실험 제한 등)을 어떻게 설계할지가 본질적인 과제가 된다.

통제할 수 없는 것을 무제한으로 가속시키는 것은 명백히 현명한 전략이 아니다.

요컨대, 코슨의 경고는 “무시해도 되는 수준”이 아니다. 그렇다고 해서 “그래서 전부 멈춰라”로 끝나느 이야기가 아니다. 현재의 솔직한 느낌은 상당히 까다로운 중간 지대에 있다는 것이다.

### 폴란드 로봇 시범에 대한

폴란드 바르샤바에서 약 30대의 로봇이 디지털화부 앞에서 모여 인공지능의 무질서한 발전에 항의했다.

> 
> 
> 30대의 로봇이 “시위” 벌려 AI 규제 촉구=폴란드 🎥🤖 “기계의 반란”은 자신들에게 향한 항의에서 시작되었다. 폴란드 바르샤워에서 약 30대의 로봇이 디지털화부 앞에서 모여 AI의 혼란스러운 발전에 항의했다.
> 

### 두 게시물의 공통점

둘 다 “기술 발전 속도가 사회·제도 적응 속도를 훨씬 앞서고 있다”는 우려를 시각화한 것이다.

콕슨 측은 존재 위험(existential risk)에 대한 논의를 다루고 있다. 자기 개선이 가능한 초지능으로 향하는 경쟁이 통제 불능 상태에 빠지기 전에 멈출 수 없는 구조적인 문제를 지적하고 있다.

로봇 측은 더 가깝고 즉각적으로 발생하는 위험을 지적하며, 인공인간 로봇이나 AI가 인지 노동과 육체 노동을 대체하기 전에 논의와 법제화를 촉구한다.

두 작품 모두 “현실이 이미 더 나아가고 있다”는 점을 보여주려 한 점이 공통적이다. 시위에서 “이러한 로봇들은 이미 자유롭게 움직이고 있으며, ‘항의’하고 있다”고 주최측이 강조했고, Coxon은 “진전이 멈추지 않았다”고 말했다.

### 차이점과 평가

로봇 시연은 상당히 계산된 성과였다. 주최 측 Democratism은 로봇 렌탈 회사(Delta Robots)와 연관되어 있었으며, 홍보 요소가 강했다(관련자 스스로도 인정하고 있었다). 그럼에도 불구하고, 장관이 직접 나서 대응한 것과 세계적으로 보도된 것을 고려할 때, 효과적인 주의 환기였다고 생각한다. 추상적인 “AI 규제”에 대한 이야기를 시각적으로 이해하기 쉬운 형태로 사회에 던진 의미는 컸다.

한편, Coxon의 사직은 더욱 심각하고 내부적인 문제이다. 겉으로는 “안전 우선”을 내세우는 Anthropic에서도 진지하게 “인류를 파괴할 가능성이 있다”고 믿는 사람들이 속출하고 있다 (Hubinger의 동의를 포함). 이는 성과 문제가 아닌, 현장의 분위기가 이미 “최후의 단계”에 접어들었다는 신호이다.

### 함께한 감상

이 두 사건이 거의 동시에 일어난 것은 단순한 우연이 아닐 것이다.

한편, 연구실 내부에서는 “이대로라면 정말 심각한 문제”라는 인식이 확산되고 있었다.

한편, 사회 측에서는 “가장 먼저 고용이나 일상생활에 미치는 영향을 어떻게 처리할 것인가”라는 보다 현실적인 불안감이 드러나고 있다.

양쪽 모두 타당하다. 초지능의 존재 위험을 무시하는 것은 어리석지만, 눈앞의 노동 시장의 격변을 방치하는 것도 또 어리석다. 문제의 핵심은 이들이 별개의 논쟁으로 다루어지기 쉬운 점이다. Coxon이 지적하는 레이스 구조는 폴란드의 데모가 요구하는 “규제”를 실제로 기능하게 하는 것을 극도로 어렵게 하고 있다. 국가나 기업이 “자기가 먼저 하지 않으면 지는 것이라고 생각”하는 한 협조는 미루어질 수밖에 없다.

개인적으로는 이러한 “내부 고발＋시각적 사회 시위”가 동시에 증가하는 것은 건강한 압력이라고 생각합니다. 적어도 “아직 먼 이야기”라는 낙관론은 상당한 설득력을 잃어가고 있습니다. 다음으로 필요한 것은 이러한 경고를 “주제”로 끝내지 않고 실제 국제적인 페이스 조절이나 검증 가능한 규칙 마련으로 어떻게 연결할 수 있는가 하는 것입니다. 그것이 가장 어려운 부분이지만요.

**출처:** [note 원문](https://note.com/brisk_arnica3014/n/n2660f343a02e)

*번역: Gemma 3(.44) 초벌 + 교정 23청크*

[원문 보기](https://note.com/brisk_arnica3014/n/n2660f343a02e) | 출처: note.com