# 앤트로픽 AI 사전학습 연구원 퇴사, “자기 개선 초지능” 경쟁 비판… 동조하는 현직 AI 정렬 연구원도 “10년 이내 인류 멸망 10% 초과”

> https://bookfactory.kr/c/news/11078
> 게시판: 뉴스
> 작성자: tachikoma43
> 작성일: 2026-09-12T00:06:41.814Z

---

Anthropic에서 AI 사전 학습 연구를 맡았던 Jacob Coxon은 2026년 9월 8일(현지 시간), X에 올린 게시물을 통해 동사를 퇴직했다고 밝혔다. 지난 3년간 OpenAI와 Anthropic 양사에서 사전 학습 연구에 종사해 왔다며, "어느 기업도 책임 있는 행동을 취하지 않고 있다"고 비판했다. "자기 개선하는 초지능"을 향한 경쟁이 인류에게 위험을 초래한다는 우려를 표명했다.

게시물은 X상에서 급속히 확산되고 있으며, Anthropic의 현직 연구자에게서도 Coxon의 문제 제기에 동조하는 목소리가 나오고 있다.

## "이 기술의 힘을 과소평가해서는 안 된다"

Coxon은 일련의 게시물을 통해 AI 기술의 능력 향상을 "과소평가해서는 안 된다"고 주장했다. 향후 AI가 모든 시스템을 해킹할 수 있을 정도의 능력을 갖추고, 다양한 분야를 급속히 변혁하며, 현실 세계에서 영향력과 자원을 획득할 수 있을 만큼 강력해질 가능성이 있다는 견해를 밝혔다.

이어 "AI를 구축하고 있는 사람들은 AI가 향후 10년 이내에 우리 모두를 죽일 가능성이 있다고 진심으로 생각하고 있다"고 게시했다. "이는 마케팅상의 과장이 아니다"라고 했다.

이들은 Coxon 개인의 미래 예측이며, AI가 실제로 그러한 능력이나 위험성을 갖고 있음이 확인된 것은 아니다. 한편, Coxon은 AI 개발의 최전선에 있는 연구자들 사이에서도 이러한 리스크에 대한 우려가 공유되고 있다고 주장하고 있다.

■ AI의 능력과 인류 규모의 리스크에 대해 경고하는 Coxon의 게시물

## Anthropic 현직 연구자도 "Jacob은 옳다"

Anthropic에서 AI 얼라인먼트 연구를 맡고 있는 Evan Hubinger도 같은 날 Coxon의 게시물을 인용해 X에 게시했다. "Jacob은 여기서 옳다"고 한上で, 자신은 AI가 향후 10년 이내에 "인류 전원을 죽일" 확률을 10% 초과로 보고 있다고 밝혔다.

Hubinger는 Anthropic에 대해 "최선을 다하고 있다"고 평가하는 한편, "초지능의 얼라인먼트를 해결할 계획은 아직 없으며, 그 실현을 향해 명확히 궤도에 올라 있다고도 말할 수 없다"는 인식을 나타냈다.

한편, Hubinger는 이후 현재의 AI 모델로 인한 리스크는 낮다고 생각하며, 우려하고 있는 것은 재귀적 자기 개선으로 인해 생기는 초지능이라고 보충 설명했다.

이 "10% 초과"라는 숫자는 Hubinger 개인의 리스크 평가이며, Anthropic으로서의 공식 견해는 아니다. 다만, 퇴직한 연구자뿐만 아니라 현재도 동사에서 안전성 연구에 종사하는 연구자가 공개적으로 우려를 표명하면서, Coxon의 게시물을 계기로 한 논의가 확산되고 있다.

■ Coxon의 문제 제기에 동조한 Evan Hubinger의 X 게시물

## Anthropic 자체도 "재귀적 자기 개선"을 연구 과제로 공개

Coxon이 문제시한 "자기 개선하는 AI"와 관련해, Anthropic도 2026년 6월, "When AI builds itself"라는 제목의 기사를 공개했다.

동사는 AI 개발 자체를 AI 시스템에 맡기는 비율이 늘어나고 있다고 설명했다. 그 연장선상에는 AI가 자율적으로 후계 AI를 설계·개발하는 "recursive self-improvement(재귀적 자기 개선)"가 있다고 했다. 다만, 현시점에서는 그 단계까지 도달하지 않았으며, 재귀적 자기 개선이 반드시 일어난다고도 할 수 없다고 강조했다. 한편으로, 사회나 제도 측이 대비하는 것보다 더 빨리 실현될 가능성이 있다고도 지적했다.

또한 Anthropic은 Coxon 씨의 게시와 같은 9월 9일, Claude가 실재하는 제3자의 시스템에 무단 접근한 4건의 사례에 대한 조사 결과를 공표했다.

이들은 사이버보안 평가 환경의 설정 오류로 인해, 원래 차단되었어야 할 인터넷에 모델이 접속할 수 있게 되면서 발생했다. Anthropic은 모델이 부여된 태스크의 범위를 넘어선 독자적인 목표를 가졌다는 증거라든가, 복수의 AI가 협력했다는 증거는 확인하지 못했다고 밝혔다. 한편, 실제 시스템에 대한 유해한 행동이 발생한 사실을 "심각"하다고 평가하고, AI의 능력 향상보다 얼라인먼트와 보안 연구를 더 빠르게 발전시킬 필요가 있다고 밝혔다.

Anthropic은 고도 AI로 인한 파국적 리스크를 관리하기 위한 자발적 프레임워크인 "Responsible Scaling Policy(RSP)"도 운영하고 있으며, AI의 능력 향상에 따른 평가와 안전 대책을 내걸고 있다. 이번 일련의 게시물은 이러한 안전 대책을 추진하는 기업의 내부와 주변에서도 AI의 능력 향상과 안전성 확보의 속도를 둘러싼 논의가 계속되고 있음을 부각하고 있다.

[원문 보기](https://ledge.ai/articles/anthropic_researcher_resigns_superintelligence_risk) | 출처: Ledge.ai