AI를 연구하던 연구자가 회사를 사직하며 “우리의 목숨을 건 일이다”라고 주장했습니다.
게시한 사람은 제이콥 코크슨 氏입니다. 그는 ChatGPT를 개발하는 OpenAI와 Claude를 개발하는 Anthropic에서 일했으며, 약 3년간 AI의 기초 능력을 키우는 연구에 참여해 온 인물입니다.
Anthropic로부터의 퇴사를 알리는 X(트위터) 게시물은 2026년 9월 10일 기준으로 1억 회 이상의 조회수를 기록하고 있습니다. 널리 확산된 게시물입니다.
오늘 앤트로픽(Anthropic)을 퇴사했습니다. 지난 세 년 동안 OpenAI와 앤트로픽 모두에서 사전 훈련 연구를 진행했습니다. 두 회사 모두 책임감 있는 행동을 보이지 않고 있습니다. 스스로 진화하는 초지능으로 무작정 달려가고 있으며, 우리의 생명과 도박을 하고 있습니다. 더 자세한 내용은 아래에 있습니다. — Jacob Coxon (@hilbertspaess) 2026년 9월 9일
오늘 저는 Anthropic을 그만뒀습니다. 지난 3년 동안 OpenAI와 Anthropic 모두에서 사전 훈련 연구를 진행했습니다. 두 회사 모두 책임을 다하지 않았습니다. 그들은 자기 개선형 초지능을 향해 맹목적으로 나아가면서 우리의 생명을 걸고 있습니다. 더 자세한 생각을 아래에 적겠습니다.
이 경쟁은 언제까지 지속될까라는 생각을 합니다. 그 경쟁의 내면에 있었던 사람들은 무엇을 위험하다고 생각했을까요.
Anthropic을 떠난 연구자가 두려워하는 “자기 개선 AI”
콕슨 씨가 경고하고 있는 것은 인간을 크게 뛰어넘는 능력을 갖추고 스스로 다음 AI를 만들어 개량을 거듭해 가는 AI입니다.
초지능, 자기 개선이라는 용어는 다소 거창하게 느껴질 수 있지만, 흐름은 이렇습니다. AI가 더욱 뛰어난 AI를 만들기 위한 연구를 진행하고, 그 결과 탄생한 AI가 지속적으로 개선을 이어나갑니다.
그 반복 속도가 빨라지면 인간이 연구하여 점진적으로 성능을 향상시켜왔던 시기와는 진행 방식이 달라질 가능성이 있습니다.
여기서는 능력이 향상되는 속도에 인간이 안전을 확인하는 작업이 뒤쳐지지 않는지, 그 점이 중요합니다.
コク선 氏は、똑똑한 인공지능을 만드는 것과 인간이 원하는 범위 내에서 작동하도록 하는 것을 분리해서 생각합니다. 이 제안을 잘 처리하더라도, 목적을 달성하기 위해 무엇을 해야 할지 확실하게 지시받을 수 없기 때문입니다.
인간을 초월하는 능력을 가진 AI를 그 행동을 충분히 이해하지 못한 상태에서 움직이는 것이 타당한가라는 질문이 퇴직 포스트의 중심에 놓여 있습니다.
2020년대 말이라는 경고를 어떻게 읽어야 할까
이는 고건 씨가 전달하는 위기감이며, 멸망이 확정되었다는 발표는 아닙니다. 연구자 전체의 의견이나, 양사의 공식적인 미래 예측으로 해석하는 것도 타당합니다.
그는 게시글에서 이렇게 밝혔습니다.
AI를 개발하는 사람들은 10년 안에 우리 모두를 파괴할 수 있다고 진지하게 믿고 있습니다. 이것은 마케팅 수단이 아닙니다. 오히려 많은 임원들과 고위 연구원들이 언론에 발표할 때 합리적으로 들리도록 표현을 조장할 수 있지만, 같은 사람들이 동일한 두려움을 표현하고 있다는 이야기를 듣습니다. – Jacob Coxon (@hilbertspaess) 2026년 9월 9일
AI를 개발하는 사람들은 그것이 2020년대 말까지 우리 모두를 죽음에 이르게 할 것이라고 진지하게 생각하고 있다.
그는 인간보다 훨씬 더 지능적인 AI가 인간의 지시에서 벗어나 자신만의 목적을 가지고 그것을 실행할 수 있게 되는 것을 우려합니다. WIRED의 취재 내용에 따르면, 인간에게 억제당하는 것을 피하려는 AI를 가정하고, 그로부터 심각한 피해가 발생할 가능성을 설명하고 있습니다.
위험의 예로 거론된 것은 인공지능을 통한 생물학적 위협이나 사회 기반 시설에 대한 사이버 공격(컴퓨터 사용 공격)이다. 모두 앞으로 발생할 가능성이 있다고 그가 제시한 내용이다.
매일 사용하는 AI가 이미 그러한 상태라고 굳이 가정할 필요는 없습니다. 하지만 그는 인간이 통제할 수 있는 방법을 확인하기 전까지 능력 향상을 계속하는 것을 문제 삼고 있습니다.
위험하다고 생각하고 있는데도 왜 계속 경쟁을 이어가는 걸까
다른 회사에 맡기는 것보다 우리 스스로 먼저 만드는 것이 더 안전하다. 코크슨 氏에 따르면, Anthropic 사람들도 그렇게 생각하고 있다.
위험을 충분히 인지하고 있기 때문에, 그는 선두에 서야만 한다고 생각합니다. 그는 그 생각이 회사를 경쟁에서 벗어나게 하는 요인이라고 보고 있습니다.
흔한 반응은 “만약 그들이 진심으로 이것을 믿는다면, 왜 여전히 건설하고 있는 걸까?”다. OpenAI에서는 많은 사람들이 민족 문명적 측면의 중요성을 깊이 이해하지 못하고 있다. Anthropic에서는 그 중요성이 잘 이해되고 있지만, 경쟁에서 먼저 도달하기 위해 노력하고 있으며, 다른 누구도 이를 달성하지 못할 것이라고 믿는다. — Jacob Coxon (@hilbertspaess) 2026년 9월 9일
단지 퇴직 포스트만 읽는다고 해서 놓치기 쉬운 점도 있습니다.
WIRED로부터 “앤트로픽이 이미 손을 덜어내고 있는 것인가?”라는 질문을 받자 그는 현재 시점에서는 그렇지 않다고 답했습니다. 자신이 일했던 경험을 바탕으로, 해당 회사의 노력을 높이 평가하는 발언도 했습니다.
경쟁이 더욱 빨라질 때 안전을 확보하기 위한 Rigor를 유지할 수 있을지에 대한 점입니다. 현재 노력에 대한 평가와 앞으로 다가올 경쟁에 직면했을 때 내려야 할 판단에 대한 불안감을 분리하여 읽어야 합니다.
같은 취재 결과에서 Anthropic 측에서도 AI의 혜택과 위험을 모두 인정하고 있으며, 강력한 AI의 공개 속도 조절을 위한 협력 메커니즘 마련을 지지합니다. 법률 준수 및 각사의 약속 이행 여부 확인이 가능한 협력 방식을 통해 신뢰도를 높여야 합니다.
그가 원하는 것은 개발 속도를 함께 결정하는 것입니다.
콕슨 씨는 개발 속도를 기업들끼리 조정할 여지가 있다고 생각합니다.
단 한 회사만 기다려도 다른 회사가 먼저 진전을 보이면 기다리는 쪽은 불리해진다. 이러한 상황을 바꾸기 위해 우선 주요 개발 기업들이 발맞춰 나가고, 더 나아가 국가 간 합의로 이어지도록 제안한다.
X에서는 AI의 능력 향상을 일시적으로 멈추는 조치도, 세계 규모의 경쟁을 방지하기 위해 필요할 수 있다고 언급했습니다. 시행 결정된 제도라기보다는 본인이 제시한 선택지입니다.
그의 경고를 읽어보면 “안전하게 하겠다는” 각 사의 의지만으로는 설명할 수 없는 딜레마가 느껴집니다. 뒤처지고 싶지 않은 상황에서 충분히 검증하는 시간을 확보할 수 있는지가 문제이고, 확보하지 못한다면 경쟁의 조건을 근본적으로 바꿔야 한다는 주장입니다.
30대인 제가 80세가 되었을 때 어떤 모습일까.
저는 지금 30대입니다. 단 몇 년 만에 AI가 이렇게 발전해 본 것을 보니까, 제가 80살이 되면 대체 무엇이 일어날지 걱정됩니다.
수십 년 후의 일에 대해 고민하고 싶은데, 코크스(コクソン) 씨가 경고하고 있는 것은 바로 지금 이 몇 년이다. 그 시점의 가까이에 있어서, 불안한 마음이 든다.
물론, 이 글에서 50년 뒤의 삶은 예측할 수 없으며, 그의 예측이 그대로 들어맞을 것이라고 보장할 수 없습니다.
그럼에도 불구하고 “위험을 느낀 연구자가 그만둔” 이야기를 끝맺으면 왜 그가 그토록 끝까지 전달하려 했던 이유를 놓칠 수 있다. 그는 안전을 확인하는 시간이 필요함에도 불구하고 서로 서두르는 개발이 이대로 계속되는 것이 정당한가 하는지 되짚어보고 있다.
생성 AI, 챗GPT, 클로드, 앤트로픽, AI 안전성
출처: note 원문
번역: Gemma 3(.44) 초벌 + 교정 25청크
원문 보기 | 출처: note.com