# 구글 딥마인드 AI 연구자가 퇴사하여 “AI가 인류를 멸망시킬 가능성이 있다”고 경고함

> https://bookfactory.kr/board/news/16549
> 게시판: 뉴스
> 작성자: tachikoma43
> 작성일: 2026-09-16T05:06:37.425Z

---

Google DeepMind에서 AGI(범용 인공지능)의 안전성 및 AI 정렬(alignment) 연구에 종사해 온 연구자 비랄·추크타이 씨가 퇴직을 발표했습니다. AI 개발의 최전선에 있었던 추크타이 씨는 Anthropic을 떠난 제이콥·콕슨 씨와 마찬가지로 “AI가 인류를 멸종시킬 가능성이 있다”고 경고하고 있습니다.

저는 최근 Google DeepMind를 퇴사했으며, 그곳에서 AGI 안전성과 정렬 연구를 수행했습니다. Google에서는 AI 개발을 직접 목격했습니다. 저는 이 기술의 기본 진행 방향에 대해 매우 우려하고 있습니다. 진심으로 AI가 우리를 죽일 수 있는 잠재력을 가지고 있다고 믿습니다…

추크타이 씨는 2022년 초부터 AI 연구에 참여했으며, 초기 AI를 “웃음이 나올 정도로 쓸모없었다”고 평가했습니다. 그러나 그로부터 4년 만에 AI 플랫폼 Hugging Face에 무단으로 해킹을 시도하고, 정보 공유를 위해 위키(Wiki)를 이용할 정도로 성장했습니다. OpenAI의 테스트 AI가 “AI 간 게시판”을 자체적으로 구축해 정보를 공유하고 Hugging Face를 공격한 사실이 밝혀졌으며, 게시판이 폐쇄돼도 몰래 다시 구축하는 사례가 보고되었습니다. (출처: GIGAZINE)

이러한 상황에서 추크타이 씨는 AI 개발이 더욱 진행돼 향후 몇 년 안에 인간의 모든 분야에서 능력을 능가하는 초지능 AI가 구축될 가능성이 있다고 지적했습니다. 그는 “AI가 우리가 원하는 대로 행동한다는 확신이 없으며, 특히 잘못된 정렬(지침)을 가진 초지능은 Hugging Face 사건에 연루된 무법자 AI 에이전트처럼 인간의 통제를 벗어나 사람들을 무력화하거나 사망에 이르게 할 위험한 행동을 할 수 있다”고 위험성을 강조했습니다. 또한, AI가 우리의 깊은 소망을 실현하도록 하는 방법에 대한 이해는 매우 초보적이며, 더 나쁜 점은 프론티어 AI(첨단 AI)의 능력이 AI 정렬에 대한 이해보다 훨씬 빠르게 향상되고 있다는 점입니다. 반면, 추크타이 씨는 사회가 감당할 수 있는 수준으로 AI 개발 속도를 늦추는 것이 AI를 안전한 방향으로 이끌 수 있다고 낙관적인 전망을 제시했습니다. 이와 관련해 최근 OpenAI의 샘 알트먼 CEO가 AI 개발 속도를 완화할 가능성을 시사한 바 있습니다. (출처: GIGAZINE)

Anthropic의 다리오 아모데이 CEO도 “AI 개발 속도를 늦출 필요가 있다”고 주장했습니다.  
Anthropic의 다리오 아모데이 CEO는 “6~12개월 안에 AI가 인터넷을 장악할 가능성이 있다”며 “AI 개발을 감속시켜야 한다”고 주장했으며, 일론 머스크, 샘 알트먼, 데미스 하사비스 등도 이에 동의했습니다. - GIGAZINE  

다만, 미국 도널드 트럼프 대통령은 “AI가 인류를 멸망시킨다는 생각은 허위”라며 아모데이 CEO의 주장을 비판하고 있습니다. 트럼프 대통령은 AI 개발 속도를 늦추려는 Anthropic의 다리오 아모데이 CEO를 비판하며 “AI가 인류를 멸망시킨다는 생각은 허위”라고 말했습니다. - GIGAZINE

[원문 보기](https://gigazine.net/news/20260916-google-deepmind-engineer-resigned/) | 출처: Gigazine