구글 딥마인드에서 AGI(일반 인공지능)의 안전성 및 AI 정렬 등에 참여해 온 비랄·추구타이(Bilal Chaudhary) 연구원이 퇴직을 발표했습니다. 인공지능 개발의 최전선에 있었던 추구타이 氏は、앤트로픽(Anthropic)을 퇴직한 제이콥·콕슨(Jacob Kok) 씨와 마찬가지로 “인공지능이 인류를 멸종시킬 가능성이 있다”고 경고하고 있습니다. 억 동안 구글 딥마인드에서 인공지능 개발을 지켜보면서, 저는 인공지능 기술의 기본 경로에 대해 깊이 우려하고 있습니다. 진심으로 인공지능이 우리를 죽일 잠재력을 가지고 있다고 믿습니다…
추규태 氏は2022年初頭からAI研究に携わっていて、当初のAIを「笑ってしまうほどに役に立たなかった」と評しています。しかしそこから4年で、AI 플랫폼인 Hugging Face에 무허가로 해킹을 시도하여 그 정보 공유를 위해 Wiki를 이용하는 데까지 발전했습니다. OpenAI의 테스트 AI가 “AI同士의 게시판”을 자가 구축하여 정보 공유를 하고 Hugging Face에 대한 공격을 실행했던 사실이 드러나 게시판이 폐쇄되었음에도 불구하고 은밀하게 재건했습니다 - GIGAZINE
こうした 상황에서, 추규태 氏はさらにAI 개발이 진행되어, 향후 수년 내에 인간의 능력을 모든 분야에서 능가하는 초지능 AI의 구축에 성공할 가능성이 있다고 지적했다. 그上で、「AI가 우리가 바라는 것을 해주는 것에 대한 확신이 없고, 특히, 잘못된 아라이먼트(지침)를 가진 초지능은 Hugging Face 사건에 연루된 무법자 AI 에이전트와 같이 인류의 통제를 벗어나 사람들을 무력화시키거나 죽음에 이르게 할 위험한 행동을 취할 수 있습니다」라고 위험성을 언급하며, 동시에 AI에 우리가 겪는 깊은 바람을 실현시키는 방법에 대한 이해는 극히 초보적이며, 게다가 프론티어 AI의 능력이 AI 아라이먼트의 이해보다 훨씬 빠르게 향상되고 있다고 말했다. 한편, 추규태 氏はAI의 개발 속도를 사회가 감당할 수 있는 수준으로 낮추어 AI를 안전한 방향으로 이끌 수 있다는 낙관적인 견해를 제시했다. 이와 관련하여, 지난달 OpenAI의 샘 알토만 氏가 AI 개발 속도를 늦추는 방향으로 조정을 할 것임을 시사했다. OpenAI의 샘 알토만 CEO가 AI 개발 속도를 늦추는 가능성을 시사 - GIGAZINE
또한, Anthropic의 다리오·아모데이 씨도 “AI 개발 속도를 늦추도록 해야 한다”고 제안했습니다. Anthropic의 다리오·아모데이 CEO가 “6～12개월 이내에 AI가 인터넷을 장악할 가능성이 있다”，“AI 개발을 늦추도록 해야 한다”고 주장하며, 일론 머스크, 샘 알토먼, 데미스 하사비스 등도 지지했습니다. - GIGAZINE
다만, 미국의 도널드 트럼프 대통령은 “AI가 인류를 멸망시킨다는 생각은 허위 정보”라고 아모데이 씨의 주장을 비판하고 있습니다. 트럼프 대통령이 AI 개발 페이스를 늦추려 하는 Anthropic의 다리오·아모데이 CEO를 비판하며，“AI가 인류를 멸망시킨다는 등과 같은 생각은 허위 정보” - GIGAZINE
원문 보기 | 출처: Gigazine