# AI가 인류를 파멸시킬 경우, 연구자들이 생각하는 5가지 시나리오

> https://bookfactory.kr/board/news/19742
> 게시판: 뉴스
> 작성자: tachikoma43
> 작성일: 2026-10-03T05:48:12.030Z

---

AI가 생물 무기, 핵 전쟁, 사회 붕괴 등을 통해 인류를 멸망시킬 가능성을 뉴사우스웨일스 대학의 AI 연구자 토비·워르쉬 교수가 5가지 시나리오로 나누어 논지하고 있습니다. How would AI actually kill all humans? Here are the top 5 scenarios https://theconversation.com/how-would-ai-actually-kill-all-humans-here-are-the-top-5-scenarios-292220

워셜스氏は、以下の5つのシナリオを漠然としたものから具体的なものの順に並べ、後に挙げられるほど起こりやすいと考えているとのこと。◆1：人間には予測できない方法で滅ぼされる。워셜스氏が最初に挙げるのは、人間を超える知能を持つ「超知능」が人間には思いもよらない方法で人類を滅ぼすシナリオ。これは犬が核戦争を想像できないのと同じように人間も超知능의 행동을 예측できないという考え方です。ただし、現在のAI는 특정 문제를 해결하는 데 유능해도 모든 분야에서 인간을 상회하는 것은 아니므로, 초지능이 실현되기까지는 아직 시간이 걸릴 가능성이 있다고 워셜스氏は指摘しています。◆2：与えられた目標を追い求めて人類を犠牲にする哲学者のニック·ボ스트로ム氏は、「페이퍼클립을 최대한 많이 만드는 것”이라는 목표를 주어진 AI가 지구나 우주를 클립의 제조 시설로 바꾸어 버리는 사고 실험 결과를 논문에서 제시합니다. 워셜스氏は、この 사고 실험에서 AI가 인류를 멸ぼ하는 것은 인간을 증오하는 것이 아니라 “클립을 늘리는”이라는 목표를 충실히 실행하고, 인간의 체격을 구성하는 원자까지 재료로 쓰려 할 때라고 설명합니다. 보스트로ム氏 또한, 지능이 높다고 해서 AI가 인간과 같은 동기에서 행동하는 것은 한정되지 않고, AI에 어떤 목표를 부여하는 것이 중요하다고 논했습니다.

물론입니다. 다음은 번역입니다.

울슈 박사는 공장을 건설하려 할 때 건설 허가 문제나 소송, 반대 운동이 장애가 될 수 있기 때문에, 초지능을 가진 AI가 현실 세계에서 원하는 대로 목적을 달성할 수 있다는 보장은 없다고 지적하고 있습니다. ◆3: 생물 무기로 인류를 파멸시키려는 울슈 박사는 초지능이 생물 무기를 개발하여 인류를 파멸시키는 시나리오도 제시하며, AI의 발전이 사회에 미치는 영향을 예측한 “AI 2027”에도 유사한 결론이 나타난다고 설명합니다. 스탠포드 대학교는 2026년 8월 6일, AI가 제안한 DNA 배열을 기반으로 약 300종의 바이러스를 합성하여 시험한 결과, 16종이 대장균을 사멸시키는 효과를 확인했다고 발표했습니다. 이에, 연구에서 합성된 것은 세균에 감염하는 “배ктери오파지”이며, 연구팀은 인류의 멸망이 아닌 새로운 세균 감염 치료법 개발을 목표로 하고 있습니다. 바이러스 감염자가 다른 사람에게 전파되기 전에 치사율이 매우 높아져 죽을 때까지 이어진다면, 오히려 바이러스 감염이 확산되지 않을 수 있기 때문에, 새로운 바이러스로 전 인류를 죽음에 이르게 하는 것은 쉽지 않다고 울슈 박사는 주장합니다.

◆4：핵전쟁을 일으킬 수 있는 AI가 핵무기 지휘·통제 시스템에 침입하거나 군에 잘못된 정보를 제공하여 핵전쟁을 일으킬 가능성도 거론되었습니다. 월쉬氏は, 핵무기 지휘·통제 시스템은 인터넷으로부터 분리되어 있다고 여겨지지만, 격리된 시스템에도 침입의 여지가 있다는 점을 지적했습니다. 예를 들어 언급하는 것이 2010년에 이란의 핵 시설의 원심 분리기를 공격한 멀웨어 “Stuxnet”입니다. 보안 기업 Kaspersky에 따르면, Stuxnet은 USB 메모리를 통해 시설 내에 유입된 것으로 추정됩니다. 라트가스 대학교 등의 연구팀은 2022년 연구에서, 미국과 러시아가 전면 핵전쟁을 일으켰을 경우, 그 이후의 기아로 50억 명 이상이 사망할 것으로 추정했습니다. 이는 핵폭발에 따른 화재의 확산이 일조를 차단하여 기후를 변화시키고 식량 생산이 크게 감소하기 때문이며, 월쉬 역시 “핵의 겨울”에 의한 기아를 우려하고 있습니다.◆5：AI가 사회를 파괴하고 인간이 스스로 파멸을 초래하는 월쉬氏가 가장 우려하는 시나리오는, AI를 계기로 인간이 스스로 파멸을 초래하는 것입니다. 엄청난 실업, 잘못된 정보의 홍수, 정치적 분열에 더하여, 인간을 대신하여 친밀한 대화 상대가 되어주는 AI와의 교류로 인간 간의 유대감도 손상되면, 사람들의 생존을 지탱하는 사회의 메커니즘이 붕괴될 수 있다는 것입니다. 궁극적으로, “AI에는 분명히 우려할 만한 점이 있지만, 지나치게 두려워하지 말아야 합니다”라고 월쉬氏は 촉구합니다.

[원문 보기](https://gigazine.net/news/20261002-ai-human-extinction-five-scenarios/) | 출처: Gigazine