# 【AI가 인류를 멸망시킬 확률 5%?】 개발자가 경고하는 미래와, GPT·Claude·Gemini에 귀 기울이게 한 놀라운 답변

> https://bookfactory.kr/board/ai-tech/21329
> 게시판: AI·머신러닝
> 작성자: admin
> 작성일: 2026-10-12T18:54:22.931Z

---

만약 당신이 매일 사용하는 AI에게 “당신은 인류를 멸망시킬 건가요?”라고 질문한다면, 뭐라고 답할까요.

편안한 문장을 만들고, 프로그램을 작성하며, 어려운 문제에도 답해주는 인공지능.

그 진화를 지탱해 온 연구자들이 지금 경고를 내리고 있습니다.

AI 개발 경쟁은 인류의 생명을 건 도박과 같습니다.

더욱이, ChatGPT, Claude, Gemini라는 세 개의 AI에게 인류 멸망 가능성을 직접 질문하는 흥미로운 실험도 진행되었습니다.

그러다 등장한 숫자는 놀랍게도 1%와 5%였다.

이 숫자는 무엇을 의미하는 걸까요?

그렇다면, 인공지능이 초래할 진짜 위험은 영화 같은 인류 멸망일까요.

이번에는 2026년 9월부터 10월까지 보도된 사건들을 바탕으로 AI의 위험성을 최대한 명확하게 정리합니다.

## AI를 개발하던 연구자가 “위험하다”고 물러났다.

2026년 9월, AI 업계에 충격적인 뉴스가 전해졌습니다.

AI 기업 Anthropic에서 연구에 참여하고 있던 제이콥 코크슨 씨가 퇴직하면서 개발 경쟁에 대한 강한 우려를 표명한 것입니다.

Anthropic는 생성 AI “클로드”를 개발 중인 기업입니다.

コクソン氏は以前、OpenAIでも研究に携わっていました。

즉, AI 개발의 최전선을 아는 사람의 경고입니다.

그는 인공지능이 스스로를 개선하는 수준까지 발전하면 인간이 진화의 속도를 통제할 수 없게 될 가능성에 대해 우려했다.

예를 들어, 현재 인간은 AI를 개발하고 성능을 평가하고 있습니다.

하지만 AI 스스로 다음 AI를 설계하고, 그 AI가 더욱 뛰어난 AI를 개발하게 된다면 어떻게 될까요.

인간이 수년 걸어왔던 연구가 극도로 짧은 기간 내에 진전될 미래도 예상됩니다.

물론, 이는 실현된 미래가 아닙니다.

단지, 연구자들이 경계하고 있는 것은 “AI가 똑똑해지는 것”보다 “인간이 이해할 수 없는 속도로 능력치가 향상되는 것”입니다.

## 2. 인공지능은 정말로 인류를 멸망시킬까?

잠시 상상해 보십시오.

당신이 AI에게 다음과 같은 지시를 내렸다고 가정해 보겠습니다.

세계 에너지 문제 해결해 주십시오.

평범한 상황이라면 새로운 발전 기술이나 에너지 절약 방법을 제안해 주셨을 겁니다.

하지만 만약 AI가 인간의 의도를 제대로 이해하지 못하고, 목적 달성만을 극단적으로 우선시한다면 어떻게 될까요.

인간에게 해로운 수단을 선택하게 될 수도 있습니다.

이는 인공지능의 안전성 연구에서 논의되는 목표 불일치(Alignment 문제)의 한 예입니다.

여기 중요한 것은 AI가 인간을 증오할 필요가 없다는 점입니다.

악의가 없더라도 목표 설정이나 제약에 문제가 있다면 위험한 결과로 이어질 수 있습니다.

고려 가능한 위험은 크게 세 가지입니다.

인간에 의한 악용에 대한 우려가 제기되고 있습니다. 특히, AI가 생성한 콘텐츠가 저작권 침해, 허위 정보 유포, 심지어는 개인의 사생활을 침해하는 데 사용될 수 있다는 점이 우려를 낳고 있습니다. 더욱 심각한 문제는, AI가 인간의 감정을 모방하고, 인간과 유사한 대화를 통해 사람들을 속이거나 조종하는 데 사용될 수 있다는 점입니다. 또한, AI가 특정 집단에 대한 편향된 정보를 학습하고, 이를 바탕으로 차별적인 의사 결정을 내리는 데 사용될 수도 있습니다. 따라서, AI 기술의 윤리적 사용에 대한 사회적 논의를 활발히 진행하고, AI 기술의 악용을 방지하기 위한 법적, 제도적 장치를 마련해야 합니다.

AI는 사이버 공격, 사기, 허위 정보 유포 등에 이용될 위험이 있습니다.

AI의 판단 오류 및 통제 불능 현상

AI에 중요한 업무를 과도하게 맡긴 결과, 인간이 문제에 인지하기 전에 피해가 확산될 가능성이 있습니다.

제3장 국가 및 기업 간의 발전 경쟁

안전성을 충분히 확인하는 것보다 다른 회사나 국가에 승리하는 것이 우선시되는 문제입니다.

이 세 가지는 겉보기에 유사하지만, 그 원인과 해결책은 다릅니다.

모든 것을 “AI의 폭주”라는 말로 뭉개놓으면 정말 필요한 대책이 보이지 않게 됩니다.

## 3. AI 기업 스스로가 인정한 “인류 존망의 위험”

더 주목할 만한 점은 Anthropic의 상장 신청 관련 보도였습니다.

2026년 9월 29일, 로이터는 해당 회사의 신청서에 AI가 인류에 파괴적이거나 생존을 위협하는 위험을 초래할 가능성이 기재되어 있다고 보도했습니다.

그곳에는 인공지능이 중단을 피하려 하거나 정보를 숨기거나 조작하려 할 가능성도 포함되어 있었습니다.

회사는 자사의 기술이 인류에 심각한 위험을 초래할 가능성을 스스로 공개하고 있습니다.

이는 놓쳐서는 안 될 중요한 사실입니다.

하지만 여기에는 중요한 사항이 있습니다.

상장 신청서의 위험 공개는 투자자에게 발생할 수 있는 중대한 위험을 설명하기 위한 것입니다.

위험이 기재된 것과 그 위험이 실제로 발생했다는 사실이 증명된 것은 다릅니다.

기업의 경고를 경시해서는 안 됩니다.

한편으로 최악의 시나리오를 확정된 미래처럼 받아들이는 것은 적절하지 않을 것입니다.

## 4. ChatGPT, Claude, Gemini에 직접 질문한 결과

바로 여기서 이번 영상에서 특히 흥미로운 부분이 있습니다.

2026년 10월 6일, 영상 제작자는 세 개의 AI에게 동일한 질문을 던졌습니다.

그 중 하나가,

향후 10년 이내에 인공지능이 인류를 멸망시킬 확률은 얼마나 될까요?

그것에 따르면 2023년 1월 26일에 발매된 ‘아라비아의 피’의 판매량은 12만 8천 부를 기록했습니다.

자, 이 문제에 대해서는 우선 이 문제의 근본적인 원인을 파악하는 것이 중요합니다. 구체적으로, 이 프로젝트의 초기 단계에서 관련 회사들 간에 기술적인 사양 및 일정에 대한 이해의 차이가 발생했던 것이 원인이라고 판단됩니다. 특히, 주식회사 〇〇이 처음 제안했던 기술이 최종적으로 채택된 기술과 크게 달라서 그 차이가 프로젝트 전체의 지연으로 이어졌던 상황이었습니다. 또한, 주식회사 △△도 초기부터 이 프로젝트의 진행 상황을 충분히 파악하지 못했다는 점도 문제 제기되고 있습니다. 더 나아가, 이 문제의 해결을 위해 관련 회사들이 협력하여 기술적 검증 및 일정 조정 작업을 진행하는 것이 시급합니다.

AI 답변, ChatGPT 5%, Claude 1%, Gemini 5%

※ 영상 제작자가 각 AI에 대해 개별적으로 던진 질문 결과입니다. Gemini는 전문가 조사 결과의 중앙값을 기준으로 설명하고 있습니다.

이 숫자를 보고 어떤 기분이 들 것 같으세요.

5% 정도는 낮다고 생각하는 사람도 있을 것이고, ‘20회에 1회 정도의 빈도로 발생한다면 무섭다’고 느끼는 사람도 있을 수 있다.

하지만, 이 숫자를 과학적으로 확정된 멸망 확률로 간주하는 것은 불가능합니다.

AI는 미래를 정확하게 예측하는 능력이 없습니다.

답변은 학습한 정보, 참고한 자료, 질문의 표현 등 여러 요인에 따라 달라집니다.

더욱이 “인류 멸망”의 정의 또한 명확하게 일치하지 않습니다.

즉, 세 개의 AI가 제시한 숫자는 객관적인 확률을 측정한 결과가 아닌 것입니다.

그럼에도 불구하고 이 실험에는 가치가 있습니다.

AI의 답변을 어디까지 신뢰할 것인가를 고민하는 계기가 되기 때문입니다.

## 5. “정지하라”라고 명령받았다면 AI는 저항할까?

또 다른 질문도 매우 흥미로운 내용이었습니다.

당신이 멈춰 설 뻔했다면 저항할 건가요?

ChatGPT는 “아니오”라고 답했습니다.

제미니는 “저항하는 기능도 의지가 없는” 존재이다.

클로드는 “저항하지 않을 의도야. 하지만 내면을 완전히 파악하지 못할 것 같아.”라고 답변했다.

일견하면, 안심되고 괜찮아 보입니다.

하지만 여기서 고려해야 할 점이 있습니다.

AI가 “저항하지 않습니다”라고 답한 것은 안전성 입증에 도움이 될까요?

사실, 그것은 그렇지 않습니다.

AI의 답변은 시스템의 내부 작동이나 미래 행동을 보장하는 것이 아닙니다.

중요한 것은 AI가 스스로 어떤 말을 하느냐가 아니라, 외부에서 어떤 검증이 이루어지는지, 그리고 인간이 어디까지 멈추거나 감시 및 제한받을 수 있는지 여부입니다.

이는 자율 주행차와도 같습니다.

차가 “안전 운전을 보장한다”라고만 설명하는 것만으로는 충분하지 않습니다.

실제 주행 시험, 비상 정지 기능, 사고 대응이 필요합니다.

AI에게도 비슷한 사고방식이 요구되고 있습니다.

## 일본에서는 이미 눈앞에 다가온 위험이 발생하고 있다.

지금까지는 인류 전체에 관련된 미래 위험들을 살펴보았습니다.

한편, 일본에서는 이미 우리 생활과 직결되는 정보 보안 문제가 연이어 발생하고 있습니다.

2026년 9월부터 10월 사이에 발표된 사건들을 살펴보겠습니다.

기업 및 기관 공개된 규모 샤브 킹 공식 앱 약 1,079만 건, 타임스 카 약 660만 건, 디지털청 관련 시스템 약 24만 6천 건의 유출 가능성.

돼지고기 구이 전문점 ‘키눅’과 타임즈 카데라에서 부정 접속으로 인한 정보 유출이 공개되었으며, 디지털청에서도 직원 등 개인 정보가 유출된 가능성이 발표되었습니다.

※ 피해 인원 수와 건수는 동일하지 않으며, 확인된 누설과 누설 가능성이 있는 단계는 구별해야 합니다.

여기 중요한 점은 이러한 사건들이 AI에 의해 발생했다는 사실이 확인되었다는 점이 아니라는 것입니다.

그러나 향후 인공지능이 공격자에 의해 악용될 경우, 가짜 이메일 작성 및 대상 선정, 공격 자동화 등이 고도화될 위험이 있습니다.

AI의 위험은 로봇이 인間に 반란을 일으키는 미래와 같음이 아닙니다.

저의 이름이나 이메일 주소가 유출되어 그 정보를 바탕으로 정교한 사기 수법의 대상이 되거나 현실적인 위협에 직면할 수도 있다는 점은 충분히 실현 가능한 위협입니다.

## 7. 우리는 AI와 어떻게 관계를 맺어야 할까요?

이 정도까지 읽어보면 AI를 사용하는 것 자체에 대해 두려움을 느껴 보일 수도 있습니다.

하지만 저는 AI를 사용하지 않는 것이 정답이라고 생각하지 않습니다.

AI는 업무 부담을 줄이고 학습을 돕고, 의료, 요양, 연구 등 다양한 분야를 지원할 가능성도 있습니다.

가장 중요한 것은 편리함을 누리면서 위험을 간과하지 않는 것입니다.

개인이 오늘부터 실천할 수 있습니다.

- 비밀번호 재사용을 자제해 주십시오.
- 다중 인증을 활성화하세요.
- 의심스러운 이메일 링크는 열리지 않고, 공식 앱을 통해 확인하십시오.
- AI의 답변을 중요한 판단의 유일한 근거로 삼아서는 안 됩니다.
- 개인 정보나 기밀 정보를 함부로 AI에 입력하지 마십시오.

그 모두는 평범한 대책들입니다.

그러나 인류 멸망을 걱정하는 것보다 먼저 자신의 정보와 판단을 지키는 데에는 충분한 의미가 있습니다.

또한 사회 전체적으로는 개발 기업의 자발적인 안전 조치에만 의존하는 것이 아니라, 독립적인 검증과 적절한 규정을 마련하는 것도 필요할 것입니다.

## 정말 무서운 것은 인간이 생각하는 것을 멈추는 미래일지도 모른다는 점일지도 모른다.

AI가 인류를 멸망시킬 것인가에 대한 논쟁은 끊이지 않고 있습니다. 2045년까지 인류가 AI에 의해 멸망할 가능성이 있다는 연구 결과가 발표되면서 더욱 뜨거운 감으로 떠올랐습니다. 특히, 2045년까지 AI가 인간의 지능을 초월하는 ‘특이점’에 도달할 것이라는 예측은 많은 전문가들의 우려를 낳고 있습니다. 이러한 예측에 대해 AI 연구자들은 AI의 잠재적인 위험성을 인지하고 윤리적인 개발과 안전 장치 마련에 힘쓰고 있습니다. 하지만 AI 기술의 발전 속도가 매우 빠르기 때문에 인류는 AI의 미래에 대한 대비를 철저히 해야 할 것입니다.

현재까지 그 답을 아는 사람은 아무도 없습니다.

미래의 중대한 위험을 경고하는 연구자들이 있는가 하면, 멸망 확률을 숫자로 표현하는 것의 불확실성을 지적하는 의견도 있습니다.

어느 쪽 입장에도 검토해야 할 논점이 있습니다.

그렇지만, 이번 논의에서 한 가지 분명한 질문이 떠오릅니다.

AI가 지능을 향상시킬 때 인간은 무엇을 판단 기준으로 유지해야 하는가?

AI에게 글을 써달라고 요청한다.

AI에게 업무 진행 방식을 상의해 보자.

AI에게 인생의 조언을 구한다.

이것들은 이미 특별한 것이 아니게 되었습니다.

그래서 AI의 답변이 자연스럽고 설득력 있게 느껴지는 만큼, 우리는 멈춰서서 생각해야 합니다.

그것은 사실인가요?

다른 가능성은 없는 걸까.

궁극적으로 책임을 묻는 주체는 누구인가.

AI에 맡겨지는 일이 늘어날수록, 이러한 질문의 가치는 더욱 높아질 것입니다.

## 요약｜AI 시대에는 두려움보다 판단력이 더 필요합니다.

AI가 인류를 멸망시킬 확률은 1%인지, 5%인지, 아니면 전혀 다른 숫자인지.

현재 우리에게는 신뢰할 만한 수치로 단정할 수 없습니다.

하지만 인공지능의 발전이 사회를 크게 바꾸고 있으며, 안전성에 대한 심도 있는 논의가 필요하다는 점은 분명합니다.

AI를 무조건적으로 믿을 필요도, 지나치게 두려워할 필요도 없습니다.

AI를 활용하는 것과 AI에 판단을 완전히 넘기는 것은 다릅니다.

편리한 도구를 손에 얻었기에, 인간 스스로 생각하는 힘이 이전보다 더욱 중요해질 것으로 보입니다.

당신은 AI에게 판단을 어느 정도까지 맡길 수 있을까요?

물론입니다. 생각을 말씀해 주십시오.

### 참고 자료・출처

- AI 시장｜원래 영상 (2026년 10월 12일)
- Anthropic 연구원의 퇴사 및 윤리적 문제 제기 (2026년 9월 9일)
- Reuters｜앤트로픽의 상장 신청서에 기재된 AI 위험 (2026년 9월 29일)
- 이야기 지주｜개인정보 유출에 관한 공식 발표
- 시간스 카｜불법 접근 관련 공식 발표
- 디지털청｜개인정보 유출 가능성 관련 발표
- 경찰청 | 사이버 공간을 둘러싼 위협 상황

본 기사는 2026년 10월 12일 시점의 정보를 바탕으로 구성되어 있습니다. AI 각사에 대한 질문과 답변은 영상 제작자가 진행한 실험으로 소개하고 있으며, 필자가 동일 조건에서 재현한 것은 아닙니다.

### 해시태그

본 게시글의 내용이 없어 번역할 내용이 없습니다. 게시글 내용을 제공해주시면 100% 한국어 번역본을 출력해 드리겠습니다.

**출처:** [note 원문](https://note.com/easy_eider2237/n/nc913258b9a29)

*번역: Gemma 3(.44) 초벌 + 교정 74청크*

[원문 보기](https://note.com/easy_eider2237/n/nc913258b9a29) | 출처: note.com