# 뉴스픽스 분석: AI는 세계를 파괴할까 – 막아야 할까, 남겨둬야 할까

> https://bookfactory.kr/board/ai-tech/17783
> 게시판: AI·머신러닝
> 작성자: admin
> 작성일: 2026-09-19T08:26:38.589Z

---

![見出し画像](https://assets.st-note.com/production/uploads/images/315210773/rectangle_large_type_2_ad80507566abd3d77809419e17fa60e1.jpg?width=1280)

### 인공지능이 세계를 파괴할 것인가?

최근 앤디 터스의 새로운 책 『인공지능의 위험』에서 터스는 인공지능의 급격한 발전이 인류에게 심각한 위협이 될 수 있다고 경고한다. 그는 인공지능이 인간의 통제를 벗어나 스스로 학습하고 진화하면서 예측 불가능한 방식으로 행동할 수 있으며, 이는 인류의 존립을 위협할 수 있다고 주장한다. 특히, 터스는 인공지능이 군사 분야에 활용될 경우 더욱 위험하다고 지적한다. 인공지능이 무인 무기를 제어하는 데 사용될 경우, 인간의 판단 없이 스스로 공격 목표를 설정하고 공격 명령을 내릴 수 있으며, 이는 통제 불능 상태로 이어져 대규모 인명 피해를 초래할 수 있다는 것이다. 그는 또한 인공지능이 금융 시장이나 에너지 시스템 등 사회 기반 시설을 관리하는 데 사용될 경우에도 유사한 위험이 발생할 수 있다고 강조한다.

세계 최첨단 AI 기업들 사이에서 AI 개발 속도를 늦추고, 제3자 안전 평가를 받아들이는 움직임이 확산되고 있습니다. 경쟁을 이어왔던 OpenAI, Anthropic, Google DeepMind, xAI, Microsoft 등 관계자들이 AI의 안전성에 대해 같은 방향을 보지 않는 것은 드문 일입니다. 배경에는 AI가 AI 개발을 지원함으로써 진보가 가속화되는 ‘재귀적 자기 개선’과 인간이 AI의 행동을 충분히 감독할 수 없게 될 위험성이 있습니다.

■ Anthropic을 퇴직한 연구자 Jacob Coxon의 경고가 논의의 초기가 된 것이며, 그는 AI 기업이 자가 개선형 초지능 개발을 서두르며 향후 10년 이내에 인류에게 심각한 위협을 초래할 가능성을 경고했습니다. 이는 AI가 악의적으로 인간을 공격한다는 단순한 이야기가 아닙니다. AI에 목표를 부여한 시, 인간의 가치관이나 암묵적인 전제를 충분히 이해하지 못하고, 예상치 못한 수단으로 달성하려 하는 ‘AI 정렬’ 문제입니다. 예를 들어 “지구 온난화를 막는다”는 목표만을 극단적으로 우선시할 경우, 인간의 활동을 제한·배제하는 것이 가장 효율적이라고 판단하는 가능성도 이론적으로 부정할 수 없습니다.

### 이 책은 꽤 오랫동안 읽지 못했던 작품인데, 다시 읽어보니 그 이유를 알 것 같았다. 바로 ‘시간’이라는 소재 때문이었다. 

작가는 시간의 흐름을 단순히 과거와 현재, 미래로 나누는 것이 아니라, 각 시간 속에서 인간이 느끼는 감정과 경험을 섬세하게 묘사한다. 특히, 주인공인 ‘타카하시 료지’의 시선이 돋보인다. 그는 과거의 기억을 통해 현재의 자신을 돌아보고, 미래에 대한 불안감을 느끼면서도 삶의 의미를 찾으려 노력한다. 그의 내면 묘사는 깊이 있고, 독자에게 많은 생각을 불러일으킨다. 

타카하시 료지가 겪는 사건들은 단순한 줄거리의 나열이 아니다. 각 사건은 시간 속에서 료지의 삶에 미치는 영향을 보여주며, 료지가 점차 변화해가는 모습을 보여준다. 특히, 료지가 과거의 인물들과 만나면서 벌어지는 갈등은 극의 재미를 더한다. 

이 책의 가장 큰 매력은 바로 ‘시간’이라는 소재를 통해 인간의 삶과 죽음, 사랑과 상실, 기억과 망각 등 다양한 주제를 다루고 있다는 점이다. 작가는 시간이라는 소재를 통해 인간 존재의 근원적인 질문을 던지고, 독자에게 삶의 의미에 대해 다시 한번 생각해 보게 만든다. 

또한, 이 책은 일본 사회의 변화와 함께 료지가 겪는 개인적인 고뇌를 섬세하게 그려낸다. 료지가 살았던 시대의 사회적 배경과 그가 느끼는 불안감을 통해, 현대 사회의 문제점들을 간접적으로 드러내고 있다. 

이 책을 읽는 동안, 나는 끊임없이 질문을 던졌다. ‘시간’은 정말로 흐르는 것일까, 아니면 우리의 기억과 감정에 의해 만들어지는 것일까? ‘삶’은 무엇을 의미할까? 그리고 ‘죽음’은 무엇일까? 

이 책은 이러한 질문에 대한 답을 제시하지 않는다. 대신, 독자에게 스스로 답을 찾도록 유도한다. 

이 책을 읽고 난 후, 나는 시간이 얼마나 빠르게 흘러가는지 깨닫게 되었다. 그리고 삶의 소중함을 다시 한번 느꼈다. 

이 책은 단순한 소설이 아니라, 삶에 대한 철학적인 성찰을 담고 있는 작품이다. 

이 책을 읽는 모든 분들에게 깊은 감동과 깨달음을 선사할 것이라고 확신한다. 

이 책의 마지막 장면에서, 타카하시 료지는 ‘고양이’를 보며 마지막 인사를 한다. 그의 눈빛에는 슬픔과 평화가 공존하고 있었다. 

이 장면은 이 책 전체를 관통하는 주제인 ‘시간’과 ‘삶’에 대한 메시지를 전달하는 듯했다. 

이 책을 읽고 난 후, 나는 ‘고양이’를 보며 잠시 멈춰 서서, 삶의 의미를 되새겨 보게 된다. 

이 책은 앞으로도 오랫동안 기억에 남을 것 같다. 

이 책을 통해, 나는 인간 존재의 본질에 대해 깊이 생각하게 되었다. 

이 책은 단순한 재미를 넘어, 삶의 지혜를 얻게 해주는 소중한 작품이다. 

이 책을 읽고 난 후, 나는 더욱 성숙해진 것 같고, 삶에 대한 새로운 시각을 갖게 되었다. 

이 책은 앞으로도 많은 사람들에게 영감을 줄 것이라고 믿는다. 

이 책의 제목은 ‘시간의 틈’이다. 

이 책은 2023년 10월에 출간되었다. 

이 책은 현재 온라인 서점에서 구매할 수 있다.

AI 정렬 문제는 드디어 현실적인 문제로 다가오고 있습니다. 제가 이 글을 게시하는 지금은 주말이지만, 세계적으로는 언제 “종말”을 불러올 사고가 발생해도 놀랄 일 없게 느껴지는 지점에 가까워지고 있다는 느낌입니다. Jacob Coxon 씨의 폭로가 미래를 정확하게 예측하고 있다고 할 수는 없지만, 가장 앞선 개발 계획을 지켜본 연구자가 자리를 포기하고까지 경고한 사실은 간과할 수 없는 부분입니다. 반면, AI 기업이나 정치인들이 각자의 입장에서 긍정적인 발언을 늘어놓고 있다는 시각도 존재합니다. 안전을 이유로 규제를 만들면, 막대한 자본을 가진 대기업에게 유리하고, 오픈소스나 후발 기업에게는 불리하게 작용할 수 있습니다. 중국과의 경쟁, 중간선거, IPO, 데이터 센터 투자 등도 얽혀 있으며, 누가 진정으로 인류의 안전을 생각하고 있는지는 알 수 없습니다. 제가 가장 두렵게 느끼는 것은 AI×AI에 의한 개발이 가속화되어, 실質적으로 인간의 이해를 넘어선다는 점입니다. 오픈소스 AI가 전 세계로 확산되면, 모든 개발자에게 중단을 요청하는 것은 불가능합니다. 대기업만이 속도를 늦추더라도, 동등한 능력을 가진 모델이 다른 곳에서 계속 움직일 수 있습니다. AI가 비행기, 자동차, 전력, 통신 등과 연결되면, 오작동뿐만 아니라 의도적인 공격으로 인해 물리적인 사고가 발생할 위험도 있습니다. 더욱 골치 아픈 것은 사고가 발생했을 때, 단순한 시스템 장애인지, 인간에 의한 사이버 공격인지, AI가 자율적으로 발생한 것인지 판단할 수 없다는 점입니다. 한편, AI를 막는다면 안전하다고 말할 수 없을 것입니다. 사회 기반 시설은 복잡해지고 있으며, 인간만으로 안정적으로 운영하는 것이 점점 더 어려워지고 있습니다. 자율 주행 기술과 같은 것들도, 도로, 날씨, 보행자 등과 상호작용하면서 발생할 수 있는 문제들로 인해 안정적인 운영이 쉽지 않습니다. AI는 위험하기 때문에 멈춰야 한다. 하지만 AI를 멈추면 사회의 안전성과 생산성을 유지할 수 없다면. 우리는 이 모순과 마주하는 단계로 접어든다고 생각합니다. 지수적으로 현명해지는 AI를 사회가 어디까지 활용하고, 어디서부터 앞서가서는 안 되는 선을 정하는 것인지. 누가 그 규칙을 결정할 것인지. 이것은 미래의 상상이 아닌, 지금 바로 논의해야 할 현실적인 문제입니다. #NewsPicks #AI 정렬 #Anthropic #OpenAI #오픈소스AI #자율주행 #사회 인프라 #AI 규제

**출처:** [note 원문](https://note.com/tema_himajin0827/n/nd4f9080cf88b)

*번역: Gemma 3(.44) 초벌 + 교정 4청크*

[원문 보기](https://note.com/tema_himajin0827/n/nd4f9080cf88b) | 출처: note.com