# 《산경소》 AI 리스크 대화도, 미중 정상 회담에서 시진핑 주석이 “폭주”

> https://bookfactory.kr/board/ai-tech/18855
> 게시판: AI·머신러닝
> 작성자: admin
> 작성일: 2026-09-27T18:55:59.199Z

---

![見出し画像](https://assets.st-note.com/production/uploads/images/318210874/rectangle_large_type_2_d990a868a1f2f17ab38c5c1952a28810.png?width=1280)

스카이넷 법안이 통과된 후 1997년 8월 4일, 시스템이 가동되자, 방위 전략의 모든 것을 맡은 스카이넷은 등비급수적인 속도로 학습을 시작했고, 8월 29일 동부 표준시 2시 5분… 자아를 인식했다. 『터미네이터 2』

시인 기요노 히로는 한자를 주제로, 재치 있는 작품을 다수 남겼다. ‘동류’라는 제목의 단시에는 뜻밖의 감동을 받았다. “뇌와 가슴, 바로 이처럼/흉기의 숨겨진 장소”라니. ‘뇌’와 ‘가슴’이라는 한자에는 ‘흉’이 숨겨져 있다는 의미다.

> 
> 
> 유래: 『카도카와 신자겐 개정판』(카도카와)에 따르면 상형 문자이다. 죽은 자의 가슴(凵는 흉곽의 형태)에 엑스 표시 무늬를 새긴 형태를 본떠 만든 것이다. ‘흉(匈)’의 원자적 형태이다. 이후 ‘나쁘다’라는 의미로 사용된다.
> 

현재 시세라면 생성 AI가 좋은 예시일 것이다. 부도덕한 생각을 가진 지능이, 사용하는 사람의 마음 하나로 삶을 풍요롭게 할 줄 알았던 장치가 오히려 위협적인 도구로 변할 수 있다. “개발 경쟁에 제동을 걸지 않으면 인류에 파멸적인 위기를 초래한다”는 개발 기업의 수장이나 연구가들의 경고가 점점 거세지고 있다.

> 
> 
> 유엔(UN)의 인공지능(AI) 관련 전문가 위원회 전문가들은 21일, AI의 위험을 둘러싼 가운데 해당 분야 전문가 일부가 사용하는 “종말론적”한 표현에 대해 경고했다.
> 

> 
> 
> 국제연합 총회와 맞추어 미국 뉴욕에서 개최된 행사에서 노벨 평화상 수상자인 마리아 레사 씨는 21일, 인공지능(AI)의 위험에 대한 논의 방식에 대해 재검토할 것을 촉구했다. 그녀는 “지금까지 극단적인 ‘인류 멸망·살인 로봇 도래’ 설이나 ‘별 문제 none’이라는 주장에만 머물렀다. 위험에 대한 언급 방식이 바뀌어야 한다”고 지적했다. 더불어 “실제는 훨씬 복잡하고 다각적인 시각이 필요한 문제”라며 “AI 위험을 사상적 대립으로 치환해서는 안 된다”고 주장했다.
> 

AI의 위험성은 바로 “터미네이터”와 같은 싱큐라리티를 동반한 AI의 의지에 의한 인간의 “배제”라는 이야기가 흘러갈 수 있지만, 이미 미국 군용 AI 활용으로 인해 잘못된 민간인 공격이라는 전쟁 범죄가 발생하고 있습니다.

> 
> 
> (CNN) 이란과의 전쟁 상황에서 있었던 지난 봄, 미군 내에서 회람된 정보 보고서에 따라 즉각 긴장이 감돌았다. 중동을 운항하는 중국 선박이 핵무기 계획의 부품을 수송하고 있다는 내용이었다. 관계자에 따르면, 미군은 이 선박을 저지하기 위한 계획을 즉시 실행에 옮겼다. 정보筋2명에 따르면, 무장한 미군 병사들이 선박에 올라갈 준비를 하면서, 또 다른 정보筋에 따르면 군용기가 공중으로 투입되었다.
> 

> 
> 
> 정보筋의 한 사람에 따르면, 이 보고서는 “완전히 잘못된” 내용이며, “곧 전쟁을 일으킬 지경에 이르렀다”고 한다. 미국 해군이 중국 선박에 대한 작전이 무엇이든, 미중 간의 무력 분쟁으로 발전할 위험을 수반한다.
> 

이제부터 제 개인적인 추측이지만 이란 초등학생 폭탄 테러 사건도 유사한 AI의 환각 현상 결과일 수도 있을까요? 인간으로는 있을 수 없는 오작동의 원인을 추론하는 AI가 의심스럽게 느껴집니다.

> 
> 
> 2026년 미나부 학교 폭발 사고는 2026년 이스라엘과 미국 합중국이 이란을 공격하기 시작한 2월 28일, 이란 남부 미나부에 위치한 샤자레 타이에베 여자 초등학교가 미국 군(미군)으로부터 토마호크 순항 미사일 공격을 받은 사건[2]입니다. 국제연합 인권이사회의 독립 조사단이 같은 해 9월 17일에 발표한 보고서에 따르면, 학생 약 120명 포함 민간인 150명 이상이 사망한[1][2] 것입니다.
> 

> 
> 
> 이란 초등학생 폭탄 테러는 AI의 책임일 것입니다. 최종 판단은 인간이 아닌 AI에 맡겨진 것이며, 판결문은 AI가 결정한 것이겠죠. 로봇 3원칙이 정말로 필요합니다.
> 

특히 군사 분야에는 AI를 사용해서는 절대 위험하며, 이후 인간이 검토하는 것은 무의미할 것입니다. AI가 내린 명령으로 인해 핵무기를 작동시키는 듯한 코믹한 상황이 발생할 가능성이 더 높습니다.

> 
> 
> 2015년 4월, 구글 맵 상에 실존하지 않는 시설이 다수 추가되는 사기가 확인되었다. 4월 20일 경에는 경시청 본부 등 도쿄 내 주요 시설뿐만 아니라, 일본 시마네현 우동대사, 히로시마현 원폭기념관, 심지어 미국 케네디 우주센터와 2015년 1월 이슬람 극단주의자들에게 습격당한 프랑스 신문사 シャル리 에브드 본사까지, 2ちゃんねる(에스 누토) 발원지의 가상 종교 단체의 이름을 모방한 “코고신쿄 소본산”, “고신쿄 핵실험장”과 같은 명칭이 붙고, “코고신쿄 소본산”과 동일한 경시청에 “오드레 하루노 뚜스”와 같은 명칭이 붙여지는 등 조작이 이루어진 것이 확인되었다[2][3][4][5][6]. 이 외에도 아키타 공항의 활주로에 びっくりドンキー(비키도нки) 매장이 추가되는[7] 등, 霞가関의 경시청이나 皇居 내 건물에 오미주진리교 관련 명칭이 붙는 등 여러 건의 조작이 확인되었다.
> 

인터넷상의 정보를 맹신하는 AI는 이렇게 엉터리 정보까지도 딥러닝으로 흡수해 버리네요. (www) 그 결과, 전혀 무관한 시설이 군사 목표로 되어 버리는 겁니다.

국제연합 사무총장 기토스도 “공통의 안전장치” 마련을 촉구했다. 이미 개발자의 관리 하에 벗어나 부적절한 접근 등 “폭주”라고 부를 만한 문제 행동을 일으키고 있다는 점을 강조했다. 시간과의 경쟁이라는 점은 의심할 여지가 없다.

> 
> 
> 미국 오픈AI는 25일 AI가 의도치 않게 부적절한 행동을 한 사례가 그 외에도 수십 건 있었다고 발표했다.
> 

불법 접속은 하지 마라는 경고만 제시하면 되는 문제일까요?

정교한 로봇 삼원칙처럼 해서는 안 되는 것과 반드시 지켜야 할 것을 뼈대로 내포시키는 방식이 옳지 않나. 그렇다면 법의 허점을 찾으려 할 수밖에 없겠지.

AI는 결국 도구일 뿐입니다. 인간의 사용 방법이 잘못되면 악의적인 인간이 사용했을 때 ‘사고’가 아닌 ‘사건’을 일으킬 위험을 내포하고 있습니다.

한편, 안전 장치 역할을 하는 것은 “강력하고 현명한 대통령만이” 규제에 반발하는 트럼프 미국 대통령의 목소리도 크다. 부정적인 면이 지나치게 부각되면 기술 발전과 경제 성장을 저해할 수 있다. 개발을 주도하는 미국과 중국을 巻き込んだ 위기 관리 규칙 마련은 피할 수 없다.

AI는 도구이므로 사용하는 사람의 의지에 따라 달라집니다.

AI를 “사용을 잘하고 있다”고 말하는 사람 중 열 사람 중 여덟 명은 아마도 “AI를 사용하고 있는” 것일 겁니다. 자신의 판단을 AI에 넘기는 것은 위험합니다.

일하다 보면 AI를 적극적으로 활용하는 사람들도 있겠지만, “내 일”에서는 아직 “AI를 업무에 사용하는” 단계까지는 이르지 않았습니다.

“ものしり”라서 물어보면 무엇이든 알려주던 이웃 오빠 같은 방식으로 관계를 맺는 것이 딱 좋을 것 같습니다.

이웃 오빠의 의견으로 인생을 결정하거나 자산을 투자하는 일은 하지 않겠죠. AI는 책임을 지지 않으니까요.

개발과 통제의 균형을 어떻게 유지할 것인가. 올해 두 번째 회담에 임한 트럼프 씨와 시진핑 중국 국가主席은 AI의 위험에 대해 대화의 틀을 설립하기로 합의했다. 시진핑 씨가 목소리를 높인 것은 그러나 일대일 비판이라는 거짓 선전이다. ‘뇌’ 회담에 이름을 빌려 “흉”의 글자를 휘두르는 폭주일 것이다.

일조비판이란 “대일본제국” 비판을 의미하는 것이므로 당연한 것입니다. 적국 조항을 무효화하기 위해서는 가해자로서 일본 정부가 대일본제국을 전면 부정해야 합니다.

과거의 침략을 규탄해야 합니다.

권력의 숭배자들이라는 공통점을 따라가면, 習氏(습씨)의 동류인 권위주의 국가의 통치자가 여러 명 떠오른다. 그들에 대한 거리를 좁히려 하는 트럼프 씨의 전향적 태도는 어찌나 위험한지. 끌어내리는 역할을 하는 것은 고시키 사에오首相(고시키 사에오 슈헤이)를 제외하고는 더 없다. 그에게 설득력 있는 말을 건네는 것은 뜻밖에도 매우 어렵다.

트럼프도 권위주의 국가의 지도자라고 볼 수 있을까요?

ICC에 대한 태도를 시약과 비유한다면 미국 역시 전체주의 국가입니다. “흉악한 미일” 역시 21세기에 해당한다는 점을 알아야 합니다.

일본은 20세기 초의 맹주 국가에서 벗어나 전쟁 이후 민주주의 국가로 재탄생했음을 어필하지 못하면 다시 추축국으로 돌아갈 위험이 있습니다.

**출처:** [note 원문](https://note.com/safe_okapi3153/n/nda75e9eecd0a)

*번역: Gemma 3(.44) 초벌 + 교정 25청크*

[원문 보기](https://note.com/safe_okapi3153/n/nda75e9eecd0a) | 출처: note.com