2026년 9월 27일, AI에 대해 상당히 눈길을 끄는 뉴스가 나왔습니다. 마이크로소프트 공동 창업자인 빌 게이츠가 NBC의 ‘Meet the Press’에서 AI에 대해 이야기하며 “AI 기업의 자율 규제만으로는 충분하지 않다”는 생각을 밝힌 것입니다. 나아가 AI는 10억 명 규모의 사망으로 이어질 수 있는 사태를 일으킬 만큼 강력해질 수 있다고도 발언했습니다.(Reuters)
물론 이 말만 보면 “어, AI가 그렇게 위험한가?” “빌 게이츠가 AI 반대파가 된 건가?”라고 생각하게 됩니다. 하지만 뉴스를 자세히 보면 조금 다릅니다. 이번에는 빌 게이츠가 무엇을 말했는지, 왜 AI 규제가 필요하다고 생각하는지, 그리고 그 위험이 정말 미래만의 이야기인지 최대한 알기 쉽게 정리합니다.
먼저, 빌 게이츠는 무엇을 말했는가. Reuters에 따르면, 게이츠는 AI의 안전 대책에 대해 정부와 법 집행 기관, 정치인도 논의에 참여해 안전 대책과 감시를 ‘필수’로 해야 한다는 취지의 발언을 했습니다.(Reuters) 즉, AI 기업이 “우리는 안전하게 개발합니다”라고 말하는 것만으로는 부족하다, 사회로서 일정한 규칙을 만들자는 이야기입니다. 실제로 게이츠는 “AI는 10억 명 규모의 사망으로 이어질 수 있는 사태를 일으킬 만큼 강력하다”고도 말했습니다.(Reuters)
다만, 여기는見出し만으로 이해하면 위험합니다. “AI가 10억 명을 죽인다”고 예언한わけ가 아닙니다. 게이츠는 “조만간 AI가 10억 명을 죽일 것”이라고 예언한わけ가 아닙니다. 핵심은 AI라는 매우 강력한 기술이 악의를 가진 인간에게 사용됐을 경우 어떻게 되는가라는 위험입니다. 예를 들면 대규모 사이버 공격, 중요 인프라에 대한 공격, 위험한 생물학적 기술로의 이용, 무기에의 응용 등입니다. AI가 고도화되면 지금까지 많은 인원과 전문 지식이 필요했던 일을 소수 인원으로도 실행할 수 있게 될 가능성이 있습니다. 그래서 “일어날 확률이 낮으니 생각하지 않아도 된다”가 아니라, 일어났을 때 피해가 극단적으로 큰 것은 사전에 대책을 세워야 한다는 생각입니다.
그렇다면 AI의 위험성은 미래의 이야기인가. 여기가 이번에 상당히気になった 부분입니다. AI와 무기의 문제는 사실 이미 SF의 세계만이 아닙니다. 2026년 9월, 유엔 인권최고대표 폴커 튀르크는 러시아가 우크라이나에서 완전 자율형으로 보이는 드론을 사용했다는 보고에 대해 강한 우려를 표명했습니다.(Reuters) Reuters에 따르면, 이 드론으로 인해 2026년 8월에 3명이 사망했다는 보고가 있었고, 튀르크 대표는 인간의 개입 없이 생명을 빼앗을 수 있는 무기를 긴급히 금지해야 한다고 촉구했습니다.(Reuters) 다만 중요한 것은, Reuters 스스로도 이 보고를 독자적으로 확인하지는 못했다고 명시하고 있다는 점입니다.(Reuters) 즉, “러시아가 AI 살상 무기를 확실히 사용했다”고 단정할 단계는 아닙니다. 반면 유엔 최고위급에서 여기까지 우려가 표명되고 있다는 것 자체가 상당히 큰 변화라고 생각합니다.
“자율형 무기”란 무엇인가. 여기는 조금 이해하기 어려우니 간단히 설명합니다. 일반 드론에서는 인간이 화면을 보면서 조종하거나 공격 여부를 인간이 결정합니다. 하지만 자율화가 진행되면 센서와 카메라로 주변을 보고, 대상을 인식하고, 추적하고, 공격하는 흐름의 일부, 혹은 많은 부분을 기계가 담당할 수 있게 됩니다. 그리고 가장 큰 문제가 “인간을 공격하는 최종 판단까지 기계에 맡겨도 되는가”라는 점입니다.
유엔과 적십자도 경고하고 있는 이 문제에 대해서는 2026년 8월 25일, 유엔의 안토니우 구테레스 사무총장과 적십자국제위원회(ICRC)의 미리야나 스폴랴리치 총재가 공동 성명을 냈습니다. 거기에 담긴 표현이 상당히 무겁습니다. “기계가 자동으로 인간을 표적으로 삼는다는 윤리적 선을 넘는瀬戸際에 있다”며 자율형 무기에 대한 국제적 규제를 서두르도록 각국에 요구하고 있습니다.(ICRC) 즉, “언젠가 그런 무기가 만들어질지도 모른다”는 논의가 아니라 기술 발전에 법률과 국제 규칙이 따라가지 못하고 있다는 것 자체가 문제가 되고 있는わけ입니다.
그래서 “자율 규제만으로는 부족하다”는 이야기로 이어진다. 여기서 빌 게이츠의 발언으로 돌아갑니다. AI는 글을 쓰고, 이미지를 만들고, 질문에 답하는だけ의 기술이 아니게 되어 가고 있습니다. AI 에이전트, 로봇, 자율주행, 사이버 보안, 무기. 현실 세계에서 AI가 판단하고 행동하는 영역이 점점 늘어나고 있습니다. 그렇게 되면 AI 기업에만 “안전하게 해주세요”라고 부탁하는 것만으로 정말 충분한가라는 문제가 나옵니다. 게이츠가 정부와 법 집행 기관, 정치인도 관여할 필요가 있다고 말한 데에는 이러한 배경이 있습니다.(Reuters)
다만, 빌 게이츠가 “AI를 멈춰라”라고 말하고 있는わけ가 아니다. 여기는 상당히 중요합니다. 게이츠는 AI 자체에 반대하고 있는わけ가 아닙니다. 오히려 의료, 교육, 농업 등 AI에는 큰 가능성이 있다고 생각합니다. 즉, AI를 쓸 것인가 말 것인가라는 논의가 아닙니다. 더 현실적으로 AI를 쓴다는 전제하에 어디에 규칙을 만들 것인가라는 단계에 들어와 있다고 생각합니다.
의료 AI에도 같은 말을 할 수 있다. 저는 의료 AI에 대해 공부하고 있는데, 이 뉴스는 의료에도 상당히 이어지는 이야기라고 생각합니다. 예를 들어 AI가 환자의 악화를 예측하고, 전자차트를 요약하고, 약물 위험을 알리고, 간호 기록을 만드는 일이 당연해졌다고 합시다. 매우 편리합니다. 하지만 AI가 틀리면 누가 확인하는가. 여기를 정해 두지 않으면 안 됩니다. 의료 현장에는 예부터 확인, 더블 체크, 보고, 에스컬레이션이라는 안전 장치가 있습니다. AI도 같습니다. “AI가 말했으니 옳다”가 아니라 사람이 확인하고, 필요하면 인간에게 판단을 되돌린다. 이러한 생각은 Human Oversight(인간에 의한 감독)라고 불립니다.
AI는 “대단하다”로 끝나는 단계를 넘어섰다. 이번 뉴스를 보고 저는 AI에 대해 “편리하다” “재밌다”만으로 이야기하는 시대가 조금씩 바뀌어 가고 있나 생각했습니다. AI는 앞으로 일뿐 아니라 의료, 교육, 인프라, 그리고 전쟁에도 쓰입니다. 그래서 어디까지 AI에 맡길 것인가, 인간이 절대 놓아서는 안 되는 판단은 무엇인가라는 논의는 피할 수 없다고 생각합니다. 빌 게이츠가 “AI 기업의 자율 규제만으로는 부족하다”고 말한 배경에는 AI가 그만큼 사회에 큰 영향을 줄 수 있는 기술이 되었다는 현실이 있는지도 모릅니다. 저도 AI 규칙은 언젠가 진지하게 만들지 않으면 위험하다고 생각해 왔다. 이 뉴스를 보고 역시 ‘편리하니까 쓴다’는 말만으로는 넘어갈 수 없는 단계에 와 있는지도 모르겠다고 생각했습니다.
참고 자료: Reuters, 2026년 9월 27일 “빌 게이츠, 인공지능 안전 장치 마련을 위한 촉구에 동참” / Reuters, 2026년 9월 7일 “인공지능이 인류에게 ‘존재론적’ 위험을 초래할 수 있다고 유엔 인권최고대표가 경고” / 국제적십자위원회, 2026년 8월 25일 “유엔 사무총장과 국제적십자위원회 회장의 자율 무기 시스템 규범 채택 촉구 재차”
출처: note 원문
번역: Gemma 3(.44) 초벌 + 교정 1청크
원문 보기 | 출처: note.com