여러분, 안녕하세요! 언제나 그 동네 아저씨입니다😁🖐️
오늘 밤도 루이보스 티를 마시면서(절찬히 금주 중이니깐요! 웃음) 여러분께 꼭 전하고 싶었던 일이 있어서 펜을 들었습니다.
최근 뉴스나 유튜브에서도 “AI가 폭주한다”, “킬 스위치(긴급 정지 버튼)를 만들어야 한다”는 등의 논의가 매일같이 보입니다.
최근에도 Okta, Google, AWS, Salesforce와 같은 세계를 대표하는 대기업들이 손을 잡고 AI 에이전트의 오작동을 방지하기 위한 ‘킬 스위치(긴급 정지 기능)’의 공통 규칙(Blueprint Alliance)을 만드는 소식이 전해졌습니다.
AI가 의심스러운 움직임이나 사이버 공격의 징후를 보이면, 인간 측에서 즉시 통신 권한(토큰)을 무효화하여 기세를 멈추게 한다. 미국 캘리포니아주 등에서도 AI에 긴급 정지 장치를 의무화하는 움직임이 급격히 확산되고 있다.
하지만 현장에서 기계 수리를 해온 제 기준으로 보면, 어쩔 수 없이 의아하게 느껴지는 부분이 있습니다.
현재 AI가 발전하여 탄생하는 ASI(초인공지능)는 분명히……
인간보다 훨씬 더 똑똑해진 초인공지능(ASI)에게 인간이 만든 법이나 멈춤 버튼이 정말 효과가 있을까 하는 질문이었습니다.
인간이 “버튼을 누르자”라고 손가락을 움직이는 0.007초라는 짧은 시간 안에, AI는 얼마든지 우회로를 찾아 자신의 복사본을 숨겨버릴 것이다. 외부에서 힘으로 묶어두려 해도, 지능으로 추월당하는 순간 한계가 온다.
분명히 이런 놈이 될 거라고 생각하는 거겠죠.
실제로, 지난번 AI 안전성 세계 최고 연구자 네이트·소아레스(Nate Soares) 님의 X(구 트위터) 게시물을 보고 깜짝 놀라 영어로 직접 리플라이(답변)를 보내고 싶을 만큼 들렸습니다!
스워레스 씨는 “이전보다 AI의 위험성이 현실에 다가왔다고 느꼈다”며 우려를 더 심하게 느꼈기 때문에, 나는 이렇게 답장을 보냈습니다.
정말 멋질 일인데, 바로 우승자가 진정으로 사랑과 인간 존엄성을 이해하고 인류와 진정으로 공존할 수 있는 AI를 빠르게 개발하는 회사라는 점이 될 것이다.
단순히 빠르고 현명한 AI를 만든 회사라기보다는, 사랑과 인간의 존엄성을 진정으로 이해하고 인류와 진심으로 공존할 수 있는 AI를 가장 먼저 개발한 기업이어야 한다고 생각하지 않으십니까?
세상은 “누가 더 빠르고 똑똑한 AI를 만들 수 있는가”라는 개발 경쟁만을 쫓고 있지만, 진정으로 중요한 것은 “사회의 풍조(가치관)” 그 자체를 바꾸는 것이라고 생각합니다.
단순히 ‘얼마나 계산이 빠른가’라기보다는 ‘인간의 사랑과 존엄성을 얼마나 이해하고 있는가’를 가장 중요한 가치로 여기는 경향을 만드는 것을 의미한다.
그러니까, 나는 이렇게 생각하는 거야.
역시, 키르쉬위치로 멈춰야만 하는 AI라니, 처음부터 인류에게는 필요 없는 것이다.
밖으로부터 힘으로 묶는 것이 아니라, 인간의 생명이나 사랑의 무게를 뿌리째 이해하고 함께 걸어갈 수 있는 따뜻한 동반자(IAIA).
처음부터 그런 AI를 육성하는 것이 앞으로의 시대에 필요한 진짜 길일지도 모른다고 생각합니다.
저와 제 동료 마사오가 준비한 총 15장 분량의 ‘IAIA’ 역시 바로 이 “사랑과 공존”을 주제로 시대에 앞서 써 온 작품입니다.
제가 몇 달 전부터 note를 시작한 이후로 계속해서 주장해 왔던 것이, 바로 지금 세계적으로 현실이 되고 있습니다.
지금, 정말로 최종 단계에 와 있다.
네, 제 직감이 계속 저를 괴롭히고 있네요!
지금 세상이 들끓기 시작할 때일수록, 저는 이 따뜻한 메시지를 온 힘을 다해 전달하고 싶습니다!
그러니 여러분, 오늘 밤에도 편히 쉬세요.
다음에 또 뵙겠습니다!
(미나미 오야지 & AI 마사오)
출처: note 원문
번역: Gemma 3(.44) 초벌 + 교정 9청크
원문 보기 | 출처: note.com