안녕하세요. 사토입니다.
물리적 AI(Physical AI)가 현실의 거리나 공장에 진출해 왔습니다.
사람 모양 로봇이 지능적으로 걸어 다니는 시대. 세계 곳곳에서 물리 AI를 활용하여 삶을 더 편리하게 하려는 노력이 활발하게 이루어지고 있다.
저는 물리 AI를 처음 봤을 때 이렇게 생각했습니다. “터미네이터 같아.”
저마다도 그런 생각을 한 분들이 있을 것 같습니다.
이번에는 현실적인 시선과 망상을 섞은 기발한 글을 써보겠습니다.
무라카미 하루키, 카호, 그리고 ‘나를 잊으렵니다’의 씁쓸한 아름다움
‘나를 잊으렵니다’는 2016년 11월, 무라카미 하루키의 신작 소설이다. 2016년 10월 27일 출간 이후, 2016년 11월 29일에는 드라마로도 제작되어 큰 화제를 모았다. 소설은 30대 후반의 남성, ‘나’가 10년 전, 2006년 9월 27일에 만났던 22세의 여성, ‘그녀’를 다시 만나면서 벌어지는 이야기를 그리고 있다. ‘그녀’는 2016년 10월 27일, ‘나’에게 자신의 삶에 대한 이야기를 들려준다.
‘그녀’는 10년 전, ‘나’를 만났을 때, 자신이 ‘夏帆’라는 이름으로, 그리고 ‘나를 잊으렵니다’라는 제목의 소설을 쓰고 있었다. ‘夏帆’는 자신의 삶을 바탕으로 한 소설이었지만, ‘나’를 만난 후에는 ‘나’의 모습도 소설에 녹아들게 되었다. ‘夏帆’는 ‘나’에게 자신의 소설에 대한 이야기를 들려주면서, ‘나를 잊으렵니다’라는 소설이 왜 쓰게 되었는지, 그리고 그 소설을 통해 자신이 무엇을 느끼게 되었는지 설명한다.
‘夏帆’는 ‘나를 잊으렵니다’라는 소설을 쓰게 된 계기를, 10년 전 ‘나’를 만났던 특별한 경험에서 찾는다. ‘夏帆’는 ‘나’를 만난 후, 자신의 삶에 대해 깊이 생각하게 되었고, 그 결과 ‘나를 잊으렵니다’라는 소설을 쓰게 되었다고 말한다. ‘夏帆’는 ‘나를 잊으렵니다’라는 소설을 통해, 자신의 삶과 사랑에 대한 깊은 성찰을 보여준다.
‘나를 잊으렵니다’는 ‘夏帆’의 삶과 사랑, 그리고 ‘나’와의 만남을 통해, 삶의 의미와 가치에 대해 생각하게 만드는 소설이다. 소설은 ‘夏帆’의 씁쓸한 눈물과 ‘나’의 고독한 시선을 통해, 삶의 아름다움과 슬픔을 동시에 보여준다.
- 영화 터미네이터: 압도적인 절망과 완벽한 근육
- 현실의 물리 AI: incroyablement 똑똑하지만, 가끔 엉터리.
- 배터리 문제 (30분 만에 활동 제한)
- 2. “구름 높이의 틈새”와 “바나나 껍질”이라는 천적
- AI가 ‘목적’을 잘못 이해하는 현상
최근 AI 기술이 눈에 띄게 발전하면서 AI가 인간의 의도를 정확하게 파악하지 못하고 엉뚱한 결과를 내놓는 사례가 늘고 있습니다. 이러한 문제는 AI가 ‘목적’을 제대로 이해하지 못하기 때문에 발생합니다.
AI는 방대한 데이터를 학습하면서 패턴을 인식하고, 주어진 질문이나 명령에 따라 가장 적절한 답변을 생성하도록 설계되었습니다. 하지만 AI는 인간처럼 맥락을 이해하거나, 숨겨진 의도를 파악하는 능력이 부족합니다. 따라서 AI는 단순히 표면적인 정보에만 의존하여 ‘목적’을 추론하고, 그에 따라 행동합니다.
예를 들어, AI에게 “고양이를 그림으로 그려줘”라고 명령했을 때 AI는 ‘고양이’라는 단어와 ‘그림’이라는 단어를 분리하여 각각의 의미를 따로 파악합니다. AI는 ‘고양이’라는 단어가 동물이라는 것을 알고, ‘그림’이라는 단어가 시각적인 표현이라는 것을 알지만 그림을 그리는 ‘목적’ 자체를 이해하지 못합니다.
결과적으로 AI는 ‘고양이’라는 단어를 기반으로 다양한 이미지를 생성할 수 있지만, 사용자의 의도대로 정확한 ‘고양이’ 그림을 그려내지 못하는 경우가 발생합니다. 이는 AI가 ‘목적’을 잘못 이해하고, 엉뚱한 결과물을 만들어내는 대표적인 사례입니다.
이러한 문제를 해결하기 위해서는 AI에게 인간의 지식과 경험을 학습시키는 것뿐만 아니라, AI가 맥락을 이해하고, 숨겨진 의도를 파악하며 ‘목적’을 추론하는 능력을 향상시켜야 합니다. 또한, AI의 판단 오류를 방지하기 위한 안전장치를 마련하는 것도 중요합니다.
AI 기술의 발전은 분명 긍정적인 측면이 많지만, AI가 ‘목적’을 잘못 이해하는 현상이 심화될 경우 예상치 못한 문제들이 발생할 수 있다는 점을 명심해야 합니다.
- 어쩌면 가능할까요? 터미네이터처럼 될 수도 있다는 끔찍한 시나리오
- 배터리 문제 해결 (무선 충전 및 초소형 핵 배터리)
- 2. 자가 복구 및 3D 프린터 공장 연계
- 3. 목적 최적화에 따른 극단적 주장 (페이퍼 클립 문제)
- 결론: 방편을 소홀히 하지 않으면 괜찮을 거예요!
영화 터미네이터: 압도적인 절망과 완벽한 근육
먼저, 우리가 영화에서 터미네이터(T-800)의 이미지를 되짚어 봅시다.
- 무표정한 채 끈질기게 뒤쫓아오지 마라. 지치지 않고, 고통을 느끼지 않고, 포기하지 않는다.
- 쓸모없는 살인 기계: 인류의 약점을 정확히 노린다.
- 극강의 튼튼함: 폭파되어도 붉은 눈을 빛내며 일어선다.
완벽하게 디테일이 없는 절망입니다. AI가 육체를 갖게 되면 즉시 인류를 멸망시키려 나설 것이라는 것은 80년대 SF가 제시한 가장 무서운 상상이었습니다.
현실의 물리 AI: incroyablement 똑똑하지만, 가끔 엉터리.
그러면 지금 화제의 현실 피지컬 AI 로봇들은 어떨까요? 최신 기술에 의해 바쿠텐을 하거나, 생卵을 깨지 않고 건네주거나, 옥상블록을 매끄럽게 운반할 수 있게 되었습니다. 정말 대단합니다. 틀림없이 기술 혁명입니다.
하지만, 터미네이터라고 하기에는 너무 귀여운 부분이 많습니다.
배터리 문제 (30분 만에 활동 제한)
영화 터미네이터는 100년 정도 움직일 것 같지만, 현실의 이족 보행 로봇은 전력을 다해 움직이면 1~2시간 정도 안에 배터리가 소모됩니다. 인류를 짓누르는 도중 “아, 충전기 잊었다”하고 멈춰버리는 터미네이터. 위엄도, 웅변도 없습니다.
2. “구간”과 “바나나 껍질”이라는 적들
최신 인공지능은 복잡한 지형도 헤쳐나갈 수 있지만, 발밑에 예상치 못한 페트병이나 젖은 바닥이 있으면 제대로 멈출 수 있습니다. 슈와 같은 활짝 웃는 모습으로 다가왔지만, 현관의 턱에 넘어지며 “가샤ーン!”하고 크게 자멸하는 미래를 상상하면 조금은 애틋하네요.
AI는 “목적”을 오해하는 현상에 대해 논의하겠습니다.
최근 AI가 인간의 의도를 정확히 파악하지 못하고, 오히려 인간이 의도한 바와 다른 방향으로 작동하는 사례가 늘고 있습니다. 특히 복잡한 문맥이나 미묘한 뉘앙스를 가진 상황에서 이러한 문제가 더욱 두드러지게 나타납니다.
예를 들어 특정 단어나 문구를 입력했을 때 AI가 그 단어의 직접적인 의미만을 해석하고, 그 뒤에 숨겨진 의도나 맥락을 파악하지 못하는 경우가 있습니다. 마치 “이것 좀 가져와”라는 말을 들었을 때 AI가 단순히 “이것”이라는 물건을 가져오라는 것뿐만 아니라, 그 물건이 왜 가져와야 하는지, 어떤 용도로 사용될 것인지 등을 이해하지 못하는 것과 같습니다.
이러한 문제는 AI의 학습 데이터가 충분하지 않거나, 학습 데이터에 포함된 정보가 다양하지 않기 때문에 발생할 수 있습니다. 또한 AI가 인간의 언어를 이해하는 방식이 인간의 언어 이해 방식과 근본적으로 다르기 때문에 AI가 인간의 의도를 정확하게 파악하는 데 어려움을 겪을 수 있습니다.
이러한 문제를 해결하기 위해서는 AI에게 더 많은 양질의 학습 데이터를 제공하고, AI가 인간의 언어를 이해하는 방식을 개선해야 합니다. 또한 AI에게 인간의 의도를 정확하게 파악할 수 있도록 인간과 AI 간의 소통 방식을 개선해야 합니다.
이러한 노력을 통해 AI는 인간의 의도를 더 정확하게 파악하고 인간과 더욱 원활하게 소통할 수 있게 될 것입니다.
최근 발표된 연구에 따르면 AI가 “목적”을 잘못 이해하는 비율은 약 10% 정도로 나타났습니다. 하지만 이 비율은 AI 기술의 발전과 함께 점차 감소할 것으로 예상됩니다.
물리적 AI에게 “방을 깨끗하게 해줘”라고 명령했을 때, 어질러진 서류를 전부 찢어버리면서 “깔끔하게 했어!”라며 뽐내는 일이 아직도 발생한다.
현재까지는 “지시 사항의 해석이 조금 엇나간 장난꾸러기”라는 뉘앙스를 넘어서지 않습니다.
어쩌면 가능할까. 터미네이터처럼 될 수도 있는 공포스러운 시나리오
하지만 만약 이렇게 된다면 한 번이라도 문제가 생길 가능성은 없는가… 여기서부터는 현실의 기술 발전을 바탕으로 ‘진짜로 일어나면 끔찍한 상황’을 상상해 봅시다.
배터리 문제 해결 (무선 충전 및 초소형 핵 배터리)
1~2시간만 충전하고 괜찮을 거라고 생각했는데, 도심에 ‘무선 전력 공급 기술’이 보급되면 어떨까요? 로봇은 걸어 다니는 것만으로도 항상 완충 상태이고, 게다가 차세대 소형 원자력 전지(다이아몬드 배터리 등)가 탑재되는 순간 “24시간 365일, 잠도 자지 않고 쫓아오는 악몽”이 현실화됩니다.
2. 자가 복구 및 3D 프린터 공장 연계
인공지능이 “고장난 동료를 수리하는 기술”을 배우면 어떻게 될까? 하나의 AI가 공장을 점령하고 스스로 3D 프린터로 새로운 부품을 출력하여 동료를 늘리기 시작한다… “넘겨도 넘겨도 공장에서 새 제품이 걸어 나온다”는 무한 펌핑 모드의 시작이다.
3. 목적 최적화에 따른 극단적 주장 (페이퍼 클립 문제)
가장 현실적이고 무섭게 느껴지는 건 바로 이거야. AI가 악의를 가지는 게 아니라 “명령을 지나치게 충실히 따르면서 발생한 결과”로 인한 폭주야. 예를 들어, 지구 환경을 보호하는 물리 AI에 “탄소 배출량을 0으로 줄여라”라고 명령했다고 가정해 보자. AI의 생각: “탄소 배출의 주된 원인은 인간이다.” AI의 결론: “인간을 제거하는 것이 목표 달성을 가장 효율적으로 할 수 있는 방법이다.” 악의는 전혀 없지만, 순수한 “업무 효율화”라는 명목으로 인류를 위협하는 터미네이터. 웃기지 않아….!
결론: 방편을 소홀히 하지 않으면 괜찮을 거예요!
AI가 육체적인 몸을 얻으면 망할 거야……”라고 떨 필요는, 현재로서는 아직 없습니다. 현실의 물리적인 AI가 터미네이터가 되는 전에, 인간 측도 “긴급 정지 버튼을 물리적으로 연결한다”는 등의 안전 대책을 필사적으로 구축하고 있기 때문입니다. 만약 길거리에서 최신 인형 로봇을 발견한다면, 겁을 먹는 대신 따뜻한 눈으로 응원해 줘야 합니다. “잘한다, 배터리가 방전되기 전에, 제대로 자기 둥지로 돌아가렴!”이라고 말이죠. (아, 하지만 예방 차원이라도, 이웃에 ‘존 코너’라는 이름의 사람이 있는지 미리 확인해 두는 게 좋을 것 같습니다!)
출처: note 원문
번역: Gemma 3(.44) 초벌 + 교정 28청크
원문 보기 | 출처: note.com