오랜만에 ‘기동경찰 파트레이버’를 보다가 묘한 듯한 Deja Vu 현상을 느꼈다. AV-0 “피스메이커”에 탑재된 “뉴론 네트워크 시스템”이기 때문이다. 작품이 방영된 것은 1990년이었다.
그 당시에는 당연히 ‘피지컬 AI’라는 용어가 현재와 같이 일반적으로 사용되던 것은 아니었다. 하지만 그때 묘사되었던 것을 현재의 언어로 대체해 보면 놀라울 정도로 피지컬 AI의 문제와 매우 유사했다. 흥미로운 점은 패트레이버가 단순히 ‘미래의 AI 탑재 로봇은 굉장하다’라고 묘사한 것이 아니었다는 것이다. 오히려 묘사하고 있었던 것은
기계가 스스로 주변을 인식하고 판단하며 몸을 움직이기 시작했을 때, 인간과 기계의 관계는 어떻게 변화할 것인가.
그런 문제가 아니라고 생각하는 게 아닐까 싶다.
조종하기에서 의도를 전달하기로
기존의 기계는 기본적으로 인간의 입력을 따른다.
오른쪽으로 움직일수록 오른쪽으로 움직이고, 팔을 들어 올릴수록 팔을 들어 올립니다.
즉, 인간이 신체 조작의 세부 사항까지 모두 감수하고 있었다. 그러나 AI가 신체를 갖게 되면서 이러한 관계가 바뀌게 된다.
사람은 “무엇을 하고 싶은지”를 보여준다.
그러자 기계 측이 센서로부터 얻은 정보를 바탕으로 환경을 인식하고, 그 목적을 달성하기 위해 어떻게 몸을 움직일지 판단한다. 인간이 기계를 직접 “조종”한다는 것보다,
인간은 목적이나 의도를 부여하고, AI는 신체 운동을 구성한다.
현재 “물리적 AI”라고 칭해지고 있는 분야에서 일어나는 변화의 핵심 중 하나는 여기에 있습니다. 생성 AI는 언어와 이미지의 세계에서 이를 수행해 왔습니다.
이런 문장을 작성해 달라고 지시하면, 사람이 구체적인 문장 하나하나를 지정하지 않아도 AI가 출력을 구성한다.
물리AI에서는 그것이 신체 운동으로 이어진다.
이 물건을 여기로 옮기고, 이 작업을 수행한다.
그 목적을 제시하면, 주변 상황을 고려하여 AI 스스로 몸을 움직이는 방식을 결정한다. 그렇게 생각한다면, 패트레이버의 “뉴런 네트워크 시스템”이 묘사한 세계는 상당히 현재와 유사하다.
인간의 명령을 기계가 거부한다.
하지만 여기서부터가 패트롤러의 재미있는 부분이다. AV-0에는 주변에 미치는 피해를 최소화하기 위한 안전 장치가 내장되어 있다. 즉, 인간이 입력한 명령을 그대로 실행하는 것이 아니라, 주변 상황과 비교하여 실행된다.
그 행동을 실행해도 괜찮을까요
기계 측이 판단한다. 그 결과, 조종사가 공격을 지시하더라도 안전상 문제가 있다고 판단되면 기체가 이를 거부할 수 있다. 이는 겉으로 보기에 매우 정교한 안전 장치이다. 하지만 여기서 문제의 핵심이 드러난다. 과연 그 몸을 최종적으로 지배하는 것은 누구인가.
운전석에 앉아있는 존재인지, 아니면 안전 조건을 판단하고 인간의 명령조차 거부하는 시스템인지.
이는 단순한 로봇 애니메이션 설정이 아닌, 물리AI가 사회에 들어왔을 때 피할 수 없는 문제라고 생각한다.
안전은 절대적인 것이 아니다.
더욱 흥미로운 점은, 안전 장치가 스스로 약점이 될 수 있다는 점이다.
이 AI는 이러한 조건에서는 공격하지 않습니다.
이를 이해한다면, 그 안전 원칙을 활용할 수 있습니다. 즉,
AI를 안전하게 하기 위해 설정한 제약이 상대방에게는 예측 가능한 행동 원리가 된다.
이는 현대 AI 안전성을 논의하는 데 중요한 문제이다. 안전 규칙을 설정하지만, 규칙이 굳어져야 할수록 그 한계를 극복하려는 시도가 가능해진다. AI가 아무리 발전하더라도 “안전”이라는 단일한 기준으로는 문제 해결이 불가능하다.
무엇을 안전하다고 생각하는가. 누구를 위한 안전인가. 예외는 어떻게 다루는가. 그리고 그 판단은 결국 누가 책임지는가.
기술이 고도화될수록 오히려 이러한 질문들이 더욱 두드러지게 나타난다.
생성 AI와 물리 AI의 결정적인 차이
생성 AI에 대해 논의할 때, 가끔 “AI가 틀릴 수 있다”는 이야기가 나온다. 물론, 그것은 중요한 문제이다. 하지만 현재의 생성 AI의 대부분은 기본적으로 화면 안에만 존재한다. 잘못된 문장을 생성하더라도, 그 자체로 인해 즉시 기물이 넘어지거나 사람이 부딪히는 등의 일이 발생하지 않는다. 인간이 그 출력을 현실 세계에 연결하는 단계를 거치기 때문이다. 그런데 물리적 AI에서는 다르다.
AI의 판단과 물리 세계에 대한 작용이 직접 연결된다. 인식을 빗나갔을 경우, 신체가 잘못 움직이거나, 판단을 엉뚱하게 하면 물건을 망가뜨릴 수도 있다. 인간의 의도를 오해했을 경우, 인간이 예상하지 못한 행동을 취할 수도 있다.
AI가 “몸을 가질 수 있다”는 것은 단순히 로봇이 똑똑해지는 이야기가 아니다. 판단이 그 자체로 세계에 개입되는 것이다. 여기에 물리 AI의 어려움이 있다.
그럼에도 인그램에 탑승하는 의미는
또한, 제가 ‘패트레이버’를 보면서 가장 재미있는 점을 생각하면, 최신식 기체가 반드시 절대적으로 우월하다는 것이 그려지지 않는다는 점입니다. 인그램은 어느 면에서는 구식이고, 습관도 있습니다. 인간이 다루어야 하는 부분도 많죠. 하지만, 그래서 오히려 조종자는 기체의 습관을 파악하게 됩니다.
어떻게 움직여나갈 것인지, 어디에서 무리가 발생하는지, 어떤 상황에서 작동이 불안정해지는지.
그 몸과의 상호작용 속에서 조종자의 측에서도 기술이 형성되어 간다. 여기서 나는 어쩔 수 없이 교육에 대해 생각하게 된다.
AI가 하는 것이 더 정확하고 빠르기 때문에 AI에게 맡겨두면 된다.
물론, 그런 일은 많습니다. 저 또한 AI를 활용하여 일하고 있습니다. 하지만,
AI에게 맡겨야 한다는 것과 인간이 그 활동을 경험할 필요가 없는 것은 동일한 의미는 아니다.
단순히 무언가를 잘하는 과정만 통해서만 배우는 것은 아니라는 뜻일지도 모른다. 인간은 어떤 일을 능숙하게 해나가는 과정 그 자체에서 교훈을 얻는 것이다.
실패한다. 망설이며, 대상의 습관을 파악하고 자신의 습관을 알아낸다. 뜻대로 되지 않았던 이유를 곱씹는다.
그처럼 대상과의 상호작용 속에서 판단의 기준 자체를 만들어가는 것이다. 그것을 전부 AI가 대신 수행했을 때, 인간에게는 무엇이 남을까.
AI가 지능을 갖출수록 인간의 질문은 여전히 남는다.
36년 전 작품 『패트레이버』가 현재의 물리적 AI를 기술적으로 정확하게 예견했다고 말하기는 어렵다. 미래 예측으로서 작품을 보게 되면, 그 본질을 놓치게 되는 느낌이다. 오히려 흥미로운 것은, 기술이 고도화된 미래에서 발생하는 “인간과 기계의 관계”를 이미 이야기로 그려냈다는 점이다.
인간이 명령한다. 기계가 판단한다. 때로는 기계가 인간을 멈춘다.
그러면 주체는 누구인가.
누가 안전을 결정하는가. 인간은 무엇을 포기해야 하고, 무엇을 포기해서는 안 되는가. 그리고 인간이 몸과 대상과의 상호작용을 통해 얻어온 지혜는 무엇인가.
AI가 똑똑해질수록 “그렇다면 인간은 무엇을 하는가”라는 질문이 더욱 강하게 남는 것이다. 오래전 ‘뉴론 네트워크 시스템’이라고 불렸던 것을 우리가 지금은 ‘물리적 AI’라고 부르며, 겨우 현실적인 문제로 인식하기 시작하는 걸 보니 어쩌면 그럴지도 모른다.
#패트롤러 #기동경찰 패트롤러 #AI #물리AI #로봇 #AI윤리 #신체성 #인간과AI #기술과사회 #교육
출처: note 원문
번역: Gemma 3(.44) 초벌 + 교정 36청크
원문 보기 | 출처: note.com