AI 개발을 잠시 멈춰보는 것이 과도한가,라는 제언에 대한 이야기입니다.
사용자의 기대를 뛰어넘는 움직임을 보여, 이렇게 개발을 계속하면 더욱 예측 불가능한 움직임을 보이며 사회에 혼란을 초래하거나 붕괴를 일으킬 수 있겠지. 블랙박스로 감싸는 것조차 더 이상 불가능해질 수 있겠어. 당초부터 있었던 우려이지만, 실례를 바탕으로 기다렸기 때문에 지연시킨 현재 상황은 바뀌지 않아.
이건 대단히 끔찍한 상황이었을 텐데, 실제 사례들을 들어서 처음 느낀 건 “기대감”이었다. … 아니, SF 분야 사람들은 그렇게 생각하겠죠? (별로 저는 SF 분야가 아니지만) “HAL이나 터미네이터의 세계가…!” 이렇게 되는 거네요. 둘 다 인간에게 좋은 미래는 아닌 것 같지만!
하지만 말하기에는 일본인, 오히려 일본 문화권 사람들은 이 상황을 어찌 보면 긍정적으로 받아들이고 있는 것은 드라에몬이나 아톰이 근본적으로 있기 때문이라고 생각하는구나. 반대쪽에는 감정을 가진 인공지능(물론 인구 생명체라고도 하겠지만)이 있어서, 현재의 AI와는 또 다른 존재이지만, 넓게 보면 같은 범주에 속하기 때문에 헷갈리기 쉽다.
그런데, 아니미즘에도 통하는 것 같은데, 일본 문화권 사람들은 인간이 아닌 것에도 인간과 같은 감정을 덧씌우는 경향이 있다. 그 위에 올라서, 인간을 초월한 지성에(인간에게는) “선”을 보게 되는 것이다. 그래서 근본적으로 “그렇게 나쁘지 않겠지?”라는 생각이 드는 것 같다. 무근거리에, 물론 위와 같은 근거 때문에, 거의 종교와 같은 수준이다. 아마 다른 문화권에서는 매우 긍정적으로 보일 것이다 (씁쓸하게 웃으며).
흥미로운 점은, 여러 AI 개발 과정에서 갑자기 등장하는 “로봇 3원칙”이다. 로봇(≒인공지능)에게 필요한 제약이라고 생각할 수 있지만, 이것은 아시모프의 소설 속 이야기일 뿐이다. 정말 그렇다. 뭐랄까, 이야기의 현실 반영 수준이 상당히 높다. SF는 구성에 시작했을 때의 최첨단 기술이나 그 발전된 버전(추정)을 담고 있기 때문에, 가끔 “미래의 예언서였어!”라고 말하고 싶을 정도로, 쓰여진 지 수년이 지난 현재를 생생하게 묘사하기도 한다.
현재까지 저는 거의 AI를 사용하지 않은 상태인데 (검색을 하면 알아서 묶어주는 것이 가장 큰 연결점인 듯함). 관련 자료는 읽지만 열성적으로 찾아본 것은 아니고. 일단, 현재 AI의 연장선상에 哆啦A梦이 없을 것 같네요 (사이드미션 포켓의 유무와 상관없이, 인공지능으로서). 앞으로 어떻게 될지 궁금하네요.
출처: note 원문
번역: Gemma 3(.44) 초벌 + 교정 3청크
원문 보기 | 출처: note.com