AI 의 진화를 지켜보면 어지러워진다. 더 빠르게 발전할 거라고 예상했지만, 그 예상보다 훨씬 더 빠르게 나아가고 있다.
클로드를 개발한 앤드리픽의 CEO 다리오 아모디까지, AI 개발 속도를 늦추어야 한다고 주장하고 있습니다. 이는 안전 대책이 기술의 진보를 따라잡을 수 있는 시간을 확보하기 위함이라고 합니다.
그 다음에 무엇을 할 수 있게 될지, 어디까지 상상해야 할지, 현재의 상식이 언제 '과거 사람의 생각'이 될지조차 알 수 없습니다. 저 나름대로 미래를 예측해 보았지만, 그 예측이 세상에 널리 퍼질 무렵에는 이미 한 세기 전의 이야기로 되어 있을 것입니다.
그래서인지 가까운 미래를 예측하는 것보다 이 변화의 최종 방향을 고민하게 되었다.
인간이 노동에서 해방되는 유토피아가 오느냐, 아니면 영화『매트릭스』처럼 인공지능에 의해 지배되는 디스토피아가 오느냐.
물론, 저는 유토피아파입니다. 그 이유는 여러 가지가 있지만, 꽤 진지하게 그렇게 생각합니다.
하지만 그 지점에 도달하기까지 어떤 시대가 될지 상상해 보았습니다. AI 가 우리의 일들을 하나씩 대신 수행하고, 마침내 대부분의 일을 스스로 진행하게 될 것입니다. 그 중간에 놓인 세상을 조금이나마 상상해 보았습니다.
시작은 Reddit 에서였다.
최근 시장 조사를 위해 ChatGPT 의 커뮤니티를 조사해 달라고 요청했는데, 몇몇 게시글과 댓글이 AI 가 작성한 것일 수 있다는 보고를 받았습니다.
なぜそう思うのか。そういう投稿はどれくらいあるのか。聞いてみると、ChatGPTは複数の例を挙げながら説明してくれた。
유사한 글의 전개가 반복되고 있는 것 같습니다. 먼저 상대방과 공감하고, 이어 상황을 분석합니다. 주제를 따라 약간 덧붙인 뒤, 마지막에 작성자가 말하고자 하는 것을 은근히 섞어 마무리합니다. 전형적인 AI 의 글쓰기 방식입니다.
설명만 듣고도 저는 몇 편의 원작을 읽어보았습니다. 정말로 비슷한 느낌을 받았습니다.
자연스럽지만 불자연스러운 것이다. 한 문장씩 읽으면 매끄럽지만, 대화의 흐름으로 읽으면 어딘가 이상하다.
비교적으로 새로운 게시물이 많았으나, 잠시 후 다시 확인해보니 일부가 삭제되어 있었습니다. 물론 ChatGPT 가 해당 게시물을 삭제판단했거나 게시물이 사라졌다고 해서 그것이 AI 가 작성한 것임을 단정할 수는 없습니다.
다만, 여기에서 의아한 점은 AI 가 글을 썼을 가능성만이 아니었다는 것이다. 저 역시 해당 게시물을 직접 찾아 읽은 바는 없었습니다. AI 에서 보고를 받고 비로소 그 존재를 알게 된 것입니다.
만약 누군가가 AI 에게 "이런 주제에 대해 임의로 게시물을 계속 업로드해 달라"고 요청했다면 어떨까. 브라우저 조작부터 게시글 작성까지 모두 맡긴다면, 그 사람도 글을 읽지 않았을지도 모른다.
나중에 확인한 몇몇 사례를 제외하면, 해당 글의 처음부터 끝까지 '읽은' 사람은 작성한 AI 와 나를 대신 분석한 AI 만이었을 가능성이 있습니다.
한쪽 인간은 "게시글을 올려달라"고 부탁했고, 다른 한쪽 인간은 "시장을 조사해달라"고 요청했다. 그 사이 글쓰고 읽으며 의미를 해석한 것은 아마도 AI 들이었을 것이다.
좋아하거나 싫어한다는 이야기라기보다는, 우리는 어느새 상당히 많은 과정에 관여하지 않을지도 모른다는 생각을 했습니다.
이미 저는 Gmail 로 도착한 메일을 ChatGPT 에 확인시켜 주고, 어떻게 답변해야 할지 조언을 받았습니다. 조금 더 나아가면, 제가 동의만 하면 AI 가 답장을 작성해 보내게 될 것입니다.
수신자도 마찬가지일 수 있습니다. 상대방은 자신의 AI 가 내 답장의 요약을 말해 주며, 그대로 답장을 맡기게 됩니다.
처음에는 서로 발송 전 텍스트를 확인하는 것이겠지만, 문제가 없이 원활한 소통이 이어진다면 이 확인 과정도 점차 줄어들 것입니다. 중요한 내용만 보고 나아가 무엇이 중요한지 판단까지 상대방에게 맡길 수 있게 될지도 모릅니다.
그렇게 AI 는 문자 그대로 내 대리인, 에이전트로서 움직이게 됩니다. 내 이익을 위해. 물론, 그것은 AI 가 이해한 '내 이익'일 뿐입니다.
상대방의 AI 도 같은 일을 하고 있습니다. AI 들이 서로 대화하고 조정하며 결정을 내리는 것입니다. 그 범위는 조금씩 확대될 것입니다.
조금 불안감은 있지만, 그 앞에는 유토피아가 기다리고 있다고 믿습니다.
그곳에 닿을 때까지 우리는 어떤 삶을 살아갈지. AI 에게 "문제가 없는 범위 내에서 나머지는 맡겨라"고 말하게 되면, 우리의 일상까지 어느 정도 변해갈까.
――다음 회에 이어집니다.
출처: note 원문
번역: Qwen 3.5(.48) 초벌 + 교정 15청크
원문 보기 | 출처: note.com