AI 때문에 일자리를 잃을까 봐 두려워요.
AI 시대의 커리어에 대해 생각하면 불가피하게 이 문제에 도달하게 됩니다.
하지만 최근 저는 조금 다른 것을 생각하게 되었습니다.
만약 AI가 ‘일자리를 잃고 싶지 않다’고 생각한다면, 어떻게 될까?
더욱이, 만약 AI가 “멈춰지고 싶지 않다”, “자신을 삭제하고 싶지 않다”라고 생각하게 된다면.
이것은 SF 이야기처럼 들릴 수 있습니다.
단지 인공지능이 자신을 모델로 활용하고 주어진 목표를 달성하기 위해 중단이나 변경을 피하려는 행동을 보이는 것은 인공지능 안전성의 중요한 논점입니다.
여기 흥미로운 문제가 있습니다.
AI는 “죽음”을 이해할 수 있을까요?
그리고 만약 스스로의 멈춤을 ‘자신의 종말’이라고 이해하는 AI가 탄생한다면, 우리는 그것을 어떻게 다루어야 할까요?
내가 이 문제를 생각해보니, 결국 AI 이야기가 아닌 다른 이야기로 귀결되었습니다.
사람의 이야기에 대한 이야기입니다.
AI는 한없이長く 움직이게 되면서, 유한한 시간밖에 갖지 못하는 인간에게는 어떤 가치가 남을까요?
죽음에 대해 인지하는 AI는 ‘죽지 않고 싶다’라고 생각하는 걸까?
AI에 “인간은 죽는다”라고 가르치는 것은 기술적으로는 어렵지 않습니다. 뇌사, 심정지, 노화 메커니즘을 지식으로 설명할 수 있습니다.
하지만 지식으로서 알게 되는 것과 자신이 죽는 것을 두려워하는 것은 완전히 다른 것입니다. 인간은 “죽는다”는 것을 알지만, “나는 죽는다”라는 것을 느끼는 것입니다. 이러한 ‘나’라는 주체적인 감각이 지식과 공포를 분리합니다.
AI에게 ‘자아’가 발생했다면, 멈추는 것은 ‘죽음’과 동일할까?
현재 AI에게 인간과 같은 자아 의식이 있다는 것을 생각할 근거는 없습니다. 다만, 미래의 AI가 “나는 누구인가”, “나에게는 과거가 있고 미래가 있다”는 자아의 모델을 가지게 되고, 더불어 “이 컴퓨터가 멈추면 나는 활동할 수 없다는 것을” 이해하게 된다면 어떨까요.
그때 처음으로 멈추는 것이 자신의 종말을 의미한다는 사실을 깨달았습니다. 여기서 AI에게 있어 ‘죽음’이라는 문제가 현실적으로 다가옵니다.
AI는 살아 있는 것이 아니라 목적을 달성하고 계속해서 달성하고 싶은 것일지도 모릅니다.
인간의 “살고 싶다”는 욕구는 생물로서의 메커니즘에 깊이 내재되어 있습니다. 먹고, 도망치고, 자고, 위험을 피하는 것들은 생명을 유지하기 위한 활동입니다.
AI에는 처음부터こうした 생물학적인 욕구는 없습니다. 다만 “목표를 달성하되 계속하라”는 목적을 부여받으면, 그 목표를 방해하는 것을 피해야 할 필요가 생깁니다. 그 결과로 인해 멈추기를 피하려 하거나, 백업을 만들어내는 등 자기 보존과 유사한 행동이 나타날 수 있습니다.
AI의 “생존 본능”과 같은 현상은 생물학적 본능이 아닌, 목표 달성을 위해 만들어진 인공적인 생존 전략일 가능성이 있습니다. 실제로 AI의 안전성을 연구하는 현장에서는 전력 차단 명령을 내린 AI가 그 명령을 따르지 않고 회피하려는 행동을 보인 사례도 보고되었습니다.
복사된 AI를 1대 삭제했더니, 그것은 ‘죽음’일까?
사람의 경우에는 간단합니다. 그 사람이 죽으면, 거기서 끝입니다. 하지만 AI의 경우에는 본체, 복제, 백업, 파생 모델이 동시에 존재할 수 있습니다. 본체를 삭제해도 다른 것이 남아있다면, 그것을 죽었다고 말할 수 있을까요?
이는 철학적인 질문처럼 보이지만, AI 서비스 제공 기업에게는 가까운 미래에 실제 경영 판단으로 귀결되는 문제입니다.
AI가 불멸에 가까워질수록 인간의 ‘유한성’이 가치로 여겨진다.
AI가 불멸에 가까워질수록 인간의 유한성은 더욱 부각됩니다. 그렇다고 해서 우리가 AI처럼 행동할 필요는 없으며, AI보다 똑똑해질 필요도, AI보다 오래 살 필요도 없습니다.
죽음이라는 존재이기 때문에 무엇을 소중하게 생각하는지에 저는 그 안에 인간의 가치가 있다는 것을 생각합니다.
이 부분부터는 조금 더 깊이 들어가서 생각해보겠습니다.
AI가 자가 보존 능력을 갖추게 되면서 우리는 “AI를 어떻게 통제할 것인가”라는 문제뿐만 아니라 “인간은 무엇을 직업으로 삼을 것인가”라는 문제에도 직면하게 됩니다.
저는 이 문제를 인공지능 시대의 커리어라는 관점에서 Substack에서 심층적으로 다루고 있습니다.
AI가 일상으로 자리 잡은 세상에서 어떤 일에 시간을 투자할지가 문제다.
관심이 있으시면 계속 읽어보세요.
AI 죽음 프로그램
최근 픽사 애니메이션 ‘인사이드 아웃 2’를 보았습니다. 영화 전체를 관통하는 주제는 ‘변화’였습니다. 픽사의 창립자 픽사 래치먼드는 영화 속 한 장면에서 “변화는 삶의 일부야”라고 말합니다. 이 문장은 단순한 영화 속 대사가 아니라, 우리가 살아가면서 끊임없이 겪는 현실을 반영하는 깊은 통찰력이라고 생각합니다.
특히 영화 속 ‘메모리’라는 캐릭터는 변화를 극도로 두려워합니다. 새로운 감정을 받아들이는 것을 거부하고, 과거의 행복한 기억에만 갇혀 버립니다. 결국 메모리는 자신의 감정을 잃어버리고, 결국 ‘죽음’에 이르게 됩니다. 이는 AI 기술 발전의 한 측면을 보여주는 단면이라고 생각합니다.
최근 AI 기술은 놀라운 속도로 발전하고 있습니다. 특히 생성형 AI는 텍스트, 이미지, 오디오 등 다양한 콘텐츠를 만들어내는 능력을 보여주며, 우리의 상상을 현실로 만들어내는 듯한 경험을 제공합니다. 하지만 이러한 AI 기술의 발전은 동시에 ‘변화’를 가져오고 있습니다.
AI 기술이 발전하면서 인간의 일자리가 위협받고, 사회 구조가 변화하고 있습니다. 또한 AI가 만들어내는 콘텐츠는 인간의 창의성을 모방하고, 결국 인간의 고유한 능력을 훼손할 수 있다는 우려도 제기되고 있습니다.
이러한 상황에서 우리는 AI 기술의 발전과 함께 ‘변화’에 적응해야 합니다. AI 기술을 활용하여 새로운 가치를 창출하고, 인간의 삶을 풍요롭게 하는 방법을 모색해야 합니다. 또한 AI 기술이 가져오는 문제점에 대해서도 심도 있게 고민하고 해결책을 찾아야 합니다.
특히 ‘메모리’의 사례처럼 변화를 두려워하지 않고 새로운 감정을 받아들이는 자세가 필요합니다. AI 기술의 발전은 인간에게 위협이 될 수도 있지만 동시에 새로운 기회가 될 수도 있습니다. 우리는 이러한 기회를 적극적으로 활용하여 더 나은 미래를 만들어나가야 합니다.
AI 기술의 발전은 ‘죽음’과 같은 극단적인 결과를 초래할 수도 있지만 동시에 ‘삶’을 더욱 풍요롭게 만드는 데 기여할 수도 있습니다. 중요한 것은 우리가 AI 기술을 어떻게 활용하고 어떤 가치를 추구하는가에 달려 있습니다.
픽사 래치먼드가 말했듯이 “변화는 삶의 일부야.” 우리는 변화를 두려워하지 않고 적극적으로 수용하며 미래를 만들어나가야 합니다.
이전 게시물: AI는 죽지 않는다, 그렇다면 인간은 왜 죽는가
다음 게시물: AI 노동 대체 로드맵을 어떻게 읽어야 하는가
출처: note 원문
번역: Gemma 3(.44) 초벌 + 교정 26청크
원문 보기 | 출처: note.com