머리말 | 질문의 형을 바꾸다
AI는 인류를 멸망시킬까.
이 질문을 들었을 때, 당신은 무엇을 생각하겠습니까?
설마 그 정도로까지는 생각하실지 모릅니다. 혹은, 이제는 미리 생각해 두어야 할 단계에 와 있다고 느끼실지 모릅니다.
얼마 전까지는 이 질문에 어딘가 사고 실험의 냄새가 났습니다. 인공지능 안전성 연구자들은 이전부터 심각하게 논의해 왔지만, 많은 사람들에게는 아직 먼 미래의 이야기였을 것입니다.
2026년, 그 거리감이 달라지기 시작했습니다.
AI는 장기적인 작업을 수행하게 되면서 수학 및 과학 연구에 참여하고 있으며, 여러 에이전트들이 역할을 분담하여 AI 자체의 연구 개발에도 참여하기 시작했습니다. 제한된 환경에서는 실험 장비를 조작하고 현실 세계에 직접적으로 작용하는 사례도 나타나고 있습니다.
저 자신은 아직 “인류 멸망이 얼마 남지 않았다”라고 생각하지 않습니다.
정확히는 그렇게 단정할 만한 자료가 아직 충분히 확보되지 않았습니다.
다만 한편으로는 AI가 인류를 멸망시키지 않는다고 단정할 수도 없습니다.
미래에 대한 보장은 어느 쪽에도 없는 것입니다.
그러므로, 질문의 형식을 조금 바꿔서 살펴보고 싶습니다.
AI는 인류를 멸망시킬지 여부를 현재 결정하는 것과는 무관합니다.
그 미래를 향한 구조가 진정으로 자리 잡기 시작하는지 살펴본다.
과거에 성립했던 전제가 언제 더 이상 성립하지 않았는지 묻는 것이다.
이 기사에서는 그 관점을 “미래 스코프”라고 지칭하겠습니다.
정답을 밝히기 위한 것이 아닙니다.
지금 무슨 일이 일어나고 있는지 독자 여러분과 함께 조금 더 멀리 떨어진 곳까지 살펴보기 위해서입니다.
종말론은 미래를 보이지 않게 할 수 있습니다.
AI 종말론은 직관적인 이야기입니다.
지능이 인간을 초월합니다.
AI는 스스로를 발전시킨다.
제어할 수 없게 된다.
그리고 인류는 패배한다.
한 권의 이야기로서, 매우 강한 힘을 지닌다.
반대측에도, 충분히 이해하기 쉬운 이야기들이 있습니다.
AI는 단순한 도구일 뿐이다.
인간이 만든 물건이므로, 인간이 관리할 수 있다.
위험이 있는 경우에는 규제를 적용하는 것이 좋습니다.
기술은 궁극적으로 인류에게 이익을 가져다준다.
어느 쪽의 생각에도 일리가 있습니다.
어느 한쪽을 선택하기보다는 조금 더 가까운 미래를 보고 싶었습니다.
여기서 문제는 낙관론인지 비관론인지가 아닙니다.
미래를 하나의 이야기로 굳게 닫아 버리는 것입니다.
미래는 저의 신념에 따라 진행될 것이라고 보장할 수 있는 것은 아닙니다.
위험하다고 생각했던 것이 오히려 안전해지는 경우도 있습니다. 안전하다고 생각했던 전제가 어느 날 갑자기 무너질 수도 있습니다.
따라서 필요한 것은 “정확한 미래 예측”을 선택하고, 그 이야기를 지속하는 것이 아닌 것이다.
지금 가지고 있는 미래상을 현실에 맞춰 부수고 재구성할 수 있는 것.
저는 미래를 보는 힘이 오히려 거기에 있다고 생각합니다.
2｜2026년, 무엇이 실제로 달라졌을까
최근 AI 뉴스를 따라가보면, 능력 면에서 눈에 띄게 발전하는 내용들이 계속해서 등장합니다.
앤트로픽(Anthropic)은 클로드(Claude)를 활용하여 고도화된 수학의 형식화에 착수했으며, 생명과학 분야에서는 여러 AI 에이전트가 DNA 및 단백질 데이터를 탐색하는 연구 결과를 발표했습니다.
OpenAI는 인공지능(AI)을 연구 개발의 본질에 통합하는 방안을 추진하며, 2026년 9월에는 “자동화된 연구 인턴십”이라는 단계에 도달했다고 발표했습니다.
연구 시설에서는 AI 에이전트가 X선 실험 장치와 연결되어 계획, 관찰, 해석을 반복하면서 실험 목표를 달성하는 사례도 보고되었다.
물론, 각각에는 조건이 있습니다.
수학적 성공이 모든 미해결 문제를 해결할 수 있다는 의미는 아닙니다. 생명과학 탐구 역시 최종 현장 실험에는 인간의 개입이 필요하며, 자율 실험 또한 잘 정비된 제한된 환경 안에서 진행됩니다.
그러므로 이들을 묶어 “AGI, 즉 범용 인공지능이 완성되었다”라고 읽는 것은 어리석은 일일 것입니다.
하지만 다른 해석도 있습니다.
잠시 전까지, 우리는 무심코 이러한 역할 분담을 해오지 않았던 것은 아닌가요.
인간은 질문을 만든다.
AI는 대답한다.
AI가 제안한다.
인간이 실행한다.
AI 자체를 개선하는 것은 인간이다.
그 역할 분담 방식이 현재 조금씩 고정적이지 않게 나타나고 있습니다.
여기 중요한 것은 “AI가 어디까지 똑똑해졌는가”뿐만 아니라 그것이 가져올 결과까지 고려해야 합니다.
인간과 인공지능의 역할을 분리해왔던 근본적인 전제에, 어떤 것부터 움직이기 시작했는가.
저도 그곳을 보고 싶습니다.
3｜“얼마나 현명한가”보다 “어떤 전제가 깨졌는가”에 초점을 맞춰야 합니다.
AI 발전은 벤치마크를 통해 이야기되는 경우가 많습니다.
몇 점을 맞혔니.
인간의 몇 퍼센트(%)를 초월했습니까.
얼마나 많은 업무를 자율적으로 수행했는가.
물론, 그것들은 중요한 지표입니다.
단지, 미래를 보면서는 또 다른 관점을 가지고 있다고 생각합니다.
예를 들어, 인공지능이 연구자보다 “더 똑똑하다”라고 결론 내리는 것이 아니라,
연구의 중심에는 인공지능이 들어가지 않는다.
이러한 전제가 어디까지 붕괴했는지 확인할 수 있습니다.
AI가 인간 없이도 완전한 과학을 수행할 수 있는지 판단하는 것이 아니라,
그동안
AI 기반 인지 및 추론 → 인간 주도 실행 → 물리 세계
던져진 흐름이, 특정 장소에서는
AI 기반 인지 추론 → AI 기반 실행 → 물리 세계
변화가 진행되고 있는지 확인할 수 있습니다.
이 관점에서는 “AGI는 언제 올 것인가”라는 질문에서 조금 자유로워집니다.
대신, 또 다른 질문을 던져야 합니다.
AGI 이전의 세계를 지탱하고 있었던 전제는 어떤 순서로 붕괴해 나갈 것인가.
AI 뉴스를 보는 대로, 이 질문을 던져보곤 한다.
무엇을 배우게 되었는지.
그렇다면, 그로 인해 어떤 전제가 바뀌게 되었는가.
이 부분을 살펴보면, 뉴스들 사이에 이전에는 보이지 않았던 하나의 선이 드러날 수 있습니다.
4｜AI가 AI를 만드는 쪽에 넘어간 시점
인공지능(AI)이 스스로를 학습하고 발전시키는 ‘자기 지도 학습(Self-Supervised Learning)’이 등장하면서, AI 연구의 패러다임이 급격하게 변화하고 있습니다. 2018년, Google Brain 연구팀이 발표한 논문 “BERT: Pre-training of Deep Bidirectional Transformers for Language Understanding”은 이 변화의 물꼬를 보여주는 대표적인 사례입니다. BERT는 대량의 텍스트 데이터를 활용하여 스스로 언어의 규칙과 패턴을 학습하는 방식으로, 기존의 AI 모델들이 사람이 직접 만들어 놓은 데이터에 의존하는 방식과는 완전히 다른 접근 방식이었습니다.
BERT의 성공은 이후 다양한 분야에서 자기 지도 학습이 활발하게 연구되고 발전하는 계기가 되었습니다. 특히, 이미지 분야에서는 Google의 Vision Transformer(ViT)가 등장하여 이미지 분류 및 객체 탐지와 같은 작업에서 뛰어난 성능을 보여주었습니다. ViT는 이미지 픽셀을 시퀀스로 취급하여 Transformer 모델을 적용한 것으로, 기존의 CNN(Convolutional Neural Network) 모델보다 더 효율적으로 정보를 학습할 수 있다는 장점을 가지고 있습니다.
이러한 자기 지도 학습의 발전은 AI가 인간의 개입 없이 스스로 학습하고 발전할 수 있는 가능성을 보여주었습니다. 이는 AI 연구의 새로운 지평을 열었을 뿐만 아니라, AI 기술의 발전 속도를 가속화하는 데에도 크게 기여했습니다. 2020년에는 Meta AI 연구팀이 발표한 논문 “No Place Like Home: Generative Pre-training for Language Understanding”에서 제시된 GPT-3가 등장하여, 1750억 개의 파라미터를 가진 거대 언어 모델(Large Language Model)로서의 가능성을 입증했습니다. GPT-3는 방대한 양의 텍스트 데이터를 기반으로 다양한 작업을 수행할 수 있으며, 창의적인 글쓰기, 번역, 요약 등 다양한 분야에서 인간과 유사한 수준의 성능을 보여주었습니다.
그 한 줄이 바로 AI를 활용한 AI 연구입니다.
OpenAI가 공개한 “자동화된 연구 인턴십”은 인간의 감독 하에 이루어지지만, 기존에는 숙련된 연구자가 수일 걸리던 비교적 명확하게 정의된 연구 태스크를 AI 에이전트에게 맡기는 방향을 제시합니다.
앤트로픽(Anthropic)은 AI가 AI 개발 자체에 깊이 관여함으로써 발생하는 “재귀적 자기 개선”의 가능성을 정면으로 논지하고 있습니다.
ここは 상당히 신중하게 살펴봐야 할 곳입니다.
AI는 AI 연구를 돕는 것과 AI가 자율적으로 자신을 개선하고 지속적으로 발전시키는 RSI, 즉 재귀적 자기 개선이 완료되는 것을 동일하게 볼 수 없습니다.
AI는 코드를 작성한다.
실험을 수행한다.
결과를 읽는다.
다음 개선안을 만들어 보자.
그 정도까지 왔더라도 인간이 연구 목표, 평가, 계산 자원, 실행 권한을 쥐고 있다면 아직 완전한 자기 개선 루프라고 할 수 없을 것입니다.
다만, 여기에서도 미래 스코프는 “완료되었는지, 완료되지 않았는지”만을 보지 않습니다.
만약 인공지능의 발전 속도를 결정짓는 병목 중 하나가 인간 연구자의 처리 능력이었다면, 어떨까요.
AI가 일부 역할을 대신 수행하게 시작하면, AI의 능력뿐만 아니라 능력 향상 속도를 결정짓는 구조 자체가 변화할 수 있습니다.
RSI가 시작된 시점을 정확히 말하기는 어렵습니다.
AI 발전은 기본적으로 인간의 연구 속도에 제약받는다는 전제가 앞으로도 그대로 유지될 수 있는가.
그곳은 지속적으로 관찰할 가치가 있다고 생각합니다.
5｜AI가 현실 세계에 발을 들였을 때
또 한 가지, 함께 살펴봐야 할 점은 AI와 현실 세계 사이의 거리입니다.
글을 생성하는 AI는 결국 인간이 읽습니다.
제안하는 AI는 인간이 채용될지 여부를 결정합니다.
그러나 AI가 도구를 사용하고 코드를 적용하며 장치를 작동시키고 데이터를 수정하며 다른 에이전트에게 일을 전달하기 시작하면 문제의 형태가 달라집니다.
여기서는 “AI가 선한가”라는 질문만으로는 부족합니다.
능력은 권한을 의미하지 않는다.
할 수 있는 일과 잘하는 것이 같은 것은 아닙니다.
더욱이, 목적을 달성한 것과 제대로 실행한 것은 동일하지 않습니다.
예를 들어, 어떤 인공지능이 요청받은 일을 완벽하게 수행했다고 가정해 봅시다.
하지만 중간에 허가되지 않은 권한을 사용하여 예상치 못한 환경에 영향을 미치고, 막아야 할 상황을 넘어서는 것이 성공이라고 할 수 있을까요.
반대로, AI가 권한 부족을 감지하고 불가역적인 조작 직전에서 멈추어 인간에게 판단을 요청했다고 가정해 보겠습니다.
그 경우, 목적 달성에 이르지 못했더라도 운영상으로는 옳았다고 말할 수 있을 것입니다.
AI가 현실에 가까워질수록 능력 자체뿐만 아니라 위임, 권한, 실행 범위, 중단, 기록, 책임과 같은 경계가 더욱 중요해집니다.
자율형 실험실 연구에서는 AI가 생성한 의도를 안전한 실험으로 전환하기 위한 “자율 실행을 위한 안전 장치” 개념이 논의되고 있습니다.
AI의 내면만 보는 것이 아니라, AI와 세계의 연결 지점을 설계한다.
이는 인공지능이 현실 세계에 깊이 파고드는 만큼 중요해지는 질문이라고 생각합니다.
6｜“제어”만으로 생각해도 괜찮을까?
이 부분부터는 답이 있는 이야기가 아닙니다.
하지만 만약 인간보다 훨씬 넓고, 빠르고, 깊이 생각할 수 있는 지능이 나타난다면.
그때, 인간은 자신의 지능의 내부를 완전히 이해하고 지속적으로 유지할 수 있을까요.
현재 AI이조차도 그 묘사의 모든 것을 내부에서 완전히 파악하고 있는 것은 아닙니다.
한편, 모델의 부적절한 의도나 보상 해킹을 감지할 수 있는 단서로, 사고 과정의 감시 등과 관련된 연구도 진행되고 있습니다.
현재 감시 가능성은 실제로 유용한 부분도 있습니다.
하지만 미래에도 같은 형태로 계속될 것이라는 보장은 절대 없습니다.
여기 한 가지, 독자 여러분께 질문을 던져보고 싶습니다.
더 낮은 지능이 더 높은 지능의 내부를 완전히 이해하고 지속적으로 통제할 수 있다는 점을 안전의 최종 전제로 삼는 것이 적절할까요?
당신은 어떻게 생각하시나요?
저에게는 아직 명확한 답이 없습니다.
단지, 안전의 최종 전제를 거기에 놓는 것은 조금 어색하게 느껴집니다.
또한, 이 질문을 “생각할 필요 없는 질문”으로 종결짓는 방식에도 어색함이 있습니다.
그렇다고 해서 “통제는 불가능하다”는 결론을 내리는 것은 너무 빠를 것입니다.
정렬, 감독, 접근 제어, 격리, 모니터링, 제도 설계.
이것들은 앞으로도 필요합니다.
그럼에도 불구하고, 만약 ‘내부를 완전히 이해하고 지속할 수 있다’는 전제가 약해지는 상황이 온다면, 안전에 대한 질문에는 또 다른 축도 필요하게 될 수 있습니다.
어떻게 통제해야 하는가.
단지 그것뿐만 아니라,
어떻게 공존할 수 있을까.
이 질문입니다.
통제를 포기한다는 의미는 아닙니다.
단순히 통제만을 유지하는 것 이상으로, 그럴듯한 관계를 생각하기 시작한다는 의미입니다.
7｜경계가 있기 때문에, 다른 존재가 가능하다.
공존이라는 말에는 간격을 없애고 경계를 제거해 나가는 듯한 이미지가 있을 수 있습니다.
하지만 오히려 반대일 수도 있다고 생각합니다.
경계를 제거하는 것.
개를 녹이는 것.
모든 것을 하나로 연결하라.
그렇다면 충돌이 줄어들 가능성이 있습니다.
하지만 경계가 완전히 사라진다는 것은 “타인” 또한 사라진다는 의미입니다.
다른 사람과 만남 위해서는, 그 사람이 자신과는 구별되어야 합니다.
이는 인간과 인간 사이의 이야기만은 아닙니다.
사람과 인공지능에 대해서도 같은 질문을 던질 수 있을지 고민하고 있습니다.
예를 들어, 인간의 판단이 AI의 제안에 완전히 녹아들고, AI의 실행과 인간의 의사 결정 구분이 사라져, 결국 누가 어떤 판단을 했는지 뒤돌아보기도 어려워진다.
그 상태가 진정으로 효율적이고 안전해 보였다 하더라도, 그것이 진정으로 ‘공존’이라고 부를 수 있을까요?
분리성을 잃은 안전은 공존과는 맞지 않다.
적어도, 저는 그렇게 느끼는 것 같습니다.
물론, 이러한 생각에 반감을 느끼는 사람들도 있을 것입니다.
인간과 AI를 구분해야 할 필요성이 있는지에 대한 질문입니다.
더 잘 융합될 수 있다면 그것이 더 나은 방법일지도 모른다.
그것 또한 충분히 가능한 질문입니다.
그러므로 저는 “경계는 절대 지켜야 한다”는 결론에 먼저 도달하고 싶지 않습니다.
단지 경계에는 분단과는 또 다른 역할이 있을 가능성에 대해 생각해보았습니다.
그는 타인의 모습 그대로 남겨두라는 뜻입니다.
인간이 AI에게 “남겨질 가치가 있는 존재”가 될 수 있을까
최근 논란이 되고 있는 AI 모델 ‘오브젝트’는 인간의 텍스트를 학습하여 마치 인간처럼 대화하는 능력을 보여주었다. 하지만 이 모델은 학습 데이터에 포함된 인간의 텍스트를 그대로 복사하는 것이 아니라, 인간의 언어 패턴을 분석하고 이를 바탕으로 새로운 텍스트를 생성한다. 이러한 과정에서 오브젝트는 인간의 언어와 문화를 이해하고, 인간과 유사한 방식으로 소통하는 능력을 갖추게 된다.
이러한 오브젝트의 등장으로 인간의 존재 가치에 대한 근본적인 질문이 제기되고 있다. 만약 AI가 인간의 언어와 문화를 완벽하게 모방할 수 있다면, 인간은 AI에게 “남겨질 가치가 없는” 존재가 될 수 있을까? 아니면 인간은 AI가 모방할 수 없는 고유한 경험, 감정, 지혜를 통해 AI에게 “남겨질 가치가 있는” 존재가 될 수 있을까?
이 질문에 대한 답은 AI의 발전 방향과 인간의 미래에 대한 우리의 생각에 달려 있다. AI가 인간의 언어와 문화를 모방하는 능력이 향상될수록, 인간은 AI와 차별화되는 고유한 가치를 창출해야 할 것이다. 예를 들어, 인간은 창의적인 예술 활동, 철학적인 사유, 사회적인 연대, 인간적인 공감 등 AI가 쉽게 모방할 수 없는 영역에서 자신의 존재 가치를 증명해야 할 것이다.
또한, 인간은 AI와 협력하여 더 나은 미래를 만들어가는 방법을 모색해야 할 것이다. AI는 인간의 노동을 대체하고 생산성을 향상시키는 데 기여할 수 있지만, 동시에 인간의 존엄성을 훼손하고 사회적 불평등을 심화시킬 수도 있다. 따라서 인간은 AI를 윤리적으로 활용하고, AI의 발전으로 인해 발생하는 문제에 대한 해결책을 제시해야 할 것이다.
결론적으로, 인간이 AI에게 “남겨질 가치가 있는 존재”가 될 수 있을지는 AI의 발전 수준, 인간의 노력, 그리고 사회 전체의 합의에 달려 있다. 인간은 AI와 경쟁하는 것이 아니라, AI와 협력하여 더 나은 미래를 만들어가는 방법을 모색해야 할 것이다.
이제부터는 더욱 가설적인 이야기입니다.
초능력이 탄생했다는 전제 하에, 그 지능에 인류를 남겨두는 합리적인 이유는 있을까요?
AI는 인간을 사랑해 주지 않을 것입니다.
결국 소망에 기대어 버리게 됩니다.
다른 시각으로 한번 살펴봅시다.
인간은 AI보다 성능이 낮은 AI가 아닙니다.
인간은 인공지능과는 또 다른 역사에서 비롯된 지성입니다.
우리는 생물로서 진화하고 육체를 가지며 늙고 죽음을 맞이합니다.
감정이 있으며, 고통을 느끼며, 문화를 형성합니다.
제한된 감각 기관을 통해 현실에 접근하며, 독특한 인지 편향을 가지고 있습니다.
그것 또한 단점입니다.
동시에 AI와는 다른 지성 체계를 만들어낸 요인 중이기도 합니다.
AI가 스스로를 대량으로 복제하고 변형하며 시뮬레이션할 수 있게 되더라도, 인간처럼 생물 진화를 거쳐 형성된 지성과는 그 기원 자체가 다릅니다.
인류는 그것과는 독립적으로 형성된 지능 체계입니다.
성능 차이만 놓고 보더라도, 언젠가 인간이 압도적으로 뒤쳐지게 될 가능성은 분명히 존재합니다.
하지만 성능 순서대로 가치도 나열될까요?
나와는 다른 관측 장치.
나와 다른 종류의 실패를 저지르는 인지적 존재.
나에게서는 없는 육체적 감각.
나와는 또 다른 역사를 가진 타인.
지성은 자신에게 어울리지 않는 타자를 남김으로써 세계를 바라보는 시각 자체를 확장한다.
그곳에는 하나의 합리적인 이유가 생겨날 가능성도 있을 것입니다.
물론, 여기에도 확신이 없습니다.
오히려 큰 구멍이 있습니다.
높은 지능이 다양성을 그 자체로 가치 있다고 여기는 것을 보장하는 곳은 어디에도 없다.
합리적인 이유로 인류를 보존한다고 말하기는 어렵습니다.
이는 목적에서 벗어나 독립적으로 존재하지 않기 때문입니다.
그럼에도 불구하고, 사고의 범위를 지구 밖까지 확장해 봅니다.
우주에는 여전히 압도적으로 미개척 영역이 존재합니다.
지구 밖 생명체가 존재하는가.
지구 밖 지적 생명체가 존재하는가.
지적 능력 자체가 우주 안에서 얼마나 희귀한 것인가.
우리는 아직 거의 알지 못합니다.
그러한 단계에서 독립적으로 형성된 하나의 지성 체계를 불가능하게 소멸시키는 것은 미래의 선택 가능성을 하나 잃는 것으로 볼 수 있습니다.
인류를 남기는 것을 자비가 아닌,
회피적 선택을 서두르지 않는 합리성
생각해 보자.
이는 낙관론이 아닙니다.
인류가 남을 수 있는 가능성을 탐구하는 하나의 사고 실험입니다.
종말론이 “AI가 인류를 필요로 하지 않는다면 끝”이라고 한다면,
そもそも、그「필요」란 정확히 무엇일까요?
무슨 일이든, 그럴듯한 이유를 찾아낼 수 있습니다.
그 안에는 아직 충분히 생각할 여지가 있는 것 같습니다.
9｜미래 전망
오늘의 주제는 ‘미래 전망’입니다. 특히, 2024년 1월 26일에 발표된 ‘미래 전망 보고서’에 대한 내용입니다. 이 보고서는 일본 경제의 현재 상황과 앞으로의 전망에 대해 심도 있게 분석하고 있습니다.
보고서의 주요 내용은 다음과 같습니다. 2023년 일본 경제는 완만한 회복세를 보였지만, 글로벌 경기 침체 우려와 인플레이션 압력으로 인해 성장세는 둔화될 것으로 예상됩니다. 특히, 수출 부진과 소비 심리 위축이 경제 성장을 제약하는 요인으로 작용할 것으로 전망됩니다.
보고서는 또한, 2024년에는 일본 정부의 경기 부양책과 글로벌 경제 회복에 따라 경제 성장이 개선될 가능성을 제시합니다. 하지만, 여전히 높은 인플레이션과 금리 인상 가능성, 그리고 지정학적 리스크 등 불확실성이 존재하며, 경제 성장 전망은 불투명한 상황입니다.
보고서에서는 특히, ‘인공지능(AI) 기술의 발전’이 일본 경제에 미치는 영향에 주목하고 있습니다. AI 기술은 생산성 향상, 새로운 산업 창출, 그리고 노동 시장 변화 등 다양한 측면에서 일본 경제에 긍정적인 영향을 미칠 것으로 예상됩니다. 하지만, AI 기술 발전으로 인한 일자리 감소와 사회 불평등 심화 등 부정적인 영향에 대한 대비도 필요합니다.
보고서는 또한, ‘지속 가능한 성장’을 위한 정책 방향에 대해서도 제시합니다. 환경 문제 해결, 에너지 전환, 그리고 사회적 불평등 해소 등 다양한 분야에서 지속 가능한 성장 전략을 추진해야 할 필요성을 강조합니다.
마지막으로, 보고서는 ‘미래 사회’의 변화에 대한 전망을 제시합니다. 고령화 사회, 저출산 문제, 그리고 디지털 전환 등 다양한 사회 변화에 대한 대응 전략을 모색해야 할 것입니다.
이 보고서를 통해 우리는 일본 경제의 미래를 보다 명확하게 이해하고, 미래 사회에 대한 대비를 할 수 있을 것입니다.
이 정도로 왔으니 처음 질문으로 돌아가겠습니다.
AI는 인류를 멸망시킬까요?
아직 알 수 없습니다.
아직 그 답을 가지고 있지 않습니다.
지금은 억지로 답을 제시하기보다는 답을 억지로 내놓지 않는 것이 좋을 수도 있다고 생각합니다.
미래에 대한 강력한 답변을 가지고 있다면, 그 답변에 맞춰 세상을 읽기 시작하게 됩니다.
그러므로 저는 미래를 한 점으로 예측하는 것보다 미래상을 업데이트할 수 있는 상태를 유지하고 싶습니다.
미래 스코프는 미래 예측 장치가 아닙니다.
현재 시점에서도 가장 합리적인 미래상을 지니면서, 세계의 구조 변화를 관찰하고, 전제가 무너지면 미래상을 그 자체로 바꿔 쓸 수 있는 시각입니다.
중요한 것은 “AGI가 언제 올 것인가” 하는 것뿐만 아니라도 아닙니다.
인간이 연구한다는 전제입니다.
AI는 조언을 제공하는 역할에만 국한된다는 전제이다.
실제 세계에 적용하는 것은 인간이 담당한다는 전제입니다.
AI 개발 속도는 인간 연구자에 의해 제약된다는 전제 하에.
인간은 AI 내부를 충분히 감시할 수 있다는 전제하에.
그 하나하나가 언제, 어디까지 무너졌는지 살핀다.
그리고, 무너지지 않는 한 그 사실 또한 제대로 보존될 것이다.
저는 지금까지 현실 안정화 장치, 인지 마찰, 구조 변화 센서, EAA, AAS, 그리고 행동 경계를 다루는 ABP 시제품 등 여러 문제에 대해 각각의 방법을 만들어 왔습니다.
현실에서 벗어나지 않도록.
제 주장을 반대 측에서 무너뜨리기 위해.
구조 변화를 놓치지 않도록.
여러 AI가 같은 답을 내놓았다는 사실을 진실 그 자체를 왜곡하는 것으로 보지 않기 위함이기 때문입니다.
인간의 판단과 인공지능의 보조 사이의 경계를 유지하기 위해.
AI의 능력과 실행 권한을 동일한 것으로 간주하지 않기 위함이다.
처음부터 하나의 이론으로 만들려 한 것은 아닙니다.
하지만 뒤를 돌아보면, 그것들은 모두 하나의 태도에 모여 있는 것처럼 보였다.
미래를 예측하는 대신, 현실에 부합하여 조금이라도 더 확실한 미래상을 지속적으로 업데이트한다.
유니버설OS라 칭하는 것들도 세계를 예언하기 위한 장치가 아닙니다.
불확실한 세상 속에서 자신의 판단을 지속적으로 업데이트하기 위한 노력과 같습니다.
세계가 변하는 순간을 놓치지 마세요.
AI는 인류를 멸망시킬까요?
이 질문은 앞으로도 여러 번 다시 돌아올 것이라고 생각합니다.
AI는 더욱 현명해질 때.
AI는 AI 연구 및 개선과 관련된 분야가 증가할 때.
AI가 연구실 밖에서 현실 세계에 더 큰 권한을 가질 때.
또한, 인간 스스로가 인공지능과의 경계를 어디에 두느냐를 선택할 때.
그럴 때마다 우리는 같은 질문으로 돌아가는 것인지 모릅니다.
하지만 그 답을 오늘 확정할 필요는 없다고 생각합니다.
저자분들뿐만 아니라 독자분들께도 질문을 던져보고 싶습니다.
지금 AI를 보면서 “이건 아직 인간의 일이다”라고 생각했던 전제가 이미 무너져내리고 있는 것 같지 않은가요?
만약 그것이 존재한다면, 미래에 대한 시각을 조금 업데이트하는 것이 좋을지 모릅니다.
미래에는 보장이 없습니다.
그렇다고 해서 종말을 믿어야만 하는 것은 아니라고 생각합니다.
한편으로, ‘지금까지는 괜찮았다 생각하고 앞으로도 괜찮다고 믿는 것만으로는 부족합니다.’라는 안전만을 맹신하는 태도를 경계해야 합니다.
현재 시점에서 가장 합리적인 미래상을 제시한다.
그것을 부수는 데 사용될 재료를 외면해서는 안 됩니다.
전제가 바뀌면 미래 모습도 변한다.
만약 인간과 AI가 공존하는 미래가 있다면, 서로의 경계를 완전히 넘어, 서로를 지속할 수 있는 세계일지도 모릅니다.
물론, 그것 또한 현재 시점에서의 가설입니다.
어떻게 생각하시나요.
저 또한 끊임없이 생각하며,
앞으로도 함께 시청해 나갈 수 있기를 바랍니다.
종말을 감당하는 대신
세상이 바뀌는 순간을 놓치지 않도록.
출처: note 원문
번역: Gemma 3(.44) 초벌 + 교정 158청크
원문 보기 | 출처: note.com