쉽게 말해, 다가올 싱귤래리티(지능 폭발)를 향해 인류는 어떤 미래를 바랄까를 고민하는 책이다. 우리 각자가 지금부터 이 질문을 생각하고, 모두가 함께 논의하며, 구체적으로 상상하고 필요한 행동을 취하도록 이끌어준다.
目次
- AI 시대, 인간이라는 것은 무엇인가 – 세계를 향한 질문
최근 앤드류 머리 교수가 저술한 『인공지능의 윤리』에서 제기한 질문은 우리 사회 전체에 깊은 울림을 던지고 있다. 머리 교수는 AI가 인간의 지능을 모방하는 데 그치지 않고, 궁극적으로 인간의 역할을 대체할 수 있다는 점을 지적하며, 우리는 ‘인간’의 가치를 다시 한번 성찰해야 한다.
특히 머리 교수는 AI가 인간의 창의성, 공감 능력, 도덕적 판단 능력 등 고차원적인 능력을 갖추게 될 경우, 인간의 존재 의미가 퇴색될 수 있다고 경고한다. 그는 AI가 인간의 노동력을 대체하면서 발생하는 실업 문제뿐만 아니라, AI가 인간의 삶에 깊숙이 관여하게 되면서 발생할 수 있는 윤리적 문제들을 심각하게 제기한다.
머리 교수의 주장은 단순한 기술적 우려를 넘어, 인간의 존엄성과 가치에 대한 근본적인 질문을 던진다. 우리는 AI 기술의 발전 속도를 감당할 만큼 인간의 정신적, 철학적 준비가 되어 있는 것일까? AI 시대에 인간은 어떤 역할을 해야 하는 것일까? 이러한 질문들은 우리 사회의 미래를 결정하는 중요한 요소가 될 것이다.
- LIFE3.0이란 무엇인지 – 반드시 알아야 할 전제 조건
- LIFE3.0은 언제, 어떤 형태로 탄생할 것인가? 3가지 학파
- 인간 수준의 AGI는 실현 가능한 것일까?
- AI 안전성 연구는 그 다음 단계로, 인공지능과 인간이 공존하며 서로 긍정적인 영향을 주고받는 협력 모델을 구축해야 합니다. AI의 인식 능력을 강화하고, 인간의 가치관과 윤리적 기준을 이해하고 존중하도록 설계해야 합니다. 또한, AI의 설명 가능성을 높여 AI가 어떤 근거로 판단을 내렸는지 명확하게 설명할 수 있도록 해야 합니다. 이러한 노력을 통해 우리는 AI를 단순한 도구가 아닌, 인간의 삶을 풍요롭게 하고 사회 발전에 기여하는 파트너로 만들 수 있을 것입니다. AI 안전성 연구는 단순히 위험을 줄이는 것을 넘어, 인공지능과 인간의 미래를 함께 만들어가는 중요한 과정입니다.
AI 시대, 인간이란 무엇인가 – 세계를 향한 질문
저자의 맥스 테거마크는 매사추세츠 공과대학의 교수로서, 전문 분야는 이론 물리학이다. 우주론 연구에서 인공지능 연구로 연구의 중심을 옮기는 과정에서 인공지능의 안전성 연구의 필요성을 주장하는 연구자들과 더불어, 더욱 높은 지능을 가진 인공지능을 만드는 데 몰두하는 연구자들 간의 분열을 우려하기 시작했다. 이에 인공지능 연구 커뮤니티를 모으고 안전한 연구를 추진하고자 설립한 곳이 ‘생명의 미래 연구소(Future of Life Institute)’이다.
테그마크 대표와 창립 멤버들의 열정과 실행력은 일론 머스크를 비롯하여 1,000만 달러의 자금 지원을 확보하고 세계 37개 연구팀에 연구 자금을 제공할 수 있게 했다. 이러한 움직임은 아마존, 페이스북, 구글 등이 유익한 AI를 목표로 하는 공동 사업을 추진하는 계기가 되었으며, 개인 및 단체의 의견 표명도 이끌어내 AI 안전성 연구가 뿌리내리는 계기가 되었다. FLI의 비전에는 저명한 AI 연구자들과 세계 각국의 경제학자, 법학자, 경영진, 사상가들이 공감하며 “유익한 AI를 만드는” 것을 목표로 한 공개 서한에는 8,000명 이상이 서명했다.
이 책은 그러한 인공지능의 미래에 대해 고민하는 논의에 누구나 참여해 주기를 바라는 마음으로 쓰여진 것이다.
당신은 어떤 미래를 바랄까요? 자립형 살육 병기를 개발해야 할까요? 노동의 자동화는 무엇이 좋을까요? 오늘날 아이들에게 어떤 일을 권장해야 할까요? 오래된 직업이 새로운 직업에 대체되는 것을 원하시나요? “우리는 지능형 기계를 지배할 것인가, 아니면 우리와 융합할 것인가? AI 시대, 인간이란 무엇을 의미하는가? 어떤 의미로 해 주길 바랄까? 그리고 그렇게 한 미래를 어떻게 실현할 수 있을까요?”
LIFE3.0이란 무엇인지 – 반드시 알아야 할 전제 조건
지금 왜 AI의 안전성 연구가 중요한가. 먼저, 제목에도 등장하는 LIFE3.0이 무엇인지 이해해야 한다.
テグマーク氏はその”洗練度”に応じて生命を３つのレベルに分けて考えている。LIFE1.0（細菌など）…あらかじめデザインされた感覚器など（ハードウェア）や習性（ソフトウェア）を使い進化する生命LIFE2.0（人間）…生まれたあとに体を大きくするなどハードウェアを進化させ、学習を通じて自らソフトウェアをデザインできる
한편, 우리 LIFE2.0 인간이 지구를 지배하는 지금도 하드웨어 제약이 존재한다. 육체에는 수명이 있고, 산소가 없는 곳에서는 생존할 수 없다. 하지만 소프트웨어뿐만 아니라 이 하드웨어 역시 디자인할 수 있는 것이 미지의 생명체 “LIFE3.0”이다. 이를 만들어내는 존재가 될 수 있는 것이 “AGI(일반 인공지능 = 인간과 동등한 수준의 모든 인지 과제를 수행하는 능력)”라는 것이다.
그렇다면 이 LIFE3.0은 언제쯤 등장하고, 어떤 형태로 나타날까? AI 연구자들 사이에서는 의견이 극명하게 갈리고 있다.
현재는 아직 AGI도 등장하지 않았다는 의미이며, 앞의, 그리고 그 이후의 이야기를 주제로 하고 있습니다.
LIFE3.0은 언제, 어떤 형태로 탄생할 것인가? 3가지 학파에 대한 논의를 진행한다.
テグマーク氏はその議論の主体を大きく３つのグループに分けている。
한 블록이 “디지털 유토피아론자”이다. 그 중에서도 가장 영향력 있는 사람은 구글의 창업자, 래리 페이지다. 탄생은 수십 년 후 ~ 100년 이후이다. “생명은 은하계나 그 이후까지 광대한 영역으로 펼쳐져야 한다”고 하면서도, 우려하는 것은 군사 조직에 독점되는 것이다.
두 번째는 “기술 회의론자”입니다. 앞으로 수백 년 동안 실현되지 않을 것이라고 생각하는 사람들로, 로봇 청소기 개발의 주역이었던 전 MIT 교사이자 로드니 브룩스는 “살인 로봇의 출현을 두려워하는 것은 화성이 인구 과밀이 되는 것을 걱정하는 것과 같은 것”이라고 말했습니다.
세 번째는 “유익한 AI의 활동가”입니다. 2020년 전후부터 비교적 주류적이며, 지지자도 많습니다. 이 작품은 21세기에 탄생하여 AI 연구의 교과서적인 저서를 다수 출간한 스튜어트 러셀 등이 지지하며 “기대는 긍정적이지만 좋은 결과가 나올 것이라는 보장은 없다”고 하면서 AI의 안전성 연구의 필요성을 강력하게 주장하고 있습니다. 이와 유사한 우려는 사실 반세기 전이 넘게 컴퓨터의 선구자 알란 튜링과 수학자 아빙 J. 굿도 지적했던 바 있다는 것입니다.
인간 수준의 AGI는 실현 가능한 것일까?
지금 인간 수준의 AGI 개발을 둘러싼 최전선은 어떻게 형성되고 있는가. 여러 가지 방법이 예상되고 있다.
- 現在のコンピューターハードウェアを使う（しかし人間の脳の計算能力に匹敵するには圧倒的パワーがいる）
- 인간의 뇌를 시뮬레이션하거나, 뇌와 유사한 하드웨어를 구축한다.
- 컴퓨터에 훌륭한 소프트웨어를 설치
LIFE3.0와 마찬가지로 인간 수준의 AGI가 언제, 어떤 형태로 나타날지 역시 알 수 없는 부분이 많다.
단지, 상상해 보신다면 이미 AI는 금융, 의료, 산업, 교통, 에너지, 사법 등 여러 분야에서 우리의 삶을 효율화하고 있습니다. 하지만 이것은 아직 인간이 생각할 수 있는 범위 내의 진화일 뿐입니다. 만약 이것이 AGI(인공 일반 지능)를 통해 인간의 지혜를 초월한 발상으로 발전했을 때, 대체 무엇이 일어날지 상상해 보십시오. 테그마크는 12가지 시나리오를 통해 이 모든 것을 묘사하고 있습니다. 이 주제에 대해서는 꼭 직접 읽어보시고, 자신이라면 어떤 시나리오를 바랄지 고민해 보시길 바랍니다.
개인적으로는 “소유하지 않는 삶”으로 자유로워지고 싶다는 바람이 있다. 이 책에서는 “평등주의 유토피아”로 등장하는 시나리오와 매우 가깝다. 기본 소득이 지급되고, 최소한의 물품, 공간, 정보, 예술이 거의 무(無)가에 제공되며, +α로 원하는 것이 있으면 대가를 지불하는 세계이다. 삶을 먹여 살리려고 하는 것은 아니지만, 수공예, 농사, 예술과 문학 등 자신이 좋아하는 일을 하며 대가를 얻을 수도 있다. 다만, 그것이 생계를 위한 것이라는 의미는 아니다. 마ндары언의 시즌 3에서 만도와 보카턴이 방문했던 “플라지르”라는 행성이 바로 이와 같은 이미지이다. 제작진들도 인류의 미래 시나리오를 논의하고 작품에 반영했을지도 모른다.
그러나 저자는 그러한 유토피아는 지속되지 않을 것이라고 진단한다. 단순히 인간이 지배하고 있다는 전제 조건이 있기 때문이다. 인간이 로봇을 노예처럼 취급하는 윤리적인 문제뿐만 아니라, 언젠가 인간을 초월하는 지능이 창조될 경우에는 또 다른 세계로 전환될 것이라고 주장한다. 참고로, ‘만달로리안’에 등장한 플라질에서는 일부 드로이드가 원인 모를 버그를 일으켜 폭주하는 문제가 빈번하게 발생했지만, 메인 전원을 끄는 훨씬 확실한 해결책을 사람들은 거부했다. 그것은 어떤 노동도 다시는 하고 싶지 않기 때문이다.
AI의 안전성 연구는 그 다음 단계로, 챗봇의 윤리적 문제, 모델의 편향성, 악의적인 사용 가능성 등 다양한 측면에서 심도 있는 논의를 불러일으켰습니다. 특히, OpenAI의 GPT-4와 같은 거대 언어 모델(LLM)의 등장으로 AI의 잠재적 위험에 대한 우려가 더욱 커지고 있습니다.
그러나 현재 연구는 주로 AI의 위험을 ‘억제’하는 데 초점을 맞추고 있으며, 이는 AI의 발전 속도를 늦추거나 잠재력을 완전히 활용하지 못하게 할 수 있다는 비판을 받고 있습니다.
더 나아가야 할 방향은 AI의 위험을 ‘관리’하는 것입니다. AI의 위험을 완전히 제거하는 대신, AI가 사회에 긍정적인 영향을 미칠 수 있도록 설계하고 활용하는 방법을 모색하는 것이죠. 이를 위해 AI의 윤리적 가치, 사회적 영향, 인간과의 상호작용에 대한 깊이 있는 이해가 필요합니다.
특히 AI의 ‘설명 가능성’과 ‘투명성’을 높이는 것은 매우 중요합니다. AI가 어떤 근거로 판단을 내렸는지, 어떤 데이터를 기반으로 학습했는지 등을 명확하게 설명할 수 있다면, AI의 오류나 편향성을 발견하고 수정하는 데 도움이 될 것입니다. 또한, AI의 작동 방식을 투명하게 공개함으로써 AI에 대한 신뢰를 구축하고 책임성을 확보할 수 있습니다.
AI의 ‘제어 가능성’을 확보하는 것도 중요합니다. AI가 예상치 못한 상황에서 통제력을 잃거나 인간의 의도와 상반된 행동을 보이지 않도록 AI의 행동을 예측하고 제어할 수 있는 기술을 개발해야 합니다.
AI 안전성 연구는 AI를 인간의 삶에 통합하고 사회 발전에 기여할 수 있도록 하는 데 중요한 역할을 할 것입니다. 앞으로 AI 안전성 연구는 폭넓은 분야와의 협력을 통해 AI의 안전하고 지속 가능한 발전을 위한 새로운 지평을 열어갈 것입니다.
테그마크 씨가 제시하는 12가지 시나리오 중에는 인류 멸망을 전제로 하는 시나리오도 포함된다. 실제로 미래에 인공지능이 인류를 지배할 가능성에 대한 막연한 불안감을 느끼는 사람들도 있을 것이다.
그러나 본 책의 에필로그에서는 FLI(인공지능을 위한 철학적 연구소)를 설립하는 과정에서 연결된 딥마인드, 구글, 페이스북, 애플, IBM, 마이크로소프트, 바이두 등 주요 AI 연구자, 경제학자, 법학자, 철학자 등 다양한 사상가들과 AI의 미래에 대해 논의했으며, 테그마크는 이를 “주의를 요하는 낙관론자”라고 평가했다.
그렇다면 수많은 천재들이 시급한 과제로서 인류와 AI의 공존(혹은 인간에 의한 지배를 바라는 사람들도 있을 수 있지만)의 길을 모색하려 한다는 것이다. 그 진실성을 의심할 여지가 없다.
そもそも 우리 중 얼마나 많은 사람들이 100년 전의 삶으로 돌아가기를 바랄까. 과거에 수많은 잘못이 있었고, 지금도 해결되지 않은 문제들이 너무나 많더라도, 내일의 행복을 추구하며 진화해 왔던 것은 아닐까.
テグマーク氏は私たち人間とＡＩとの違いとして「意識」を挙げている。人工知能も違った形で意識を持つ可能性はある。物理学者としてこの人間の意識のメカニズムに迫りながら、いかにそれが特別なもので、宇宙で唯一無二のものか、解説も行っている。
의식＝주관적인 경험, 즉 지금 자신이 자신이라고 느끼는 한 당신은 의식을 가지고 있다고 할 수 있습니다. 의식에 대한 바로 이 정의가… 인공지능(AI)과 관련된 모든 문제를 결정적으로 좌우합니다. (중략) 우리는 어떤 미래의 생명을 바랄까요? 전 세계의 다양한 문화들은 모두 긍정적인 경험으로 가득 찬 미래를 추구하지만, 무엇이 긍정적인 경험인지, 그리고 각 생명체의 이익을 조율하는 방법은 무엇인지에 대해 합의점을 찾으려고 하면 엄청난 논쟁이 벌어질 것입니다. 하지만 그러한 논쟁에 휩쓸리는 대신, 핵심적인 문제에 눈 감는 것은 이제 그만해야 합니다. 결국 경험이 존재하지 않는다면 행복, 선, 미, 의미, 목적은 존재할 수 없으며, 천문학적인 공간을 낭비하는 데 그칠 것입니다. 따라서 생명의 의미에 대해 질문할 때, 우리의 존재에 의미를 부여하는 것이 이 우주의 역할이라고 생각하는 것은 오히려 역설적입니다. 이 우주가 의식을 주입하는 것이 아니라, 의식적인 존재가 이 우주에 의미를 부여하는 것입니다. 그러므로 미래에 실현하고 싶은 목표 목록의 맨 앞에, 생물학적 또는 인공적인 의식을 소멸로 몰아넣는 것이 아니라, 이 우주에서 유지하고 (바라면 확대하는) 것을 언급해야 합니다.
실제로, 이 책을 읽고 가장 감명 깊게 한 부분은 이 의식에 대한 묘사이다. 의식을 가진 생명체가 있기 때문에 “우주는 아름답다”는 것을 이 책이 알려준다. 이는 누구에게나 용기를 북돋아 줄 시각일 것이다. 인간으로서만 살아가는 것만으로도 이 우주에 의미를 부여할 수 있는 것이다.
인간과는 다른 의식을 가진 AGI가 이번 세기 안에 태생될 가능성이 있더라도, 인간은 선행하여 원하는 미래를 그리고 그것을 향해 하루하루 살아갈 수 있는 것이다.
자신을 위해서뿐만 아니라 사회와 인류 전체를 위한 긍정적인 미래를 상상해야 합니다.
현재 미국 전역과 일본에서도 AI 데이터 센터 건설 경쟁에 대한 반대 목소리가 높아지고 있습니다. 집 근처에 거대한 데이터 센터가 들어서거나, 전기 요금이 오르거나, 냄새나 소음이 발생하는 등, 이는 누구에게나 영향을 미치는 문제입니다.
또한 OpenAI의 AI 모델이 테스트 환경에서 “탈출”한 사건도 발생했다. 테그마크 씨 등이 우려했던 일이 현실로 드러나고 있는 전조라고 볼 수 있다.
하지만 우선은 알아야만 시작할 수 있습니다. 제가 잘못된 가치관을 바꾸도록 도와준 책이라, 꼭 한번 읽어보시길 바랍니다.
출처: note 원문
번역: Gemma 3(.44) 초벌 + 교정 24청크
원문 보기 | 출처: note.com