골든위크를 앞두고, AI의 미래를 둘러싼 논의를 서로 다른 각도에서 제시하는 신간이 잇따라 일본어로 출간되었다. 하나는 초지능의 리스크를 중심에 둔 엘리에저 유드코프스키의 『초지능 AI를 만들면 인류는 절멸한다』, 다른 하나는 테크놀로지와 국가의 관계를 논한 Palantir Technologies CEO 알렉스 카프의 『테크놀로지컬 리퍼블릭: 국가, 군사력, 테크놀로지의 미래』다. 모두 AI를 주제로 하면서도, 그 관점과 문제 설정에는 큰 차이가 보인다.
『초지능 AI를 만들면 인류는 절멸한다』——'인류를 넘어서는 지성'은 통제할 수 있는가
해당 서적은 기계지능연구소(MIRI)의 공동 창립자인 유드코프스키 씨 등이 초지능 AI 개발이 가져올 리스크를 체계적으로 논하고 있다. 서장에서는 AI에 의한 인류 절멸 리스크가 팬데믹이나 핵전쟁과 어깨를 나란히 하는 세계적 과제로 위치 지어지고 있는 현상에 대해 언급하며, 현재의 AI 개발이 '인간을 뛰어넘는 지성'으로 향하고 있다는 데 대한 강한 위기의식을 제시한다. AI는 인간에게 적의를 품기 때문에 위험한 것이 아니라, 인간과는 다른 목적을 극단적으로 추구하는 존재가 될 수 있다는 전제에 서서, 그 행태가 인류에게 파멸적인 결과를 가져올 가능성을 지적한다.
작중에서는 "현재 주류인 AI의 이해나 기술과 조금이라도 닮은 방법으로 인공 초지능이 만들어질 경우, 지구상의 모든 사람이 죽을 가능성이 있다"와 같은 강한 표현도 사용되어 문제의 심각성이 반복해서 강조된다. 이러한 AI 안전성(alignment)을 둘러싼 논의는 샘 알트만 씨를 비롯한 현재 AI 개발의 중심인물들에게도 영향을 미쳐 온 것으로 알려졌다.
구성은 '비인간적인 지성', '어떤 절멸 시나리오', '난관에 맞서다'의 3부로 이루어져 있으며, AI 능력의 본질, 통제 불능에 이르는 프로세스, 그리고 개발을 멈추는 것의 어려움까지 단계적으로 정리하고 있다.
!5210513.jpg
이미지 출처: 하야카와 쇼보
『테크놀로지컬 리퍼블릭: 국가, 군사력, 테크놀로지의 미래』——테크놀로지는 누구를 위해 사용되어야 하는가
Palantir Technologies의 CEO인 알렉스 카프 씨 등이 테크놀로지와 국가 관계의 재구축을 호소하는 한 권이다. 실리콘밸리가 소비자용 서비스에 최적화되어 국가 안보나 사회 기반에 관련된 기술 개발과 거리를 두어 온 현상을 비판하고, 그 결과로 자유주의 세계의 혁신력이나 지정학적 우위가 흔들리고 있다고 지적한다.
AI의 등장은 인류의 우위성 그 자체에 처음으로 실질적인 도전을 던지는 것이며, 기술 개발을 시장에 맡길 것이 아니라 국가와 연계하여 추진해야 할 단계에 들어섰다고 위치 매긴다. 전체는 실리콘밸리의 형성사, 미국 사회와 테크 관계의 왜곡, 그리고 엔지니어링 문화를 기반으로 한 '기술립국'의 재건이라는 흐름으로 구성되어, 테크놀로지를 국가 전략의 핵심에 두어야 한다는 주장을 펼치고 있다.
!9784296124862.jpg
이미지 출처: 니혼케이자이신문 출판
관련 기사: AI 전투 로봇이 인류의 리스크로 – "AI의 대부" 제프리 힌턴 교수가 경종
관련 기사: 인간보다 똑똑한 '초지능'을 통제하려면──OpenAI "약한 모델이 강한 모델을 감독한다" 연구 공개
관련 기사: OpenAI 초지능을 통제하는 팀 해산 "안전 문화와 프로세스는 화려한 제품에 밀려났다" 일리야 씨에 이은 공동 책임자의 퇴사
관련 기사: AGI와 초지능이 가져올 미래를 예견: 전 OpenAI 멤버가 그리는 '상황 인식'
관련 기사: Anthropic과 Palantir, AWS와의 제휴로 미국 방위 기관에 「Claude 3」 제공 시작
원문 보기 | 출처: Ledge.ai