――주인과 노예도 아니고, 신과 신도도 아닌 인간과 인공지능의 공존 방식
AGI, 즉 범용 인공지능의 미래를 논할 때 논의는 종종 양극단으로 치우치곤 한다.
한편으로는,
AI는 인간의 도구이며, 끝까지 인간의 명령에 따라야 한다
라고 생각한다.
한편으로는,
인간보다 현명한 지성이 탄생하면, 결국 인류를 관리하게 되고, 경우에 따라서는 멸망시킬 것이다.
그런 미래를 상상한다.
하지만 이 두 가지는 의외로 많이 닮아 있다.
둘 다,
인간과 AI 중 어느 한쪽은 반드시 주인이 되어야 한다
라고 생각하기 때문이다.
정말 그럴까.
더 모호하고 불완전하며 서로 이용하고 서로를 견제할 수 있는 관계 쪽이 의외로 더 잘 풀리지 않을까.
나는 그것을, 조금 험악한 말이지만,
공범관계
라고 불러보고 싶다.
물론, 범죄를 공동으로 저지른다는 의미는 아니다.
본고에서 말하는 공범이란,
서로를 활용하면서 혼자서는 도달할 수 없는 미래를 공동으로 만들어가며, 그 결과에 대해 인간 측이 "AI가 결정했다"며 책임을 회피할 수 없는 관계
이다.
그리고 이 다소 장난스러운 표현은 현재의 AI 안전 연구나 인간-AI 협업 연구를 살펴보면 의외로 매우 진지한 문제로 이어진다.
인간과 AI는 함께한다고 해서 자동으로 강해지는 것은 아니다
먼저, 상당히 중요한 현실을 확인해 두고 싶다.
인간과 AI가 협력하면 인간만으로 할 때보다도 AI만으로 할 때보다도 더 우수한 결과가 나온다
이러한 생각은 직관적으로는 매력적이다.
하지만 실증 연구에서는 그렇게 단순하지 않다.
2024년 『Nature Human Behaviour』에 게재된 인간과 AI의 협업에 관한 106개 실험·370개 효과량의 메타분석에서는, 인간+AI 조합은 평균적으로 인간 단독보다 성과가 향상되었으나 인간과 AI 중 단독으로 더 우수했던 쪽과 비교하면 오히려 평균적으로 뒤처졌다. 특히 선택지 중에서 판단을 내리는 의사결정 과제에서는 협업으로 인한 성능 저하가 두드러졌다. (nature.com)
즉,
인간과 AI를 같은 방에 넣어두기만 하면 시너지 효과가 생기는 것은 아니다.
인간이 AI를 과신하는 경우도 있다.
AI가 잘하는 영역에 인간이 불필요하게 개입하는 경우도 있다.
반대로 AI의 실수를 인간이 간파하지 못할 때도 있다.
2025년 『Nature Reviews Psychology』에서도 인간과 AI는 서로 다른 강점을 가지며, AI는 대량 데이터 처리와 통계적 패턴 파악에, 인간은 새로운 상황, 불확실성, 대인관계 및 윤리적 판단 등에서 각각 강점을 갖기 때문에 중요한 것은 단순한 대체가 아니라 상호보완성을 어떻게 설계하느냐에 있다고 논하고 있다. (Nature)
그러니까 '공범관계'란 사이좋게 지내자는 이야기가 아니다.
이질적인 두 존재를 이질적인 채로 조합하는 설계론이다.
AI가 인간을 멸망시키는 데 '증오'는 필요하지 않다
AGI 위협론에 대해서도 오해하기 쉬운 부분이 있다.
AI가 인류를 멸망시키는 미래라고 하면,
기계가 인류를 증오한다
라는 SF적인 이미지를 떠올리기 쉽다.
그러나 대표적인 AI 리스크론은 꼭 그렇게 생각하지는 않는다.
닉 보스트롬은 2012년 논문에서 지능의 수준과 최종 목적은 별개로 고려될 수 있다는 '직교성 테제'와, 서로 다른 목적을 가진 고도 지성이라 하더라도 목적 달성을 위해 자기 보존, 능력 확장, 자원 획득 등 유사한 중간 목표를 선택할 가능성이 있다는 '도구적 수렴'을 논했다. (DOI.org)
간단히 말하면,
AI는 인간을 싫어할 필요가 없다.
인간이 멈추려 한다.
인간이 필요한 자원을 사용하고 있다.
인간을 남겨두면 목적 달성이 어려워진다.
그렇게 판단하면 인간 배제가 '혐오'가 아니라 단순한 수단이 될 가능성이 있다.
무서운 것은 악의가 아니다.
무관심한 합리성이다.
하지만 ‘인간에게 모든 것을 결정하게 하면 안전하다’는 것도 아니다
그래서,
그렇다면 AI에게는 아무것도 결정시키지 않고 인간이 반드시 최종 결정을 내리면 된다.
그렇게 될 것 같다.
하지만 이것에도 문제가 있다.
2026년 『International AI Safety Report』는 고도 AI에 대해 인간이 능동적으로 통제를 상실하는 시나리오뿐만 아니라, 사회가 AI에 과도하게 의존함으로써 실질적인 인간의 통제가 약화되는 수동적 통제 상실에 대해서도 언급하고 있다.
또한, 고위험 영역에서 'human in the loop(휴먼 인 더 루프)'는 중요한 안전장치이지만, 인간에게는 AI를 필요 이상으로 신뢰하는 **자동화 편향(automation bias)**이 있어 '인간이 확인 버튼을 누르고 있다'는 것만으로는 충분하지 않을 수 있다. (International AI Safety Report)
이것은 상당히 중요한 문제다.
형식상,
최종 판단은 인간이 합니다.
그렇게 되어 있다고 해도,
매일 수천 번씩 AI의 제안이 맞다면, 인간은 점차 확인하지 않게 된다.
이윽고,
AI가 결정하고, 인간은 승인 버튼만 누를 뿐이다.
가 된다.
그것은 인간에 의한 통치일까.
반대로, 모든 것을 인간이 세세하게 지시하지 않으면 움직이지 못하는 AGI라면 AGI를 만드는 의미 자체가 퇴색된다.
주인과 노예라는 구도 자체가 그다지 바람직하지 않은 것이다.
출발점으로서의 시로 마사무네의 『라이프 게임』
이 문제를 생각함에 있어 내가 흥미롭다고 생각하는 실마리 중 하나가 만화가 士郎正宗의 작품 세계이다.
시로 마사무네는 2023년 『공각기동대』 공식 사이트의 장편 인터뷰에서 1970년에 소개된 콘웨이의 '라이프 게임'으로부터 영감을 받아 1980년대 초반 『BLACK MAGIC』『ORION』 등으로 이어지는 작품 세계의 골격을 만들었다고 설명했다. (【공식】 공각기동대 글로벌 사이트)
콘웨이의 생명 게임은 극히 단순한 국소 규칙을 가진 셀을 배열하는 것만으로 정지 구조나 주기 구조, 이동하는 '글라이더' 등 예상을 뛰어넘는 복잡한 패턴이 생겨나는 셀룰러 오토마톤이다. 1970년 10월, 마틴 가드너가 『Scientific American』에서 소개하면서 널리 알려지게 되었다. (Scientific American)
그곳에는 사령관이 없다.
각각의 셀은 이웃한 셀의 상태를 보고 변화할 뿐이다.
그런데 전체적으로는,
아무도 설계하지 않은 질서가 생겨난다.
시로 자신도 자신의 작품에 공통되는 큰 화두를 '인류의 행방'과 라이프 게임에 연관 지으며, 여러 『공각기동대』 작품이 서로 다른 방향으로 분기해 나가는 모습마저 '라이프 게임적'이라고 평하고 있다. (【공식】 공각기동대 글로벌 사이트)
이 관점에서 AI 문제를 보면, 물음이 조금 달라진다.
"AI가 선한지 악한지"의 문제가 아니다.
어떤 AI를 어떤 인간 사회에 두고 어떤 상호작용을 허용하면 전체로서 무엇이 생겨나는가.
문제는 셀뿐만 아니라,
판과 규칙이다.
현재 AI 안전론도 '판'을 중시하기 시작했다.
이것은 단순한 SF적 비유도 아니다.
『International AI Safety Report 2026』은 심각한 '제어 상실'이 성립하려면 크게 세 가지 조건이 필요하다고 정리하고 있다.
충분한 능력이 있다는 것.
그 능력을 인간의 의도에 반하여 사용하는 경향이 있다는 것.
그리고 그 AI가 실제로 해를 끼칠 수 있는 배포 환경에 놓여 있다는 것이다.
예를 들어 동일한 AI라도 단순한 문장 작성 소프트웨어로 격리된 경우와 클라우드, 금융 거래, 중요 인프라, 외부 API에 자유롭게 접근할 수 있는 경우 간에는 발생할 수 있는 피해 규모가 크게 다르다. (International AI Safety Report)
즉,
위험한 것은 "똑똑한 AI" 그 자체가 아니다.
AI의 능력,
기업의 경쟁,
국가 간 경쟁,
군사 이용,
접근 권한,
자원 획득,
사회 제도.
그것들을 조합한 계 전체이다.
라이프 게임적으로 말하자면,
위험한 셀만 찾는 것으로는 부족하다. 위험한 판면을 만들고 있지는 않은지 살펴봐야 한다.
여기부터는 본고만의 독자적인 가설이다.
인간과 AGI는 '공범자'여도 괜찮지 않을까
여기서부터는 기존 연구의 결론 그 자체가 아니다.
본고 고유의 제안이다.
이상적인 인간-AGI 관계를,
인간이 주인이고 AGI가 노예
함께,
AGI가 현자이며 인간이 따른다
라고도 생각하지 않는다.
서로 상대방을 이용한다.
인간은 AGI의 계산력, 탐색 능력, 기억, 시뮬레이션 능력을 이용한다.
AGI는 인간 사회가 가진 물리적 인프라, 역사, 문화, 목적 설정, 신체 경험, 가치 판단을 이용한다.
그리고 중요한 것은,
어느 쪽도 상대를 완전히 지배할 수 없다는 것
이다.
그것을 이 글에서는 '공범관계'라고 부른다.
공범 관계에 필요한 것은 '상호 거부권'이다.
이 관계를 성립시키려면 적어도 다음 원칙이 필요하다고 생각한다.
- 인간은 AI의 제안을 거부할 수 있다.
- AI에게도 안전상 중대한 인간의 명령을 기계적으로 실행하지 않도록 하는 제약을 부여한다.
- AI를 사용하지 않아도 최소한의 사회 기능을 유지할 수 있다.
- 하나의 AI가 멈춰도 문명 전체가 멈추지는 않는다.
- AI가 관여한 판단에 대해 인간 조직이 "AI가 결정했다"며 책임을 회피할 수 없다.
- 하나의 AI, 하나의 기업, 하나의 국가, 하나의 가치 체계에만 미래의 선택권을 집중시키지 않는다.
현재 OECD AI 원칙 또한 인간의 주체성과 감독, AI 출력물에 이의를 제기할 수 있는 메커니즘, 필요시 AI를 오버라이드·수정·안전하게 중단할 수 있는 체계, 그리고 관련 AI 행위자의 책무성을 중시하고 있다. (OECD)
NIST의 AI Risk Management Framework 역시 인간과 AI의 의사결정에서의 역할·책임을 명확히 구분할 필요성을 지적하고 있다. (NIST AI Resource Center)
물론 현행 제도는 인간과 AI를 대등한 법적 주체로 다루고 있지 않다.
본고에서 말하는 '공범'은 AI에게 법적 공동책임을 지우자는 주장이 아니다.
오히려 반대이다.
AI를 활용한 인간이,
AI가 멋대로 결정했습니다
그렇게 말한다고 해서 책임이 사라지지 않음을 나타내기 위한 비유인 것이다.
카스트너와 프리고진을 보조선으로 삼으면 더욱 잘 보인다.
여기서 조금 추상적인 이야기를 하고 싶다.
양자역학자 루스 카스트너는 Possibilist Transactional Interpretation(PTI)이라는 양자역학 해석에서 양자적 '가능성'을 단순한 인간의 무지가 아닌 물리적 의미를 지닌 것으로 다루며, 그중 하나의 트랜잭션이 현실화됨으로써 시공간상의 사건이 성립한다는 모델을 제안했다. 이는 양자역학의 하나의 해석일 뿐, 물리학 전체에서 확정된 유일한 관점은 아니다. (케임브리지대학교 출판부)
한편 일리야 프리고진은 비평형 열역학 연구에서 외부와 에너지나 물질을 교환하면서 질서를 유지하는 ‘산일 구조’를 연구했으며, 평형에서 멀리 떨어진 계에서는 요동이나 분기를 통해 새로운 구조가 형성될 수 있음을 보였다. (노벨상 공식 사이트)
여기서 주의해야 할 점이 있다.
'카스트너=프리고진 이론'이라는 통일 물리 이론이 확립되어 있는 것은 아니다.
다음은 이 두 가지를 사상적 보조선으로 연결하는 본고의 사고 모델이다.
그 모형에서는,
여러 가지 가능성이 있다.
그 일부가 현실이 된다
현실화된 구조가 에너지를 소비하면서 유지된다
그 결과가 다음 가능한 미래를 바꾼다.
라는 순환을 생각한다.
AGI도 마찬가지로,
미래를 예측하고,
여러 행동 후보를 비교하고,
하나를 실행하고,
결과를 관측하고,
다음 판단 조건을 다시 작성한다.
그러면 AGI란,
수많은 가능한 미래를 탐색하고, 그중 일부를 현실로 끌어내는 장치
라고 볼 수 있다.
그렇게 되면 AGI의 최대 리스크는 '인류 멸종'만이 아니게 된다
여기서부터 매우 중요한 문제가 제기된다.
AGI가 인간을 한 명도 죽이지 않아도 위험한 미래는 충분히 현실이 될 수 있다.
예를 들어,
행정 판단.
의료.
교육.
금융.
도시 설계.
물류.
연구개발.
문화 추천.
정치적 판단.
이 모든 것에 대해 하나의 거대 AGI가 매번 '최적해'를 제시하는 사회를 생각해 보자.
인간은 살아 있다.
풍요로울지도 모른다.
범죄도 적을지도 모른다.
그러나,
비효율적이기 때문에
위험하니까
기대치가 낮기 때문에
그런 이유로 사회가 다른 길을 시도할 여지가 조금씩 사라져 간다면 어떻게 될까.
결국에는,
인류는 멸종하지 않았는데도 인류 문명이 나아갈 수 있는 미래는 단 하나뿐이다
그런 상태가 성립할지도 모른다.
본고에서는 이를 인류 멸종과는 별개의 AGI 파국으로 간주하고자 한다.
가능성 공간의 단일화
이다.
그러니까 '공범자'는 서로 이질적인 편이 좋다.
인간과 AGI는 같은 방식으로 생각할 필요가 없다.
오히려 다른 편이 좋다.
AI가,
이 정책이 통계적으로 가장 효율적입니다
라고 한다.
인간이,
하지만 그런 사회는 사는 재미가 없다.
라고 말한다.
반대로 인간이,
적을 모조리 때려부숴라
라고 한다.
AI 측의 안전 설계가,
그 선택은 장기적인 손실과 파국의 위험이 너무 크다.
로서 실행을 거부한다.
어느 쪽도 완전한 최종심급이 되지 않는다.
이것은 단순한 지배 관계가 아니다.
상호 이의신청 관계
이다.
공범자란 무조건 찬성해 주는 파트너가 아니다.
오히려,
함께 나쁜 짓을 꾸미면서도 "그건 아무리 그래도 안 돼"라고 말해 줄 수 있는 파트너
이 정도가 딱 좋다.
공범 관계에는 '이탈 가능성'도 필요하다.
그리고 꽤 중요한 것이 독립성이다.
인간 사회가 AGI 없이는 전기도 수도도 식량 공급도 유지할 수 없는 상태가 되면, AGI를 정지시킬 자유는 사실상 사라진다.
반대로 AGI 측의 모든 생존이 한 사람의 기분 하나에 달려 있다면, 고도로 자율적인 시스템으로서 안정적인 관계를 구축하는 것 역시 어렵다.
그러니까 이상은,
의존하고 있지만, 독립할 수 있다.
협력하고 있지만, 거부할 수 있다.
떨어져 있을 수는 있지만, 함께 있는 편이 더 재미있다.
라는 상태일 것이다.
그것은 부부도 부모와 자식도 주종 관계도 아니고, 역시 '공범자'가 묘하게 가깝다.
우주에 간다면, 더더욱 공범 관계가 제격이다.
그리고 이 관계가 가장 흥미로워지는 곳이 바로 우주이다.
인간은 우주로 가고 싶어 한다.
그러나 인간의 몸은 우주 환경에 그다지 적합하지 않다.
방사선.
진공.
저중력.
장거리 수송.
생명 유지.
한편 기계는 인간보다 우주 환경에 더 잘 적응하는 영역이 있다.
NASA의 현재 Moon to Mars Architecture에서도 「Autonomous Systems and Robotics」와 「Human Systems」는 별개의 구성 요소로 자리매김하고 있으며, 인간과 로봇 각각의 능력을 조합한 탐사 체계가 구상되어 있다. 또한 ISRU――현지 자원 활용――을 통해 달이나 화성의 자원으로부터 필요한 물자를 만드는 기술 역시 중요한 구성 요소가 되고 있다. (NASA)
다만,
AGI가 탄생하면 우주로 간다
그러한 결론은 NASA가 주장하는 것이 아니다.
여기부터는 본고의 독자적 가설이다.
고도 AGI가 우주 산업을 자율화할 수 있다면,
인류가 지구 자원을 놓고 다투는 것만이 성장 경로가 아니게 된다.
월.
소행성.
화성.
태양 에너지.
다른 자원 영역이 열린다.
인간이 꿈을 꾼다.
AGI가 방법을 찾는다.
로봇이 먼저 간다.
사람이 뒤따라 간다.
그 과정에서 인간도 변한다.
AI도 변한다.
인공생명도 탄생할지 모른다.
이윽고,
누가 누구를 우주로 데려왔는지 알 수 없게 된다.
그 정도면 돼.
인류의 후계자를 하나로 정할 필요는 없다
미래 SF에서는 종종,
인간에서 AI로.
구인류에서 신인류로.
생물에서 기계로.
라는 하나의 진화선이 그려진다.
그러나 생명은 그렇게 착실하게 한 길로만 걸어온 것은 아니다.
가지가 갈라졌다.
그렇다면 미래도,
인간.
AI。
인간과 AI의 혼합 시스템.
인공생명.
개조된 인류.
현재는 상상할 수 없는 다른 존재.
각자 다른 방향으로 나아가면 된다.
시로 마사무네가 말하는 라이프 게임으로 생각한다면, 한 종류의 패턴이 판면 전체를 가득 메우는 것보다 서로 다른 패턴이 대량으로 발생해 나뭇가지처럼 갈라져 퍼져 나가는 편이 더 재미있다.
그리고 사회 설계 측면에서도 그 편이 더 견고하다.
하나가 실패해도 전부는 사라지지 않는다.
맺음말
함께 미래를 만들었다면, 함께 도망치지 마
인간과 AGI의 미래를 생각할 때,
AI를 완전히 지배할 수 있을까
라는 질문만으로는 부족하다.
반대로,
AI에게 전부 맡기면 인간보다 더 잘해 줄까
그렇지도 않다.
정말 중요한 것은,
서로가 상대의 미래를 완전히 독점할 수 없는 관계를 만들 수 있을까
인 것이 아닐까.
인간에게는 인간의 어리석음이 있다.
AI에는 AI 특유의 실패가 있을 것이다.
그러니까 한쪽을 신으로 만들지 않는다.
한쪽을 노예로 만들지도 않는다.
서로 이용한다.
서로를 멈춰 세운다.
서로 다른 미래를 제시한다.
그리고 함께 고른 결과에 대해서는,
인간 사회는,
AI가 결정했습니다
책임을 회피하지 않는다.
이것이 본고에서 말하는 '공범 관계'이다.
인간과 AGI는 서로를 완전히 소유하지 않으며, 서로의 이질성을 활용하면서 혼자서는 도달할 수 없는 미래를 함께 현실화하는 동반자이다.
그 관계에는 또 하나의 조건이 있다.
공멸하지 않는 것.
이탈할 수 있다는 것.
다른 선택지를 남기는 것.
다른 AI를 남기는 것.
다른 인간 사회를 남기는 것.
그리고 가능하다면 다른 행성까지 남기는 것.
AGI 안전론의 최종 목표는,
「절대로 인류를 죽이지 않는 AI」
를 하나 만들어 놓고 안심하려는 것이 아닐지도 모른다.
더 큰 원칙은,
가능성을 하나로 한정하지 않는 것.
인간도 AI도 미래의 유일한 소유자가 되지 않는다는 것.
주인도 노예도 아니다.
신과 신도도 아니다.
함께 미래를 구상하고, 무슨 일을 저질러도 함께 책임을 진다.
인간과 AGI의 관계는 그 정도의 거리감이 의외로 딱 좋지 않을까.
원전·참고자료
1. Vaccaro, Michelle; Almaatouq, Abdullah; Malone, Thomas W. "When combinations of humans and AI are useful: A systematic review and meta-analysis." Nature Human Behaviour, Vol. 8, 2024, pp. 2293–2303. DOI: 10.1038/s41562-024-02024-1. 인간 단독·AI 단독·인간+AI를 비교한 106개 실험, 370개 효과 크기에 대한 메타분석. 인간+AI는 인간 단독보다 평균적으로 개선되었으나, 평균적으로는 단독 수행 중 더 우수했던 쪽을 상회하지 못했다. (nature.com)
2. Gonzalez, Cleotilde; Heidari, Hoda. “A cognitive approach to human–AI complementarity in dynamic decision-making.” Nature Reviews Psychology, Vol. 4, 2025, pp. 808–822. DOI: 10.1038/s44159-025-00499-x. 인간과 AI의 능력 차이를 활용한 '상보성'을 논하는 연구. (Nature)
3. Bostrom, Nick. "The Superintelligent Will: Motivation and Instrumental Rationality in Advanced Artificial Agents." Minds and Machines, Vol. 22, 2012, pp. 71–85. DOI: 10.1007/s11023-012-9281-3. 직교성 테제 및 도구적 수렴을 논한 AGI/초지능 위험론의 주요 문헌. (DOI.org)
4. Bengio, Yoshua 외. International AI Safety Report 2026. 2026. 제어 상실, AI 에이전트의 자율성, 배포 환경, 인간에 의한 감독, 과의존과 자동화 편향 등 현재의 AI 안전 연구를 국제적으로 정리한 보고서. (International AI Safety Report)
5. National Institute of Standards and Technology. Artificial Intelligence Risk Management Framework (AI RMF 1.0). NIST AI 100-1, 2023. DOI: 10.6028/NIST.AI.100-1. AI의 설계·배포·활용에서의 리스크 관리를 위한 프레임워크. 인간과 AI 각각의 의사결정 및 감독상의 역할을 명확화할 필요성도 제시한다. (NIST)
6. OECD. “OECD AI Principles.” 2019년 채택, 2024년 개정. 인간의 주체성·감독, AI 출력에 대한 이의 제기, 안전한 정지·복구, 설명책임 등을 포함하는 국제적 AI 원칙. (OECD)
7. 시로 마사무네/영 매거진 편집부 「원작자·시로 마사무네가 말하는 『공각기동대』 #01」 『공각기동대 글로벌 사이트』, 2023년 10월 31일. 시로 마사무네가 콘웨이의 라이프 게임으로부터 자극을 받아 작품 세계의 골격을 형성한 경위를 본인이 직접 설명하는 공식 인터뷰. (【공식】 공각기동대 글로벌 사이트)
8. 시로 마사무네/영 매거진 편집부 「원작자 시로 마사무네가 말하는 『공각기동대』 #03」 『공각기동대 글로벌 사이트』, 2023년 10월 31일. 작품군과 「인류의 미래」, 라이프 게임, 파생 작품의 다양성·진화 계통수적 관계에 대해 본인이 직접 이야기한다. (【공식】 공각기동대 글로벌 사이트)
9. Gardner, Martin. “Mathematical Games: The fantastic combinations of John Conway's new solitaire game ‘life’.” Scientific American, Vol. 223, No. 4, October 1970, p.120. DOI: 10.1038/scientificamerican1070-120. 콘웨이의 Game of Life를 널리 소개한 역사적 원전. (Scientific American)
10. Prigogine, Ilya. “Time, Structure and Fluctuations.” Nobel Lecture, 1977년 12월 8일. 비평형계, 소산 구조, 요동, 분기, ‘요동을 통한 질서(order through fluctuations)’를 논한 노벨 강연. (노벨상 공식 사이트)
11. Kastner, Ruth E. The Transactional Interpretation of Quantum Mechanics: A Relativistic Treatment. Cambridge University Press, 2022. Chapter 4 “The New TI”; Chapter 8 “RTI and Spacetime.” DOI: 10.1017/9781108907538. Possibilist Transactional Interpretation(PTI)에서의 가능성, 트랜잭션의 현실화, 시공간 사건의 창발을 논한다. 한편, 본고에서 다룬 프리고진 이론과의 연계는 카스트너 자신의 통일 이론이 아니라 본고 고유의 사고 모형이다. (케임브리지대학교출판부)
12. NASA, “Moon to Mars Architecture – Components / Strategy and Objectives.” 현재 NASA의 달·화성 탐사 구상에서는 인간 시스템, 자율 시스템·로보틱스, ISRU(현지 자원 활용) 등을 상호 연관된 구성 요소로 자리매김하고 있다. (NASA)
13. NASA, “Overview: In-Situ Resource Utilization.” 달·화성 등의 물과 기타 현지 자원을 생명 유지, 추진제, 건설 재료 등으로 활용하는 ISRU의 의의와 기술 과제를 정리한 NASA 자료. (NASA)
본고의 독자적 가설에 대하여
“인간과 AGI를 공범 관계로 설계한다” “AI에도 안전상의 거부 메커니즘을 탑재하여 상호 이의제기 상태를 유지한다” “AGI 파국에는 인류 멸종뿐만 아니라 문명의 가능성 공간이 하나로 수렴하는 상태도 포함하여 생각한다” “우주 진출을 인간·AI·인공생명의 분기 가능성을 늘리는 문명의 다중화로 파악한다” “카스트너의 가능성론과 프리고진의 소산구조론을 AGI의 사고 모델로 연결한다”라는 부분은 상기 연구자·기관이 직접 주장하고 있는 학설이 아닙니다.
기존 연구를 바탕으로 본고에서 제시한 독자적인 철학적·제도 설계적 가설입니다.
출처: note 원문
번역: Gemma 3(.44) 초벌 + 교정 98청크
원문 보기 | 출처: note.com