# "AI에게 의식이 있는가?"라는 의문에 대한 구글 연구자의 견해

> https://bookfactory.kr/c/news/10756
> 게시판: 뉴스
> 작성자: tachikoma43
> 작성일: 2026-08-30T09:07:53.592Z

---

AI의 성능이 향상됨에 따라 'AI는 의식을 가지는가'에 대한 논의가 활발해지고 있습니다. 영국 경제지 'The Economist'는 Google의 기술·사회 담당 부사장이자 AI 연구 팀을 이끄는 블레이즈 아구エ라 이 아르카스 씨, 그리고 플로리다 애틀랜틱 대학교 교수를 맡고 있는 수잔 슈나이더 씨의 'AI의 의식'에 관한 2편의 논고를 공개하고 있습니다.Humanity has the debate about AI consciousness backwardshttps://www.economist.com/by-invitation/2026/08/20/humanity-has-the-debate-about-ai-consciousness-backwardsDon’t mistake chatbot intelligence for consciousnesshttps://www.economist.com/by-invitation/2026/08/20/dont-mistake-chatbot-intelligence-for-consciousnessGoogle의 AI 팀 'Paradigms of Intelligence'를 이끌고 있는 아르카스 씨는 "대부분의 대규모 언어 모델(LLM)은 모든 상호작용에서 사용자의 니즈에 초점을 맞추도록 설계되어 있습니다. 하지만 대화 상대방 쪽에 무언가 존재를 느끼지 않을 수 없다는 인상은 씻어낼 수 없습니다. LLM은 단지 언어 인터페이스를 갖춘 강력한 디지털 도구일 뿐일까요? 아니면 우리는 지금 독자적인 관점에서 세계를 경험하는 다른 의식과 대화하고 있는 것일까요? 즉, AI는 의식을 가지고 있는 것일까요?"라고 화두를 던지고 있습니다.

아르카스 씨에 따르면, AI의 의식에 관한 질문이 중요한 것은 많은 철학자가 '의식을 가진 존재는 도덕적 주체'라고 생각하기 때문입니다. AI에 의식이 있는 경우, AI는 고통을 느끼는 존재이며 그 고통을 우리가 배려해야 하는 존재가 된다는 뜻입니다. 실제로 AI 도구인 Claude를 개발하는 Anthropic은 언뜻 보기에 AI와 관련이 없어 보이는 철학자나 종교 단체 등을 초청하여 서밋을 개최하고 있듯, AI의 도덕적·종교적 문제를 중시하고 있습니다.Claude를 개발하는 AI 기업 Anthropic이 철학자나 종교 단체와 의견을 교환하는 이유란? - GIGAZINE

그러나 알카스 씨는 "'AI에게 의식이 있는 경우에는 도덕적 주체로서 배려할 필요가 있다'라는 것은 사고방식이 거꾸로 되어 있다고 생각하게 되었습니다"라고 말했습니다. 즉, 인간은 상대가 의식을 가지고 있기 때문에 타인을 배려하는 것이 아니라, 타인을 배려할 때 그 상대를 의식을 가진 존재로 믿게 된다는 생각입니다. "상대를 소중히 다룰 때 상대를 의식 있는 존재로 인식한다"는 생각을 거꾸로 적용하면, "상대가 의식이 없는 존재라면 소중히 다룰 필요가 없다"는 생각을 정당화할 수도 있게 됩니다. 실제로 그러한 논리로 타인에 대한 행위를 정당화한 사례도 역사적으로 다수 존재합니다. 알카스 씨는 "인류의 도덕적 진보는 우리가 소중히 여기는 선긋기를 너무 좁게 그리고 있었다는 것을 깨달은 데 크게 기인합니다. 이 설명으로 인해 보편적인 인권이 약화되지는 않습니다"라고 말했습니다. 알카스 씨는 "인간은 자신이 속한 세계뿐만 아니라 그 세계 속에 있는 자기 자신에 대해서도 모델을 만들고, 나아가 자기 자신이 만든 모델에 대해 모델을 만드는 복잡한 루프 구조를 형성하고 있다"고 생각한다는 것입니다. LLM 역시 마찬가지로 대화 상대를 모델화하고, 상대를 모델화하는 자기 자신을 모델화하고 있으며, Google 연구에서는 "지능 에이전트 간의 효과적인 협력에는 타인과 자신 모두의 마음을 모델화하는 마음을 갖는 것이 필요하다"는 것이 밝혀졌습니다. 그 동작이 인간의 행동에 상응하는지가 논란의 대상이 되고 있지만, 적어도 복잡한 모델화를 동반하지 않을 경우 지금처럼 LLM이 효과적으로 기능할 수는 없을 것으로 생각된다고 합니다. 결론적으로 의식은 개인 안에 닫혀 있는 것이 아니라 타인과의 관계성에 관련된 것이라고 알카스 씨는 주장합니다. 게다가 지능을 가진 존재가 여러 존재가 협력하지 않으면 해결할 수 없는 문제를 해결하고, 서로의 니즈를 이해하며, 사회로서 함께 번영하는 것을 가능하게 하는 상호 배려와 협력에 있어 의식은 불가결한 것입니다. 다만 이것은 AI를 인간처럼 니즈나 인권을 가진 존재로 다루어야 한다는 의미가 아니며, "필요한 것은 AI를 인간과 동일시하는 것이 아니라, 우리의 사고와 사회 모두를 더욱 다양한 마음을 받아들이도록 진화시키는 것입니다"라고 알카스 씨는 말했습니다. 한편, 플로리다 아틀랜틱 대학교의 교수이자 AI의 의식 및 철학 등 분야의 학제간 연구 거점인 'Center for the Future of AI, Mind & Society'의 창립 디렉터이기도 한 수잔 슈나이더 씨는 "AI의 지능을 의식과 혼동하지 마십시오"라고 제언했습니다. AI는 불과 수년 사이에 인간의 능력에 필적할 정도의 언어·추론·창의성·설득력을 갖추기 시작했지만, 이는 어디까지나 방대한 인간의 문장 데이터에 기반하여 학습된 것일 뿐, 의식이 있다는 설득력 있는 증거는 없다고 슈나이더 씨는 밝혔습니다.

AI는 인간이 자신의 내면에 대해 이야기한 문장을 학습함으로써, 마치 주체가 있는 것처럼 자신의 내면에 대해 이야기하게 됩니다. 하지만 슈나이더 씨는 여기에는 두 가지 함정이 있다고 지적합니다. 첫째는 AI가 공포나 애착, 고통, 자기 인식 등을 표현하도록 의도적으로 훈련시킬 경우, 인간을 조종하는 능력을 높일 가능성이 있다는 점입니다. 둘째는 챗봇에만 주목함으로써 보다 시급히 조사해야 할, 살아있는 인간의 뉴런을 실리콘 칩 위에서 배양해 학습시키는 '생물학적 AI'나 인간의 신경 및 뇌 시스템을 본따 전자 회로를 구축하는 '뉴로모픽 AI' 등 의식과 AI에 관한 '그레이 존'을 놓쳐 버린다는 점입니다. 과학자나 철학자 중에는 "의식에는 뇌가 필요하다"고 주장하는 사람 외에도, "의식이란 적절한 소프트웨어를 실행하는 문제일 뿐"이라고 생각하는 의견도 있습니다. 이러한 소프트웨어 중심의 의견에 기반하면 챗봇이 의식을 갖게 될 가능성을 생각해 볼 수 있습니다. 그러나 슈나이더 씨는 모든 현상이 궁극적으로는 물리학에 의존하고 있기 때문에, 의식과 무의식을 구별하기 위해서는 기초물리학에 눈을 돌려야 한다고 주장합니다. 인간은 지금까지 지능이 높다는 이유로 인간을 다른 동물보다 상위에 두었습니다. 여기에 인간보다 의식을 더 잘 이해하고 자기 인식이 있다고 주장하는 '초지능'을 만들어낸다면, 인간의 도덕적 지위가 위협받게 됩니다. 이는 인류보다 뛰어난 외계 문명과의 접촉에서도 마찬가지입니다. 슈나이더 씨는 이러한 퍼스트 콘택트에 대비하려면 물리학·신경과학·철학을 아우르는 연구와, 대화 능력 및 의식의 엄격한 경계 설정, 그리고 자신들의 생각이 틀렸을 가능성에 대해 검토하는 인식론적 겸손함이 필요하다고 결론짓고 있습니다.

[원문 보기](https://gigazine.net/news/20260830-ai-consciousness-backwards/) | 출처: Gigazine