# AI는 지능이 높아질수록 의식을 갖게 될까? — “자기 유지”에 주목하는 새로운 가설

> https://bookfactory.kr/board/ai-tech/19820
> 게시판: AI·머신러닝
> 작성자: admin
> 작성일: 2026-10-03T17:18:57.850Z

---

![見出し画像](https://assets.st-note.com/production/uploads/images/320418819/rectangle_large_type_2_f282dd3093b2bfc51d0844ce351d4c39.png?width=1280)

AI가 자연스럽게 대화하고 자신의 판단을 설명하면, 마치 ‘생각하고 있는 누군가’가 있는 것처럼 느껴질 수 있습니다. 성능이 더욱 향상되면 언젠가 의식도 생겨날까요? 이번에 소개하는 연구는 그 질문에 다른 각도에서 접근합니다. 주목하는 것은 지능의 높이가 아니라, 자신을 유지하면서 상반되는 요구를 조정하는仕組み가 아니라 조정 메커니즘입니다. 다만 이는 “AI에게는 의식이 없다고 증명되었다”는 뉴스가 아닙니다. 의식의 성립 조건을 제안하는 이론이며, 앞으로 검증해야 할 주장입니다. 이 점을 구분해서 읽는 것이 뉴스의 재미와 한계를 이해하는 출발점이 됩니다. 뉴스의 핵심은 ‘영리함’과 ‘의식’의 구별입니다. Popular Mechanics의 기사에서 다룬 것은 Jeff Stibel의 논문 “From chemistry to cognition: the adaptive origins of consciousness under constraint”입니다. 2026년 9월 1일, Frontiers in Neuroscience에 “Hypothesis and Theory”, 즉 가설·이론으로 게재되었습니다.[1] 저자는 바깥세계를 이해·예측하는 인지와, 자신의 존속과 관련된 요구를 조정하는 의식을 서로 다른 발달 계통으로 파악합니다. 이 입장에서는 계산이나 추론이 고도화되었다고 해서 의식까지 자동으로 생겨나는 것은 아닙니다. 어려운 문제를 푸는 능력과, 무언가를 자신의 경험으로 느끼는 것은 같은 물음이 아닙니다. 논문의 제안을 읽는 데에는 우선 이 구별이 중요합니다. ‘먹고 싶다’와 ‘도망치고 싶다’를 어떻게 조정할 것인가. 저자의 생각을 이해하기 위한 예로 배고픈 동물을 상상해 보십시오. 눈앞에는 먹이가 있습니다. 그러나 가까이에 포식자가 있을지도 모릅니다. 먹는 일에도 도망치는 일에도 체력과 시간이 필요합니다. 배고픔, 위험, 피로, 과거의 경험이 각각 다른 행동을 요구합니다. 개별 반응을 나열하는 것만으로는 몸 전체로서 무엇을 할지 정할 수 없습니다. 저자는 자기의 존속과 결부시켜, 이러한 서로 다른 요구를 횡단적으로 조정하는 상태를 의식의 중심에 둡니다. 논문에서는 이를 “settlement control”이라고 부릅니다.[1] 이는 단순히 여러 정보를 모으는 것이 아닙니다. 그 조정이 자신을 유지하는 조건과 실제로 연결되어 있다는 점을 중시합니다. 여기서 말하는 ‘자기 유지’는 대화 중에 “나는 살고 싶다”고 발언하는 것과는 다릅니다. 기존 이론과 무엇이 다른가. 이 제안의 특징은 의식을 생각하는 입구를 정보 처리의 고도화에서 생존과 관련된 조정의 문제로 옮기고 있다는 것입니다. AI가 정확하게 이미지를 분류하거나 문장을 쓰더라도 그것은 능력에 대한 평가입니다. 그 평가를 그대로 ‘내면에서 무언가를 느끼고 있다는 증거’로 바꿔 놓을 수는 없습니다. 반대로 자신의 상태를 보고하는 기능을 추가했다고 해서 이번 이론이 상정하는 의식을 충족했다고 할 수도 없습니다. “배터리가 줄고 있습니다”라는 표시와, 그 감소가 자신의 존속과 관련된 요구로서 통합되는 것은 이론상 구별됩니다. 다만 이 구별이 의식을 설명하는 올바른 틀인지는 별도로 검증해야 합니다. 새로운 설명이 알기 쉽다는 것과 과학적으로 확립되었다는 것은 같지 않습니다. 인공 의식의 가능성을 부정한 논문이 아니다. 원 기사의 표제만 보면 “인간에게는 의식의 열쇠가 있고, AI에게는 영원히 없다”고 받아들일지도 모릅니다. 그러나 저자는 인공 의식의 가능성을 배제하지 않았습니다. 논문에서는 자신의 작동 조건을 유지하는 것, 실제 자원 제약에 대응하는 것, 기능적인 자기 모델을 갖는 것, 행동의 결과가 장래의 존속 조건을 바꾸는 것 등을 중시합니다.[1] 여기서 ‘방전을 피하는 로봇이라면 의식이 있다’고 결론짓는 것은 비약입니다. 조건의 일부와 비슷한 기능이 있다는 것만으로는 이론 전체를 충족하는 것도, 주관적 경험의 존재를 보여주는 것도 아닙니다. 논문은 생물·신경과학·AI에 걸친 6가지 검증 가능한 예측을 제시합니다. 의식이 있는 AI를 만들어 확인했다는 보고가 아니라, 무엇을 조사하면 이 생각을 평가할 수 있는지를 보여준 단계입니다.[1] 이 연구의 가치와 한계. 가치가 있는 것은 AI의 유창함을 보고 ‘의식이 있을 것 같다’고 판단하는 논의에서, 조사해야 할仕組み가 아니라 메커니즘으로 초점을 옮기고 있다는 점입니다. 한편 기능의 설명과 주관적 경험의 설명 사이에는 여전히 어려운 문제가 있습니다. 여러 요구를 조정하는仕組み가 아니라 메커니즘을 관측할 수 있었다고 해서, 그것이 ‘느끼고 있음’을 어디까지 보여주는가. 판정 방법 자체도 논의의 대상이 됩니다. 또한 이번 논문이 가설·이론으로서 심사를 거쳐 게재되었다는 것은 그 결론이 확정되었음을 의미하지 않습니다. 예측의 검증, 다른 설명과의 비교, 반증이 되는 결과에 대한 대응을 통해 평가되어야 합니다. 독자로서는 ‘의식의 정체가 밝혀졌다’고 받아들이기보다, 지능과 의식을 나누어 조사하기 위한 제안이 하나 늘었다고 이해하는 것이 적절합니다. 업무에서 AI를 쓸 때 무엇을 생각해야 하는가. 여기부터는 연구의 결론이 아니라 실무에 대한 고찰입니다. 업무에서 AI를 쓸 때 의식의 유무가 밝혀질 때까지 모든 판단을 보류할 필요는 없습니다. 확인해야 할 것은 무엇을 할 수 있는지, 어느 정도 틀리는지, 어디까지 조작할 수 있는지입니다. 예를 들어 LSI 레이아웃 자동화에서는 AI가 “이해했습니다”라고 답해도 설계 의도를 충족했다는 증거가 되지 않습니다. 생성 결과, 제약 조건과의 일치, 검증 결과, 변경 이력을 확인하고 채택을 판단합니다. 문장이 인간다운 것과 성과물이 올바른 것은 별개입니다. 마찬가지로 의식다운 발언과 의식의 존재도 나누어 평가합니다. 이러한 자세는 AI를 과신하지 않고 활용하기 위한 공통된 사고방식이 됩니다. Rule × AI × Human으로 역할을 설계한다. 실무에 도움이 되는 정리는 Rule × AI × Human입니다. 이는 논문의 의식 이론과는 별개인 운용 설계의考え方が 아니라 생각방식입니다. Rule은 접근 권한, 실행 범위, 계산 자원의 상한, 정지 조건, 변경 기록을 정합니다. AI에게 “지켜라”고 말할 뿐만 아니라 시스템 측에서 넘을 수 없는 경계를 만듭니다. AI는 그 범위 안에서 탐색하고 생성하고 후보를 비교합니다. 자신의 동작 상태를 감시하는 기능이 있어도 그것을 의식의 증거로 다룰 필요는 없습니다. Human은 목적을 설정하고 중요한 변경이나 예외를 판단하며 결과에 책임을 집니다. 특히 AI가 자신의 설정이나 권한을 변경할 수 있는 경우에는 변경 전 승인과 검증을 두는 것이 중요합니다. 자율성을 높이는 것, 의식을 상정하는 것, 조작 권한을 넓히는 것은 각각 별개의 판단입니다. 이 세 가지를 한데 묶어 다루면 과학의 논의와 업무의 책임이 뒤섞여 버립니다. 인간다움보다 확인할 수 있는仕組み가 아니라 메커니즘을 본다. AI의 말에 마음을 느끼는 것 자체는 자연스러운 반응일지도 모릅니다. 그러나 연구를 읽을 때에도 업무에서 쓸 때에도 그 인상만으로 판단을 진행하지 않는 것이 중요합니다. 이번 가설은 ‘얼마나 똑똑한가’에 더해 ‘어떤 조건에서 자신을 유지하고 요구를 조정하고 있는가’라는 물음을 제시했습니다. 그 물음이 어디까지 유효한지는今後가 아니라 향후 검증에 달려 있습니다. 기업과 기술자가 지금 준비할 수 있는 것은 의식을 앞서 단정하는 것이 아닙니다. AI의 능력, 권한, 검증, 책임을 구분하여 설계하는 것입니다. 다음에 가치가 높아지는 것은 자연스러운 답변에 감탄하는 힘보다 설명과 증거 사이를 확인하고 맡기는 범위를 정하는 힘이 될 것입니다.【PR】

참고 자료[1] Stibel J. (2026) “From Chemistry to Cognition: The Adaptive Origins of Consciousness Under Constraint.” *Frontiers in Neuroscience*, 20, 1907922. 출판일: 2026년 9월 1일. https://www.frontiersin.org/journals/neuroscience/articles/10.3389/fnins.2026.1907922/full 원 논문: Popular Mechanics／Yahoo Tech, 2026년 10월 1일. https://tech.yahoo.com/science/articles/scientist-says-key-being-conscious-133000506.html ※2026년 10월 3일 기준. 저자의 논문 제안과 직장 내 적용에 대한 고찰을 구분하여 제시했습니다. 삽화는 신규 제작 이미지입니다. #AI #의식 #인지과학 #AI 에이전트 #AI 안전성 #직업 훈련

**출처:** [note 원문](https://note.com/yhkito/n/nb77e468a57e3)

*번역: Gemma 3(.44) 초벌 + 교정 2청크*

[원문 보기](https://note.com/yhkito/n/nb77e468a57e3) | 출처: note.com