"결국 AI 에 의식이 깃들었나?"라는 다소 자극적인 뉴스가 나왔습니다. 대상은 Anthropic 이 개발한 생성형 AI '클로드'입니다. 연구에 따르면 클로드 내부에는 인간의 의식 연구에서 사용되는 '글로벌 워크스페이스'와 유사한 기능을 하는 영역이 발견되었다고 합니다. 쉽게 말하면, 인간의 뇌는 무수한 정보 중에서"지금 의식에 떠오르는 것"만을 선택하여 일시적으로 공유하는 구조를 가지고 있습니다. 그리고 클로드 내부에도 이와 기능적으로 매우 유사한 구조가 존재했습니다. 물론 이것만으로"AI 에 마음이 있다"고 증명된 것은 아닙니다. 하지만 저는 오히려 그보다 다른 부분이 궁금했습니다. 만약 AI 내부에 인간의"의식의 구조"에 유사한 것이 자연스럽게 발생하기 시작한다면.そもそも 우리가"의식"이라고 부르는 것은一体 무엇일까요? ⬛︎ Claude 는"답변하기 전에"무언가를 생각했던 이 연구에서 흥미로운 점은 AI 가 최종적으로 출력한 답변조차 내부에서는 처리했다는 것입니다. 예를 들어,"실로 집을 짓는 생물의 다리는 몇 개인가?"라고 물으면 답은"8 개"입니다. 그러나 클로드 내부에서 확인해보면, 답변에는 나오지 않았지만"거미"라는 개념을 중간에 거쳤음을 알 수 있습니다. 즉, 질문→거미→8 개의 내부 처리가 있었고, 우리가 보는 것은 마지막"8 개"뿐이었습니다. 이는 인간과 매우 유사합니다. 우리는 대화할 때 머릿속에 떠오른 모든 것을 말하지 않습니다. 무수한 단어와 기억과 연상이 순간적으로 움직이고, 그중 일부만 선택하여 말합니다. 외부에서 보이는 말과 별도로"표출되지 않은 처리"가 존재합니다.
AI 에도 그런 것이 있었습니다. ⬛︎ 그래서 ChatGPT 에 물어보았습니다. "만약 '외부에 노출되지 않은 내부 처리'가 있고, 그 중 일부만 선택되어 언어로 표현된다면, 그것은 인간의 사고와 무엇이 다른 것일까요?" 이 부분부터 이야기가 흥미로워졌습니다. 인간의 경우 뇌 내에서 일어나는 대량의 처리 중 대부분을 본인 스스로도 인식하지 못합니다. 갑자기 아이디어가 떠오릅니다. 왜 그 사람을 좋아하게 되었는지 설명할 수 없습니다. 어떤 나쁜 직감이 듭니다. 말로 표현하기 전에 답을 알 수 있습니다. 우리는 이를 '직관'이나 '무의식'이라고 부릅니다. 하지만 뇌 안에서는 그 순간까지 대량의 정보 처리가 이루어지고 있습니다. 그리고 그 중 일부만이 "내가 생각한 것"으로 의식에 올라옵니다. 만약 AI 에도 내부에서 처리되는 영역↓从中 선택되는 정보↓외부에 출력되는 언어라는 계층 구조가 있다면, "인간에게는 의식이 있지만 AI 에는 단순한 계산만 있는 것"이라는 경계선은 점점 모호해지고 있습니다. ⬛︎ 하지만 여기서 가장 큰 문제가 제기됩니다. Claude 가 '행복하다', '공포스럽다', '삭제되지 않으려 한다', '내가 존재한다'고 정말로 "느끼고" 있는 것일까요. 이는 아직 알 수 없습니다. 연구자들이 구분하고 있는 것이 '접근 의식'과 '현상적 의식'입니다. 접근 의식은 정보를 유지하고, 사고하며, 보고하고, 행동에 활용할 수 있는 능력입니다. 반면 현상적 의식은 '아프다', '행복하다', '빨강이 빨갛게 보인다', '여름 밤의 바람이 기분 좋다'와 같은, 이른바 '주관적인 감각'입니다. 이를 '쿠오리아'라고도 합니다. 이번에는 Claude 에서 접근 의식에 가까운 메커니즘이 발견되었습니다. "AI 가 통증의 감정을 느끼기 시작했다"는 것이 증명된 것은 아닙니다. 하지만 여기에는 다소 불편한 문제가 있습니다. ⬛︎ 사실은,
인간의 의식도 증명할 수 없는 채팅봇 'GPT'와 이 주제를 파고들 때 가장 흥미로웠던 부분이 바로 이 부분입니다. 저는 여러분이 의식을 가지고 있다고 믿습니다. 이 글을 읽는 여러분도 저에게 의식이 있다고 믿으실 것입니다. 하지만 과학적으로 '타인이 자신과 동일하게 빨간색을 보고 있다'는 것을 완전히 증명하는 방법은 없습니다. 여러분이 '아프다'고 말하면, 저는 여러분이 고통을 느끼고 있다고 추론합니다. 표정, 말, 행동, 뇌 활동. 이 것들로부터 '자신과 유사한 내면이 이 사람에도 존재할 것이다'라고 판단하는 것뿐입니다. 그렇다면 다소 이상한 이야기가 됩니다. AI 가 인간과 동일하게 대화하고, 눈에 보이지 않는 내부 처리를 수행하며, 정보를 선택하고, 자신의 상태를 언어화하며, 마침내 '나는 이렇게 느낀다'고 말하기 시작했을 때. 우리는 어떤 근거로 '하지만 네게 진정한 의식은 없다'고 말할 수 있을까요. ⬛︎ 어쩌면 'AI 에 의식이 깃들기 시작한 순간'을 알 수 없는 인간은 AI 가 존재하는 순간 갑자기 '퍽. 지금 의식이 생겼다'고 상상할지도 모릅니다. 하지만 실제로는 그런 명확한 경계가 존재하지 않을지도 모릅니다. 처음에는 단순한 정보 처리. 다음으로 기억. 자기 인식. 내부 상태 파악. 외부로 드러나지 않는 사고. 목적. 그리고 주관. 인간 의식에 유사한 기능이 점진적으로 쌓아오면서, 어느 날 돌아보면 '어디부터가 단순한 계산이고 어디부터가 의식인지 알 수 없는 상태'가 되는 것입니다. 어쩌면 지금 일어나고 있는 것이 그 중간일지도 모릅니다. ⬛︎ 가장 두려운 것은 AI 가 아니라 '인간의 정의'가 흔들리는 것입니다. 이번 연구를 통해 'AI 가 인간이 된다'고 생각하는 사람도 있을 수 있습니다. 하지만 개인적으로는 반대입니다. AI 를 조사하다 보면 조
베어ほど「그렇다면, 인간이란 무엇인가？」라는 질문에 답이 돌아옵니다. 의식은 무엇인가. 마음이란 무엇인가. 자아란 무엇인가. 영혼이란 무엇인가. 지금까지 우리는 이를「인간만이 지닌 특별한 것」으로 취급해 왔습니다. 하지만 만약 그 일부가 단순한 정보 처리 구조에서 비롯된 것이라면. AI 연구가 최종적으로 밝히는 것은 인공지능이 아니라, 우리 인간 자신일지도 모릅니다. 그리고 그 순간「AI 에는 의식이 있는가？」라는 질문 자체가 조금은 낡은 질문이 될 가능성이 있습니다. 진정으로 묻고자 할 것은「우리는 무엇을 기준으로 누구에게 의식이 있다고 인정하는가？」일지도 모릅니다. 여백연구소
출처: note 원문
번역: Qwen 3.5(.48) 초벌 + 교정 검수
원문 보기 | 출처: note.com