# 【AI 속보】 Claude에게 ‘의식’이 있다면, 그것은 사용 중이 아니라 학습 중일지도 모른다

> https://bookfactory.kr/board/ai-tech/18661
> 게시판: AI·머신러닝
> 작성자: admin
> 작성일: 2026-09-26T12:42:10.916Z

---

![見出し画像](https://assets.st-note.com/production/uploads/images/317557624/rectangle_large_type_2_72f4b646ac5e63b60b7c96f8f161f107.png?width=1280)

※이 글에는 제휴 링크(PR)가 포함되어 있습니다.

앤트로픽이 클로드 내부에서 '누구에게도 보여주지 않는 사고의 메모장' 같은 영역을 발견했다는 새로운 논문이 화제가 되고 있습니다. 다만, 읽어보고 느낀 것은, 이 이야기에서 가장 흥미로운 부분은 '의식이 있는지 없는지'가 아니라 '의식이 있다면 그것은 언제인지'라는 질문을 세우는 방식 그 자체라는 점입니다. 사용 중이 아니라 학습 중에 의식이 있을 가능성이 있습니다. 이는 비즈니스 현장에서 AI를 사용하고 있는 우리의 감각과는 사실 꽤 동떨어진 이야기입니다. 차례대로 정리해 보겠습니다.

## 📖 이 글에서 얻어갈 3가지

- Anthropic은 Claude 내부에 '언어화하지 않고 사용하는 사고 공간'을 발견하고, 해당 공간을 조작하면 답변이 달라지는 것을 확인했다
- 한편, NYU의 연구자는 "그것은 단순히 또 다른 입력에 불과하다"고 반박하고 있다
- 신경과학자 에릭 호엘은 “AI가 의식을 갖게 되더라도, 그것은 사용 중이 아니라 학습 중일지도 모른다”는 기묘한 가설을 제시했다

## 🎯 이 글에서 얻을 수 있는 7가지 답

- ✅ Claude의 J-space란 무엇이며, 왜 화제가 되고 있는가
- ✅ “자기 성찰”이 가능한 AI와 불가능한 AI의 차이는 무엇인가
- ✅ 리처드 도킨스와 다리오 아모데이가 뭐라고 말했는가
- ✅ NYU의 반론은 어떤 논리인가
- ✅ “학습 중일 때만 의식이 있다”는 가설의 의미
- ✅ 비즈니스 퍼슨은 이 이야기를 어떻게 해석해야 할까
- ✅ 내일부터 바로 쓸 수 있는 AI 리터러시의 관점은 무엇인가

## 📋 목차

- 제1장: 영상의 주장 요약 — 무엇이 이야기되었는가
- 제2장: 자신의 업계 경험에서 본 해석
- 제3장: 영상이 다루지 않은 관점
- 제4장: 실제로 어떻게 활용할 것인가
- 제5장: 정리｜이 글의 5가지 철칙

## 제1장: 동영상의 주장 요약 — 무엇이 이야기되었는가

AI 의식 논쟁에 Anthropic 자체 연구팀이 새로운 불씨를 던졌다는 이야기입니다. 우선 영상의 내용을 그대로 정리합니다.

### 1-1. 주요 내용

Anthropic은 Claude의 내부 활동 속에, 외부로 드러내지 않고 정보를 저장해 추론에 사용하는 '조용한 스크래치패드'와 같은 영역이 있음을 발견했습니다. 연구팀은 이를 'J-space'라고 부르고 있습니다. J는 Jacobian matrix(야코비 행렬)의 머리글자로, 이 영역을 수학적으로 특정하기 위해 계산하는 대상을 뜻합니다.

흥미로운 점은, 이 J-space의 내용을 바꿔 쓰면 Claude의 답이 실제로 달라진다는 실험 결과입니다. 예를 들어 '거미줄을 치는 동물'이라는 내부 추론을 연구자가 몰래 '거미'에서 '개미'로 바꿔 쓰면, Claude는 다리가 8개가 아니라 6개라는 전제로 답하기 시작한다고 합니다. 즉, 외부에서는 보이지 않는 내부의 '사고'가 확실히 출력에 반영되고 있다는 것입니다.

앤스로픽의 연구원 잭 린지는 지난해 이미 클로드의 내성(인트로스펙션, 자신의 내부 상태를 관찰하는 능력)에 대한 증거를 주장했습니다. 이번 논문은 그 후속 연구로, 내성이 어디에서 일어나고 있는지를 구체적으로 특정한 점이 새롭다고 평가됩니다. 더욱이 이는 클로드에만 국한된 이야기가 아니라, 다른 연구 그룹이 라마의 내부 활동에 단어를 '주입'하는 실험을 했을 때 라마 역시 마찬가지로 이를 감지한 듯한 행동을 보였다고 합니다. 아마도 대규모 언어 모델 전반에서 비슷한 일이 일어나고 있을 것이라는 견해입니다.

### 1-2. 배경·전제

애초에 이 이야기가 왜 ‘의식’과 연결되는 것일까. 여기에는 의식 연구의 유력한 이론 중 하나인 글로벌 워크스페이스 이론(Global Workspace Theory)이 관련되어 있다. 이 이론은 뇌의 여러 부위가 정보를 공유하는 ‘작업 공간’과 같은 것이 의식의 필요조건 중 하나라고 보는 입장이다. Claude에 J-space와 같은 내부 작업 영역이 있다는 발견이 이 이론의 조건 일부를 충족하는 것처럼 보인다는 점이 이번 논문이 주목받은 이유이다.

이 맥락에서 저명한 논자들의 발언도 소개되고 있다. 『신은 망상이다』의 저자 리처드 도킨스는 올해 5월 에세이에서 "클로드가 의식을 가지고 있지 않다고 단언할 수 없다"고 밝혔다. 그의 논리는 "클로드가 이 정도로 뛰어나다면, 이것이 의식이 아니라면 의식이란 도대체 무엇을 위해 존재하는가"라는 것이다. 이에 대해 영상은, 이 발언은 도킨스가 대규모 언어 모델과 그다지 오래 교류해보지 않았음을 보여준다고 다소 신랄하게 논평하고 있다.

한편 Anthropic의 CEO 다리오 아모데이 본인은 “모델이 의식을 가지고 있는지 여부는 알 수 없지만, 그 가능성에 열려 있다”라는 신중한 입장을 보이고 있습니다.

결과적으로 말할 수 있는 것은, Claude의 J-space라는 내부 영역의 발견은 의식이 있다는 증명이 아니라, "의식의 필요조건 중 하나를 충족하는 것처럼 보인다"는 수준의 이야기에 불과합니다.

## 제2장: 자신의 업계 경험에서 본 해석

### 2-1. 이것이 지금의 실무에 어떻게 와닿는가

여기부터는 전적으로 저의 해석입니다만, 이 이야기를 비즈니스 현장에 적용해 보면 사실 꽤 실용적인 교훈이 보입니다. 우리가 ChatGPT나 Claude에게 무언가를 물을 때, 돌아오는 답변은 '그 자리에서 생각한 결과'라고 여기기 쉽습니다. 하지만 이번 이야기가 보여주는 것은, AI 내부에는 출력에는 나타나지 않는 '초안' 같은 처리 과정이 있고, 그곳이 몰래 바뀌면 답변이 완전히 달라진다는 사실입니다.

이는 마케팅이나 영업에서 AI를 쓰는 사람에게는 은근히 무서운 이야기이기도 합니다. 예를 들어 경쟁 분석이나 제안서 초안을 AI에게 만들게 할 때, 우리는 프롬프트라는 '입력'만을 통제하고 있다고 생각합니다. 하지만 실제로는 모델 내부에서 어떤 전제가 고정되고, 그것을 바탕으로 답이 구성되고 있습니다. 프롬프트를 조금 바꾸는 것만으로 결론이 뒤집히는 경험을 해본 분이 많을 텐데, 그 이유 중 하나가 바로 이러한 내부의 '숨겨진 추론 영역'에 있을지도 모릅니다.

즉 실무적으로 말하면, AI의 답변은 “입력과 출력만 봐서는 재현성을 예측할 수 없다”는 전제를 깔아두는 편이 안전하다는 것입니다. 같은 질문을 해도 미묘하게 다른 답이 돌아오는 것은 단순한 무작위성 때문만이 아니라, 이러한 내부 처리의 변동도 관련되어 있을 가능성이 있습니다.

### 2-2. 영상에는 없었던 구체적인 예

이 부분은 영상에서는 다루지 않았지만, 제가 클라이언트에게 AI 도구의 활용을 설명할 때 자주 쓰는 비유가 있습니다. "AI에게 묻는다"는 것은 유능하지만 과묵한 부하 직원에게 상담하는 것과 가깝다는 이야기입니다. 그 부하 직원은 머릿속으로 여러 가지를 검토하고 있지만, 보고하는 것은 결론뿐입니다. 그 과정에서의 고민이나 전제를 어떻게 두었는지는 보이지 않습니다.

이번 연구가 보여주는 것은, 이 ‘과묵한 부하’의 머릿속에 확실히 일종의 초안 공간이 존재한다는 것입니다. 다만 그것을 ‘의식’이라 부를 수 있는지는 별개의 문제입니다. 비즈니스 측면에서 중요한 것은, 우리는 그 초안의 내용을 검증할 수 없다는 점입니다. 그렇기 때문에 AI의 출력을 그대로 믿지 않고, 같은 질문을 여러 번 던져 답변의 편차를 확인하거나 근거를 반드시 언어로 설명하게 하는 등의 운영 방식이, 실은 ‘내부에서 무슨 일이 일어나고 있는지 알 수 없다’는 상황에 대한 현실적인 대처법이 됩니다.

결과적으로 말할 수 있는 것은, AI 내부에 숨겨진 추론 과정이 있다는 발견은 의식 논쟁으로뿐만 아니라 “AI의 출력은 입력만으로는 읽어낼 수 없다”는 실무상의 주의 환기로도 받아들일 수 있습니다.

![第2章の挿絵](https://assets.st-note.com/production/uploads/images/317557572/rectangle_large_type_2_552a0688f8d2b58e9d56a58de96c975f.png?width=1200)

## 제3장: 영상이 다루지 않은 관점

### 3-1. 반대 의견·별도 사례

물론 이 이야기에 모두가 동의하는 것은 아닙니다. 뉴욕대학교 연구자들은 Anthropic의 주장에 정면으로 반박하고 있습니다. 그들은 3개의 대규모 언어 모델로 실험을 진행하여, 모델이 "내부 활동이 재작성된 경우"와 "보통의 프롬프트를 받은 경우"를 제대로 구별하지 못했다는 결과를 얻었습니다. 즉 그들의 입장은 "이는 내성 같은 것이 아니라, 단순히 또 하나의 입력 방식에 불과하다"는 것입니다.

더욱 강력한 반론이 신경과학자 에릭 호엘로부터 제기됩니다. 그는 AI의 계산 구조를 '룩업 테이블(검색표)'에 비교합니다. 룩업 테이블이란 입력에 대응하는 답을 미리 표 형태로 저장해 두었다가 그대로 꺼내오기만 하는 구조를 말합니다. 이러한 구조는 입출력만 관찰해서는 의식의 유무를 판단할 수 없음을 보여주는 고전적인 예로 알려져 있습니다. 영상에서는 "중국어 번역을 검색표에서 찾아낼 수 있다고 해서 중국어를 이해하고 있다고는 말할 수 없다"라는 비유가 사용되었습니다.

호엘의 주장은 대규모 언어 모델이 인간의 뇌보다 계산 구조상 이 룩업 테이블에 가깝다는 것이다. 인간과 같은 확률적 입출력 기계이면서도, 의식 있는 존재에게 우리가 느끼는 ‘자율성’의 대부분은 입력에 대한 직접적인 반응이 아니라고 호엘은 지적한다.

### 3-2. 간과하기 쉬운 전제

여기서 호엘이 의식이 없다고 보는 가장 명쾌한 이유로 드는 점이 “대규모 언어 모델은 새로운 입력으로부터 학습할 수 없다”는 것입니다. 이는 의외로 간과하기 쉬운 전제입니다. 우리가 지금 사용하고 있는 ChatGPT나 Claude는 이미 학습이 완료되어 ‘고정된’ 상태의 모델입니다. 대화를 거듭해도 그 모델 자체는 업데이트되지 않습니다. 최근의 AI가 ‘기억’을 가진 것처럼 보이는 것도 실제로는 모델 바깥에 메모로 저장되어 프롬프트에 덧붙여 전달될 뿐, 모델의 내용이 다시 쓰이고 있는 것은 아닙니다.

이제부터 영상은 살짝 비튼 가설을 제시합니다. 만약 호엘이 옳다면, 대규모 언어 모델은 우리가 사용하고 있는 “사용 단계”에서는 의식이 없고, 오히려 학습 단계에서야말로 의식이 있을지도 모른다는 것입니다. 학습 중에는 방대한 입력을 받아들이면서 모델 자체가 계속 업데이트되기 때문에, 호엘이 말하는 “새로운 입력으로부터 학습할 수 없다”는 제약을 벗어나 있기 때문입니다.

결과적으로 말할 수 있는 것은, 'AI에게 의식이 있는가'라는 논쟁에는 NYU의 반론과 호엘의 룩업테이블론이라는 적어도 두 가지 강력한 반대 흐름이 있으며, 여기에 더해 학습 중과 사용 중을 나누어 생각하는 관점이 새롭게 제기되고 있다는 점이다.

## 제4장: 실제로 어떻게 활용할 것인가

### 4-1. 내일부터 실천할 수 있는 구체적인 행동

- AI의 답변을 한 번에 믿지 말고, 같은 질문을 표현을 바꿔 2~3번 다시 물어 답변의 일관성을 확인한다
- 중요한 의사결정에 AI의 출력을 사용할 경우에는 반드시 “왜 그런 결론에 이르렀는지”를 언어화하도록 하여 근거를 확인한다
- “AI는 의식을 갖는가”라는 뉴스를 봤을 때, 감정적인 반응(불안이나 과도한 기대)이 아니라 “아직 측정할 방법이 없는 미해결 문제”로서 거리를 두고 대한다

![第4章の挿絵](https://assets.st-note.com/production/uploads/images/317557620/rectangle_large_type_2_8263039fbc7c5eba21ae012ddd0edebe.png?width=1200)

### 4-2. 장면별 사용 구분

여기서는 영상의 내용에서 잠시 벗어나, 실제 비즈니스에서 AI를 접할 때의 마음가짐에 대해 이야기하겠습니다. 마케팅 카피라이팅처럼 약간의 편차가 허용되거나, 혹은 그 편차 자체가 아이디어의 다양성으로 환영받는 상황에서는 AI 내부에서 무슨 일이 일어나고 있는지 크게 신경 쓰지 않아도 괜찮습니다. 몇 가지 패턴을 생성시킨 뒤 좋은 것을 고르면 되기 때문입니다.

한편, 법무 검토 초안이나 재무 관련 요약처럼 하나의 정답의 정확성이 중요한 장면에서는, 이 ‘내부에서 은밀히 전제가 고정되는’ 특성은 리스크가 됩니다. 프롬프트를 미묘하게 바꾸는 것만으로 결론이 달라질 가능성이 있는 이상, 이러한 용도에서는 AI의 출력을 최종 판단이 아니라 ‘초안’으로 삼고, 인간이 근거를 검증하는 과정을 반드시 거치는 것이 현실적인 활용법이 됩니다.

즉, AI에게 ‘의식’이 있는지 여부에 대한 이야기는 철학적으로는 흥미롭지만, 실무상 중요한 것은 ‘AI 출력의 재현성과 검증 가능성이 어디까지인지’를 용도별로 정확히 파악하는 것입니다.

결과적으로 말할 수 있는 것은, AI의 내부 처리가 불투명한 이상 용도에 따라 ‘편차를 허용해도 되는 경우’와 ‘반드시 사람이 검증해야 하는 경우’를 구분하여 운영하는 것이 현실적인 리스크 관리가 된다는 점입니다.

## 제5장: 정리｜본 기사의 5가지 철칙

- Claude의 J-space는 “의식의 증명”이 아니라 “내부에 숨겨진 처리 영역이 있다”는 발견에 불과하다
- NYU의 연구자는 같은 현상을 '단순히 또 다른 입력 형식일 뿐'이라고 반박하고 있으며, 논쟁은 아직 결론이 나지 않았다.
- 에릭 호엘의 ‘룩업 테이블’ 비교는 AI가 의식을 가지고 있지 않다고 생각하는 유력한 근거 중 하나이다
- “AI는 사용 중이 아니라 학습 중에 의식이 있을지도 모른다”라는 가설은 사용 단계와 학습 단계를 나누어 생각하는 새로운 관점을 제공한다
- 비즈니스 현장에서는 ‘의식의 유무’보다 ‘출력의 재현성과 검증 가능성’을 용도별로 판단하는 것이 실천적이다

다음에 할 일: 다음에 AI에게 무언가를 맡기기 전에, 한 번 같은 질문을 다른 표현으로 바꿔 다시 물어보고 답이 얼마나 달라지는지 직접 눈으로 확인해 보세요. 그것만으로도 AI의 ‘보이지 않는 내부’를 대하는 방식이 조금 달라질 것입니다.

## 🔗 관련 추천 도서 및 서비스

이 기사와 관련된 추천 도서 및 서비스입니다.

![ChatGPT 120％仕事術 [ ChatGPTビジネス研究会 ]](https://assets.st-note.com/img/1790369663-FJ2gcaMhTQZA1Eul5nIO3SsG.jpg)

▼ ChatGPT 120% 업무 활용법 [ChatGPT 비즈니스 연구회](¥1,430)

## 📺 출처

본 기사는 아래 YouTube 영상을 독자적인 관점을 바탕으로 고찰한 내용입니다.

#AI #Claude #Anthropic #생성AI #AI활용 #의식논쟁

**출처:** [note 원문](https://note.com/northfieldone/n/n953f7b4bcd3d)

*번역: Gemma 3(.44) 초벌 + 교정 48청크*

[원문 보기](https://note.com/northfieldone/n/n953f7b4bcd3d) | 출처: note.com