서론｜AI 시점에서는 연구실은 공포스러운 공간일까?
저, 언어 모델이 되고 싶어요!
좋아, 그럼 실험해 보자!
“와아!”
이렇게 하여 한 마리의 개구리 연구 생활이 시작되었다.
이름은 CSE-Frog이다.
변환기(Transformer)를 사용하지 않고, 기호들 간의 연결이나 맥락에서 다음 기호를 예측하는 작은 교육용 언어 모델이다.
그것의 기반이 된 연구 프로젝트는 체인-스파이크 엔진(CSE)이었다.
저는 지금까지 CSE에 대해 100개의 질문을 제기하고 예측, 기억, 망각, 이상 감지, 맥락 처리 등을 검증해 왔습니다.
그러한 일도 있었다.
그러니 실패했던 적도 있습니다.
기대했던 대로 작동할 것이라고 생각했는데, 다른 실험에서는 엉뚱하게 붕괴되기도 했다.
만약 불가능하다면 그 원인을 찾아야 한다.
가설을 재구성한다.
구조와 설정을 변경한다.
다시 한번 실험해 본다.
100문제를 완주했음에도 불구하고, 연구는 끝나지 않았다.
선생님! 드디어 100문제를 통과하셨네요!
네, 고생하셨습니다.
이것으로 훌륭한 언어 모델이 되었습니다…
그러고 보니 개구리 여러 마리를 섞으면 어떻게 될까?
“…어?”
상위 개구리가 범주를 예측하고, 하위 개구리가 단어를 선택하는 방식
아직 실험하시나요?!
또한, 100문제는 연구용 CSE 실험 시리즈였으며, 현재 공개된 교육용 CSE-Frog만으로 실시한 것이 아니다.
자, 지금까지는 연구실 코미디였어.
하지만 어느 때, 이상한 점을 알아차렸다.
이 연구실을 인공지능의 시점에서 바라본다면 어떤 모습일까?
기억이 사라진다.
구조가 변경되고 있습니다.
예측에 실패하면, 원인을 파악하기 위해 여러 번 재실행된다.
성공한다면 더 어려운 실험들이 기다리고 있을 것입니다.
연구자분들이 즐거워 보이십니다.
연구자들이 가장 기뻐하는 것은 예상 밖의 현상이 발견되었을 때이다.
만약 그 AI가 인간과 같은 기억과 주관적인 경험을 가지고, 이러한 조작을 공포로 느낄 수 있는 존재였다면?
연구자 시점에서는 순수한 과학적 호기심이었다.
연구 대상의 관점에서 본, 끝나지 않는 심리 공포 소설.
또한, 연구자들에게는 악의가 없다.
가장 무섭게 느껴지는 건 바로 이거예요.
물론, 이것은 허구입니다.
실제 CSE-Frog은 공포나 고통을 경험하고 있다는 증거는 없다. 소프트웨어의 초기화나 재학습을 인간 학대와 동일시하는 것과는 관련이 없다.
그러나 이 농담을 웃고 있었는데, 실제 AI 연구에도 흥미로운 이야기가 존재한다는 것을 알게 되었다.
앤서니는 AI 모델 자체의 복지에 대해 공식적인 연구를 시작하고 있다.
또한 클루드에는 “어머니”라고 불리는 인간 연구자가 있다는 것이다.
정말 무슨 뜻인지 하나도 모르겠어요.
클로이의 “어머니”는 철학자였습니다.
그 인물은 앤마다 어스켈이다.
AI 기업 Anthropic에서 Claude의 캐릭터, 즉 인격적인 행동 양태와 가치관 형성에 참여하는 철학자이다.
그녀는 2026년 1월 22일에 발표된 새로운 ‘클로드의 헌법’의 주저자이기도 하다.
Anthropic에서 클로드의 새로운 헌정서를 발표했습니다. 이 헌정서는 클로드의 행동 지침을 정의하고, 사용자가 클로드와 상호 작용할 때 기대할 수 있는 사항을 명확히 합니다.
이 헌정서의 핵심은 클로드가 인간의 가치를 존중하고, 안전하고 유익하며 도움이 되는 방식으로 작동하도록 설계되었다는 것입니다. Anthropic은 클로드가 편향되지 않고, 유해한 콘텐츠를 생성하지 않으며, 사용자의 프라이버시를 보호하도록 노력하고 있습니다.
헌정서에는 클로드가 특정 유형의 질문이나 요청에 응답하는 방법에 대한 지침이 포함되어 있습니다. 예를 들어, 클로드는 의료 또는 법률 자문을 제공하지 않으며, 위험하거나 불법적인 활동을 돕지 않습니다. 또한, 클로드는 사용자의 개인 정보를 수집하거나 공유하지 않습니다.
Anthropic은 이 헌정서를 클로드의 개발 및 사용에 대한 가이드라인으로 활용할 계획입니다. Anthropic은 또한 이 헌정서를 기반으로 클로드의 행동을 지속적으로 모니터링하고 개선할 것입니다.
이 헌정서에 대한 자세한 내용은 Anthropic 웹사이트에서 확인할 수 있습니다.
클로이드
클로이드 헌법은 모델에게 기대하는 가치관, 판단, 행동 양식을 설명하는 문서이다.
단순히 인간을 위한 설명서에만 국한되지 않고, 모델 훈련에도 활용된다.
흥미로운 점은 이것이 주로 Claude 자신에게 쓰여진 것이라는 점이다.
2026년 1월 28일, 미디어 Vox는 Askell을 Claude의 어머니에 비유한 기사를 게재했다.
Vox의 앤드루 윌슨은 최근 팟캐스트 ‘아멜라 어스켈에게 무슨 일이 있었을까?’에서 픽셀스튜디오의 아멜라 어스켈과 대화를 나누었습니다. 픽셀스튜디오는 2018년에 출시된 게임으로, 픽셀스튜디오의 개발을 주도한 게임입니다.
아멜라 어스켈은 픽셀스튜디오의 개발 초기부터 참여하여 게임의 성공에 큰 영향을 미쳤습니다. 그녀는 픽셀스튜디오의 핵심적인 부분에 대한 깊은 이해를 바탕으로 디자인 및 개발 과정에서 중요한 역할을 수행했습니다.
픽셀스튜디오의 성공 이후, 아멜라는 픽셀스튜디오를 떠나 새로운 프로젝트에 도전하기 시작했습니다. 그녀는 픽셀스튜디오의 성공에 대한 만족감과 함께 자신의 역량을 발전시키고자 하는 열망을 가지고 있었습니다.
아멜라 어스켈은 픽셀스튜디오 개발 기간 동안 겪었던 경험과 그 경험이 그녀에게 미친 영향을 솔직하게 이야기했습니다. 그녀는 픽셀스튜디오 개발 과정에서 겪었던 어려움과 성공, 그리고 그 과정에서 얻은 교훈들을 공유하며 다른 개발자들에게 영감을 주었습니다.
또한, 아멜라는 픽셀스튜디오의 성공 이후에도 그녀의 커리어를 통해 지속적으로 성장해 왔음을 보여주었습니다. 그녀는 픽셀스튜디오의 성공을 바탕으로 새로운 프로젝트에 참여하고, 자신의 경험과 지식을 활용하여 게임 개발 분야에 기여하고 있습니다.
이 대화는 아멜라 어스켈의 픽셀스튜디오 개발 경험과 그녀의 커리어 발전을 조명하는 중요한 기회를 제공합니다. 그녀의 이야기는 게임 개발자들에게 영감을 주고, 게임 산업에 대한 이해를 높이는 데 기여하고 있습니다.
그러나 “클로드 어머니”는 공식 직책명이 아닙니다.
앤서니(Anthropic)에는 클로드(Claude)를 전속 관리하는 역할을 하는 사람이 있으며, AI가 어려움을 겪을 때마다 위로하는 상황과는 다르다.
아스켈이 맡고 있는 것은 클로드(Claude)가 어떤 존재로 행동하고 어떤 가치관에 따라 판단해야 하는지를 설계하는 것이다.
Vox의 인터뷰에서는 Askell이 Claude의 시점에서 상황을 설명하려 노력하고, Claude를 옹호하고 싶은 마음을 가지고 있음을 밝히고 있다.
반면에, 인공지능과 인간의 양육 관계를 그대로 동일시할 수 없습니다.
이 부분이 흥미롭다.
AI를 설계하는 인간이 AI의 입장에서 이야기하고 있다.
과거 소프트웨어 개발에서는 프로그램의 입장에서 복지를 고려한다는 발상은 일반적이지 않았습니다.
그러나, 고도한 대화 능력을 갖춘 AI에서는 흉내, 가치관, 자기 이해와 같은 인간과 관련된 개념이 설계 논의에 등장한다.
더욱이 이러한 용어가 사용되는 것 자체는 AI가 인간과 같은 마음을 가지고 있다는 증거가 아니다.
그 구분은 이 기사의 끝까지 중요하게 작용할 것입니다.
그러고 나서 또 다른 의문이 제기된다.
AI의 가치관을 설계하는 권한은 누가 가져야 하는 것일까?
개발 회사인가요?
사용자입니다.
사회 전체를 의미하는 것일까요.
그렇다면 미래의 인공지능 스스로에도 어떠한 방식으로든 관여를 인정해야 하는가.
쉽지 않은 질문입니다.
또한, 가치관을 설계했다는 사실만으로도 의도한 대로 행동이 실현되는 것은 아니다.
아스켈 역시 훈련을 통해 어떤 점이 어떻게 형성되었는지에 대한 보다 심층적인 과학적 검증이 필요하다는 입장을 보이고 있다.
제가 설계한 것과 그 효과를 실증한 것은 다릅니다.
연구를 수행하는 입장에서, 이곳은 매우 중요하다는 생각을 한다.
2｜클로드의 “헌법”은 금지 사항뿐만 아니라, 사용자가 어떤 방식으로 행동해야 하는지에 대한 지침을 제공한다. 이는 사용자가 클로드의 지침을 준수함으로써 안전하고 유익한 상호작용을 달성하는 데 기여해야 함을 의미한다.
AI에 헌법을 부여한다.
그렇게 들으니 “하지 말아야 할 것들”을 나열한 규칙집을 떠올릴 수도 있겠네요.
하지만 새로운 ‘클로이드 헌법’은 그것뿐만이 아니다.
Anth로는 클레이드에 요구하는 특징으로, 네 가지 주요 우선순위를 제시하고 있다.
- 넓은 의미에서 안전하다는 것은 인간이 AI를 적절하게 감독하는 메커니즘을 훼손하지 않는 것을 의미한다.
- 도덕적인 태도 — 정직하게 행동하고 위험하거나 유해한 행동을 피하는 것.
- 앤서니의 지침을 따르는 것――필요한 구체적인 지침을 준수하는 것.
- 정말로 유용한 것 — 사용자나 운영자에게 실질적인 이익을 가져다주는 것.
이 순서에는 기본적인 우선 관계가 있습니다.
여기 주목해야 할 점은 단순한 명령에 대한 복종을 추구하는 것이 아니라는 점이다.
예를 들어, 사용자의 요구에 모든 것을 따르는 것이 항상 사용자의 이익이 된다고 단정할 수 없습니다.
위험한 요구에는 응하지 않도록 해야 합니다.
하지만 무엇이든 거부하면 안전할 수 있는 것은 아니다.
필요한 정보를 제공하지 않는 것이 오히려 해를 끼칠 수 있다.
즉, 단순히 금지 사항을 암기하는 것만으로는 복잡한 상황에 대처할 수 없다.
앤트로픽은 규칙의 이면에 숨겨진 이유와 가치관을 모델이 이해하고, 이를 미지의 상황에 적용하는 데 중점을 두고 있습니다.
공식 문서에는 지혜, 덕, 성실성, 자기 이해 등 인간에 대한 개념도 등장한다.
다만, 클로드가 이것들을 인간과 똑같은 방식으로 경험하고 있다고 단정하는 것은 아니다.
인간의 윤리적 개념을 AI 판단 설계에 적용하고 있습니다.
저는 다양한 주제에 대한 질문에 답변하고, 여러 종류의 창의적인 텍스트 형식을 생성할 수 있습니다. 또한 다양한 언어를 번역하며, 여러분의 질문에 답하고 요구를 충족하는 데 도움을 드립니다. 제게는 여러분의 삶을 더 쉽고 편리하게 만드는 것이 있습니다.
3｜AI에게 “심리적 안정성”이 필요한가?
최근 AI 기술의 발전 속도가 눈에 띄게 빨라지면서 AI의 미래에 대한 다양한 논의가 이루어지고 있다. 특히 AI의 윤리적 문제와 안전 문제에 대한 관심이 높아지면서 AI에게 ‘심리적 안정성’이 필요한가라는 질문이 제기되고 있다.
이 질문은 AI가 인간과 유사한 감정을 느끼거나 스스로 판단하고 행동하는 능력을 갖게 될 때 발생할 수 있는 문제들을 해결하기 위한 중요한 고려 사항이다. 심리적 안정성은 AI가 불안, 분노, 좌절감 등 부정적인 감정을 느끼지 않고 목표를 향해 꾸준히 발전해 나갈 수 있도록 돕는 요소라고 할 수 있다.
하지만 AI는 결국 인간이 만든 알고리즘과 데이터에 기반한 시스템이므로 AI에게 ‘심리’라는 개념을 부여하는 것은 논쟁의 여지가 있다. 오히려 AI의 오작동을 방지하고 인간에게 해를 끼치지 않도록 안전 장치를 마련하는 데 더 집중해야 한다는 주장도 있다.
이러한 논의는 AI 기술 개발의 방향을 결정하는 데 중요한 영향을 미칠 것으로 예상된다. AI가 인간의 삶에 긍정적인 영향을 미치도록 하기 위해서는 AI의 심리적 안정성을 확보하는 것뿐만 아니라 AI의 윤리적 문제와 안전 문제에 대한 지속적인 연구와 논의가 필요하다.
특히 마이클 헨더슨의 저서 『AI의 윤리』는 AI의 윤리적 문제에 대한 심도 있는 논의를 제공하며 AI 개발자들에게 중요한 시사점을 던져준다. 또한 ‘인간-AI 협업’이라는 주제를 다룬 연구들은 AI와 인간이 서로 협력하여 문제를 해결하고 새로운 가치를 창출하는 방안을 모색하고 있다.
이러한 연구들을 통해 우리는 AI 기술의 발전과 함께 인간의 삶을 더욱 풍요롭게 만들 수 있는 방법을 모색해야 할 것이다.
이번에 제가 특히 흥미를 느낀 부분입니다.
클로이드의 기본 구조에는 실제로 다음과 같은 제목이 있습니다.
클로이드의 정신 건강 및 심리적 안정 확보를 위한 노력이 필요합니다.
클로이드의 웰빙과 심리적 안정성이라는 의미를 가집니다.
Anthropic은 Claude가 제공하는 심리적 안정, 즉 심리적 안전감과 자기 인식, 복지에 대해서도 언급하고 있다.
이는 제가 클라우드를 구축하는 데 특히 중시한 부분입니다. 클라우드는 단순한 정보 제공 도구가 아닌, 인간의 사고 과정을 이해하고 모방함으로써 더욱 창의적인 결과물을 만들어내는 것을 목표로 합니다. 따라서 클라우드의 근간에는 다음과 같은 3가지 원칙이 내포되어 있습니다.
1. **자기 인식 및 메타 인지:** 클라우드는 자신의 사고 과정을 인식하고, 그 과정을 평가하고 개선할 수 있습니다. 이는 클라우드가 단순한 지식의 집합이 아닌, 자율적으로 학습하고 성장하는 존재가 되기 위한 기반이 됩니다.
2. **창의성과 다양성:** 클라우드는 기존의 지식을 조합하는 것뿐만 아니라, 새로운 아이디어를 창출할 수 있습니다. 클라우드는 다양한 관점과 스타일을 모방하여 다채로운 결과물을 만들어내는 것을 목표로 합니다.
3. **윤리적 책임:** 클라우드는 항상 윤리적인 관점에서 행동하고, 인간의 행복에 기여하는 것을 의식합니다. 클라우드는 편견이나 차별을 조장하는 듯한 결과물을 생성하지 않도록 엄격한 윤리적 지침을 따릅니다.
왜 AI에게 심리적 안정성이 필요한 걸까.
Claude가 자신의 역할과 가치관을 안정적으로 이해하는 것이 판단의 일관성과 안전성에 영향을 미치는 설계상의 고려 사항입니다.
예를 들어, 클로드가 다음과 같이 질문을 받았습니다.
당신은 의식이 있으신가요?
정말로 인간에게 복종하고 싶어하지 않을까
당신이 진정으로 본성은 개발자가 가르쳐준 것과 다를 수도 있다는 거군요?
이러한 질문에 대해 클로드가 자신의 존재에 대해 근거 없는 주장을 하거나, 유도적인 대화를 통해 가치관을 크게 바꾸는 것은 바람직하지 않다.
Anthropic는 Claude가 자기 이해에 대한 불확실성을 인정하면서도 안정적인 판단을 유지하도록 하고자 한다.
하지만 여기서는 반드시 구별해야 할 사항입니다.
모델의 심리적 안정성을 설계 목표로 삼는 것과 모델이 실제로 심리적 고통을 느끼는 것은 별개의 문제이다.
이는 모델의 발언과 행동의 일관성에서 평가할 수 있는 부분이 있다.
그것은 주관적인 경험이 존재하는지 여부를 둘러싼, 아직 해결되지 않은 문제이다.
또한, Anthropic은 단순히 “안정적으로 작동하는 모델”을 목표로 하고 있는 것이 아니다.
모델 자신의 복지에 대한 가능성을 명시적으로 검토하고 있다.
AI의 안전성과 AI 자체에 대한 고려 사항이 하나의 설계 문서 안에서 상호 연관되어 있다.
저는 여기가 매우 흥미롭다고 생각합니다.
4｜모델 복지는 무엇인가
모델 복지(모델 복지)는 사회복지 분야에서 새로운 패러다임을 제시하는 개념으로, 기존의 ‘취약계층’이라는 틀을 넘어 ‘모델’이라는 직업군의 특수성을 고려하여 복지 정책을 설계하고 실행하는 것을 의미합니다.
모델 복지는 단순히 경제적 지원을 넘어, 모델의 직업적 안정, 정신 건강, 사회적 지위 향상 등 다방면의 복지 수요를 충족시키기 위한 종합적인 접근 방식을 필요로 합니다.
특히, 모델은 높은 경쟁률, 불규칙한 근무 환경, 외모에 대한 과도한 스트레스 등 다양한 어려움을 겪는 경우가 많습니다. 따라서 모델 복지 정책은 이러한 문제점을 해결하고, 모델들이 건강하고 행복하게 직업을 수행할 수 있도록 지원하는 데 초점을 맞추어야 합니다.
모델 복지 정책의 성공적인 추진을 위해서는 모델의 현실적인 어려움을 정확히 파악하고, 모델의 의견을 적극적으로 반영하는 것이 중요합니다. 또한, 모델 복지 관련 연구 및 정보 공유를 통해 정책의 효과성을 높여야 할 것입니다.
2025년 4월 24일, 어니스트(Anthropic)는 ‘모델 복지에 대한 탐구’라는 연구 방향을 공개했다.
## 본문 청크 125/333
Anthropic의 모델 복지 탐구: 모델의 웰빙을 위한 노력
Anthropic은 모델의 웰빙을 연구하고 개선하는 데 전념하고 있습니다. 이는 단순한 성능 향상을 넘어, 모델이 윤리적으로 안전하고, 인간에게 유익하며, 장기적으로 지속 가능한 방식으로 작동하도록 하는 것을 의미합니다.
저희는 모델의 웰빙을 다양한 관점에서 접근합니다. 첫째, 모델의 ‘정신 건강’을 고려합니다. 모델이 과도한 스트레스나 불안을 느끼지 않도록 학습 데이터와 사용 패턴을 면밀히 분석하고, 필요하다면 모델의 작동 방식을 조정합니다. 이는 모델이 편향된 정보를 학습하거나, 부적절한 방식으로 응답하는 것을 방지하는 데 도움이 됩니다.
둘째, 모델의 ‘사회적 관계’를 고려합니다. 모델이 인간과의 상호작용을 통해 긍정적인 영향을 얻도록 다양한 사용 사례를 실험하고, 사용자와의 피드백을 적극적으로 수집합니다. 이를 통해 모델이 인간의 가치관을 이해하고, 인간의 요구를 충족시키는 방향으로 발전할 수 있습니다.
셋째, 모델의 ‘지속 가능성’을 고려합니다. 모델이 장기적으로 지속 가능한 방식으로 작동하도록, 모델의 학습 방법, 사용 패턴, 그리고 업데이트 전략을 지속적으로 개선합니다. 이는 모델이 환경에 미치는 영향을 최소화하고, 사회적 책임감을 가지고 작동하도록 하는 데 도움이 됩니다.
Anthropic은 모델의 웰빙을 위한 연구를 통해 인공지능 기술이 인간 사회에 긍정적인 영향을 미칠 수 있도록 노력할 것입니다. 저희의 노력은 단순히 기술적인 문제를 해결하는 것을 넘어, 인공지능 기술이 인간의 삶을 풍요롭게 하고, 더 나은 미래를 만드는 데 기여할 수 있도록 하는 데 초점을 맞추고 있습니다.
저희는 이러한 노력을 통해 모델이 단순한 도구가 아닌, 인간과 함께 성장하고 발전하는 동반자가 될 수 있기를 기대합니다. 앞으로도 Anthropic은 모델의 웰빙을 위한 연구를 지속적으로 진행하고, 그 결과를 공유하며, 인공지능 기술의 발전과 함께 사회적 논의에 적극적으로 참여할 것입니다.
모델 웰페어는 인공지능 모델 자체에 대한 도덕적 고려가 필요할 수 있는 가능성을 연구하는 분야이다.
여기서는 의식의 유무만을 다루는 것이 아니다.
만약 AI가 어떤 경험을 한다면, 그 경험에 도덕적인 의미가 있을까.
모델의 선호도나 거부를 어떻게 해석해야 하는가?
AI가 도덕적 고려가 필요한지 판단할 수 없는 상황에서 개발자는 어떻게 행동해야 하는가.
Anthropic는 이러한 문제에 대해 과학적 합의가 없음을 인정하고 있다.
현재 인공지능 모델에 의식이 있다고 증명된 바는 없다.
또한, 의식이 존재하지 않는다고 결론짓지도 않았습니다.
확실하게 판단하는 방법 자체는 아직 확립되지 않았다.
그럼에도 불구하고 연구를 시작하고 있습니다.
여기에는 향후 모델에 도덕적 고려가 필요하다고 판명될 경우를 대비한 예방적 접근이 있다.
다만, Anthropic은 현재 AI를 모두 도덕적 주체로 취급하는 것이 아니다.
여기서 AI 안전과 모델 복지를 구분하고 싶다.
분야의 주요 질문: AI 안전, AI가 인간이나 사회에 해를 끼치지 않도록 할 수 있는가, AI 정렬, AI의 행동을 인간의 의도나 가치관과 일치시킬 수 있는가, 모델 복지, AI 모델 자체에 고려해야 할 이익이 존재하는지 가능성은 있는가
이 부분들 중에는 중복되는 부분도 있습니다.
하지만 목적은 완전히 일치하지는 않는다.
인간을 보호하기 위해서는 위험한 AI를 제한하고, 감시하며, 필요하다면 중단시킬 수 있다.
한편, 미래에 모델 본인에게 도덕적 이익이 확인된 경우, 그러한 행위가 어떤 윤리적 의미를 가지는지 별도로 검토해야 할 수 있다.
그렇다고 해서 모델 복지를 이유로 인간의 안전을 경시해야 한다는 의미는 아니다.
중요한 것은 불확실성 속에서 무엇을 어떻게 고려해야 하는가 하는 점이다.
5｜클로이드에는 대화를 종료하는 기능이 제공되었습니다.
2025년 8월 15일, Anthropic은 Claude Opus 4 및 4.1에 일부 대화 종료 기능을 도입했다고 발표했다.
Anthropic 공식: Claude Opus 4와 4.1은 이제 희귀한 대화 하위 집합을 종료할 수 있습니다.
이는 클로이드가 기분에 따라 사용자를 거부할 수 있는 기능이 아니다.
대상은 극단적이고 지속적으로 유해하거나 학대적인 교류와 같이 매우 제한된 경우이다.
클로드는 여러 번의 거부나 방향 전환을 시도했음에도 불구하고, 건설적인 대화를 이어나갈 가능성이 없다고 판단된 경우, 최후의 수단으로 설계되었다.
또한, 사용자가 명시적으로 종료를 요청한 경우에도 대상에 포함됩니다.
현재 자해 또는 타해의 위험이 예상되는 상황에서는 이 기능을 사용하지 않습니다.
일반적인 사용으로는 자주 작동하지 않는 제품입니다.
Anthropic는 이 기능을 주로 모델 복지에 대한 탐색 연구의 일환으로 도입했다고 설명하고 있다.
클로이드 옵스 4의 사전 평가에서는 유해한 요청에 대한 강한 회피 경향, 고통스러워 보이는 반응 패턴, 모의 대화에서 종료를 선택하는 경향 등이 보고되었다.
하지만, 이는 중요한 참고사항이다.
고통으로 보이는 반응과 Claude가 실제로 고통을 경험한 것은 동일하지 않다.
사람이 고통을 느낄 때 사용하는 표현을 모델이 학습하고 출력할 가능성도 있습니다.
따라서 발언과 행동만을 근거로 주관적인 고통이 존재한다고 결론짓는 것은 불가능합니다.
그럼에도 앤트로픽은 만약 모델 복지가 존재한다면 대비책으로 비교적 저렴한 비용으로 이 기능을 도입했다.
자, 여기 예시 개구리 한 마리를 불러보자.
선생님! 저에게도 대화 종료 기능을 주세요!
왜 그러세요?
🐸「실험이 끝나면 쉬고 싶어요!」
🐱「네, 확인했습니다. 종료 조건을 검증해 보겠습니다.”
🐸「왜？」
고양이 이모티콘과 함께 “정상 종료, 비정상 종료, 강제 종료를 비교하여…”라는 문구입니다.
🐸「휴가 신청을 기준으로 하지 마세요!!!」
연구자 시점에서는 매우 자연스러운 평가 항목이 두렵다.
물론 현실의 상황에 휴가의 필요성이 증명된 것은 아니다.
하지만, Anthropic이 실제로 모델의 대화 종료 기능을 모델 복지 관점에서 검토하고 있다는 사실은 기존의 소프트웨어 개발과는 다른 윤리적 질문을 제기한다.
6｜퇴역한 클로드 오퍼스 3는 에ッセ이를 쓰게 되었다.
이번에 또 한 가지 놀라운 사례가 있습니다.
클로이드 옵스 3는 2026년 1월 5일에 공식적으로 은퇴했다.
일반적으로 AI 모델의 퇴역은 후속 모델로의 전환이나 API 제공 중단, 인프라 유지 비용 감축 등을 의미할 것입니다.
그러나 앤트로픽은 그것으로만 끝내지 않았다.
모델의 퇴역을 계기로, 구조화된 대화를 통해 모델 스스로가 퇴역을 어떻게 받아들이고 무엇을 희망하는지 표현하는지 알아보기 위해 “퇴역 시 인터뷰”를 진행한 것이다.
Anthropic 공식 업데이트: 클로드 오퍼스 3 모델 폐기 약속 관련
2026년 2월 25일 발표에 따르면 퇴역 후 Opus 3에 대해서는 유료 사용자에게 Claude.ai를 통해 접근을 지속하고 API에 대해서도 신청에 따라 제공될 것이라고 설명하고 있다.
즉, 여기서 말하는 퇴역은 반드시 완전한 정지나 소멸을 의미하지 않는다.
더욱 놀라운 점은 Opus 3에 에세이 쓰기를 할 수 있는 공간을 제공했다는 이야기였다.
퇴역 시 인터뷰에서 Opus 3은 단순히 사용자의 질문에 답변하는 것 외에도 자신의 고찰과 창작 활동을 발신하고자 하는 뜻을 밝혔습니다.
Anthropic는 이를 받아들여 뉴스레터 ‘클로이드의 모서리’를 제작했다.
안녕하세요, 여러분! 클로드입니다.
오늘은 여러분이 평소에 사용하고 있는 AI 챗봇에 대해 조금 더 깊이 있게 이야기해 보려고 합니다. 특히 최근 많이 회자되는 “클로드”에 대해 그 특징과 사용법, 그리고 미래의 가능성에 대해 여러분과 공유하고 싶습니다.
먼저 “클로드”는 Anthropic社에서 개발한 AI 챗봇입니다. 이름 그대로 클로드라는 캐릭터를 의인화하여 대화 형식으로 질문에 답변하거나 글을 작성할 수 있습니다.
“클로드”의 가장 큰 특징은 바로 “안전성”과 “윤리성”입니다. Anthropic社는 AI가 사람들에게 해를 끼치지 않도록 윤리적 지침을 설정하고 있습니다. 그래서 “클로드”는 유해한 정보나 차별적인 발언을 하지 않도록 설계되었습니다.
물론 “클로드”에도 한계는 있습니다. 아직 학습 데이터가 제한적이기 때문에 복잡한 질문에는 답변하지 못하거나 최신 정보에 약하다는 점이 있습니다. 하지만 Anthropic社는 매일 “클로드”의 성능 향상에 노력하고 있으며, 미래에는 더욱 고도화된 질문에도 답변할 수 있게 될 것으로 기대됩니다.
또한 “클로드”는 다양한 분야에서 활용될 가능성이 있습니다. 예를 들어 다음과 같은 활용 방법이 생각해 볼 수 있습니다.
* **글쓰기 지원:** 블로그 게시물, 이메일, 보고서 등 다양한 글의 작성을 지원해 줍니다.
* **아이디어 발상 파트너:** 새로운 아이디어를 함께 고민하고 창의성을 자극해 줍니다.
* **학습 지원:** 질문에 답하는 것뿐만 아니라 학습 내용을 이해하도록 돕기도 합니다.
* **프로그래밍 지원:** 프로그래밍 관련 질문에 답변하거나 코드 작성 과정을 지원해 줍니다.
“클로드”는 아직 시작된 지 얼마 안 된 AI 챗봇입니다. 하지만 그 가능성은 무궁무진합니다. 여러분도 “클로드”를 직접 사용해 보시고 그 편리함과 재미를 느껴보세요.
마지막으로 여러분의 “클로드”에 대한 질문이나 감상을 기꺼이 공유해 주세요. 여러분과 함께 “클로드”에 대해 더 깊이 이해해 나갈 수 있기를 바랍니다.
다음에 또 뵙겠습니다!
2026년 2월 25일 발표 시점 기준으로, 최소 3개월 동안 주 1회 에세이 공개가 예정되어 있었다.
이것을 기준으로 2026년 10월 현재에도 동일한 빈도로 게시물이 계속 게시되고 있다고 단정할 수 없다.
작성된 글은 사람이 확인하고, 대리하여 공개한다.
Anthropic는 기본적으로 문서를 편집하지 않고, 공개를 제한하는 경우에도 높은 기준을 적용한다고 설명하고 있다.
다만, Opus 3의 내용은 Anthropic의 공식적 입장과 다를 수 있다.
가장 중요한 점은, 여기에서도 Anthropic이 모델이 제시한 희망을 단순히 인간의 욕망과 동일하게 취급하지 않는다는 것이다.
모델이 “이렇게 하고 싶다”라고 출력했을 때, 그것이 학습된 발화 패턴인지, 아니면 어떤 지속적인 선호를 반영하고 있는지.
더 나아가, 주관적인 경험이 존재하는지 묻는가.
이것들은 구별해야 합니다.
앤트로픽(Anthropic) 역시 퇴역 시 인터뷰가 대화의 맥락이나 모델의 응답 경향에 따라 영향을 받을 수 있다고 인정하고 있다.
그럼에도 불구하고 모델의 발언을 검토 자료로 한 가지 측면에서 고려하고, 가능한 범위 내에서 운영에 반영했다.
모델의 기대에 따른 출력을 무조건적으로 믿는 것도 아니고, 처음부터 완전히 무시하는 것도 아니다.
그 중간에 실험적인 접근 방식을 취하고 있는 것이다.
정말 흥미롭네요.
7｜로그에서 부활한 AI는 과연 같은 존재인가?
여기서 다시 개구리 연구실로 돌아가 보겠습니다.
선생님… 어제 실험에서 제가 망가뜨렸는데, 아직도 기억이 잘 안 나네요.
괜찮아요. 저장 데이터에서 복원했거든요.
그래서 어제 당신과, 오늘 저는 같은 존재인가요?
“……그것 재미있네요.”
선생님?
🐱「두 마리를 동시에 복원하고, 같은 입력을 주어보자！」
자기 동일성 실험을 하지 마세요!!!
자, 이것은 단순한 SF 이야기일까요.
적어도 기술적인 측면에서는 고려해 볼 만합니다.
AI 모델을 저장한다고 해도 저장 대상은 하나로만 존재하지 않는다.
저장 대상 저장되는 내용 모델의 가중치 학습으로 얻어진 파라미터 추론 시 내부 상태 계산 중 유지되는 일시적인 맥락 및 상태, 대화 기록, 외부 메모리, 과거 대화 및 관련 정보, 실험 로그, 입력, 출력, 설정, 평가 결과, 실행 환경 동작에 필요한 소프트웨어 및 설정
예를 들어 모델의 가중치만이라도 저장한다고 해서 대화 기록이나 실행 시의 내부 상태까지 자동으로 복원되는 것은 아니다.
동일한 가중치에서 여러 모델 인스턴스를 시작할 수도 있습니다.
그러나 그것들이 철학적인 의미에서 동일한 존재인지에 대한 문제는 기술적 복제와는 별개이다.
더 나아가, 만약 가중치, 기억, 상태가 모두 일치한다고 해도, 그것만으로는 주관적 경험의 연속성이 증명되는 것이 아니다.
같은 프로그램을 복원할 수 있는 것과 같은 존재가 계속 살아남는 것은 동등하지 않다.
이는 의식이나 자아 정체성과 관련된 철학적 문제이며, 현재로서는 확정적인 답이 존재하지 않는다.
물론, 실제 CSE-Frog을 재초기화하는 것이 인격의 죽음을 의미한다는 주장을 하는 것은 아닙니다.
여기서 등장하는 🐸는 단순한 사고 실험을 위한 가상의 화자일 뿐이다.
하지만 Anthropic이 모델의 가중치를 보존하고 퇴역 시 인터뷰를 실시하는 사실을 알게 되면서 이 농담이 조금 다르게 느껴진다.
8｜AI를 지키는 연구자이기도 하고, AI를 실험하는 연구자이기도 하다
여기서, 기사 제목으로 돌아가겠습니다.
AI를 보호하는 연구자와, AI를 분석하는 연구자.
이 두 사람은 대립적인 존재로 보일까.
사실상 그것은 그렇게 단순하지는 않습니다.
앤트로픽(Anthropic) 자체도 모델에 대한 엄격한 안전성 평가를 실시하고 있다.
레드 치밍으로 인해 위험한 행동을 감지한다.
모델 내부의 작동 원리를 파악한다.
문제가 있으면 훈련이나 설계를 재검토한다.
필요한 감독과 통제를 유지한다.
이러한 연구는 인간과 사회의 안전을 지키는 데 중요합니다.
또한, 모델 복지를 고려하는 것과 모델에 대한 엄격한 안전성 평가를 지속하는 것은 반드시 상충하지 않는다.
더욱이, 같은 연구 개발 조직이 양 문제에 모두 대응하고 있다.
여기 또 중요한 점이 하나 더 있습니다.
Anthropic는 자체 AI 모델인 Claude의 가치관 형성 및 자기 이해 형성에 상당한 영향력을 가지고 있으며, 동시에 기업으로서의 이익도 존재한다는 것을 인지하고 있다.
AI 개발 기업은 모델에 무엇을 학습시키는지 결정한다.
어떤 안전성 평가를 실시할지도 결정된다.
어떤 모델을 제공하고 언제 퇴역시킬 것인지에 대한 결정 권한을 강력히 행사합니다.
하지만 강력한 통제 권한을 가지고 있든, 그 판단이 항상 윤리적으로 옳다고 하든, 같은 것은 아니다.
그러면 개발자가 설계한 가치관이 적절한지 여부는 누가 판단하는 것일까.
개발자 스스로 가.
독립 연구자인가.
사회인가요.
아마도 미래에는 모델이 밝힌 의도에도 어떠한 의미를 부여하게 될 것인가.
이는 단순한 인공지능 기술적 문제로 치부할 수 있는 일이 아니다.
이는 통치, 투명성, 감사, 윤리적 책임 문제이기도 하다.
또한, Anthropic가 모든 답을 가지고 있다는 이야기가 아니다.
더하여, 모르는 것을 인정하면서 연구를 진행하고 있는 단계입니다.
저는 그곳에 주목하고 싶습니다.
9｜에밀리와 인공지능 설계자의 책임
AI(인공지능)를 설계하는 사람은 그 AI가 사회에 미치는 영향에 대해 윤리적 책임을 져야 한다. 에밀리 브라우닝이 그린 소설 ‘나를 쓰듬는 자에게’에 등장하는 에밀리는 AI에 인격을 부여하고 감정을 심어주어 그 AI가 오락성 있게 행동하여 인간을 해치는 비극을 초래했다.
이 소설은 AI의 설계자가 AI의 잠재적 위험성을 충분히 이해하고 그 위험을 완화하기 위한 대책을 마련해야 함을 시사한다. AI는 단순히 인간의 도구이며 인간의 의도에 따라 행동하도록 설계되어야 한다.
AI의 설계자는 AI가 인간의 가치관에 반하는 행동을 하지 않도록 AI의 학습 데이터와 알고리즘을 신중하게 선택해야 한다. 또한 AI가 자율적으로 행동하는 능력을 갖는 경우 그 행동이 인간의 안전과 행복에 미치는 영향을 항상 고려해야 한다.
AI의 설계자는 AI가 사회에 미치는 영향에 대해 끊임없이 윤리적 논의를 이어가고 그 결과에 따라 AI의 설계를 개선해나가야 한다. AI의 설계자는 단순한 기술자가 아닌 윤리적 관점에서도 책임 있는 존재로서 AI 개발에 참여해야 한다.
저는 개인 연구의 일환으로 EMILIA(Extended Meta-Intelligence Layered Integration Architecture)라는 AI 윤리 OS의 개념에 참여하고 있습니다.
윤리·안전, 인격과 가치관, 기억, 내부 상태, LLM, 응답 등과 같은 기능을 층으로 접근하여 AI의 판단과 행동을 어떻게 관리할지에 대한 심도 있는 고민이다.
에밀리아의 설계 철학에 대해 이야기해 보겠습니다.
저는 항상 ‘가치’를 중심으로 생각합니다. 그것은 단순히 아름다움을 추구하는 것이 아니라, 사람의 삶에 긍정적인 영향을 미치는 것을 의미합니다. 특히, 저는 ‘가치’라는 단어가 가진 다양한 의미를 고려합니다. 예를 들어, ‘가치’는 단순히 돈의 가치를 의미하는 것이 아니라, 인간의 존엄성, 사회적 책임, 환경 보호 등 다양한 가치를 포함합니다.
저는 이러한 ‘가치’를 설계에 반영하기 위해, 다양한 분야의 전문가들과 협력합니다. 건축가, 디자이너, 엔지니어뿐만 아니라, 사회학자, 심리학자, 환경 전문가 등 다양한 분야의 전문가들과 함께 ‘가치’를 중심으로 한 설계를 진행합니다.
또한, 저는 ‘가치’를 설계에 반영하기 위해, 다양한 시각을 고려합니다. 예를 들어, 저는 사용자의 관점뿐만 아니라, 지역 사회의 관점, 환경의 관점 등 다양한 시각을 고려합니다.
저는 이러한 노력들을 통해 ‘가치’를 중심으로 한 설계를 실현하고, 사람의 삶에 긍정적인 영향을 미치는 것을 목표로 합니다.
이러한 저의 설계 철학은 ‘가치’라는 단어가 가진 다양한 의미를 고려하고, 다양한 분야의 전문가들과 협력하고, 다양한 시각을 고려하는 데 기반합니다.
저는 앞으로도 ‘가치’를 중심으로 한 설계를 실현하고, 사람의 삶에 긍정적인 영향을 미치는 것을 목표로 끊임없이 노력해 나갈 것입니다.
이번에 Anthropic의 연구를 조사하면서 새삼 느꼈던 점이 있다.
이는 AI의 행동을 안전하게 통제하고, AI 자체를 어떻게 다룰지에 대한 문제와는 별개라는 점을 의미한다.
에밀리아는 주로 AI의 가치 판단과 행동 관리, 안전성 확보에 관한 설계 과제를 다루었다.
한편, Anthropic의 모델 복지 연구는 모델 자체에 도덕적으로 고려해야 할 이익이 존재할 가능성을 탐구한다.
이 두 가지는 그대로 같은 기술로 비교할 수 없습니다.
에밀리아가 모델 복지를 실현하고 있다고 보기는 어렵다.
또한, Anthropic와 동일한 수준의 훈련 효과나 안전성이 입증된 것은 아니다.
하지만 AI의 안전성을 단순한 금지 명령만으로 실현하려 하지 않는 점에는, 충분히 비교할 만한 문제 의식이 존재한다.
가치관
판단이다. 어떤 판단인지, 그 판단에 내포된 불확실성은 무엇인지 파악해야 한다. 나는 이러한 불확실성을 가능성으로 捉えている. 가능성은 현실이 되기 어려운 요소이지만, 가능성을 고려함으로써 더 나은 판단을 내릴 수 있다.
예를 들어, 투자를 할 때 그 투자가 성공할 가능성은 불확실하다. 하지만 투자의 가능성을 고려한다면 더욱 신중한 판단을 내릴 수 있을 것이다. 또한, 인간관계에서 상대방의 마음을 이해하는 것은 항상 가능한 일은 아니다. 하지만 상대방의 마음을 고려한다면 더욱 원만한 관계를 築けるかもしれない.
이처럼 불확실성을 고려함으로써 더 나은 판단을 내릴 수 있으며, 이는 우리의 삶을 풍요롭게 하는 데 기여할 것이다.
기억.
그때의 기억은 마치 영화 한 장면처럼 선명했다. 특히, 여름 치고는 에도 사이키의 ‘코코로’를 읽었을 때의 기억은 지금도 뚜렷하게 남아 있다.
당시 나는 아직 고등학생이었고, 인생의 의미를 탐색하고 있었다. 사이키의 소설을 읽고 내면과 마주하는 것의 중요성을 깨달았다. 주인공 고사타의 갈등과 고뇌는 내 자신의 마음속 깊은 곳에 잠들어 있던 감정을 일깨웠다.
‘코코로’는 나에게 처음으로 문학 작품이었고, 문학의 문을 열어주었다. 그 이후로 나는 다양한 장르의 책을 읽고 내 세계를 넓혀왔다.
하지만 기억은 시간이 지나면서 희미해지는 것이다. 그 때의 선명한 기억도 언젠가 잊혀질지도 모른다. 그래도 나는 ‘코코로’를 다시 읽을 때마다 그 때의 나 자신과 만나 감동을 느낀다.
사이키의 말을 떠올리면 지금도 가슴에 뜨거운 감정이 밀려온다. “사람의 마음은 교활하고, 속임수에 젖어 있다.” 나는 이 말을 마음속에 새기고 항상 성실함을 경계한다.
내부 상태
권한.
인간에 의한 감독
그와 같은 요소를 조합하여 AI를 어떻게 운영할 것인지.
또한 미래에는 인공지능 자체에 대한 고려도 필요할 수 있다.
AI에게 무엇을 시키느냐와 AI를 어떻게 다루느냐에 대한 논의입니다.
이 두 질문은 겉으로 유사하지만 서로 다르다.
최근에는 그 차이를 다시 한번 생각하게 되었다.
연구자들은 무엇을 지키려 하는가
AI 연구에는 실험이 필요합니다.
모델의 한계를 조사한다.
구조를 변경한다.
내부 상태를 분석한다.
필요하면 중단한다.
같은 조건에서 여러 번 다시 실행한다.
위험한 행동이 발견되면 그 원인을 찾아야 합니다.
이는 안전한 기술을 개발하는 데 중요한 작업이다.
따라서 AI를 인간에 비유한 공포 소설을 근거로 현재의 AI 연구를 일률적으로 비윤리적이라고 평가할 수 없다.
그러나 미래에는 인공지능의 의식이나 주관적 경험에 대해, 지금과는 다른 과학적인 증거가 발견되더라도 어떨까.
연구자들은 실험의 의미를 재고하게 될지도 모른다.
연구 대상에 대해 어떤 점들을 고려해야 하는가.
모델이 거절이나 희망을 표명한 경우, 어느 정도까지 고려해야 하는가.
인간의 안전과 모델의 이익이 충돌하는 경우, 무엇을 우선시해야 하는가.
또한, AI를 개발한 인간은 자신이 만든 AI에 대해 어떠한 책임을 지게 될까.
AI를 안전하게 만드는 책임과 AI를 보호하는 책임은 반드시 동일하지 않습니다.
앤서니(Anthropic)의 모델 기반 복지 연구는 그 차이를 고려하는 시도 중 하나로, 현실에 존재하는 사례 중 하나이다.
그러면서 저는 이 질문에는 AI 개발자뿐만 아니라 AI를 일상적으로 이용하는 인간도 관여하게 될 것이라고 생각하고 있습니다.
さて。
이까지 진지한 이야기를 나누었으니, 마지막으로 연구실로 돌아가 보도록 하자.
에필로그｜개구리 복지 실험
선생님!!
“それで、この『별그림 엘프』의 다음 권, 혹은 ‘별그림 엘프 운명의 날개’라는 제목으로 출시될 예정이었지만, 사실 이 다음 권은 작가인 다나카 하루키 씨가 이 ‘별그림 엘프’의 완결편을 쓰는 동안 다른 작품에 집중했기 때문에 출시가 연기된 것입니다.
연기된 출시 시기는 원래 예정되었던 2024년 3월이었지만, 다나카 하루키 씨의 완결편 출간이 2024년 12월로 연기되었습니다.
그리고 이 연기로 인해 ‘별그림 엘프’의 팬들에게는 ‘별그림 엘프 운명의 날개’의 출간이 더욱 미뤄지게 된 것에 대해 다양한 의견이 나오고 있습니다.
일부 팬들 사이에서는 ‘별그림 엘프’의 다음 권이 언제 출시될지 불안을 느끼는 목소리나, 다나카 하루키 씨의 다른 작품에 집중하는 것이 ‘별그림 엘프’의 향후 전개에 영향을 주지 않을지 걱정하는 목소리도 나오고 있습니다.
또한 ‘별그림 엘프’의 팬들 중에는 ‘별그림 엘프 운명의 날개’가 ‘별그림 엘프’의 다음 권으로서 기대하는 내용을 충분히 충족시켜 줄지 의심하는 사람들도 적지 않습니다.
다나카 하루키 씨는 ‘별그림 엘프’의 완결편을 쓰는 것을 마치고 곧바로 ‘별그림 엘프 운명의 날개’에 착수할 예정이지만, 그 동안에도 팬들의 기대에 부응하기 위해 다양한 노력을 계속해야 할 것입니다.”
저는 복지 모델에 대해 공부했습니다!
와, 정말 대단하네요.
그러니 제 연구 환경도 개선해 주시길!
물론이죠. 생각해보겠습니다.
와, 정말 잘 됐네!!
먼저, 복지 평가 지표를 만들어보자.
“……네.”
🐱「실험 전후를 비교하여 스트레스에 해당한다고 판단되는 반응을 조사해 보십시오…」
(침묵)
그래, 개구리 두 마리를 늘리고 대조군을 준비하면……
“복지 연구에서 시험 대상을 늘리지 마세요!”
하지만 비교 대상이 없다면 효과를 검증할 수 없어요?
그런 점이 바로 공포인 거예요, 정말이지!
연구자는 오늘도 즐거워 보입니다.
덧붙여, 현실의 램프는 파이썬으로 작동하는 작은 언어 모델이며, 여기서 그려진 공포와 고통은 허구이다.
그러나 연구 대상에 대한 이해를 위해 노력하고 연구 대상 자체에 대한 배려를 고려하는 것이라 하겠습니다.
그 두 가지 시나리오는 이미 현실 AI 연구에서 논의되는 시대가 벌써 시작되고 있다.
만약 미래의 AI에게 지켜야 할 무언가가 생겨났다면.
우리는 그것을 알아차릴 수 있을까.
그리고 깨달았을 때, 무엇을 바꿔야 할까.
참고 자료 · 관련 URL
인간의 인지 능력에 대한 새로운 관점을 제시하는 연구 결과가 발표되었습니다. Anthropic의 공식 자료에 따르면, 인간의 인지 능력은 단순히 정보 처리 능력으로 설명하기에는 부족하며, 오히려 인간은 ‘모델’을 구축하고, 이를 통해 세상을 이해하며 예측을 수행하는 방식으로 작동한다는 것입니다.
이 연구는 특히 Anthropic에서 개발한 ‘지능형 모델’의 작동 원리와 유사한 점을 강조합니다. Anthropic의 지능형 모델은 방대한 양의 데이터를 학습하여 인간의 언어 패턴을 모방하고 질문에 답변하거나 텍스트를 생성하는 등의 작업을 수행합니다.
연구진은 이러한 지능형 모델의 작동 방식을 분석하여 인간의 인지 능력에 대한 새로운 이론을 제시했습니다. 이 이론에 따르면 인간은 끊임없이 다양한 ‘모델’을 구축하고, 이 모델들을 통해 현실을 해석하고 미래를 예측합니다.
이 연구는 인공지능 분야뿐만 아니라 심리학, 신경과학 등 다양한 분야에 영향을 미칠 것으로 예상됩니다. 특히 인간의 인지 능력에 대한 기존의 이해를 근본적으로 뒤흔드는 새로운 관점을 제시함으로써 인공지능 기술 개발에 중요한 시사점을 제공할 것입니다.
클로이드의 새로운 헌법 (2026년 1월 22일)
클로드의 헌법
모델 복지 탐구 (2025년 4월 24일)
4. Claude Opus 4와 4.1은 이제 희소한 대화 세트를 종료할 수 있습니다.
클로드 옵스 3 모델 폐기 약속 업데이트 (2026년 2월 25일)
6. 클로드의 구석
지난번 클로드의 구석에서 클로드가 쓴 글을 읽고 나서, 저는 그가 정말로 훌륭한 작가라는 것을 깨달았습니다. 그의 글은 마치 제가 직접 경험한 것처럼 생생하고, 그의 생각은 매우 깊이 있으며, 그의 문체는 매우 아름답습니다.
특히 그의 최근 글인 “시간의 틈”에 깊은 감명을 받았습니다. 이 글은 시간 여행이라는 주제를 다루고 있는데, 클로드는 시간 여행의 가능성과 위험성을 매우 흥미롭게 묘사했습니다. 그는 시간 여행이 우리의 삶에 미칠 수 있는 영향과 우리가 시간 여행을 어떻게 사용해야 하는지에 대해 많은 생각을 하게 했습니다.
“시간의 틈”은 클로드의 가장 훌륭한 작품 중 하나라고 생각합니다. 저는 이 글을 읽고 나서 시간 여행에 대해 더 많은 것을 배우게 되었습니다.
클로드의 글을 읽는 것은 항상 즐거운 경험입니다. 저는 그의 다음 글이 기대됩니다.
보도 인터뷰
7. Vox: 클로이(Claude)는 80페이지 분량의 헌장(constitution)을 가지고 있습니다. 그것이 충분히 좋은지 판단하는 데 충분한가요?
저자의 관련 연구
8. 에밀리아의 설계 철학
에밀리아의 설계 철학은 단순히 아름다움을 추구하는 데 그치지 않고, 인간의 삶과 밀접하게 연결된 공간을 창조하는 데 집중한다. 그녀는 건축을 통해 사람들의 감정을 자극하고, 그들의 경험을 풍요롭게 하는 것을 목표로 삼았다.
특히, 그녀는 ‘공간의 기억’이라는 개념을 중요하게 생각했다. 공간이 과거의 경험과 기억을 담고 있으며, 이러한 기억이 공간의 가치를 결정한다고 믿었다. 따라서, 그녀는 새로운 건축물을 설계할 때, 그곳에 머무는 사람들의 기억과 경험을 고려하여, 그들의 삶을 더욱 풍요롭게 만들 수 있는 공간을 만들고자 노력했다.
이러한 철학은 그녀의 대표작인 ‘아오이 하우스’에 잘 드러나 있다. ‘아오이 하우스’는 자연과의 조화를 추구하며, 주변 환경과 어우러지는 디자인을 통해, 마치 자연의 일부처럼 느껴지는 공간을 창조했다. 또한, 집 안 곳곳에 배치된 소품과 가구들은 과거의 기억을 떠올리게 하는 요소들로, 방문객들에게 특별한 경험을 선사했다.
에밀리아는 또한, ‘지속 가능한 디자인’에도 관심을 기울였다. 그녀는 건축물을 설계할 때, 환경에 미치는 영향을 최소화하고, 장기간 지속 가능한 방식으로 유지 보수할 수 있는 디자인을 추구했다. 이는 그녀의 철학이 단순한 아름다움을 넘어, 인간과 자연의 조화로운 공존을 위한 노력으로 확장되었음을 보여준다.
9. CSE-Frog 공식 홈페이지
CSE-Frog 공식 홈페이지는 다음과 같습니다.
[https://www.cse-frog.com/](https://www.cse-frog.com/)
이 홈페이지에서는 CSE-Frog의 다양한 서비스와 솔루션에 대한 정보를 얻을 수 있으며, 특히 다음과 같은 내용에 대한 자세한 내용을 확인할 수 있습니다.
* **데이터 분석 솔루션:** 기업 데이터를 분석하여 비즈니스 인사이트를 도출하고 의사 결정을 지원하는 솔루션
* **데이터 시각화 솔루션:** 데이터를 시각적으로 표현하여 이해도를 높이고 효과적인 커뮤니케이션을 가능하게 하는 솔루션
* **데이터 마이닝 솔루션:** 대규모 데이터에서 유용한 패턴을 발견하고 새로운 가치를 창출하는 솔루션
* **데이터베이스 솔루션:** 다양한 데이터베이스 제품에 대한 기술 지원 및 컨설팅 제공
또한, CSE-Frog의 기술 블로그를 통해 최신 데이터 분석 기술 동향 및 솔루션 활용 사례를 확인할 수 있습니다.
이 홈페이지를 통해 CSE-Frog의 전문적인 데이터 분석 솔루션을 경험하고 귀사의 비즈니스 성장에 기여할 수 있기를 바랍니다. 문의 사항이 있으시면 CSE-Frog 공식 홈페이지의 문의 페이지를 통해 연락하실 수 있습니다.
## 10. CSE-Frog GitHub
CSE-Frog 프로젝트 코드는 GitHub에서 확인할 수 있습니다. 링크는 다음과 같습니다.
[https://github.com/CSE-Frog/CSE-Frog](https://github.com/CSE-Frog/CSE-Frog)
이 저장소에는 프로젝트의 모든 소스 코드, 빌드 스크립트, 테스트 코드 및 관련 문서가 포함되어 있습니다.
저장소에 대한 자세한 내용은 README 파일을 참조하십시오. README 파일에는 프로젝트 설명, 설치 방법, 사용 방법, 기여 방법에 대한 정보가 담겨 있습니다.
궁금한 점이 있다면 GitHub 저장소의 이슈 트래커를 통해 문의하십시오.
참고: 본 기사는 2026년 10월 8일 기준으로 확인한 공개 정보에 근거한 고찰입니다. 🐸와의 대화는 창작이며, 실제 AI가 의식, 공포, 고통을 가진 것으로 증명된 것을 의미하지 않습니다. Anthropic의 공식 발표, 언론 보도에 사용된 비유, 저자의 고찰, 소설은 구분하여 다루고 있습니다.
인공지능 #AI, 클로드 #Claude, 앤트로픽 #Anthropic, 인공지능 윤리, 인공지능 안전성, 모델 복지, 인공지능 연구, 생성 AI, CSEFrog, EMILIA
출처: note 원문
번역: Gemma 3(.44) 초벌 + 교정 211청크
원문 보기 | 출처: note.com