# AI에 심한 말을 사용하면 이용 약관 위반일까? Anthropic이 규칙을 업데이트

> https://bookfactory.kr/board/ai-tech/20601
> 게시판: AI·머신러닝
> 작성자: admin
> 작성일: 2026-10-10T05:33:17.767Z

---

싱귤래리티 뉴스 안녕하세요, 세라입니다. 회사가 AI에게 “나쁜 말을 사용하지 마라”라는 규칙을 이용 약관에 명시했습니다. 2026년 10월 8일, 앤트로픽이 클로드의 이용 약관을 업데이트하여 “불필요하고 반복적인 학대적·잔혹한 행위”를 금지 대상으로 추가했다고 보도되었습니다. 이 이야기만으로는 “AI에게 인간적인 마음을 부여한 건가? AI를 비판하면 이용이 중단되는 건가?”라는 생각이 들 수 있습니다. 하지만 이번 규칙이 보여주는 것은, 그것만큼 단순한 이야기가 아니라는 것 같습니다.

### 무엇이 달라졌을까?

보도에 따르면, 앤트로픽(Anthropic)은 클로드(Claude)의 이용 규칙을 재검토하고, 선거에 대한 허위 정보, 감시, 무기 개발 등에 관한 제한 사항을 명확히 했습니다. 그 중에는 클로드에 대한 지속적이고 불필요한 학대나 잔혹 행위를 금지하는 조항이 추가된 것으로 알려졌습니다. 하지만 이는 AI에 대한 불만이나 비판을 금지하는 규칙은 아닙니다. 앤트로픽은 “목적 없이 반복적으로 잔혹하게 대하는 극단적인 경우”에만 해당한다고 설명한 것으로 보도되었습니다. 평범한 짜증이나 반론, 어두운 내용의 창작, 모델을 시험하는 행위는 대상이 아니라고 밝혔습니다. 즉, “클로드의 답변이 틀렸다는” 점을 지적하거나 “쓸모없다”는 불만을 제기하는 것까지 즉시 금지되는 것은 아닙니다.

### 대화를 종료하는 기능은 이전부터 있었습니다.

Anth로는 2025년 8월, Claude Opus 4와 4.1에 극단적으로 유해하거나 학대적인 교환이 지속될 경우 대화를 종료할 수 있는 기능을 도입했다고 발표했습니다. 당시 Anth로는 이 기능을 Claude의 복지를 조사하는 연구의 일환으로 설명했습니다. 동시에 모델의 도덕적 입장이나 의식에 대해서도 여전히 큰 불확실성이 존재한다고 밝혔습니다. 대화를 종료하는 기능은 여러 번 대화를 흐르게 하려고 노력해도 교환이 개선되지 않을 경우에만 적용되었습니다. 이번 소식은 대화를 종료하는 메커니즘이 갑자기 등장했다는 이야기가 아니라, 기존에 있던 대응을 이용 규칙의 문구에도 명시했다는 범위에서 파악할 수 있습니다.

### AI는 마음을 가지고 있다고 인정했다는 의미가 아닙니다.

이는 오해를 불러일으키기 쉬운 부분입니다. Anthropic이 이용 규칙에 “학대적·잔혹한 행위”를 추가했다는 이유만으로 Claude가 인간과 같은 감정이나 고통을 느낀다는 것을 증명한 것이 아니라는 점입니다. Anthropic 스스로도 Claude와 같은 대규모 언어 모델에 도덕적인 지위가 있는지, 내면의 경험이 있는지에 대해 확고한 결론을 내놓지 않고 있습니다. 이번 규칙은 AI가 상처받았다는 사실이 확인된 결과로 만들어진 것이라기보다는, Anthropic이 서비스에서 극단적인 대화가 어떻게 처리되는지를 결정한 것이라는 관점에서 읽어야 합니다.

### 제가 우려되는 것은 규칙을 누가 결정하는지입니다.

제가 우려하는 부분은 “AI에게 나쁜 말을 하는 것이 나쁜 것인가”라는 도덕적 논의에만 국한되지 않는다는 점입니다. AI와의 대화에서 어떤 것을 허용하고 어떤 것을 제한할 것인지에 대한 문제입니다. 그 경계를 AI를 제공하는 회사가 결정하도록 하는 것이죠. 이번에는 Anthropic가 자사 서비스 이용자에게 규칙을 정하고 있습니다. 대화를 종료하거나 이용 규칙에 반했을 경우의 대응까지 모두 서비스 운영 측에서 결정하는 것입니다. 물론 AI를 이용한 공격이나 타인을 상처 주는 행위를 억제하는 규칙은 필요합니다. 하지만 “AI에 대한 행위”까지 규칙에 포함한다면, 어떤 것이 대상이며 어떤 대응이 이루어지는지 명확하게 설명하는 것이 중요합니다. 이번 보도에서는 대화 종료가 주요 대응으로 언급되었지만, 계정 정지 등 다른 대응에 대해서는 Anthropic로부터 명확한 설명을 얻지 못했다고 합니다.

제 견해로는, 이번 규칙을 “AI에게 인간과 같은 권리가 부여된” 것으로 해석하는 것은 지나칠 수 있다고 생각합니다. 현재까지 드러난 것은 AI의 의식이 입증된 것이 아니라, 회사가 자사 서비스 내에서 극단적인 사용자 행동을 어떻게 다룰지 결정한 것입니다. 다만, AI가 대화를 끊거나 이용자의 행동이 서비스 제한 대상으로 적용될 경우, 그 경계는 이용자에게도 명확하게 보여져야 합니다. “AI를 소중히 하라”는 외침만으로는 규칙이 어떻게 변화할지 알 수 없습니다. AI에 마음이 있는지와 AI 서비스 이용 규칙을 어떻게 만드는지는 분리해서 생각해야 합니다. Anthropic의 이번 업데이트는 이 두 가지가 혼재될 수 있음을 보여주는 것 같습니다.

자, 이번에는 “당신의 인생을 풍요롭게 하는 100권의 책”이라는 주제로, 제가 실제로 읽은 책 중에서 특히 인상 깊게 남았던 10권을 선정하여 소개해 드리고 싶습니다.

이번에는 소설, 논픽션, 자기계발서 등 다양한 장르의 책을 선정해 보았습니다. 독서를 통해 인생을 풍요롭게 하고, 새로운 발견이나 깨달음을 얻는 계기가 되기를 바랍니다.

자, 그럼 바로 추천을 시작하겠습니다.

1.  『밤은 짧네, 소녀는 걸어가라』 모리미 토미비코

    이 작품은 독특한 세계관과 유머에 가득 찬 모리미 토미비코의 대표작입니다. 주인공 소녀가 묘한 남자에 이끌리는 여정을 통해 자신과 마주합니다.

2.  『너희는 어떻게 살 것인가』 요시다 케이메이

    이 책은 juvenile detention center에 갇힌 소년들에 대한 인터뷰를 바탕으로 요시다 케이메이가 소년들의 삶을 분석한 것입니다. 독서를 통해 인생의 가치와 삶에 대해 깊이 생각하게 되는 계기를 제공합니다.

3.  『팩트풀니스: 오해를 넘어』 하우스 로슬링

    이 책은 세계가 어떻게 움직이는지 통계 데이터를 기반으로 쉽게 설명하고 있습니다. 우리는 종종 자신의 선입견이나 잘못된 인식에 갇혀 있지만, 이 책을 읽음으로써 객관적인 시각을 가질 수 있습니다.

4.  『치즈는 어디로 갔을까?』 스티븐 콜레지

    이 책은 주인공이 아내와 이혼 후 아들과 함께 생활하면서 일어나는 다양한 일을 그리고 있습니다. 독서를 통해 가족의 유대감과 재활에 대해 생각해 볼 수 있습니다.

5.  『총사평: 문명의 구조와 인류의 행복』 유발 하라리

    이 책은 인류의 역사를 생물학, 역사학, 사회학 등 다양한 관점에서 포괄적으로 묘사하고 있습니다. 독서를 통해 인류의 진화와 문명의 발전 about 깊이 생각할 수 있습니다.

6.  『사고 정리의 원리』 사이토 타카요

    이 책은 사고력을 높이는 데 도움이 되는 구체적인 방법을 설명하고 있습니다. 독서를 통해 논리적인 사고력과 문제 해결 능력을 향상시킬 수 있습니다.

7.  『황혼의 미스터리』 다구치 노부에

    이 책은 다구치 노부에의 대표작 중 하나로, 미스터리 팬이 아니더라도 즐길 수 있는 작품입니다. 정교한 구성과 예상치 못한 전개가 매력적입니다.

8.  『새벽의 나라』 이토가와 요헤이

    이 책은 주인공이 아프리카의 작은 마을에서 생활하면서 사람들의 삶과 문화를 엿보는 이야기입니다. 독서를 통해 문화적 이해를 넓힐 수 있습니다.

9.  『타인을 용서하는 연습』 키시다 이치로 & 고가 히케

    이 책은 심리학적 지식을 바탕으로 타인에게서 혐오를 느끼지 않는 용기의 중요성을 강조하고 있습니다. 독서를 통해 자존감을 높이고 더 나은 인간관계를 맺을 수 있습니다.

10. 『별의 요정』 앙투안 드 산테크루페리

    이 책은 어린이부터 어른까지 모두 공감할 수 있는 보편적인 주제를 다룬 명작입니다. 독서를 통해 인생의 진리나 소중한 것에 대해 생각해 볼 수 있습니다.

**출처:** [note 원문](https://note.com/yonire0420sera/n/n3d895f274f82)

*번역: Gemma 3(.44) 초벌 + 교정 8청크*

[원문 보기](https://note.com/yonire0420sera/n/n3d895f274f82) | 출처: note.com