# 클로드의 문장 워터마크는 “AI가 쓴 증거”가 아닙니다.

> https://bookfactory.kr/c/ai-tech/12188
> 게시판: AI·머신러닝
> 작성자: admin
> 작성일: 2026-09-14T09:56:31.898Z

---

![見出し画像](https://assets.st-note.com/production/uploads/images/307151822/rectangle_large_type_2_8625e40ed81b132fe108f0fec9c2e07e.png?width=1280)

## 먼저 요약

Anthropic는 2026년 8월 14일, 향후 대응 시 Claude 모델이 생성하는 텍스트에 대해 독자에게는 보이지 않는 “통계적 워터마크”를 삽입할 예정이라고 밝혔습니다. 숨겨진 문자나 사용자 ID를 삽입하는 방식이 아닙니다. 텍스트를 만드는 과정에서의 어휘 선택에 비밀 키로 감지 가능한 통계적 패턴을 織り込む 방식입니다.

중요한 것은, 검출 결과가 시사하는 바는 “클로드(Claude)가 이 문장의 작성 또는 처리 과정에 관여했을 가능성”뿐이라는 점입니다. 누가 아이디어를 제시했는지, 편집 정도는 어느 정도인지, 내용의 정확성, 저작권 귀속, 부정행위 여부 등은 알 수 없습니다.

반대로, 워터마크가 탐지되지 않는다고 해서 반드시 인간이 쓴 것이라고 단정할 수 없습니다. 짧은 문장, 교정, 코드, 오래된 모델의 출력, 강하게 편집 및 번역 또는 혼합된 문장에서는 신호가 약하거나 사라졌을 가능성이 있습니다.

그러므로 리스크 관리에 대한 결론은 다음과 같습니다.

- 표시는 “증거 중 하나”일 뿐만 아니라, 단독으로 불합격 또는 계약 해지를 결정하는 증거로 보지 않는다.
- AI 활용 여부뿐만 아니라 활용 목적, 참여 정도, 사람의 확인, 근거, 버전 이력을 남깁니다.
- 기밀 문서 및 개인 정보를 승인된 검색 서비스에만 전송하십시오.
- 정보 공개의 필요성은 워터마크의 유무가 아닌, 용도, 상대방의 기대, 계약, 법규, 그리고 실질적인 AI 개입 여부에 따라 결정된다.
- 저작권 표시(레이아웃)를 “삭제하는 것”의 목적이 아닌, 공개적 책임을 질 수 있는 문장으로 편집한다.

저작권 표시(워터마크)는 생성 AI 이용을 금지하는 메커니즘이라기보다는 정보의 출처를 나타내는 새로운 신호입니다. 하지만 이 신호에 지나치게 의존하면 투명성을 위한 메커니즘이 새로운 오판을 낳을 수 있습니다.

## 무엇이 발표되었는가?

Anthropic의 공식 발표와 헬프센터에 따르면, 2026년 8월 2일 이후에 EU에서 제공 개시되는 새로운 Claude 모델은 생성 텍스트에 기계 판독 마크를 부착합니다. 대상 모델의 마크는 Claude의 웹 및 앱뿐만 아니라 API, Claude Code, Claude Cowork, 클라우드 사업자 경로 등을 포함한 모든 관련 사용 면에 모델 레벨에서 적용되며, 지역은 EU에 한정하지 않고 Claude가 제공되는 모든 장소에서 전 세계적으로 적용하는 정책입니다.

다만, “2026년 8월 2일부터 과거의 모든 Claude 출력에 일괄적으로 워터마크가 삽입된다”는 의미는 아닙니다.

- 새로운 대응 모델은 제공 시작 시부터 마크를 긋습니다.
- 2026년 8월 2일 이전 제공된 모델은 지원 중인 작업입니다.
- 2026년 8월 2일 이전에 제작된 문서에는 후속적으로 워터마크가 삽입되지 않습니다.
- 플랫폼, 기능, 파일 형식에 따라 대응하는 마크의 종류에 차이가 있을 수 있습니다.

2026년 8월 26일 현재 안토하픽(Anthropic)은 워터마크 탐지 API를 제공할 예정이지만, 일반 사용 방법, 판정 기준 해석, 대상 모델, 최소 문자 수 등의 상세 기술 문서는 아직 향후 공개될 예정입니다. 현재 단계에서는 SNS상의 단정적인 정보보다 모델별 공식적인 대응 상황을 확인하는 것이 중요합니다.

유럽 위원회 FAQ에서는 2026년 8월 2일 이전에 시장 출시된 AI 시스템에 대해 제50조 2항의 마크 감지 의무에 대해 2026년 12월 2일까지 제한적인 유예 기간이 부여된다고 설명하고 있습니다. 또한 EU 법 자체에는 표준적인 편집 지원에만 한정되며, 입력이나 의미를 실질적으로 변환하지 않는 경우 등의 예외 조항이 존재합니다. 이는 Anthropic이 자사 제품으로 공개하고 있는 세계 공통 구현 범위와는 별도로 해석해야 합니다.

### 문맥과 파일에서는 “마크” 방식이 다릅니다.

앤서니의 방식은 크게 두 가지입니다.

- 문장의 통계적 워터마크 구조를 구성하는 어휘 선택에 패턴이 내포됩니다. 복사 및 붙여넣기 해도 문장 자체는 동일하면 신호가 남아 일부 편집 이후에도 남아있을 수 있습니다.
- C2PA라는 공개 표준에 부합하는 암호 서명付き의 이력 정보가 지원 파일(PNG, JPG, SVG 등)에 첨부됩니다. 이는 텍스트의 통계적 워터마크와는 별개이며, 재저장, 형식 변환, 스크린샷 등으로 인해 메타데이터가 손실될 수 있습니다.

보이지 않는 워터마크”라는 표현에서 0폭 문자나 특수 유니코드 문자가 삽입되는 것을 상상할 수도 있습니다. 하지만 Anthropic은 문자 추가 방식이 아닌, 추가 토큰도 개인 식별 정보도 포함되지 않는다고 설명하고 있습니다.

## 왜 지금, 워터마크가 문제인가요?

이는 유럽 연합 인공지능(AI) 법(EU 인공지능법) 제50조의 투명성 의무에 따라, 2026년 8월 2일부터 합성된 텍스트, 이미지, 음성, 영상 등을 생성하는 AI 시스템의 제공자는 기술적으로 가능한 범위 내에서 출력을 기계 판독 가능한 형태로 표시하고, AI 생성 또는 가공물로 감지할 수 있도록 하는 의무를 지게 된다.

앤트로픽은 유럽연합의 “AI 생성 콘텐츠 투명성 행동 지침”에 서명했습니다. 유럽위원회에 따르면 2026년 7월 말까지 약 190개의 조직이 서명하며, 앤트로픽 외에도 구글, 메타, 마이크로소프트, 미스트랄, OpenAI 등이 제공자용 장에 서명했습니다.

여기 두 가지를 분리해야 합니다.

- 제공자의 의무: AI 서비스 측에서 생성물에 기계 판독 가능한 마크를 부착하고, 검출이 가능하도록 하는 것.
- 사용자 및 도입자 측의 표시: AI로 제작·가공한 특정 콘텐츠를 사람이 인지할 수 있는 형태로 공개하는 것.

본문 내용에 대해 EU 사용자 측의 표시 의무는 모든 경우에 일률적으로 적용되는 것은 아닙니다. 2026년 7월 유럽연합 집행위 설명에 따르면, 공공의 이익과 관련된 정보를 공중에 전달하기 위해 공개하는 AI 생성·가공 텍스트가 중심이며, 실질적인 사람의 검토와 편집 책임이 있는 경우에는 표시 의무의 예외가 될 수 있습니다. 단순한 오타 수정만으로는 실질적인 검토로 간주되지 않습니다.

개인적인 note 게시글에 EU 법이 적용되는 방식은 활동의 성격(개인적 또는 직업적), EU와의 관계, 내용, 공개 목적, 검토 및 편집 책임 등 여러 요인에 따라 달라집니다. 일본 내에서 워터마크가 검출되었다고 해서 즉시 불법 또는 표시 의무 위반에 해당하는 것은 아니며, 개별 사안에서는 법률 확인이 필요합니다.

## 통계적 워터마크는 문장에 어떻게 적용되는가

전문 지식이 없더라도 기본적인 원리는 이해할 수 있습니다.

생성 AI는 한 번에 전체 문장을 작성하는 것이 아닙니다. 직전까지의 문맥을 보면서, 다음에 이어질 단어나 기호의 후보를 하나씩 선택합니다. 정답이 하나뿐인 경우도 있지만, “흐릿했다”, “무겁게 느껴졌다”처럼 의미나 품질을 크게 바꾸지 않으면서 여러 후보 중에서 선택할 수 있는 경우도 있습니다.

클로이드 방식에서는 이러한 선택의 여지가 있는 상황에서 비밀 키와 직전의 어구를 사용하고, 어구를 선택할 때 사용하는 난수 방식을 변경합니다. 충분히 긴 문장에서 선택의 경향을 집계하면 해당 키에 해당하는 통계적인 패턴이 나타납니다.

Anthropic는 Google DeepMind가 2024년에 Nature에서 발표한 SynthID-Text 방식을 채택했다고 설명하고 있습니다. Google의 연구에 따르면, 약 2,000만 건의 Gemini 응답을 활용한 대규모 실무 평가를 포함하여, 비왜곡된 설정에서 사용자 평가 및 표준 벤치마크에서 유의미한 품질 저하가 확인되지 않았다고 보고되었습니다.

하지만 이는 “클로이드(Claude)의 모든 모델, 모든 언어, 모든 용도로, 앞으로도 절대적인 영향이 없을 것”임을 증명하는 것이 아닙니다. 앤트로픽(Anthropic)은 자체 테스트에서 내용, 창의성, 가독성에 미치는 영향이 나타나지 않았다고 밝혔지만, 클로이드에 대한 구체적인 구현, 특히 일본어, 전문 문서, 장기 이용에 대한 외부 검증은 향후 확인해야 할 사항입니다.

### 이미지 워터마크가 강하게 적용되는 글과 약하게 적용되는 글의 경우입니다.

저작권 표시(워터마크)는 클로드(Claude)가 자유롭게 발언을 선택하는 횟수가 많아질수록 감지하기 쉬워집니다.

- 상당히 복잡해지기 쉬운: 긴 설명문, 에세이, 번역, 요약, 문장의 대폭적인 수정
- 비교적 약해지기 쉬운: 짧은 문장, 사실의 나열, 수식, 정답이 거의 하나의 설명, 오타 및 문법 오류 수정, 코드.

코드에서도 주석이나 명명 등 선택의 여지가 있는 부분에는 신호를 삽입할 수 있지만, 정확성을 해치지 않기 위해 워터마크를 지나치게 강하게 적용하는 것은 아니라고 Anthropic은 설명하고 있습니다.

## 표지에 “알 수 있는 것”과 “알 수 없는 것”이라고 적혀 있습니다.

이 부분이 가장 중요합니다. 검출 결과를 저자 판정기나 부정 판정기처럼 취급해서는 안 됩니다.

### 이해할 수 있는 가능성들

- 충분히 긴 길이와 신호가 있는 문장에 대해 해당 Claude 모델이 문맥의 일부를 생성하고 처리했을 가능성이 있습니다.
- 해당 파일에 대해 Claude가 생성 및 처리했다는 서명과 함께 기록 정보가 첨부되어 있는지 확인해 주십시오.

### 투각만으로는 알 수 없는 것

- 이 글의 아이디어를 누가 생각했는가.
- 클로드가 전체를 작성했는지, 일부만 작성했는지, 또는 대대적으로 편집한 것인지에 대한 불확실성이 남아 있습니다.
- 이 기획은 2023년 11월 23일 ‘독서메터’ 이벤트 ‘독서메터 독서가와 대화하는 시간’에서 발표된 기획입니다. 기획의 개요는 다음과 같습니다.

*   주제: 독서메터 이용 방법, 독서 경험 공유, 독서 커뮤니티 참여 등
*   대상: 독서메터 사용자
*   내용:
    *   독서메터 기본 사용법
    *   독서메터에서 서평 작성 및 조회 방법
    *   독서메터에서 독서 짝을 찾는 방법
    *   독서메터에서 독서 이벤트 참여 방법
    *   독서메터 커뮤니티 참여 방법
*   주최: 독서메터
*   장소: 독서메터 이벤트 공간
*   시간: 2023년 11월 23일 13:00～16:00
*   참가비: 무료
- 이용약관, 학교 또는 회사의 규정, 계약 위반 사항이 있습니까?
- 저자, 저작권자, 법적 책임자가 누구인지.
- 다른 AI가 관여했나.
- 검출되지 않는 문장이 인간이 쓴 것인가.

즉, 워터마크는 내용의 품질이나 사람의 책임을 증명하지 않으며, 출처에 대한 제한적인 신호일 뿐입니다.

## 위험 관리에 무엇을 보호해야 하는가

위험을 고려하기 전에 목표를 명확히 해야 합니다. 지켜야 할 목표는 “AI를 사용하지 않는 것처럼 보이게 하는 것”이 아닙니다.

> 
> 
> 생성 AI의 생산성을 활용하면서 동시에 글의 출처, 내용의 정확성, 사람의 판단, 상대방의 권리, 계약 및 법규 준수 여부를 설명할 수 있는 상태를 유지하는 것.
> 

이 목표에 대한 위험은 다음과 같이 요약할 수 있습니다.

> 
> 
> 통계적 워터마크 능력 및 한계에 대한 이해가 충분히 이루어지지 않아 검출 결과가 저자성, 부정성, 진실성 입증으로 오용될 경우 잘못된 처분, 신뢰 저하, 계약 분쟁, 법적 대응 미흡, 기밀 정보의 부적절한 외부 전송이 발생할 수 있다.
> 

원인, 사건, 영향을 구분하면 문제 해결의 위치를 명확히 파악할 수 있습니다.

- 원인 및 불확실성: 통계 판정 오류, 짧은 문장 및 편집에 대한 취약성, 모델별 구현 차이, 비공개 키, 탐지 API 미흡, 제도 이해 부족.
- 사건: 오탐, 누락, 신호 상실, 위장, 검출 결과 과대 해석, 승인되지 않은 서비스로의 문서 전송.
- 영향: 부당한 평가, 교육 및 고용 기회 상실, 고객 및 독자의 불신, 법규 및 계약 위반, 영업 비밀 및 개인 정보 유출, 조사 불능.

## 생각해야 할 여덟 가지 위험 요소는 다음과 같다. 첫째, 시장 경쟁 심화와 경쟁사들의 공격적인 마케팅 전략에 대한 대비가 필요하다. 둘째, 예상치 못한 금리 인상이나 환율 변동은 수익성에 큰 영향을 미칠 수 있다. 셋째, 기술 변화에 대한 대응력이 부족할 경우 제품이나 서비스의 경쟁력이 약화될 수 있다. 넷째, 핵심 인력의 이탈은 사업 운영에 심각한 차질을 초래할 수 있다. 다섯째, 규제 강화는 새로운 사업 진출을 어렵게 만들고 기존 사업의 운영에도 부담을 가중시킬 수 있다. 여섯째, 소비자 트렌드의 급격한 변화에 대한 예측 실패는 제품 개발 및 마케팅 전략에 혼란을 야기할 수 있다. 일곱째, 외부 위협(자연재해, 테러 등)은 사업 운영에 직접적인 영향을 미치므로 비상 대응 시스템 구축이 필수적이다. 마지막으로, 내부 관리 시스템의 미흡은 비용 낭비와 효율성 저하를 초래할 수 있다. 이러한 위험 요소를 사전에 파악하고 각 위험에 대한 대응 방안을 마련하는 것은 사업의 성공적인 추진을 위한 중요한 첫걸음이다.

### 1. “클로드(Claude)가 관여한”이 “클로드(Claude)가 전부 썼다”로 바뀌는 현상

가장 흔하게 발생하는 것은 정보의 압축입니다.

예를 들어, 사람이 취재하고 구성하고 결론을 내린 글을 Claude로 번역한 경우, 번역 후 모든 단어는 Claude가 선택한 것이므로 워터마크가 삽입됩니다. 그러나 검사 결과에 익숙하지 않은 제3자가 “작가는 아무런 생각 없이 AI에게 글을 맡겼다”고 해석할 수도 있습니다.

교정, 대폭 편집, 번역, 요약, 0부터의 생성은 동일한 “클로드 참여”라도 의미가 다릅니다. 이진의 표시만으로는 기여의 정도, 지적 노동, 책임 소재가 훼손됩니다.

필요한 통제 항목은 “AI 사용 여부”뿐만 아니라 용도, 관련 공정, 사람이 결정한 사항, 확인자, 근거를 기록합니다.

### 2. 오탐 및 간과를 처분의 근거로 삼지 않는다.

통계적 검출에는 원리적으로 위양성 및 위음성이 존재합니다.

- 거짓 양성: 실제로 대상의 워터마크가 없는데도 워터마크가 있다고 판정하는 경우.
- 위양성: 실제로는 워터마크가 있지만, 워터마크가 없다고 판단하는 경우.

NIST는 숨겨진 워터마크 탐지기에는 0이 아닌 오탐과 미탐이 존재하며, 정확성, 변조에 대한 강건성, 공격에 대한 저항성, 규모 확대 시 부하를 별도로 평가해야 한다고 정리했습니다.

이 문제는 학교의 부정 판정, 채용 과제, 직원 징계, 출판사의 계약, 보조금 심사 등 본인에게 큰 불이익이 발생할 수 있는 상황에서 특히 중요합니다. 검출 점수가 높아도 그것만으로는 고의성, 부정행위, 규약 위반을 입증할 수 없습니다.

필요한 통제는 다음과 같습니다. 고 영향 판단의 경우, 검출 결과만으로 불이익 처분을 하지 않고, 본인이 설명 및 이의를 제기할 수 있도록 하며, 원본 기록이나 인용 출처 등 다른 증거를 확인하도록 명문화합니다.

### 3. “검출되지 않았다는 이유로 인간의 글”이라는 잘못된 안도감

짧은 텍스트에서는 선택 횟수가 적어 필요한 정보를 충분히 담고 있지 못합니다. 가벼운 교정, 코드, 사실 밀도가 높은 텍스트도 신호가 줄어듭니다. 오래된 모델이나 미지원 부분에서 생성된 결과에는 마크가 나타날 수 있습니다. 강한 수정, 다른 AI에 의한 재구성, 번역, 사람의 글과 혼합되더라도 신호가 약해질 수 있습니다.

ICLR 2024의 연구는 관련 LLM 워터마킹 방식이 긴 문장에서는 편집이나 혼합 후에도 검출력을 유지할 수 있는 반면, 검출력은 문장 수와 조건에 크게 의존한다는 것을 보여줍니다. SynthID-Text 자체에 대해서도 Google과 Anthropic은 짧은 문장이나 철저한 수정 및 번역에서는 검출 능력이 감소한다고 명시하고 있습니다.

필요한 통제：「저작물에 워터마크가 없는 경우」를 인간이 만든 증거로 취급하지 않습니다. 진정성 확인에는 제작 로그, 원고 이력, 출처, 서명된 메타데이터, 본인 확인 등을 종합적으로 활용합니다.

### 선의를 가진 사용자만이 식별되고, 악의적인 사용자는 회피당한다.

투명성을 위한 메커니즘에 참여하는 대형 서비스의 출력이 탐지되기 쉬워지는 반면, 악의적인 이용자는 미반응 모델, 지역 모델, 과도한 재구성, 이미지화 등과 같은 방식으로 전환될 가능성이 있습니다.

그 결과, 일반적인 번역이나 문서 지원에 클라우드를 사용하는 사람은 식별되고, 사기나 허위 정보를 만드는 사람은 탐지를 피하려는 경향이 있어 역선택이 발생할 수 있습니다. 워터마크 도입을 반대하는 이유가 아니지만, 워터마크만으로 악용을 억제할 수 있다고 생각해서는 안 됩니다.

필요한 통제: 부정 시정 조치에서는 워터마크 탐지 외에도 본인 확인, 권한 분리, 별도 경로 확인, 공개 기록, 행동 패턴, 내용의 사실 확인을 활용합니다.

### 5. 워터마크 위조 및 “오염된 증거”

이미지 워터마크가 남아있는 텍스트에 허위 정보, 차별적 표현, 불법적인 지시 등을 소량 추가하는 것이 가능합니다. 하지만 원본 신호가 남아있다면 전체 글이 Claude의 출력처럼 보일 수 있습니다.

NIST는 스푸핑(가짜)이나, 워터마크가 있는 문서에 미미하지만 중요한 수정 사항을 추가하는 “편승형” 공격을 주요 쟁점으로 지적하고 있습니다.

필요한 통제는 워터마크가 위조 방지 서명과 다르다는 점을 이해해야 합니다. 중요한 문서에서는 판 관리, 해시, 전자 서명, 승인 로그 등 문서의 완전성을 확인하는 별도의 메커니즘을 사용합니다.

### 6. 탐지 서비스로 기밀 정보 전송 시 발생

저작물을 확인하려면 일반적으로 검출 대상 텍스트를 검출기로 전달해야 합니다. 제공 예정인 API에 대해 보존 기간, 학습 이용, 위탁, 로그, 해외 이전, 삭제 방법에 대한 정보가 불명확한 단계에서 계약서, 비공개 정보, 개인 정보, 고객 자료를 제출하는 것은 위험합니다.

이는 워터마크 고유의 문제만이 아닌, 외부 문장 교정 서비스나 AI 탐지기에도 공통되는 제3자 위험입니다.

필요한 통제: 탐지기는 생성 AI와 동일하게 승인된 서비스, 입력 가능한 정보 종류, 계약 조건, 보관, 접근 권한을 확인합니다. 공개 정보가 아닌 문서는 관리자 또는 법무·정보 보안의 승인 없이 전송하는 운영 절차가 필요합니다.

### 7. 검출 기반이 벤더마다 분리된다

클로이드 워터마크를 감지하려면 클로이드 측의 키가 필요합니다. 다른 업체는 다른 키나 방식을 사용할 수 있습니다. 사용자가 여러 회사의 감지기에 동일 문서를 순차적으로 보내는 경우 비용, 대기 시간, 기밀성, 판정 불일치가 문제가 됩니다.

NIST는 비공개 워터마크 방식이 벤더마다 증가함에 따라 이용자가 개별적으로 검출 서비스를 사용해야 하는 상황이 발생하고, 검출 수단을 가진 주체가 병목 현상을 일으킨다고 지적하고 있습니다.

필요한 통제: 탐지 API의 가용성, 이용 약관, 대응 모델, 요금, 감사 가능성을 벤더 관리 항목에 추가하고, 단일 벤더의 판단에 중요 프로세스를 전면적으로 의존시키지 않도록 합니다.

### 8. 일본어와 실무 문서에서의 성능이 나타나지 않는다

Anthropic는 내부 테스트 결과 실용적인 품질에 영향을 미치지 않는다고 설명합니다. 그 근거가 되는 SynthID-Text 역시 대규모 평가를 거쳤습니다. 하지만 자체적으로 사용하는 일본어, 법률 문서, 기술 문서, 홍보, 창작, 짧은 SNS 텍스트 등에서 검출 성능과 품질 영향이 동일하지는 않습니다.

평균적인 품질 평가만으로는 전문 용어의 미묘한 변화, 문체의 통일성, 번역의 뉘앙스, 장애 발생 시 동작 등을 제대로 파악할 수 없습니다.

필요한 통제: 중요 용도에서는 당사의 문체, 언어, 길이, 편집 패턴을 사용하고 품질, 오탐, 미탐, 처리 시간을 확인합니다. 제공자의 종합 평가를 당사 용도의 보증으로 직접 대체하지 않습니다.

## 투카시에는 기회가 있다.

위험 관리는 위험 요소를 열거하고 활용을 중단시키는 것이 아닙니다. 적절하게 활용한다면 워터마크는 다음과 같은 가치를 지닙니다.

- 대량 생성된 스팸이나 가짜 정보를 조사하는 과정에서 중요한 단서가 된다.
- AI 서비스 제공자는 출처의 투명성에 대해 일정 정도의 책임을 져야 한다.
- 기업과 미디어가 신원 확인 시스템을 구축하는 계기가 될 수 있습니다.
- 사람이 편집 책임을 지는 과정과 AI에 맡기는 과정을 재검토할 수 있다.
- AI를 활용한 방식과 책임 소재에 대한 논의를 발전시킬 수 있다.

마크가 약해서 무의미한 것도 아니고, 마크가 있어서 진실인 것도 아닙니다. 적절한 위치는 여러 증거를 종합하여 작성한 기록 관리의 일부입니다.

## 개인 사용자가 오늘부터 실천할 수 있는 대책

### AI의 참여를 세 단계로 기록합니다.

최저한, 다음 분류라도 초안 메모에 남깁니다.

- 도움: 아이디어 제시, 오타 수정, 표현 제안. 본문의 중심은 사람의 작성입니다.
- 공동 편집: 구성, 요약, 번역, 다단락 재작성에 AI를 활용한다.
- 실제 생성: 본문의 대부분을 AI가 생성하고, 사람이 검토 및 편집했습니다.

이 구분은 법률상의 정의가 아니며, 나중에 설명하기 위한 운영상의 지침입니다.

### 2. 원고의 기연을 남기다

그 후, 이 『별의 정원사』를 읽고 저는 깊은 깨달음을 얻었습니다. 어른들이 진정으로 소중한 것을 잃어버리고 있다는 사실을 알게 되었죠. 숫자, 명예, 권력에 갇혀 자신의 마음을 잃어버리는 것입니다. 정원사는 그런 어른들에게 진정으로 소중한 것이 무엇인지 상기시켜 줍니다. 그래서 저는 이 책을 여러 번 다시 읽고 있습니다.

- 제가 제작한 자료 메모, 취재 기록, 출처 목록.
- 사용한 서비스, 모델명, 이용일, AI에게 맡긴 공정.
- AI의 초기 결과와 사람이 수정(수정)한 최종본.
- 변경 이력, 검토자, 공개 승인

프롬프트를 모두 공개할 필요는 없습니다. 제3자에게 설명할 수 정도의 기록을 기밀성을 유지하며 남깁니다.

### 3．「저작권 표시를 제거하는 것」을 품질 목표에 포함시키지 않는다

표절을 반복하고 워터마크를 제거해도 사실 확인, 독창성, 저작권, 계약, 독자에게 대한 책임은 개선되지 않습니다. 오히려 의도적인 회피와 오해를 불러일으키고 설명이 어려워질 수 있습니다.

편집의 목적은 탐지 회피가 아닌, 자신의 판단, 최초 정보, 반례, 한계를 반영하고 공개적 책임을 질 수 있는 문장을 만드는 것입니다.

### 4. 기밀 문서를 탐지기로 보내기 전에 중단한다

검출 API가 공개되어 있더라도 다음을 확인하기 전까지 고객 정보, 계약, 미공개 자료, 개인 정보를 전송하지 않는 것이 안전합니다.

- 누가 서비스를 제공하고 있는가?
- 입력이 저장되거나 학습되거나, 사람의 확인에 사용되는가?
- 보존 기간, 삭제 방법, 처리 지역은 무엇입니까?
- 본원 부서 규정 및 계약에 따라 이용이 허용되는지 확인하십시오.

### 필요한 상황에서는 워터마크보다 더 명확한 정보 공개를 제공합니다.

독자나 의뢰인에게 AI 활용이 중요한 의미를 가진다면, 기계만 인식할 수 있는 워터마크에 의존하지 않고, 사람도 이해할 수 있는 한 문장으로 설명합니다.

> 
> 
> AI 활용 예시: 이 글은 저자가 논점과 결론을 설계하고, 기초 자료를 확인한 후, 생성 AI를 구성 및 초안 작성, 교정 보조에 활용했으며, 저자가 전체 내용을 검토했습니다.
> 

실제 공정에 맞춰 수정해 주십시오. 사용하지 않은 공정을 추가해서는 안 됩니다.

## 기업, 학교, 미디어에 필요한 대책

### 원칙 1. 탐지는 조사에 불과한 시작일 뿐이며 결론이 아니다.

규정에 따르면 다음 문구를 포함해야 합니다.

> 
> 
> AI 생성물의 워터마크 또는 탐지기 결과는 AI 관여를 나타내는 보조적인 신호로 취급하며, 단독으로 부정, 규약 위반, 저자성, 내용의 진실성을 판단하지 않는다.
> 

채용, 성적, 징계, 계약 해지, 공개 중지 등의 고 영향 판단에서는 별도 증거, 심사, 본인의 설명 기회, 이의 제기를 필수적으로 합니다.

### 원칙 2. 용도별 통제를 의미한다는 뜻입니다.

일률적인 금지는 이용자가 은폐된 장소로 회피하는 것을 방지할 수 있습니다. 다음처럼 용도별로 분류하는 것이 실무적으로 더 효과적입니다.

- 낮은 영향: 개인의 아이디어 정리, 공개 정보 요약, 간편한 이용 기록.
- 영향: 고객 대상 문서, 홍보, 사외 제출물. 책임자, 담당자 검토, 출처 확인, AI 협업 기록.
- 고 영향: 법무, 채용, 평가, 의료, 금융, 공공정보, 규제 보고서. 승인된 환경, 전문가 검토, 완전한 증빙, 예외 승인, 이의 제기.

### 원칙 3. 개인의 리뷰를 ‘인적문서’로 간주하지 마십시오.

유럽연합 설명에서도 오타 수정이나 형식 확인만으로는 공공의 이익과 관련된 문서의 표시 의무에 대한 실질적인 개인의 검토를 다루지 않습니다.

실효적인 검토에는 주장의 타당성, 출처, 반증, 적용 범위, 법적·윤리적 영향 등을 확인하고 내용 수정 또는 거부 권한이 필요합니다. 검토자의 이름만 남기고 실제 내용을 읽지 않은 상태는 통제하지 않습니다.

### 원칙 4. 검출기를 자체적인 모델 위험으로 관리한다.

검출기에 대해 다음 사항을 기록하고 평가합니다.

- 대상 모델, 버전, 언어, 문장의 최소 길이
- 판정값의 의미, 임계값, 민감도율, 민감비율, 불확실 영역.
- 편집, 번역, 인용, 혼합, 단문화 내성
- API 장애 발생 시 대체 수단을 활용합니다.
- 입력 데이터의 저장, 접근, 삭제, 재활용
- 판정 로직 및 키가 변경된 경우의 재평가 방법

### 원칙 5. 원본 보존 및 탐지 절차를 확립한다.

조사를 진행할 때는 문서를 복사하여 편집하기 전에 원본을 반드시 보존합니다. 검출에 사용된 문장, 문자 수, 언어, 검출기 버전, 날짜, 점수, 임계값, 담당자를 기록하고, 파일의 경우 형식 변환 전 원본과 C2PA 정보를 함께 보존합니다.

이 기록이 없다면, 나중에 동일한 판정을 재현할 수 없습니다.

## 검출 결과 처리 8단계 절차

- 목적을 확인한다: 무엇을 판단하기 위한 탐지인가. 단순한 관심인가, 고 영향 판단인가.
- 원래 파일을 보존합니다: 원본 파일, 획득 시각, 게재 장소, 해시, 변경 이력을 저장합니다.
- 정보 구분을 확인하여 검출기에 전송해도 되는 텍스트인지 판단합니다.
- 적합한 탐지기를 선택하세요: 클로드용 워터마크를 일반 AI 문체 탐지기와 혼동하지 마십시오.
- 전제를 기록합니다: 대상 모델, 길이, 언어, 편집 및 번역 가능성, 감지기 버전 등을 포함한다.
- 클로이드 참여 가능성
- 다른 증거를 통해 확인합니다: 작성 로그, 초안 기록, 출처, 본인 진술, 계약 조건을 종합적으로 검토합니다.
- 판단과 구제를 기록한다: 누가 판단했는지, 어떤 근거를 사용했는지, 어떤 이의 제기 경로를 준비했는지 기록한다.

## 관찰 대상 지표

제도와 기술이 변화함에 따라, 한 번 규칙을 만들고 끝맺음할 수 없습니다. 분기 또는 주요 모델 업데이트 시에는 다음 사항을 확인합니다.

- 외부 공개 문서 중 AI 관여도 및 사람 확인자 기록 비율.
- 이용 모델 및 버전을 알 수 없는 사례 수가 있습니다.
- 비인가된 탐지기 시스템으로 기밀 문서가 전송된 횟수
- 검출 결과만으로 고영향 판단을 수행한 건 수. 목표는 0.
- 이의 제기 건수와 그 중 판결이 뒤집힌 비율.
- 짧은 텍스트, 편집된 텍스트, 일본어 등 검출 기준을 충족하지 못하는 사례의 비율.
- 파일 변환 또는 공개 플랫폼에서 C2PA 정보가 손실된 비율.
- 검출 API 장애, 사양 변경, 요금 변경

다음 중 하나라도 발생하면 규칙과 기사를 업데이트하는 시점입니다.

- 앤서티크(Anthropic)가 탐지 API와 기술 사양을 공개했다.
- 기존 모델에 대한 대응이 변경되었습니다.
- 독립 평가 결과가 공개되었습니다.
- 심각한 사례가 발생했습니다.
- 유럽연합의 표준, 지침, 집행 실무가 업데이트되었다.
- 학교, 근무지, 거래처의 AI 활용 및 정보 공개 규칙이 변경되었습니다.

## 자주 묻는 질문

### 클로이드로 문장을 수정하면 반드시 워터마크가 추가되는가

물론이지 않을 수 없습니다. 클로이드가 선택한 단어만이 신호이기 때문에, 오타 수정이나 쉼표 조정만으로는 충분한 신호가 잡히지 않을 수 있습니다. 대규모 수정이나 번역은 신호가 강해질 가능성이 높습니다.

### 복사 및 붙여넣기를 통해 워터마크가 제거되는가

문맥상의 통계적 워터마크는 문자 배열 방식에 근거하므로, 단순 복사 및 붙여넣기로는 사라지지 않습니다. 반면, 파일의 C2PA 메타데이터는 재저장이나 형식 변환 과정에서 손실될 수 있습니다.

### 저작권 표시가 발견되면 AI가 전체 텍스트를 작성했다는 증거인지 확인해 보세요.

Anthropic 스스로도 제로에서부터 생성한 것과 대대적인 편집을 구별할 수 없다고 설명하고 있습니다. 번역이나 요약 과정에서도 Claude가 많은 단어를 선택할 경우 탐지될 수 있습니다.

### 저작권 표시가 없다면, 인간이 작성한 것으로 간주됩니다.

아니요. 미응답 모델, 다른 AI, 짧은 문장, 과도한 편집, 번역, 문장 혼합 등 여러 이유로 탐지되지 않을 수 있습니다.

### 마스킹 기능으로 본인의 계정이나 대화가 특정되는지 확인할 수 있습니다.

Anthropic의 설명에 따르면 워터마크는 Claude와 출력에 대응하며 사용자, 조직, 대화를 특정하는 정보는 포함하지 않습니다. 다만, 향후 검출 API로 텍스트를 전송할 때의 데이터 처리 문제는 별도의 문제이므로 공개되는 계약 및 기술 정보를 확인해야 합니다.

### 클로이드(Claude)를 사용을 중단해야 할까요? 최근 클로이드에 대한 우려가 커지고 있습니다. 특히, 2024년 5월 29일에 공개된 새로운 정보에 따르면, 클로이드의 성능이 이전보다 저하되었다는 보고가 잇따라 나오고 있습니다. 몇몇 사용자는 클로이드가 답변의 정확성이 떨어지고, 창의적인 글쓰기 능력도 이전만큼 좋지 않다고 지적합니다. 또한, 클로이드의 응답 속도도 느려졌다는 의견이 많습니다. 이러한 문제들로 인해, 클로이드의 활용 가치가 점점 희석될 수 있다는 우려가 제기되고 있습니다. 특히, 기업이나 연구기관 등에서 클로이드를 활용하는 경우, 생산성 저하를 초래할 수 있다는 점이 우려됩니다. 물론, 클로이드의 장점도 여전히 존재합니다. 여전히 훌륭한 텍스트 생성 능력을 가지고 있으며, 다양한 분야에서 활용될 수 있습니다. 하지만, 최근의 성능 저하와 함께, 클로이드의 사용을 신중하게 고려해야 할 필요가 있습니다. 클로이드의 사용을 계속할지, 아니면 다른 AI 모델로 전환할지 충분히 고민해 보시기 바랍니다.

저작권만을 이유로 즉시 사용을 중단할 필요는 없습니다. 용도, 계약, 책임 범위, 상대방의 기대에 맞춰 사용해야 합니다. 투명성을 받아들이기 어려운 용도라면, AI 사용 자체가 적절한 것인지부터 고민해야 합니다.

## 제 현재 시각은

클로이드의 텍스트 워터마크는 생성 AI가 사회 인프라에 가까워졌음을 나타내는 변화입니다. 서비스 제공자가 출력을 통해 그 기원에 대한 책임감을 갖도록 하려는 방향은 환영할 만합니다.

반면에, 워터마크는 ‘AI를 사용한 사람을 찾아내는 만능 장치’가 아닙니다. 통계적 신호는 길이, 문체, 편집, 번역, 모델, 감지기의 조건에 따라 달라집니다. 그리고 감지할 수 있는 것은 관여 가능성일 뿐, 저자성, 부정행위, 진실성과는 관련이 없습니다.

정말로 필요한 것은 워터마크를 두려워하여 생성 AI를 숨기는 것일 뿐만 아니라, 워터마크를 믿고 사람을 판단하는 것이 아니어야 합니다.

> 
> 
> AI가 관여한 사실과 사람이 담당한 판단, 검증, 책임을 분리하여 설명할 수 있는 것.
> 

생성 AI를 자주 사용하는 사람들은 이것이 번거로운 추가 작업이 아니며, 자신의 업무를 보호하는 기록이 될 것이라고 생각할 것입니다.

## 오늘의 식사 준비

- 다음으로 AI를 사용하여 작성된 문서에는 “AI에게 맡긴 과정”을 한 줄로 기록한다.
- 초기 출력물과 최종 원고는 변경 이력이 남는 위치에 저장한다.
- 인물의 평가를 워터마크 검출 결과만으로 결정하지 않으라는 원칙을 확립한다.
- 기밀 문서를 탐지기로 보내기 전에 데이터 처리 조건을 확인한다.
- 앤서니의 탐지 API 공개 이후, 대상 모델, 문장 길이, 일본어 성능, 판정 값의 읽기를 다시 확인한다.

본 기사는 2026년 8월 26일 시점의 공개 정보를 바탕으로 합니다. Anthropic의 탐지 API, 대응 모델, EU의 실무 운영이 업데이트될 경우 내용을 재검토합니다. 본 기사는 일반적인 위험 관리의 설명이며, 개별 사건에 대한 법률 자문이 아닙니다.

## 주요 1차 자료 및 기술 자료

- Anthropic, 클로드의 텍스트 워터마크 작동 방식 (2026년 8월 14일)
- Anthropic Help Center, 클로이드가 AI 생성 콘텐츠를 어떻게 표시하는지 안내
- 유럽연합(European Commission)은 인공지능(AI) 법(AI Act) 제50조의 규정에 따라 투명성 의무를 규정합니다(2026년 7월 24일 업데이트).
- 유럽연합, 인공지능 생성 콘텐츠 투명성 지침
- 다타타리 연구팀 등이 개발한 확장 가능한 워터마킹 기술은 대규모 언어 모델의 출력물을 식별하는 데 활용될 수 있다는 연구 결과가 Nature 634호 818-823페이지에 게재되었다.
- NIST AI 100-4, 합성 콘텐츠로 인한 위험 감소 방안 (2024년, 2026년 4월 업데이트)
- 기 Kirchenbauer et al., “대규모 언어 모델을 위한 워터마크의 신뢰도에 대하여”, ICLR 2024

**출처:** [note 원문](https://note.com/yu_risk/n/n8c0e56213d6b)

*번역: Gemma 3(.44) 초벌 + 교정 157청크*

[원문 보기](https://note.com/yu_risk/n/n8c0e56213d6b) | 출처: note.com