Anthropic는 2026년 8월 14일(현지 시간), AI 어시스턴트 “Claude”가 생성하는 텍스트에 내재하는 디지털 워터마크의 메커니즘을 상세히 설명했다. Claude에서는 Google DeepMind가 개발한 “SynthID-Text”를 기반으로 하는 방식을 채택하지만, 정확성이 요구되는 문장이나 코드 등에서는 오히려 워터마크를 삽입하지 않는 메커니즘이 되어 있다는 것이다.
Ledge.ai는 8월 13일, Claude의 대응 모델이 생성하는 텍스트에 “보이지 않는 워터마크”를 도입하고, 복사 및 붙여넣기 후에도 수반되는 것들을 보도했다. 이번 Anthropic가 밝힌 것은 그 워터마크를 텍스트의 품질을 바꾸지 않고 어떻게 내재시키고, 반대로 어떤 경우에는 내재시키지 않는지에 대한 기술적인 메커니즘이다.
## 숨겨진 문자 대신 “단어 선택 방식”에 패턴
Claude의 디지털 워터마크는 텍스트 안에 숨겨진 문자나 특수한 문자열을 추가하는 것이 아니다.
대규모 언어 모델(LLM)은 문장을 생성할 때, 직전까지의 맥락에 따라 다음에 이어질 단어의 후보를 좁혀 넣는다. “오늘의 날씨는 춥고……”라는 문장이 있다면, “흐리고” 또는 “회색이었다” 등 의미상으로는 어느 쪽을 선택해도 큰 차이가 없는 후보가 여러 존재할 수 있다.
일반적으로こうした 후보들로부터 일정의 랜덤성을 사용하여 단어를 선택한다. Claude의 워터마크에서는, 이 랜덤성 생성 방법을 전용 “키”와 직전 단어에 따라 결정한다. 텍스트를 읽은 사람에게는 차이가 알 수 없는 반면, 키를 가진 측은 단어의 배열로부터 Claude가 생성에 관여했는지 여부를 통계적으로 확인할 수 있다.
채택하는 것은 Google DeepMind가 2024년에 Nature에서 발표한 “SynthID-Text”를 기반으로 하는 방식이다. Google DeepMind는 약 2000만 건의 Gemini 응답을 사용한 실험에서도 워터마크의 유무에 따른 사용자 평가에 통계적으로 유의미한 차이가 없었다고 보고했다.
## “2+2=”의 답에 워터마크는 넣지 않는다. 코드도 약화
한편, Anthropic 설명에서 특징적인 것은 “워터마크를 넣지 않는 경우”이다.
디지털 워터마크가 사용 가능한 것은 여러 후보들 중에서 어떤 것을 선택해도 텍스트의 의미나 품질을 해치지 않는 경우에만 제한된다.
예를 들어 “2+2=” 다음에 이어지는 답은 “4”이며, 워터마크를 강화하기 위해 다른 숫자를 선택할 수 없다. 또한 “아이작 뉴턴의 가장 유명한 저서는 ‘프린키피아……’”라는 문장에서도, 이어지는 “마테마티카(Mathematica)”를 다른 단어로 대체하면 사실적으로 오류가 된다.
이러한 경우, Anthropic는 워터마크를 통한 단어 선택에 대한 영향을 주지 않는다.
같은 이유로, 정확한 묘사가 요구되는 코드도 일반적인 문장보다 워터마크가 적게 된다. 다른 토큰을 선택하면 코드가 작동하지 않는 상황에서는 워터마크를 적용하지 않는다. 다만, 코드 내의 주석 등 여러 표현으로부터 자유롭게 선택할 수 있는 장소에는 워터마크가 들어갈 수 있다.
## 인간이 쓴 문장을 “교정”한 것과 같으면 탐지할 수 없는 경우도
인간이 쓴 문장을 Claude에 교정(校正)시킨 경우도, 상황은 다르다.
예를 들어 “문법과 쉼표만 수정하고, 그 외는 변경하지 않는다”라고 지시한 경우, 대부분의 단어는 인간이 쓴 그대로 남아 있다. Claude가 스스로 선택한 단어는 수정 부분에만 국한되므로, 워터마크를 삽입할 수 있는 장소도 적다.
Anthropic에 따르면, 문장의 길이와 수정량에 따라 Claude가 관여했다는 것을 판단할 수 있을 정도로 충분한 디지털 워터마크가 남지 않을 수 있다. 반대로, Claude가 문장을 크게 수정할수록 단어 선택 횟수가 증가하여 탐지될 가능성은 높아진다.
짧은 문장도 마찬가지로, 단어 선택 횟수가 적기 때문에 디지털 워터마크에서 Claude의 관여를 판단하는 신뢰도는 낮아진다.
한편, “번역은 디지털 워터마크의 대상이 된다”는 것이다. 번역 후의 문장에서는 Claude가 모든 단어를 선택하기 때문이다.
이러한 차이는 단순히 “Claude를 사용했는지 여부”만으로는 디지털 워터마크의 유무를 설명할 수 없다는 것을 의미한다. 같은 인간이 작성한 원문을 Claude에 넘겨도, 오타를 수개 곳 수정한 경우와 전체를 다른 언어로 번역한 경우에는 디지털 워터마크의 잔여량이 크게 다르다.
## “Claude가 썼다”는 것을 증명하는 것은 아니다
이러한 특성 때문에 Anthropic은 디지털 워터마크로 알 수 있는 것에도 명확한 한계가 있다는 점을 강조하고 있다.
디지털 워터마크를 탐지했더라도, 알 수 있는 것은 “Claude가 해당 콘텐츠에 관여했을 가능성”이며, “Claude가 이 문서를 작성했다”는 것을 증명할 수 있는 것은 아니다. 인간이 작성한 문장을 Claude가 크게 편집한 경우와 Claude가 처음부터 생성한 경우를 디지털 워터마크만으로 구별할 수도 없다.
반대로, 디지털 워터마크가 탐지되지 않았다는 이유만으로 인간만 썼다는 것을 판단할 수 없다.
Anthropic은 경미한 편집에서는 디지털 워터마크가 남을 수 있는 반면, 전체 단어를 재작성하는 완전한 리라이트 작업을 수행하면 디지털 워터마크는 사라진다고 설명한다. 이 경우에 대해 해당 회사는 더 이상 원래 문서를 “AI 생성”이라고 부를 수 있는지 자체가 논쟁의 여지가 있다는 점을 시사하고 있다.
## 디지털 워터마크에 대한 우려로 Claude 해지 움직임도 “AI 생성”의 경계가 쟁점
디지털 워터마크를 둘러싸고는 Claude를 문장 교정, 번역, 코드 검토 등에 활용해 온 사용자들로부터 우려도 제기되고 있다.
Business Insider는 8월 14일, 디지털 워터마크를 이유로 Claude의 유료 플랜을 해지했다고 주장하는 사용자 4명을 인터뷰했다. 해당 매체에 따르면, X에서도 해지를 표명하는 게시물이 잇따라 등장했으며, 인터뷰한 사용자들로부터, 스스로 쓴 문장을 Claude로 번역하거나 교정하거나, 클라이언트에게 납품하는 코드를 Claude로 검토할 때까지 “AI 생성”으로 취급받는다는 우려가 제기되었다.
한편, Anthropic은 Business Insider에, 디지털 워터마크 발표 후 해지 증가하는 경향이 확인되지 않았다고 밝혔다.
Anthropic 자체도, 디지털 워터마크는 저자나 소유권을 나타내는 것이 아니라, Claude가 처리 과정에 관여했을 가능성을 나타낼 뿐이라고 강조하고 있다. 앞으로는 텍스트에서 Claude의 디지털 워터마크를 탐지하는 API도 제공할 예정이다.
생성 AI가 “처음부터” 문장을 작성하는 것뿐만 아니라, 인간의 문장 교정, 번역, 요약, 코드 검토 등 일상적인 편집 작업에도 들어오면서, 어디를 “AI 생성”으로 취급할 것인지가 문제로 떠오르고 있다. Claude의 디지털 워터마크를 둘러싼 논의는 디지털 워터마크를 어떻게 삽입할 것인지뿐만 아니라, “AI가 콘텐츠 제작에 어느 정도까지 관여하면 “AI 생성”으로 간주할 수 있는 경계”에도 영향을 미치고 있다.
원문 보기 | 출처: Ledge.ai