# 텍스트 AI의 워터마크·워터마크는 기술적으로 어렵고 쉽게 삭제 가능하다

> https://bookfactory.kr/board/news/17776
> 게시판: 뉴스
> 작성자: tachikoma43
> 작성일: 2026-09-19T07:39:57.783Z

---

2026년 8월부터 유럽연합(EU)에서 인공지능(AI) 법이 시행되어 EU 지역 내에서 AI로 생성된 콘텐츠임을 감지할 수 있도록 하는 의무가 부과되면서, EU 지역 내에서 사업을 영위하는 대규모 언어 모델(LLM) 제공업체에 대해 AI 생성물임을 나타내는 “워터마크” 적용이 사실상 의무화되었습니다. 그러나 텍스트에 대한 AI 워터마크 기술에는 기술적인 어려움에 더하여 실효성 관련 과제가 있다고 합니다. 소프트웨어 엔지니어인 숀·구데ッケ 박사는 자신의 블로그에서 텍스트에 워터마크를 인간이 알아차리지 않는 방식으로 내재하는 것의 어려움과, 일단 내재한 워터마크가 쉽게 삭제될 수 있다는 점을 설명하고 있습니다.

유럽연합(EU)의 “AI 법”은 2024년 5월에 제정된 법률입니다. 2026년 8월 2일부터 LLM 제공업체에 대해 AI 생성 콘텐츠에 대한 레이블 표시가 의무화되며, AI 생성 텍스트에 대해 워터마크를 내재시키는 것이 사실상 의무화됩니다.

AI 생성 콘텐츠에 대한 레이블 표시 의무화 - GIGAZINE

일반적으로 워터마크라고 하면 이미지에 삽입된 것을 떠올립니다. 하지만 이미지와 달리 텍스트는 정보가 고도로 압축된 미디어라는 측면이 있어, 인간의 눈에 닿지 않는 수준의 미세한 변경을 가하는 것은 극히 어렵습니다. 작은 변경조차도 출력의 질을 저하시키거나 AI 모델의 추론 시간을 소비할 수 있기 때문에 “눈에 띄지 않게 내재화”하는 과제를 해결하는 것은 용이하지 않습니다. 기사 작성 시점에서는 AI 생성 콘텐츠의 검출 및 워터마크 기술로 주목받고 있는 것이 Google이 개발하고 Anthropic도 채택하고 있는 “SynthID”입니다. SynthID는 LLM이 텍스트를 생성할 때 각 토큰(단어 또는 단어 조각)에 확률적인 가중치를 부여하고, 가중치에 특정 패턴을 내재화하여 인간에게는 식별할 수 없는 수학적 관계를 기반으로 한 워터마크를 부여합니다. AI 생성물인지 여부를 판별하려면 생성된 텍스트의 SynthID 점수를 집계하면 알 수 있다는 메커니즘입니다. SynthID를 사용하는 이점에는 검출 비용이 낮다는 점이 있습니다. 반면, OpenAI나 Anthropic과 같은 기업은 Unicode의 특수 문자(호모글리프)를 이용한 워터마크 기술을 사용하고 있을 가능성이 제기되고 있습니다. 호모글리프를 이용할 경우, 일반적인 공백 문자(공백 문자 역시 “보이는 모습은 같지만 다른 Unicode 코드 값을 가진 문자”입니다)를 “보이는 모습은 같지만 다른 Unicode 코드 값을 가진 문자”로 대체하여, 탐지 가능한 패턴으로 내재화합니다. 호모글리프를 이용하는 방법은 SynthID보다 적용 비용이 낮고 클라이언트 측에서만 구현 가능하지만, Unicode 호모글리프의 대체는 재대체를 통해 쉽게 복원될 수 있다는 문제가 있습니다. EU의 AI 법은 워터마크가 “콘텐츠로부터 분리될 수 없는 방식으로 내재화”되도록 요구하고 있지만, 텍스트 워터마크는 쉽게 제거될 수 있다는 근본적인 문제에 직면해 있습니다. SynthID와 같은 워터마크는 문언의 재배열로, 호모글리프를 사용한 워터마크도 원래 문자への置換(대체)로, 각각 쉽게 제거될 수 있습니다. 더 나아가 AI 법이 요구하는 “상호운용성”, 즉 워터마크 기술의 프로세스 공개 및 표준화는 “숨김을 통한 보안”에 의존하는 텍스트 워터마크 기술와의 양립을 어렵게 합니다.

AI 법에서는 “디지털 서명付き 메타데이터”에도 언급되어 있으며, C2PA(Coalition for Content Provenance and Authenticity)의 콘텐츠 크레덴셜이 해당되지만, C2PA는 파일에 메타데이터를 부착하고 위변조를 막기 위해 서명함으로써 콘텐츠의 출처를 증명하는 기술입니다. 즉, C2PA는 주로 파일 형식의 콘텐츠에 적용되는 것이며, ChatGPT와 같은 챗 툴의 플레인 텍스트에는 부적합하다고 할 수 있습니다. 향후 전망으로는 많은 AI 프로바이더가 EU 지역 사용자向け에 SynthID와 같은 워터마크 기술을 도입할 가능성이 높다고 예측됩니다. EU에 의한 워터마크 탐지 페이지가 설치될 가능성도 시사되고 있습니다. 유니코드 호모글리프 기반의 워터마크는 AI 법에 부합하지 않는 것으로 간주될 가능성이 있지만, 일부 프로바이더가 채택할 가능성도 고려됩니다. 하지만 어떠한 기술이든 기술적인 사용자나 전문 툴에 의해 쉽게 제거될 것이라는 것이 구데ッケ氏의 견해입니다. AI 법은 AI 생성 콘텐츠의 검출 의무화라는 요건을 부과하지만, 기사 작성 시점에서는 텍스트 워터마크 기술에는 근본적인 취약성이 있다고 할 수밖에 없으며, 실효성 대해서는 향후 동향을 주목해 두어야 할 것입니다.

[원문 보기](https://gigazine.net/news/20260919-text-ai-watermarks/) | 출처: Gigazine