인터넷상에서의 성적 학대 콘텐츠를 최소화하기 위해 활동하고 있는 비영리 단체인 인터넷감시재단(IWF)이, 인공지능 생성의 아동 성적 학대 이미지(CSAM)가 급증하고 있음을 보고했습니다. IWF에 따르면, 인공지능 생성의 CSAM은 2025년 대비 40% 증가했습니다.
우리 분석가들은 2026년 상반기에 전년 전체보다 더 사실적인 아동 성적 학대 자료를 발견했습니다. “기술 기업은 이러한 방식으로 악용될 수 없는 도구를 구축해야 합니다,”라고 우리 정책 책임자 @hannahswirsky가 말했습니다. https://t.co/VZWwXopBee
인터넷 감시 단체(IWF) 보고서, AI 아동 성 착취물 급증
https://www.theguardian.com/technology/2026/oct/05/internet-watch-foundation-huge-rise-ai-child-sexual-abuse-material
AI가 생성한 CSAM이 인터넷 상에서 증가하고 있으며, 2026년 상반기 기준으로 이미 2025년의 연간 총수를 상회한다고 IWF가 보고했습니다. IWF의 분석 담당자에 따르면, 2026년 상반기 동안에만 CSAM의 법적 정의에 해당하는 AI 이미지가 6310건 발견되었으며, 2025년 연간 총수는 4500건 초과입니다. 따라서 이미 이를 40%를 상회하고 있습니다.
AI 생성 CSAM은 수년 전부터 증가해 왔으며, 특히 동영상 급증이 나타나고 있다고 IWF가 지적했습니다. 다만, 이번 IWF가 집계한 것은 정지 이미지에만 해당합니다. IWF의 분석 담당자가 확인한 이미지의 대부분은 소녀 또는 7~13세 아동을 그린 그림이었습니다. IWF는 이러한 숫자들이 AI에 대한 새로운 법적 규제의 필요성을 부각하고 있다고 주장합니다. IWF의 정책 책임자인 한나 스와르스키는 기업이 보다 안전한 AI 모델 개발을 의무화하기 위해 “법적 구속력 있는 AI 법”을 지지한다고 밝혔습니다. 또한, 스와르스키는 “기술 기업에는 이러한 악용이 불가능한 도구를 개발할 책임이 있습니다.” “이 문제가 발생한 것은 기술입니다. 기업이 설계 단계부터 안전성을 통합하지 않은 도구 개발이 원인입니다.”라고 말했습니다.
영국에서는 AI가 생성한 CSAM(아동성착취물)은 불법입니다. 정부는 CSAM을 생성하기 위해 AI 모델을 개변하거나, 그러한 AI 모델을 제3자에게 배포하는 것을 불법으로 규정하고 있습니다. 극도로 현실적인 CSAM을 생성하도록 설계된 AI 모델을 개발한 경우, 최대 5년의 구금형이 선고될 수 있습니다. 또한, 사적인 성적 이미지가 인터넷 상에 게시되는 것을 방지하기 위한 서비스인 “Report Remove”에는 자신의 이미지가 위조되거나 가공되어 성적으로 노골적인 것으로 만들어졌다는 신고가 2026년 상반기에 420건이 접수된 것으로 나타났습니다. 이 건수는 이미 2025년 연간 총 수인 397건을 상회합니다. AI를 사용하여 학대 도구로 활용되는 현상에 따라, National Crime Agency(영국 국가범죄수사청)와 IWF(인터넷워치파워)는 보호자들에게 자녀의 사진을 SNS에 게시하지 않도록 요청하고 있습니다.
원문 보기 | 출처: Gigazine