Meta는 2024년 5월부터 AI로 생성된 콘텐츠에 대해 'AI Info(Made with AI)'라는 라벨을 붙이는 정책을 도입하고 있습니다. 이후에도 감지 기능 강화 등을 실시하고 있지만, 2026년 8월 말경부터 분명히 AI 생성 이미지임에도 라벨이 붙어 있지 않거나, 사람이 촬영한 사진인데도 라벨을 붙이는 등의 오감지가 다수 보고되고 있습니다. Instagram’s AI detection is a mess (again) | The Vergehttps://www.theverge.com/ai-artificial-intelligence/989617/instagram-ai-content-label-confusion
Meta는 Facebook이나 Instagram 같은 플랫폼상의 콘텐츠를 삭제·유지하는 결정을 내릴 때 잘못된 판단을 내리지 않도록 하기 위해, 감독위원회라고 불리는 독립적인 심의 기관을 두고 있습니다. 이 감독위원회의 "더 광범위한 기존 콘텐츠를 반영하고, 라벨을 통해 콘텐츠에 대한 맥락을 제공하기 위해 접근 방식을 업데이트할 필요가 있다"라는 피드백에 기반하여, Meta는 Facebook이나 Instagram, Threads상에서의 AI 생성 콘텐츠에 'Made with AI'라는 라벨을 붙일 것을 2024년 4월에 발표했습니다. 'Made with AI' 라벨은 2024년 5월부터 시작되었으나, 일부 사진가 등으로부터 Adobe의 Photoshop 등을 사용하여 이미지 편집을 진행한 사진을 게시했을 때에도 'Made with AI' 라벨이 붙어 버린다는 점이 지적되었습니다. 이러한 불만에 대응하기 위해 Meta는 같은 해 7월에 'Made with AI' 라벨명을 'AI info'로 변경했습니다. Meta가 AI로 생성된 콘텐츠를 나타내는 'Made with AI' 라벨의 명칭을 'AI info'로 변경, 사진가들의 불만이 원인 - GIGAZINE
이후에도 Meta의 AI 연구 기관인 'Meta Superintelligence Labs'는 AI 활용을 추진하는 동시에 "사람들이 AI 생성 콘텐츠를 식별하기 위한 도구가 필요하다"라는 원칙도 중시하여, 2026년 7월 상반기에는 이미지를 업로드하면 Meta의 AI로 만들어진 것인지 여부를 감지할 수 있는 AI 식별 도구의 연구 데모도 공개했습니다. 나아가 Meta는 2026년 7월 28일, 2024년 8월부터 EU 권역 내에서 시행되고 있는 'EU AI 법'에서의 AI 생성 콘텐츠 투명성에 관한 행동 강령에 서명할 것임을 표명했습니다. Meta가 AI 생성 콘텐츠의 투명성에 관한 EU의 행동 강령에 서명 - GIGAZINE
이처럼 Meta는 AI 생성 콘텐츠의 투명성을 중시하고 있지만, 실제로는 Instagram의 AI 라벨 표시 기능이 오작동을 일으키고 있다는 보고가 2026년 7월경부터 잇따르고 있습니다. 켄터키주 헨더슨에서 빈티지와 앤티크를 다루는 Corkscrew Curiosities의 Instagram 계정은 "크리에이터가 배경 제거 툴과 같은 특정 툴을 사용하면, Meta가 게시물을 자동으로 AI로 분류하기 시작한 것을 알게 되었습니다. Corkscrew Curiosities에서는 비즈니스나 아트 제작에 많은 툴을 사용하고 있습니다. 이러한 툴의 거의 전부에는 저희가 의식적으로 사용하지 않는 AI 기능이 도입되어 있으며, 그중에는 수년 전부터 피사체 선택이나 배경 제거와 같은 다양한 형태의 AI 지원 툴을 사용해 온 것도 있습니다"라며, 생성 AI를 사용하지 않더라도 AI가 포함된 툴을 사용하는 것으로 인해 라벨이 붙고 있다고 보고했습니다.
Corkscrew Curiosities의 게시물에는 "배경 제거 툴을 한 번 사용했을 뿐인데 AI 라벨이 붙어버렸다", "모두 자사 콘텐츠를 사용해 작업에 4시간을 들인 광고가 '레이어 생성' 툴을 썼더니 AI 라벨이 붙었다"와 같은 유사 사례가 보고되고 있습니다. 또한 다른 게시물에서는 100% 손으로 그린 아트임에도 불구하고 AI 라벨이 부여되고 수정 신청을 할 수도 없다는 문제가 지적되었습니다. 아울러 한 Threads 사용자에 따르면, 그래픽 디자인 소프트웨어 Canva에서 복원 브러시를 사용하면 작품 전체가 AI 자산으로 즉시 플래그 지정되어, 그것이 Instagram 라벨에 적용되고 있을 가능성이 있다고 합니다. 덧붙여 Canva의 FAQ에는 "배경 제거 툴을 사용하면 SNS상에서 게시물이 AI 생성으로 플래그 지정될 가능성이 있습니까?"라는 항목이 있으며, "Canva는 AI 편집 기능으로 전혀 새로운 콘텐츠가 생성되거나 크게 변경된 경우에만 AI가 생성한 콘텐츠 메타데이터를 추가합니다. 배경 제거 기능은 이 둘 중 어디에도 해당하지 않으므로 디자인에 메타데이터를 추가하지 않습니다"라고 기재되어 있습니다.
또한 The Verge에 따르면, AI 생성 이미지에 매립되는 C2PA와 SynthID가 포함된 이미지를 테스트 게시해 본 결과, Instagram은 둘 다 AI 이미지로 태그를 지정하지 않았다고 합니다. 또한 새로 개설한 Instagram 계정이 봇이나 AI 팜처럼 작동하도록 하는 테스트도 실시했으나, 해당 계정은 2주일 이상 방치되어 단속 등이 실시되지 않았다고 합니다. The Verge는 "여러 툴에 대해 자체 테스트를 실시했으나, Instagram이 AI 라벨을 적용하는 트리거가 되는 것이 확실한 유일한 시그널은 Meta 자체의 생성 AI 시스템에 의해 적용되는 것임을 알게 되었습니다. 이번 결과를 보고 Meta가 AI 라벨을 어떻게 적용하고 있는지 그 타당성에 의문을 품을 수밖에 없습니다"라고 지적하고 있습니다.
원문 보기 | 출처: Gigazine