유럽연합(EU)에서 2026년 8월 2일, 인공지능(AI) 법(AI Act) 제50조에 따른 투명성 규칙 적용이 시작되었다. 생성 AI 등 제공자에게는 인공지능이 생성·가공한 이미지, 음성, 영상, 텍스트를 기계적으로 감지할 수 있도록 하는 것이 요구된다. 인공지능 시스템을 업무 등에서 사용하는 도입자에게는 딥페이크나 일정 수준의 인공지능 생성 텍스트에 대해 사람이 인식할 수 있는 형태로 표시할 의무가 부과된다.
유럽연합(European Commission)은 7월 31일, 인공지능(AI) 법의 집행과 새로운 투명성 규칙 시행을 8월 2일부터 시작한다고 발표했다.
**생성형 AI 제공자에게 기계 판독 마크 의무화**
일본 정부는 생성형 AI 서비스 제공자에게 디지털 콘텐츠에 대한 기계 판독 마크를 의무적으로 부착하도록 규정했습니다. 이는 AI가 생성한 콘텐츠의 저작권 침해 문제를 해결하고, AI가 생성한 콘텐츠의 출처를 명확히 하는 데 목적이 있습니다.
이번 규정은 디지털 미디어법 개정을 통해 시행될 예정이며, AI 서비스 제공자는 콘텐츠 생성 시점에 기계 판독 마크를 생성하여 해당 콘텐츠와 연결하도록 해야 합니다. 기계 판독 마크는 이미지, 오디오, 비디오 등 다양한 형태의 미디어에 적용될 수 있으며, AI 서비스 제공자는 이 마크의 생성 및 관리에 대한 기술적 기준을 준수해야 합니다.
이러한 조치에 대해 전문가들은 “AI가 생성한 콘텐츠의 불법 복제 및 도용을 방지하는 데 기여할 수 있을 것이다”라며 긍정적인 반응을 보이고 있습니다. 또한, “AI 서비스 제공자들이 기계 판독 마크를 생성하고 관리하는 데 필요한 기술적 역량을 갖추도록 하는 것이 중요”하다고 지적합니다.
정부는 이번 규정 시행 후에도 AI 기술의 발전 속도를 고려하여 관련 규정을 지속적으로 검토하고 개선해 나갈 계획입니다. 특히, AI가 생성한 콘텐츠의 저작권 문제 해결을 위한 국제적인 협력도 강화할 예정입니다.
AI 법 제50조에서는, 합성된 음성, 이미지, 영상, 텍스트를 생성하는 AI 시스템의 제공자에게 출력을 기계 판독 가능한 형태로 표시하고, 인공적으로 생성 또는 가공된 것으로 감지할 수 있도록 하는 것을 요구하고 있다.
사용되는 기술에 대해서는, 기술적으로 가능한 범위 내에서 유효성, 상호운용성, 견고성, 신뢰성을 확보해야 한다. 워터마크나 콘텐츠의 기원을 나타내는 메타데이터 등을 활용하여 외부 시스템에서 AI 생성물을 식별할 수 있도록 하는 것이 예정되어 있다.
단지, 철자 검사 등을 포함한 표준적인 편집을 돕는 AI나, 입력된 데이터나 의미를 실질적으로 변경하지 않는 AI에 대해서는 기계 판독 마크 의무는 적용되지 않는다.
또한, 사람과 직접 대화하는 챗봇과 같은 AI 시스템은 상대방이 인간이 아닌 AI임을 사용자에게 명확히 알려주어야 한다. AI임을 이용 상황에서 명백히 알 수 있는 경우에는 예외 규정이 적용된다.
**디페이크가 사람도 이해할 수 있는 형태로 표시될 가능성 증대**
최근, 일본의 인공지능(AI) 기술 개발 기업인 ‘시냅스’(Synapse)가 개발한 새로운 기술이 디페(Deepfake)의 진화를 가속화하고 있다. 시냅스는 기존 디페가 만들어내는 영상의 진위 여부를 판별하기 어렵도록, 사람의 인지 능력을 고려한 새로운 기술을 개발하고 있다는 방침이다.
시냅스의 핵심 기술은 ‘컨텍스트 인식’(Context Awareness)이라는 이름으로 불린다. 이 기술은 단순히 얼굴이나 목소리만 복제하는 데 그치지 않고, 영상 속 배경, 상황, 표정 변화 등 맥락적인 요소를 분석하여 더욱 현실적이고 설득력 있는 디페를 생성한다. 특히, 시냅스는 ‘AI 딥러닝’(AI Deep Learning) 기술을 활용하여, 사람의 시각적, 청각적 인지 패턴을 학습하고 이를 바탕으로 디페의 자연스러움을 극대화하는 데 주력하고 있다.
시냅스 관계자는 “기존 디페는 기술적인 완성도만으로는 진위 여부를 구별하기 어려웠지만, 컨텍스트 인식 기술을 통해 영상의 맥락을 이해하고 이를 반영함으로써, 사람도 디페가 진짜인지 가짜인지 구별하기 어려울 정도로 발전시킬 수 있을 것이다”라고 밝혔다. 또한, 시냅스는 이번 기술 개발을 통해 ‘메타버스’(Metaverse)나 ‘가상현실’(Virtual Reality) 등 새로운 콘텐츠 제작 분야에 활용될 가능성을 모색하고 있다. 시냅스의 이번 기술 개발은 디페 기술의 윤리적 문제와 함께, 기술의 발전 방향에 대한 사회적 논의를 더욱 촉발할 것으로 예상된다.
AI 시스템을 사용하여 콘텐츠를 공개하는 기업이나 단체 등 도입자에게는 기계 가독 마크 외에도 사람이 인식할 수 있는 형태의 정보 공개가 요구된다.
대상 대상은 실제 존재하는 인물, 물체, 장소, 조직, 사건 등에 묘사되어 만들어지며, 실제이거나 진실인 것처럼 보이는 AI 생성·가공 이미지, 음성, 영상 등의 “딥페이크”를 의미한다. 표시 방식은 시청자가 해당 콘텐츠에 처음 접하는 시점까지 명확하고 식별 가능한 형태로 이루어져야 한다.
예술, 창작, 풍자, 소설 등과 같이 작품의 성격에 부합하는 작품에 대해서는, 작품의 표시나 관람을 방해하지 않는 적절한 방법으로 AI 생성 또는 가공물이 포함되어 있음을 나타내면 충분하다.
**공공 정보를 다루는 AI 생성 텍스트도 대상**
최근 일본 정부는 인공지능(AI)이 생성한 텍스트가 유포되는 경우, 해당 내용이 공공의 이익을 침해하는지 여부를 판단하고, 법적 책임을 물을 수 있는지를 검토하기로 했습니다. 특히, AI가 생성한 텍스트가 개인 정보 유출, 허위 정보 유포, 명예훼손 등 공공의 안전과 관련된 문제를 야기할 경우, 법률 개정을 통해 책임을 강화할 방침입니다.
이번 조치는 최근 AI 기술 발전 속도가 급격히 빨라지면서, AI가 생성한 콘텐츠의 윤리적 문제와 법적 책임에 대한 논의가 활발하게 이루어지고 있다는 점을 반영한 것입니다. 특히, AI가 생성한 텍스트가 정치, 경제, 사회 등 다양한 분야에서 오해나 혼란을 야기할 수 있다는 우려가 제기되면서, 정부는 신속하게 대응책을 마련하게 된 것입니다.
현재 일본에서는 AI가 생성한 텍스트의 유포에 대한 명확한 법적 규정이 존재하지 않습니다. 따라서, AI가 생성한 텍스트로 인해 발생한 피해에 대한 책임 소재를 명확히 하고, AI 기술의 건전한 발전을 유도하기 위한 제도적 장치 마련이 시급한 상황입니다. 정부는 관련 전문가들과의 협의를 통해 AI 생성 텍스트에 대한 법적 책임 및 규제 방안을 마련할 계획입니다. 또한, AI 기술 개발 기업들에게 윤리적 가이드라인 준수를 독려하고, AI 생성 텍스트의 오용을 방지하기 위한 기술적 안전장치 마련을 지원할 방침입니다.
정치, 행정, 사법, 공공 안전 및 건강, 환경, 경제, 과학, 문화 등 공공적인 관심사 – 즉, 대중에게 정보를 제공하기 위해 공개되는 AI 생성 또는 가공 텍스트 역시 표시 의무의 대상이 된다.
한편, 인공지능이 생성한 텍스트가 인간에 의한 실질적인 확인이나 편집 관리, 즉 개인 또는 법인이 공개 내용에 대해 편집 책임을 지고 있을 경우, 표시 의무는 적용되지 않는다.
유럽연합(European Union) 위원회의 공식 FAQ에서는 인간에 의한 검토는 전문적인 지식이나 판단에 근거하여 내용을 실질적으로 검토하는 것을 의미한다고 설명하고 있습니다. 오직 철자나 문법의 수정과 같은 형식적인 확인만으로는 인간에 의한 검토나 편집 관리로 인정되지 않습니다.
이러한 이유로, AI를 보조적으로 사용한 뉴스 기사나 해설 기사라 하더라도 편집부가 내용 검토 및 수정, 그리고 공개에 대한 책임을 지는 경우에는 AI 생성 텍스트로 표시하는 것이 반드시 필요한 것은 아니다.
기존 AI 시스템은 12월 2일까지 이전 기간을 거치게 됩니다.
제50조의 투명성 의무는 8월 2일부터 적용되지만, 동일 날짜 이전에 EU 시장에 투입된 생성 AI 시스템에 대해서는 기계 판독 마크에 대한 의무 대응 기간이 2026년 12월 2일까지 연장된다.
이 이양 기간은 제공자가 제공하는 기계 판독 마크의 구현에만 한정된다. 딥페이크 표시 등, 도입자가 부담하게 되는 다른 투명성 의무는 8월 2일부터 적용된다. 또한 8월 2일 이전에 생성된 콘텐츠에 대해 거슬러 올라가 표시할 의무는 없다.
제50조 위반에는 최대 1500만 유로 또는 기업의 경우 전년도 전 세계 매출액의 3%에 해당하는 벌금이 부과될 수 있다.
## EU 공동 AI 생성 콘텐츠 표시 아이콘도 공개
유럽 위원회는 AI 생성·가공 콘텐츠를 나타내는 EU 공동 아이콘도 공개하고 있다.
아이콘에는 AI가 제작에 관여한 것을 나타내는 기본 버전 외에도 전체가 AI로 생성된 것, 인간이 만든 콘텐츠의 일부를 AI로 가공한 것 등을 나타내는 다양한 버전이 준비되어 있다.
아이콘의 이용 자체는 자의적이며, 사용한 것만으로도 AI 법에의 적합이 인정되는 것은 아니다. 반면, 제50조에 따른 표시 의무 자체는 자의적이지 않으며, 대상이 되는 제공자나 도입자는 EU 아이콘 또는 동등한 방법으로 규칙에 대응해야 한다.
원문 보기 | 출처: Ledge.ai