머스크의 AI 기업, xAI(SpaceXAI)가 미국 미네소타 주에서 상원과 하원을 통과한 딥페이크 AI 노출 금지 법안을 두고 소송을 제기했습니다. 해당 법안에서 정의되는 “어떤 부분이 성적으로 노골적인가”라는 항목이 모호하여 단순한 딥페이크와 풍자 이미지를 구별하는 것조차 불가능하다고 xAI는 주장합니다. 2026년 7월 26일 초고 소장 xAI v. 엘리슨 (FINAL)(247309411.1) - gov.uscourts.mnd.235231.1.0.pdf (PDF 파일)https://storage.courtlistener.com/recap/gov.uscourts.mnd.235231/gov.uscourts.mnd.235231.1.0.pdf xAI는 미네소타 주의 광범위한 “노출 금지” 법안을 제1 수정 조항 위반으로 맞서고 있습니다.
미네소타 주 의회에 제출된 노출 금지 법안 “HF 1606”은 웹사이트나 소프트웨어의 소유자 또는 관리자가 누드를 목적으로 이미지를 또는 영상을 생성하도록 다른 사람에게 이용하게 하지 못하도록 규정하고 있습니다. 이 법안은 하원에서 132대1로, 상원에서 65대0으로 통과되어 2026년 8월 1일부터 시행될 예정입니다. 딥페이크를 생성하는 사람이 아닌, 딥페이크를 생성할 수 있는 소프트웨어 등을 제공하는 사람을 처벌하는 것으로, 미국에서 처음으로 이러한 법률이 제정될 것이라고 전해집니다.
겉으로 보기에 딥페이크를 포괄적으로 금지할 수 있는 시대에 맞는 법안처럼 보이지만, xAI는 “정의가 모호하고, 딥페이크 규제의 원래 목적을 넘어 확장될 수 있다”고 주장합니다. 성적인 이미지 생성을 금지하려는 의도에는 동의하지만, 표현의 자유를 보장하는 헌법 수정 조항 제1조에 위배될 수 있다고 주장하며, 미네소타 주 검사의 키스 엘리슨을 상대로 법안의 효력 정지를 요구하는 소송을 제기했습니다.
xAI가 문제시한 점 중 하나는 법안에 명시된 “식별 가능한 개인의 원본 이미지 또는 영상에는 나타나지 않은 성적인 부분을 묘사하도록 이미지를 또는 영상을 변형 또는 생성하는 것을 금지한다”는 부분입니다. 법안에서는 “식별 가능한 개인”이라는 용어에 대해 “이미에 등장한 본인 또는 다른 사람이 식별 가능한 개인, 또는 이미와 관련하여 표시된 개인정보로 식별 가능한 개인”으로 정의되어 있습니다. 이 점에 대해 xAI는 “본인이 제작에 동의했는지에 대한 규정이 전혀 없기 때문에 성인이 자신 자신의 이미지를 변형한 경우에도 대상이 된다”고 지적했습니다.
성적인 부위”는 더욱 문제입니다. 법안에서는 “성적인 부위”를 직접 정의하지 않고, 성폭력에 대한 처벌에 관해 정한 다른 법률을 인용하도록 규정하고 있습니다. 이 법률에서는 “성적인 부위”에 대해 “인간의 생식기, 배꼽, 안쪽 다리, 엉덩이, 또는 유방이 포함됨”으로 규정하지만, xAI는 “이 정의는 성적 접촉에서는 적절하지만, 이미지나 영상을 대상으로 할 때에는 지나치게 범위가 넓어”한다고 지적했습니다. 예를 들어 수영복 이미지나 노출이 많은 옷의 이미지, 남성의 상반신 노출 이미지도 대상이 되어, 일상적으로 공공장소에서 착용되는 옷도 문제시될 수 있다고 주장했습니다. xAI는 몇 가지 구체적인 예를 제시했습니다. 하나는 미국의 도널드 트럼프 전 대통령이 게시한 AI 이미지로, 수영복을 입은 트럼프 전 대통령, JD·밴스 부통령, 마르코 루비오 국무장관, 다그 버가먼 내무장관, 그리고 신원이 밝혀지지 않은 여성의 모습이 담긴 것입니다.
xAI는 “이 이미지는 전 대통령이 자신의 개인 계정에 게시한 것으로, 국가 박물관의 리플렉팅 풀 수리 문제를 유머러스하게 다루려는 의도가 있었을 것으로 추정된다. 그러나 적어도 전 대통령, 부통령, 내무장관, 여성에 대해서는 ‘성적인 부위(가슴)’가 ‘묘사’되고 있는 셈이 된다”고 밝혔습니다. 다음으로 정치적 입장이 다른 전지사와 현지사가 일식 경기에서 대결하는 모습을 그린 AI 이미지로, xAI는 “정치 풍자를 의도한 것으로 보이나, 가슴과 안쪽 다리가 묘사되어 책임을 물을 수 있는 상황”이라고 지적했습니다.
세 번째는 중국의 시진핑 국가주석과 마스크 씨, 팀 쿡 씨, 도널드 트럼프 대통령이 중국의 거리에서 식사를 하는 장면을 그린 AI 이미지로, 역시 안쪽 다리가 묘사되어 있습니다.
xAI는 “이러한 사례는 헤아릴 수 없을 정도로 많고, 컴퓨터와 인터넷 연결만 있으면 누구나 유머러스하고, 과학적이고, 예술적이고, 풍자적이며, 무해한 이미지를 만들 수 있지만, 이러한 이미지들도 법안에서는 노출화로 금지되고” 있다고 주장했습니다. xAI는 또한 의회는 더 나은 대체안을 논의하고 있으며, 해당 대체안을 재검토해야 한다고 지적했습니다. 대체안 중 하나는 미네소타 주의 기존의 딥페이크 법을 참조한 것으로, “성적인 부위”로 “성기, 항문, 항문, 부분적으로 또는 완전히 노출된 유두”를 명확하게 정의합니다. 법이 시행될 경우, 대상자는 “접근, 다운로드, 이용” 1건당 50만 달러(약 82억 원)의 민사 제재금이 부과됩니다. xAI는 법이 시행되기 전에, 미네소타 주의 사용자에게 “Grok Imagine”의 이미지 편집 기능을 제한한다고 발표했습니다. 참고로 이 법안을 초안한 제스 헌슨 하원 의원은 “마스크 씨와 그가 개발한 xAI가, 아동의 성적 착취로부터 아이들을 보호하기 위한 법에 반대하는 것은 완전히 억이럽습니다. 아동 성애, 성적 착취, 범죄의 상업화로부터 아이들을 보호하는 것은 누구에게나 당연한 일이어야 합니다”라는 성명을 발표했습니다.
원문 보기 | 출처: Gigazine