생성 AI의 발전으로, 이전보다 훨씬 적은 노력과 시간으로 실제와 구별하기 어려울 정도로 정교한 영상, 이미지, 음성을 생성할 수 있게 되었습니다. 이러한 AI 생성 디ープ페이크가 미스터리 소설에도 영향을 미치고 있다고, '#니나에게 무슨 일이 있었을까?'와 같은 미스터리 소설로 알려진 호주 작가 더브라 마크티안은 설명했습니다. Crime Reads » How AI Deepfakes Are Changing the Rules of Crime Fiction https://crimereads.com/how-ai-deepfakes-are-changing-the-rules-of-crime-fiction/
AI를 사용하여 실제 존재하지 않았거나 하지 말아야 할 일을 한 것처럼 보이게 하는 디ープ페이크는 과거에는 매우 높은 생성 비용과 설득력이 낮았습니다. 그러나 최근에는 고성능 생성 AI가 보급되어 이전보다 훨씬 적은 노력과 시간으로 디ープ페이크를 생성할 수 있게 되었습니다. 각국 정부는 그 영향을 이해하려고 노력하고 있지만, 기사 작성 시점에서는 충분한 법규가 마련되어 있지 않습니다.
더 이상 이미지나 동영상을 그저 훑어보는 것만으로는 진실 여부를 판단할 수 없는 상황에서, AI 생성 여부를 판단하는 데에는 영상이나 이미지에 등장하는 인물이나 물건에 대한 광범위한 맥락에 의존해야 합니다. 사람들은 “톰 행크스가 수상한 치과 보험 광고에 출연할 리가 없으니, 이 광고는 아마도 AI 생성일 것이다”와 같이 판단할 수밖에 없습니다. 디ープ페이크는 영상 등에 등장하는 인물에 대해 자세히 조사하고 특정 대상을 속이기 위해 가장 효과적으로 활용됩니다. 2024년에는 홍콩의 엔지니어링 기업에 근무하는 재무 담당자가 최고 재무 책임자(CFO)를 사칭하는 인물로부터 비디오 회의 참여를 유도받았습니다. 피해자는 비디오 회의에 참여한 CFO나 동료의 얼굴과 목소리가 본物처럼 생생했기 때문에 완전히 신뢰하여 지시를 따랐고 2억 홍콩 달러(약 38억 원)를 계좌로 송금했지만, 후에 사기였던 것이 밝혀졌습니다. 회의 참여자는 모두 디ープ페이크로 생성된 가짜였던 사건이 발생했습니다. 디ープ페이크 상사의 지시를 따르며 38억원을 사기꾼에게 송금하는 일이 발생, 디ープ페이크를 구별하는 방법은 있을까요? - GIGAZINE
특정 개인을 표적으로 하지 않는 사기는 더욱 보편화되고 있으며, 소셜 미디어에서는 유명인이나 실업가 등장하는 의심스러운 광고가 많습니다. 또한 정치인의 명성을 깎아내리기 위해 생성된 딥페이크가 봇 계정을 통해 확산되는 사례도 있습니다. 맥티아난 박사는 딥페이크가 범죄 소설에 적합한 소재라고 주장하며, 실제로 맥티아난 박사의 저서 『Three Reasons for Revenge』에서는 개인 공격 수단으로 딥페이크가 사용되고 있습니다. 『Three Reasons for Revenge』에서는 딥페이크가 두 번 등장하는데, 첫 번째는 “로버트라는 심리학자가 환자와 성관계를 하는 것처럼 보이는 영상”이고, 두 번째는 “엘사라는 패션 디자이너가 고용주인 인플루언서를 모욕적으로 비난하는 음성”입니다. 이 중 하나는 실제이고 다른 하나는 딥페이크라고 하지만, 작품 속에서는 로버트와 엘사는 모두 “이것은 딥페이크다”라고 주장하는 것으로 묘사됩니다. 이를 통해 주변 사람들은 “이전까지 관련되었던 사람을 신뢰하는가, 아니면 실제 영상이나 음성에만 보이는 것을 신뢰하는가”라는 절망적인 상황에 직면하게 됩니다. 맥티아난 박사는 “딥페이크는 당신이 무고한 경우 가장 심각한 인격 공격이 됩니다. 당신의 목소리, 뉘앙스, 톤, 입술, 볼, 턱수염 등을 사용하여 당신이 원하는 것과 정반대의 메시지를 전달하는 영상은 심각한 폭력입니다. 한 번 그 영상이 세상에 유포되면, 당신은 끊임없이 불안 속에서 살아야 할 것입니다. 누가 그것을 보고 누가 그것을 믿는지를 항상 불안해하게 될 것입니다”라고 밝혔습니다. 반면, 실제 영상이나 녹음이 공개되어 위태로운 입장에 몰리게 된 사람들에게는 “이것은 딥페이크다”라는 주장은 새로운 탈출구가 되었습니다. 그러나 맥티아난 박사는 정당한 증거를 딥페이크라고 공격하는 방식은 평판 관리를 전문으로 하는 PR 기업을 고용하고, 봇이나 인플루언서를 통해 여론을 조작할 수 있는 부유층에만 유효할 것이라고 주장했습니다.
딥페이크로 인해 증거 자체가 믿을 수 없게 되었을 때, 수용되는 진리는 “무엇이 증명되고 있는가”가 아니라 “누가 신뢰할 수 있는가”, “주장이 얼마나 반복되는가”, “처음 누구의 의견이 귀에 닿는가”에 좌우됩니다. 『Three Reasons for Revenge』에서는 딥페이크가 인간 관계를 흔들고 로버트와 엘사의 주변 사람들은 오랫동안 쌓아온 관계와, 단지 몇 초의 영상이나 음성에 어느 것을 신뢰할 수 있는지에 묶이게 됩니다. 맥티아난 박사는 “범죄 소설은 항상 무엇이 일어났는지, 누구를 신뢰할 것인지, 무엇이 증거로 인정되는지를 끊임없이 질문해 왔습니다. 그리고 새로운 기술은, 소설 세계이든 현실 세계이든, 경찰 활동에 항상 기회와 과제를 제공해 왔습니다. 딥페이크가 이전과 다른 점은, 그것이 개인적이고 소중한 것에 타격을 준다는 것입니다. 그것은 바로 우리 자신의 판단력, 눈과 귀, 그리고 서로에 대한 신뢰입니다”라고 말했습니다.
원문 보기 | 출처: Gigazine