OpenAI는 러시아 및 이란이 “AI 기반 가상 조직 및 가상 인물을 활용한 영향 공작”에 활용한 계정을 정지했다고 발표했습니다. Disrupting AI-enabled “false front” operations | OpenAIhttps://openai.com/index/disrupting-ai-enabled-false-front-operations/AI를 활용한 “가면 조직 및 인물”에 의한 활동 저지 | OpenAIhttps://openai.com/ja-JP/index/disrupting-ai-enabled-false-front-operations/OpenAI에 따르면 최근 진행되고 있던 위협 행위자들의 활동은 기존 방식 및 기술과 AI를 결합하여 정교하게 가상 인물 및 조직을 생성하고 발신 출처를 숨겨 지정학적 및 분쟁 관련 메시지를 표적으로 전달하는 방식이었습니다.
러시아의 작전 활동은 “Dark Clark(다크 클락)” 작전으로 불리고 있습니다. 이 명칭은 위협 행위자가 미아·클라크라는 가상 인물을 통해 자칭·조사 플랫폼 “사회조사센터(SRC)”를 지배하고, 활동 실적 보고서를 사용하여 자신들의 활동을 더 현실적으로 보이게 했던 데서 비롯되었습니다. 작전의 목표는 라틴 아메리카 각국, 특히 아르헨티나와 볼리비아에서 우크라이나 및 현지 지도층을 폄하하는 가짜 정보가 확산되었습니다. 연구자들은 가짜 정보의 일부가 러시아에서 활동하는 민간 군사 회사·와그네르 그룹의 후계인 Politology나 La Compania라고 불리는 조직에 의한 것인 것으로 지적하고 있습니다. 작전은 라틴 아메리카 사람들을 끌어들여 SRCのために 일하게 하는 데 성공했습니다. 일하고 있는 현지인들은 자신들이 러시아를 위해 일하고 있다는 것을 전혀 알지 못했다는군요. 에콰도르의 질다·알시바르·가르시아 장관은 Dark Clark 작전으로 확산된 가짜 정보를 부정하는 성명을 발표했습니다.
오늘 저는 교육 기관을 이용하여 허위 정보를 유포하려는 정치적 조작 행위를 폭로했습니다. 저의 목표는 정보 없이, 학생들의 복지 및 발전을 중시하는 투명하고, 허위 정보로부터 자유로운 교육을 보호하는 것입니다. 🤝 https://t.co/kGSEElOoJr
에콰도르 신문과 Lupa도 팩트 체크 기사를 게시하고 있습니다. 이는 “가짜 정보가 부정 선언이나 팩트 체크를 통해 널리 확산되어 심지어 반박을 하도록 만들 정도로 확산되었다”는 것을 OpenAI가 지적하고 있습니다. ¿Teleamazonas는 Noboa가 우크라이나를 위해 용병을 모집했다는 혐의를 제기했습니까? https://lupa.com.ec/verificaciones/noboa-mercenarios-ucrania-ecuador/ 한편, 이란의 작전은 7개의 다른 명의로 생성한 기사를 판매하면서 “거짓 서명 작전”으로 불리고 있습니다. OpenAI에 따르면, 이 작전의 위협 행위자는 페르시아어로 프롬프트를 입력하여 페르시아어와 영어 콘텐츠를 생성했습니다. 생성된 것은 SNS 댓글 등으로, 그 외에는 장문 기사나 편집자용 판매 호의 문면의 내부 보고서의 수정에도 사용되었습니다. 실제로 생성된 기물 중 세계 각국의 10여 건의 미디어에서 작전에 사용된 저자 명의 기사가 100본 가까이 공개 및 번역되었고 있습니다. 다만, SNS에서는 해당 기물에 대한 반응은 그다지 나타나지 않았다고 합니다. OpenAI에 따르면 정보의 유통 경로에 따라 확산 가능성은 크게 달라질 수 있다고 합니다. OpenAI는 지금까지의 가짜 정보 확산을 6가지 범주로 분류하고 있습니다. 범주 1 및 2는 단일 플랫폼에서의 확산이며, 각각 폭발적으로 확산되었는지 여부의 차이. 범주 3 및 4는 다중 플랫폼에서의 확산이며, 각각 폭발적으로 확산되었는지 여부의 차이. 범주 5는 정치인이나 유명인에게까지 확산된 경우. 범주 6은 의사 결정에 영향을 미치는 수준입니다. 아래 그림은 2024년 초 이후 OpenAI가 적발한 30건의 영향 작전을 주요 확산 수단(“Social media(SNS)”, “Website(웹사이트)”, “External publications(외부 출판물)”)과 확산 규모 평가(범주 1~6)로 분류한 것입니다. 억(억) = 억(100만), 만(만) = 만(10,000), 조(조) = 조(1조).
SNS의 가짜 계정으로만 정보를 확산시키는 데에는 한계가 있는 한편, 어떻게든 거짓 정보를 다른 미디어에 침투시키는 데 성공한다면 잠재적인 도달 범위가 확장되는 경향이 있다고 OpenAI는 보고했습니다.
원문 보기 | 출처: Gigazine