미국 플로리다 주에서 Anthropic의 AI “클로이드”를 일기처럼 사용하고 있던 한 여성이 “경찰서에 총격”을 하겠다는 내용으로 작성하여 체포되었다고 보도되었습니다. 해당 게시물은 Anthropic의 안전 시스템에 의해 감지되었고, 인간 담당자에 의한 확인 후 경찰에 신고되었습니다. Woman arrested after AI threat against Lee County Sheriff's Office: Investigators | News | winknews.comhttps://www.winknews.com/news/woman-arrested-after-ai-threat-against-lee-county-sheriffs-office-investigators/article_3d4c5915-7015-43c0-b86a-d7fa5eadf958.html 플로리다 주 보니타스프링스에 거주하는 여성입니다. 보고서에 따르면, 해당 여성은 2026년 9월 26일 Anthropic의 클로이드에 “경찰서에 총격”을 하겠다는 내용을 작성했으며, 다음 날인 27일에는 “새로운 총을 획득했다”는 내용의 게시물을 올렸다고 합니다.
체포된 여성은 플로리다 주 보니타스프링스에 거주하는 킴벌리 앤슨으로, 2026년 9월 26일 Anthropic의 클로이드에 “경찰서에 총격”을 하겠다는 내용을 작성했습니다. 다음 날인 27일에는 “새로운 총을 획득했다”는 내용의 게시물을 올렸습니다. 경찰 조사 결과, 킴벌리 앤슨은 AI를 이용하여 범죄를 계획하고 위협한 혐의를 받고 있습니다. Anthropic의 안전 시스템이 해당 게시물을 감지하고, 경찰에 신고하여 추가적인 범죄 행위를 예방하는 데 기여했습니다. 이 사건은 AI의 악용 가능성에 대한 경각심을 일깨우는 사례로 주목받고 있습니다.
클로이드에는 특정 표현이나 위협으로 이어질 수 있는 내용을 감지하는 안전 조치가 도입되어 있습니다. 또한, 앤서니프의 이용 약관은 해당사의 제품을 폭력이나 협박을 조장하는 데 사용하지 못하도록 금지하고 있습니다. 더불어, 정부 기관으로부터의 요청에 관한 정책에서는 사망이나 심각한 신체적 피해의 위험이 있는 긴급 상황에, 필요하다고 판단한 경우 법 집행 기관에 사용자 정보를 공개할 수 있다고 명시하고 있습니다. 이번 게시물은 내용이 심각했기 때문에 인간 리뷰 팀에 전달되어 확인 후 법 집행 기관에 보고되었습니다. 즉, 클로이드가 스스로 경찰에 신고한 것이 아니며, 안전 시스템이 감지한 내용을 인간 담당자가 확인한 후 신고되었습니다.
보고를 받은 보안관 사무소는 여성을 특정하고, 거주지를 방문하여 그녀는 저항 없이 체포되었으며, 이후 해당 보안관 사무소의 정보 부검사가 수사를 이어갔습니다. 여성은 플로리다 주 법에 따른 “서면 강요” 혐의로 기소되었습니다. 플로리다 주 법에 따르면, 살인, 상해, 총기 난사 사건, 테러 행위 등을 포함한 위협을 포함하는 문서 또는 전자 기록을 다른 사람이 볼 수 있는 방법으로 전송하거나 게시하는 행위를 범죄로 규정하고 있습니다. 기술 뉴스 매체 TechSpot에 따르면, 이 혐의는 제2급 중범죄로 분류되며, 여성은 11월에 출廷할 예정입니다. 리 카운티의 카마인 마르세노 보안관은 여성은 Claude를 “일기처럼 사용했다”고 밝혔습니다. 마르세노 보안관은 “AI는 강력한 도구인 동시에 다른 기술과 마찬가지로 악용될 가능성이 있다. AI를 이용한 위협이라도 당국은 그 위협을 심각하게 받아들인다”고 밝혔습니다.
원문 보기 | 출처: Gigazine