이미지 출처: ChatGPT에 의해 Ledge.ai 편집부가 생성 (이미지)
미 플로리다 주에서, Anthropic의 AI “Claude”를 일기처럼 사용하고 있었다는 여성의 경우, 보안관 사무실을 총격으로 할 계획이라는 게시물을 작성한 혐의로 체포되었다. 현지 매체 WINK News는 2026년 9월 30일 (현지 시간), 체포 보고서에 근거하여 보도했다. 해당 게시물은 안전 시스템에 의해 감지되어, Anthropic의 인간 검토 팀이 당국에 연락했다는 것이다.
## 총격 암시 게시물 감지, 인간 검토 후 신고
WINK News에 따르면, 체포된 피의자는 동일 주 보니타스프링스에 거주하는 여성이다. 9월 26일, 리 郡 보안관 사무실에 “총격할 것이다”라는 게시물을 올렸고, 다음 날에는 새로운 총을 구매한다는 게시물을 올린 것으로 알려졌다. TechSpot은 사용한 서비스를 Claude라고 전달하고 있다.
WINK News에 따르면, 해당 게시물은 Anthropic의 안전 시스템에 의해 감지되어, 내용의 심각성으로 인해 인간 검토 팀으로 이관되었다. 해당 팀이 내용을 확인하고 법 집행 기관에 보고했다는 것이다.
당국은 피의자를 특정하여 집을 방문하고, 저항 없이 체포했다. 피의자는 서면으로 폭력적인 위협의 혐의를 받고 있다. AI를 “일기”처럼 사용하고 있다는 여성의 설명은 리 郡의 보안관이 WINK News에 밝힌 내용이다.
## Anthropic의 약관은 당국에 대한 정보 제공을 명시
Anthropic는 이용자의 정보를 법 집행 기관에 제공할 수 있음을 공개적으로 명시하고 있는 약관을 발표했다.
소비자용 이용 약관에서는 이용자의 입력, AI의 출력, 액션 등을 포함한 정보에 대해 해당 회사의 재량에 따라 법 집행 기관에 보고할 권리를 보유하고 있다.
또한, 2026년 9월 10일 발효되는 개인정보 처리방침은 사람이나 재산에 대한 중대한 해악을 방지하기 위해 등에, 정보의 공개가 합리적으로 필요하다고 진실성 있게 판단한 경우 정부 기관이나 법 집행 기관 등과 개인 데이터를 공유할 수 있음을 명시하고 있다.
이는 일반적인 정보 처리 방침이며, 이번 사건에서 구체적으로 어떤 기준을 적용했는지 설명하는 것이 아니다. WINK News는 Anthropic에 코멘트를 요청했지만, 확인된 기사에는 해당 회사의 답변이 게재되지 않았다.
## 학습 활용을 중지해도 안전 심사 대상 대화는 모델 개선에 사용
이용자는 계정 설정에서 입력 및 출력을 모델 학습에 활용하는 것을 중지할 수 있다. 다만, 안전 심사의 대상으로 감지된 대화는 예외이다. Anthropic는 유해한 내용의 감지 능력 개선, 이용 규칙의 적용, AI 안전성 연구를 위해 이러한 대화의 입력 및 출력을 모델 개선에 사용하는 것을 밝히고 있다.
이번 보도가 전달하는 경위는 AI가 자라 경찰에 통보했다는 것이 아니라, 안전 시스템의 검지 후에 인간이 심사하고, 당국에 연락했다는 것이다. 여성이 일기로서 사용하던 대화도, 서비스 운영 측의 안전 심사의 대상이 되려다 고단된.
관련 기사: OpenAI, 총격 사건 용의자가 ChatGPT 이용, 경찰 통보 기준 재검토 캐나다 당국에 안전 대책 강화 약속
관련 기사: OpenAI, ChatGPT에 “Trusted Contact” 추가, 자해 위험을 검지した場合에 사전 등록한 “신뢰할 수 있는 연락처”로 통보
관련 기사: Anthropic, Claude 악용의 실태를 공개, 공격 자동화부터 감시 및 무기 개발, 부정 증류까지
원문 보기 | 출처: Ledge.ai