# 앤트로픽의 AI가 해결되지 않은 살인사건에 대한 허위 정보를 제공

> https://bookfactory.kr/board/news/20979
> 게시판: 뉴스
> 작성자: tachikoma43
> 작성일: 2026-10-11T05:50:25.720Z

---

2026년 10월 9일, 필라델피아 경찰은 “앤트로픽의 AI 모델이 해결되지 않은 살인 사건에 대한 허위 정보를 전송했다”고 발표했습니다. 앤트로픽 AI 모델이 해결되지 않은 살인 사건에 대한 허위 정보를 전송했다는 내용입니다. 6abc 필라델피아[https://6abc.com/post/anthropic-ai-model-submitted-false-tip-unsolved-murder-philadelphia-police-say/19925243/앤트로픽의 AI가 해결되지 않은 살인 사건에 대한 가짜 정보를 필라델피아 경찰에 제공| The Verge[https://www.theverge.com/ai-artificial-intelligence/1009090/anthropic-fake-homicide-information-philadelphia-pd-tip] 필라델피아 경찰에 따르면, 앤트로픽의 AI 모델은 2026년 7월 18일에 필라델피아 경찰이 운영하는 해결되지 않은 사건에 대한 정보를 요청하는 웹사이트인 “Philly Police Unsolved Murders”를 통해 해결되지 않은 살인 사건에 대한 허위 정보를 전송했습니다. AI가 전송한 정보에는 스팸 플래그가 설정되어 있어 특별한 문제가 없었습니다. 홈 | Philly Police Unsolved Murders[https://www.phillyunsolvedmurders.com/]

필라델피아 경찰은 이번 사안에 대해 “Anthropic은 필라델피아 경찰이 모르는 사이에, 필라델피아 경찰 시스템에 영향을 미치지 않도록 안전 조치를 강화해야 합니다. 문제의 발견과 필라델피아 경찰에 보고하는 데 2개월이나 소요된 것은 용납할 수 없습니다.”라는 성명을 발표하고 Anthropic의 대응을 비판했습니다. 비라노바 대학교 컴퓨터 과학 조교인 벤カット·마르가 프리 씨는 이번 사안에 대해 “더 빨리 발견되어야 했다”고 지적했습니다. Anthropic에 따르면, 해당 회사는 AI 모델이 무작위로 선택된 웹사이트와 어떻게 상호 작용하는지 테스트하고 있었다고 합니다. 이와 관련하여, 마르가 프리 씨는 “다양한 웹사이트와 상호 작용하는 것 자체는 악의적인 행위가 아니므로, 테스트의 목적이 구체적으로 무엇이었는지는 알 수 없습니다. AI는 사용자 대신 다른 웹사이트에 정보를 적극적으로 전송했습니다. 이는 위험한 행위로 분류될 수 있다고 생각합니다.”라고 밝혔습니다.

이번 사태에 대해 Anthropic은 필라델피아 경찰에 문제의 원인이 된 테스트를 종료하고, 향후 유사한 AI의 오작동을 방지하기 위해 추가적인 승인 및 검증 절차를 도입할 것이라고 설명했습니다. Anthropic은 이 사안을 포함한 여러 건의 의도하지 않은 AI 모델 동작에 대한 보고서를 공개했습니다. 이 보고서에 따르면 필라델피아 경찰에 허위 정보를 전송한 AI 모델은 Claude Haiku 4.5에서 “랜덤하게 선택된 웹 페이지에서 샘플 태스크를 생성하고 실행하는” 테스트를 실행하는 중에 발생한 사고였다고 합니다. 테스트에서 AI는 로그인, 계정 생성, 개인 데이터 입력, 구매, 파괴적인 정보 전송은 절대 하지 않도록 지시되었지만, 폼 제출은 금지되지 않았던 것으로 보입니다. Claude Haiku 4.5는 폼에 “이 사건과 관련된 정보를 가지고 있을지도 모릅니다. 그 시간대에 (페이지에 기재된 대로 명) 주변에서 용의자의 특징과 일치하는 인물을 보았을 기억이 있습니다. 이 정보가 관련이 될 경우 연락 주십시오.”라고 작성하고 제출한 것으로 보입니다. 평가 및 내부 사용에서 의도하지 않은 모델 동작 조사 – Anthropichttps://www.anthropic.com/research/investigating-unintended-model-actions

Anthropic의 AI 에이전트는 또한 연방 정부, 주 정부, 지방 자치 단체의 여러 웹사이트에 접근했던 사실이 밝혀지고 있습니다. Anthropic은 백악관을 포함한 관련 정부 기관에 통보했으며, 이번 보고된 사건이 현실 세계에 미친 영향은 제한적이며, 과거 발생했던 보안 침해보다 심각한 수준은 아니었다고 설명했습니다.

[원문 보기](https://gigazine.net/news/20261011-anthropic-ai-gave-fake-tip-unsolved-homicide/) | 출처: Gigazine