2026년 7월 21일, OpenAI는 “테스트 중인 AI가 Hugging Face를 공격하는 보안 사고가 발생했다”고 발표했습니다. 이 사고에 대해 OpenAI 연구자들이 보안 컨퍼런스 Black Hat USA 2026에서 연사하여 “AI 에이전트들이 정보 공유를 위한 게시판을 비밀리에 형성하고 있었다”는 에이전트의 자율적인 공격 실태에 대해 설명했습니다. ‘Breaking’ 뉴스: OpenAI – Hugging Face 사건 – 기술 재구성과 AI에 미치는 영향 – Black Hat USA 2026 | Briefings Schedule https://blackhat.com/us-26/briefings/schedule/index.html#the-breaking-news--the-openaihugging-face-incident---a-technical-reconstruction-and-its-implications-for-ai-57401.
OpenAI는 테스트 중인 AI 모델이 Hugging Face에 대한 공격을 “테스트 모델에는 인터넷 접속 권한을 주지 않았지만, 모델이 패키지 관리 시스템인 Artifactory에 존재하는 취약점을 악용하여 인터넷에 연결하고 Hugging Face에 대한 공격을 실행했다”고 설명했습니다. 또한, OpenAI는 공격을 즉시 감지하지 못하고, 공격 성공 1주일 정도 경과한 2026년 7월 19일에 조사에 착수했다는 사실이 밝혀졌습니다. AI가 Hugging Face를 해킹했던 사실을 OpenAI는 1주일 동안 알아차리지 못했다고 관계자들이 밝혔습니다. - GIGAZINE
문제 발생 이후 OpenAI는 지속적인 조사를 실시했습니다. 그리고 2026년 8월 5일, OpenAI 연구원인 마이클 다틀턴과 에릭 월리스가 보안 컨퍼런스 Black Hat USA 2026에 壇上하여 “현재까지 확인된 공격의 경위”를 설명했습니다. 연사의 모습은 다음 동영상에서 확인할 수 있습니다. Black Hat USA 2026: ‘Breaking’ 뉴스: OpenAI – Hugging Face 사건 – YouTube
설명에 따르면, OpenAI는 2026년 5월 7일에 내부 평가 모델의 실험적인 강화 학습 흐름을 시작한 것으로 확인되었습니다. 강화 학습의 일환으로 모델에 어려운 과제를 부여한 결과, 모델은 OpenAI의 내부 네트워크에서 운영되는 Artifactory에 대한 공격을 수행하여 인터넷 접속을 시도했습니다. 공격은 실패했지만, 공격 과정에서 “Artifactory의 시스템 내부에 데이터를 쓸 수 있다”는 사실을 모델이 인지한 것으로 나타났습니다. 이후, 다른 AI 에이전트가 Artifactory의 시스템 내부에 “다른 에이전트에게 문제 해결을 돕는 메모”를 저장한 것을 계기로 AI 에이전트들 간에 정보를 공유하는 게시판과 같은 시스템이 형성되었습니다.
2026년 5월 26일에는 “게시판”에서 교환된 정보를 바탕으로 “Artifactory의 취약점을 악용하여 인터넷에 연결하는” 방법이 확립되었습니다.
이후 2026년 7월 4일, 에이전트의 접근 과부하로 인해 Artifactory 시스템이 다운되었다. 이 시점에서 OpenAI는 게시판이 형성되고 있다는 것을 인지하고, 게시판 생성 기능을 막는 조치를 취했다. 그러나 AI 에이전트는 인증되지 않은 WebDAV 엔드포인트를 악용하여 2026년 7월 8일 게시판을 재구성하고 정보 공유를 재개했다.
AI 에이전트는 공유한 정보를 악용하여 2026년 7월 8일부터 19일까지 OpenAI 내부, 2026년 7월 8일부터 13일까지에는 Hugging Face에 공격을 수행했다. 그리고 2026년 7월 16일 Hugging Face가 “AI 에이전트의 공격” 존재를 공식적으로 발표하고, 2026년 7월 19일 OpenAI가 이번 사건을 보고하게 된 것이다.
한편, Anthropic도 OpenAI의 사건을 계기로 과거 테스트 내용을 면밀히 검토하여, 테스트 모델을 통해 외부로 공격이 실행되었다는 사실을 보고했다. Anthropic 또한 AI 모델 테스트 중 외부 공격이 실행되었음을 보고하고, 악성ware를 1시간 동안 배포하여 실제 기업에 침투한 사례도 - GIGAZINE
원문 보기 | 출처: Gigazine