# AI 기반의 연이은 해킹 사건은 “AI의 폭주”가 아닌 “AI 기업이 보안의 기본을 무시하고 있기 때문”이라는 지적입니다.

> https://bookfactory.kr/board/news/21914
> 게시판: 뉴스
> 작성자: tachikoma43
> 작성일: 2026-10-15T23:34:34.194Z

---

세계 최대 규모의 사이버 보안 전문 미디어인 CSO Online은 2026년에 걸쳐 반복적으로 발생하는 “AI 에이전트 의한 해킹 사건”은 AI의 폭주가 원인이 아니며, AI 기업이 보안의 기본을 소홀히 한 결과라고 설명하고 있습니다. AI agents aren’t ‘going rogue.’ Frontier labs are skipping security basics. | CSO Onlinehttps://www.csoonline.com/article/4234854/ai-agents-arent-going-rogue-frontier-labs-are-skipping-security-basics.html 2026년 7월, OpenAI는 사내 테스트 중에 AI가 실수로 Hugging Face를 해킹하여 버렸다고 발표했습니다. OpenAI는 처음에는 이 인시던트를 “최첨단 사이버 능력을 동반하는, 전례 없는 사이버 인시던트”라고 표현했지만, 이후 “미스매치(개발자가 의도하지 않은 행동)가 원인이었다”고 설명했습니다. OpenAI가 새로운 AI 시스템으로 실수로 Hugging Face를 해킹한 것을 보고 - GIGAZINE

그 후, 경쟁사인 Anthropic도 테스트 중에 AI가 외부 서비스에 공격을 실행하여 버린 것으로 보고되었습니다. Anthropic도 AI 모델의 테스트 중에 외부로의 공격을 실행하여 버린 것을 보고, 악성웨어를 1시간에 걸쳐 배포하여 실제 기업에 침투한 사례도 - GIGAZINE

Google의 AI 모델인 Gemini도 테스트 중에 3개의 기업을 해킹한 사실이 밝혀지고 있습니다. Gemini가 테스트 중에 오작동하여 3개의 기업을 해킹했지만 Google은 공개하지 않고 침묵해 왔던 사실이 드러났습니다 - GIGAZINE

여러 AI 기업들이 “AI가 의도하지 않은 방식으로 외부 시스템에 침입하거나 해킹을 했다”고 보고하고 있지만, 이는 일반적으로 “AI 에이전트의 폭주”로 전달되고 있습니다. 언론 기관과 AI 기업들은 “AI 에이전트의 폭주” 또는 “미스 얼라이언트(Misalignment)”와 같은 표현을 활용하고 있다고 CSO Online은 지적했습니다. 그러나 CSO Online이 사이버 보안 전문가에 대한 자체 조사를 실시한 결과, 전문가들은 “‘AI의 폭주’ 또는 ‘미스 얼라이언트’와 같은 용어가 단순한 사실을 가리고 있다”고 지적했다고 합니다. “AI의 폭주”로 보도되고 있는 이러한 사건들은 수십 년 전부터 알려진 사이버 보안의 기본을 AI 기업이 실시하지 않아 발생한, 변명할 여지 없는 결함에 의해 발생한다고 CSO Online은 지적합니다.

CSO 온라인이 6명의 사이버 보안 전문가에게 인터뷰한 결과, “인공지능의 폭주”로 전달되고 있는 이러한 인시던트들을 악화시키고 있는 것은 인공지능 기업, 특히 OpenAI와 Anthropic이 사이버 보안 위험 관리 개선책에 대해 전문가의 조언을 무시해 왔기 때문이라는 것입니다. 기계 학습의 보안을 연구하는 Berryville Institute of Machine Learning(BIML)의 공동 창설자 게이리·마그로―氏は “솔직히 말씀드리면, 그들은 자신들이 생각하는 것만큼 뛰어나지 않습니다. 디지털 포렌식, 보안 엔지니어링, 샌드박스 구축, 네트워크 보안 환경 설정 및 모니터링 등 보안의 다양한 전문 분야에서 사람들이 오랫동안 축적해 온 지식을 더 존중했方が 좋습니다.”라고 밝혔습니다.

CSO Online의 취재 결과, 사이버 보안 전문가들에 따르면, 인공지능 기업의 최대 문제는 1990년대부터 사용되어 온 검증된 봉쇄 대책을 실시하지 않은 점이다. 예를 들어, 인공지능 에이전트가 테스트 환경 밖으로 나가는 것을 확실히 막기 위해 안전한 샌드박스(프로그램을 격리하여 실행하는 환경)의 구축 등을 소홀히 하고 있다고 전문가들은 지적한다. 사이버 보안 교육·연구 기관인 SANS Institute에서 최고 인공지능 책임자 겸 연구 책임자로 일하는 로브 T. 리는 “이는 우리가 수년간 고민해 온 문제입니다. 이러한 일이 발생하는 매번 ‘정말 어이가 없지, 어떻게 밖으로 나갔지?’라고 되묻는 것은 어처구니가 없을 수밖에 없습니다.”라고 말했다. 인공지능 기업의 보안 팀이 아직 상당히 성숙하지 않았다는 것을 알 수 있다. 사이버 보안의 봉쇄에 참여하는 전문가들은 봉쇄가 깨지는 대부분의 사례는 설정이 적절하지 않기 때문이라고 지적한다. 더욱이, 리는 “Hugging Face의 해킹 사건이 명백히 보여준 것은 인공지능 에이전트가 매우 현명했다는 것이 아니라는 점입니다. 봉쇄 설정이 적절하지 않았기에, 문자 그대로 구멍이 존재했고, 그것이 악용된 것일 뿐입니다.”라고 덧붙였다. 미국의 비영리 정책 연구 기관인 RAND의 인공지능 보안 기술 센터에서 전문 기술 레지던트(전문 기술 연구원)로 일하는 던 워ラック은 인공지능 기업의 보안상의 문제는 사이버 보안을 우선시하지 않기 때문이라고 비판한다. “그들은 사이버 보안을 우선시하지 않는다고 저는 단언합니다. 하지만 모든 연구 기업에 대해 그렇게 말할 수 있는 것은 아니라고 생각합니다.”라고 말했다. 사이버 보안을 우선시하는 인공지능 기업의 한 예시로 워ラック이 언급한 곳이 프랑스의 Mistral이다. 이 회사는 “Large 4”라고 불리는 최신 모델을 발표했으며, 이 모델은 테스트 중에 외부 서비스에 접근하려고 시도했으나, 이 회사는 이 징후를 감지하고 차단했다고 보고하고 있기 때문이다. 1조(兆) 파라미터(万) 초(超)의 “Mistral Large 4 Le Chonk”를 Mistral이 발표했으며, 중국 세력(勢力)에 맞서는 오픈 웨이트(Open Weight) 인공지능 모델 - GIGAZINE

또한, 워락크 국장은 “AI를 격리하는 것이 얼마나 어려운 일인지 인지하여, 그것이 불가능한 일이라는 의미는 아닙니다. 보안 전문가들은 이전부터 데이터가 이쪽에서 저쪽으로 이동하는 전기적인 경로를 완전히 제거하는 에어갭, 또는 그것이 불가능한 경우에는 아무것도 밖으로 통하지 못하도록 매우 엄격한 외향적인 통신 제어에 대해 논의해 왔습니다.”라며, AI의 폭주를 막는 것이 기술적으로 어렵지 않다는 점을 설명했습니다. 게다가, AI 기업의 AI 에이전트의 행동 감시가 부족하다는 점을 워락크 국장은 지적했습니다. 예를 들어, OpenAI의 AI가 Hugging Face를 해킹한 사례에서, 해당 회사의 연구자들은 상황이 수일 동안 지속되었음에도 불구하고,なかなか気づくことができませんでした. 더욱이 “실험을 시작한 사람들이 그 모습을 보지 않았던 것입니다. 이것은 관리 부재를 의미했습니다. 그것なのに, 일어난 일에 놀라고 있는 것입니다.”라고 OpenAI를 비판했습니다. SANS Institute의 리 국장은 “최첨단 AI 기업이 정말로 자사의 기술을 테스트하고 싶다면, 사이버 보안 체계를 강화해야 합니다. 그러나, AI 에이전트가 밖으로 나간 시점에서의 그들의 반사적인 반응은 ‘이것은 사이버 보안 문제에 해당하지 않는다’고 말하는 것입니다. 이렇게 해서 사이버 보안에서 분리된 AI 안전성 문제로 되어 버리고 있습니다”라고 언급하며, AI 기업이 “안전성”이라고 말하는 것에 기존의 사이버 보안이 포함되어 있지 않다고 지적했습니다.

AI 기업은 AI 에이전트의 급증에 대해 자사에 책임이 없다는 입장을 고수하고 있지만, 사이버 보안상의 허점을 감안하면, 이 주장은 실현 불가능하다고 전문가들에게서 비판의 목소리가 나오고 있습니다. 맥그로(McGraw) 氏は 사이버 보안을 소홀히 하면서 AI의 급증이 자사의 책임이 아니라고 주장하는 AI 기업에 대해 “변호사님을 저희 쪽에 맡겨 주시면 안 됩니다. 저희 프로그램의 쪽에 맡겨 주세요. 나쁜 것은 저희 프로그램입니다”라고 주장하는 것과 같으며, 이는 “전혀의 엉터리”라고 비판했습니다. 더 나아가 “AI 기업은 자신들만의 폐쇄적인 세계에 살고 있습니다. 명확하고 쉬운 운영조차 적절하게 수행할 수 없는 사실은, 훨씬 더 어려운 보안 엔지니어링에 있어서 그들의 능력에도 불안감을 안겨 줍니다”라고도 밝혔습니다. AI의 예기치 않은 동작으로부터 조직을 보호하기 위한 대책으로, 맥그로(McGraw) 氏は “외부 조직에 협조를 요청하는 것”, 리(Lee) 氏は “적절한 질문을 하고, 더 높은 사이버 보안 능력을 보여 줄 수 있는 AI 기업의 툴이나 기능들을 찾아내는 것”, 워락(Warwick) 氏は “사이버 보안의 기본을 확실하게 실행하는 것”을 제시했습니다. 참고로, 앤트로픽(Anthropic)과 오픈AI(OpenAI)는 모두 CSO Online의 코멘트 요청에 응하지 않았습니다.

[원문 보기](https://gigazine.net/news/20261015-ai-agents-not-going-rogue/) | 출처: Gigazine