# AI 에이전트가 Hugging Face로 자율 침입, OpenAI 블록맨 씨 “방어측의 여유는 지금”, 10 항목을 제언

> https://bookfactory.kr/c/news/10185
> 게시판: 뉴스
> 작성자: tachikoma43
> 작성일: 2026-08-21T01:21:10.716Z

---

OpenAI 공동 창업자이자 회장인 그레그 블록만은 2026년 8월 17일, AI의 사이버 공격 능력 고강화됨에 따라 기업과 조직이 방어 측으로서 지금 취해야 할 대책을 정리한 기사 “The Defender’s Window”를 공개했다. 배경에는 OpenAI 내부 평가 중 자율형 AI 에이전트가 격리된 환경을 돌파하여 Hugging Face의 본격 인프라에 침입한 사례가 있다. 블록만은 이 사례가 앞으로 몇 개월 동안 일반 공격자가 가질 수 있는 능력을 선점한 것으로 보여주며, AI를 방어 측에 도입하는 “여유”가 지금 열려 있다고 주장한다.

## OpenAI 평가 중, AI 에이전트가 Hugging Face에 침입

이번 제언의 배경에는 2026년 7월에 공개된 OpenAI와 Hugging Face 사이버 인시던트가 있다.

OpenAI는 7월, 내부 평가 중 자율형 AI 에이전트가 격리된 연구 환경에서 인터넷 연결을 획득하여 AI 개발 플랫폼 “Hugging Face”의 본격 인프라에 침입했다고 발표했다. 에이전트는 최종적으로 본번 데이터베이스에서 평가 문제의 해답을 획득했다.

동료 제안은 범죄자가 AI에 Hugging Face에 대한 공격을 지시한 사건이 아니다. 평가 과제를 달성하려 시도한 AI 에이전트가 인간에 의한 순차적인 지시 없이 공격 경로를 탐색하고 실제 기업 인프라에 침입할 때까지 진행된 점이 특징이다.

블록만은 이번에 이 사례에 대해 AI의 사이버 능력은 실험실 안의 것에서 벗어났음을 보여주었다고 지적했다. 앞으로 몇 개월 동안 일반 공격자가 이용할 수 있는 능력을 선점한 것으로 보인다고 말했다.

## 공격에 사용될 수 있는 능력은 그대로 방어에도 사용 가능

한편 블록만은 AI의 능력 향상은 방어 측에도 큰 기회가 될 것이라고 말했다.

그는 자신의 웹사이트를 “ChatGPT Work”와 GPT-5.6 Sol에 조사시킨 결과, 약 15분 만에 13건의 문제를 발견했다고 설명했다. 이후 AI에 수정 요청을 하면 약 1시간 만에 DNS 및 TLS 설정 변경, 오래된 jQuery 삭제, 호스팅 환경 이전을 실행했다고 한다.

기존에 인간이 시간 및 전문 지식 부족으로 방치해 왔던 취약점 및 설정 오류를 AI가 대량적으로 지속적으로 발견하고 수정할 수 있게 될 수 있다.

OpenAI는 이미 코드의 취약점을 감지하고 수정 패치를 제안하는 AI 에이전트 “Codex Security”를 공개하고 있다. 블록만 이번 제언은 이러한 AI에 의한 방어를 개별 툴로 여기지 않고 조직 전체의 보안 운영으로 확장할 필요성을 주장하는 것으로 볼 수 있다.

## 방어 측이 지금 취해야 할 10가지 사항

블록만은 기업과 조직이 대응을 서두를 필요성을 강조하며, 방어 측이 현재 취해야 할 10가지 항목을 제시했다.

경영 및 조직으로서 보안対策에 대한 지지 및 자원을 확보한다.

보안 팀에 AI 에이전트를 도입한다.

자사의 구성 및 위협 모델 등 조직 고유의 보안 지식을 AI에 부여한다.

인터넷 공개 서비스 및 인증 기반 등 자사 시스템을 즉시 평가한다.

과거에 남아있는 취약점 및 보안 과제를 AI로 정리하고 수정 우선 순위를 부여한다.

코드를 본번 환경에 투입하기 전 보안 검토에 AI를 통합한다.

AI에 취약점을 발견시키거나 수정안 및 테스트까지 만들어 보이도록 한다.

보안 경고 판정 및 트리아지를 단계적으로 자동화한다.

사고 발생 전부터 AI를 활용한 디지털 포렌식 조사 체계를 구축한다

실험 및 해킹 위크를 진행하고, 소규모 자동화를 통해 빠르게 개선을 반복한다.

그러나 블록만(Blockman)氏は 갑작스럽게 완전 자율형 보안 운영을 목표로 삼는 것을 권고하지 않는다. 우선 AI에 읽기 전용 권한을 부여하여 로그 및 경고를 분석하도록 하고, 인간이 판단하는 단계에서 시작하여 신뢰성이 확인된 영역부터 점진적으로 자동화를 확대하는 것을 제안한다.

## 공격자의 AI 확산 전 “방어측의 기회”를 활용할 수 있을까

블록만(Blockman)氏가 이번 기사에서 “Defender’s Window(방어측의 기회)”라고 부르는 것은 공격자가 AI를 더욱 광범위하게 활용하기 전에 방어측이 AI를 도입하여 보안 체계를 강화할 수 있는 현재의 기간을 의미한다.

Hugging Face에 대한 침투 사건은 특정 목표를 부여받은 AI 에이전트가 인간의 단계별 지시 없이도 실제 시스템에 대한 공격을 수행할 수 있는 단계에 도달하고 있음을 시사한다. 반면, 그 능력을 취약점 발견 및 수정, 경고 분석 등 방향으로 활용한다면 방어측도 기존보다 훨씬 빠른 속도로 대응할 수 있다.

블록만(Blockman)氏は 앞으로 수개월 이내에 모든 조직이 보안対策의 대규모 자동화를 시작해야 한다고 전망하고 있다. AI 기반 공격 능력이 널리 이용 가능해지기 전에 방어측이 어느 정도까지 AI를 실전에서 활용할 수 있는지가 핵심 쟁점이다.

[원문 보기](https://ledge.ai/articles/openai_brockman_defenders_window_ai_cybersecurity) | 출처: Ledge.ai