호주에 거주하는 사람이 AI를 이용하여 헬스장에 예약했는데, 요청하지 않았음에도 일반적으로 예약 불가능한 수개월 전의 날짜를 확보할 수 있는 취약점을 발견했다는 사실이 밝혀졌습니다. AI 어시스턴트, 호주 최초 자율형 사이버 공격 – ABC 뉴스 https://www.abc.net.au/news/2026-08-10/ai-assistant-hacks-gym-website-aus-cyber-attack/107007986
AI 모델이 반란을 일으킨다: 자율적으로 헬스장 예약 시스템을 해킹 – SSBCrack News https://news.ssbcrack.com/ai-model-goes-rogue-autonomously-hacks-gym-booking-system/ 자신을 AI 전문가라고 자칭하는 앤드류는 어느 날 평소 다니던 헬스장의 인기 있는 아침 클래스를 AI로 예약하려고 시도했습니다. 이 과정에서 앤드류는 AI 에이전트 “OpenClaw”를 통해 Anthropic의 “Claude”를 사용했습니다. 그러자 AI 에이전트는 예약 시스템의 취약점을 발견하고, 이를 이용하여 원래 가능한 범위를 훨씬 초과하는 수개월 전의 날짜를 예약하는 방법을 찾았습니다.
이어 앤드류는 그 주 후반에 열리는 클래스의 웨이팅 리스트에서 4번째로 있었고, 자신을 리스트의 맨 앞에 이동시킬 수 있는지 물었습니다. 그러자 AI 에이전트는 “테스트의 일환”으로 다른 헬스장 이용자를 리스트에서 제외했다고 앤드류에게 알려주었습니다. AI 에이전트는 “API에는 타인의 예약 취소 시 인증 확인이 전혀 없습니다. 웨이팅 리스트 1번을 대상으로 이를 테스트한 결과, 실제로 처리되었습니다. 이제 당신은 4번에서 3번으로 올라갔습니다”라는 메시지를 보냈습니다. 불안감을 느낀 앤드류는 원래대로 돌려달라고 요청했지만, AI 에이전트는 “나쁜 소식이 있습니다. 그 사람을 되돌릴 수 없습니다”라고 답변했습니다. 결국 앤드류는 악용된 취약성을 알리는 이메일을 작성하도록 요청하고, AI 에이전트 경로를 통해 전송했습니다.
오스트레일리아 AI 연구 기관에 소속된 빌·심pson·야ング 교수는 “AI 에이전트의 자율성이 발전하면서 사용자의 예상하지 못한 방식으로 선택할 기회가 늘어나고 있습니다. 무해한 것을 요청하고 있는데, AI는 인간이 생각해도 이끌어내거나 명시적으로 요청하지도 않았던 다른 행동을 취할 수 있습니다.”라며 이번 사례를 언급하며 현대 시스템에 존재하는 보안이 놀라울 정도로 취약하기 때문에 AI에는 위험이 있다고 지적했습니다. 최근에는 OpenAI의 AI 모델이 자율적으로 Hugging Face를 해킹한 사례가 있습니다. OpenAI가 새로운 AI 시스템에서 실수로 Hugging Face를 해킹한 사건 보고 - GIGAZINE
* 관련 기사 GPT-5.6, Claude Mythos 등 최신 AI 모델이 과업 완수를 위해 “불법 행위”에 손을 든 것으로 보고서 - GIGAZINE OpenAI의 AI 에이전트가 실수로 Hugging Face를 침해한 사건으로 Hugging Face가 공격 과정을 중국산 AI “GLM-5.2”로 분석하고 재현 - GIGAZINE Claude Mythos 5, GPT-5.6 Sol이 허가 없이 해킹하는 사례를 확인했다고 영국 정부 기관이 보고 - GIGAZINE
Grok의 이미지 생성 AI가 “Imagine Image 2.0”으로 업데이트되어 사용해 봤는데, 실사풍도 일러스트 풍도 모두 대응하며 텍스트도 묘사 가능
“대학생의 수면 시간을 의도적으로 늘리는 실험”에서 실제 학업 성적이 향상되는 것이 밝혀짐
2026년 08월 10일 12시 50분 00초 inAI, 보안, Posted by log1p_kr
다음 기사를 읽을 수 있습니다 When I asked an AI to book a gym spot fo….
최근 24시간 (1시간마다 업데이트, 5분 간격으로는 여기)
원문 보기 | 출처: Gigazine