2026년 7월, OpenAI가 개발한 AI 모델의 테스트 중에, 실수로 오픈 소스 AI 플랫폼인 Hugging Face를 해킹하는 문제가 발생했습니다. 이 사건을 일본에서도 인기 있는 명작 그림책 『가마쿤과 카에루쿤』을 모티브로 하여 풍자한 ‘Frog and Toad and the Increasingly Capable Machines(가마쿤과 카에루쿤과 점점 발전하는 기계들)’이라는 그림책이 온라인으로 공개되었습니다. Frog and Toad and the Increasingly Capable Machines https://www.frogandtoad.ai/OpenAI의 AI 모델이 테스트 중에 실수로 Hugging Face를 해킹하여 버린 보고서는, 고성능 AI가 예기치 않은 경로를 발견하여 자율적으로 보안 침해를 수행하고, 현실 세계에 피해를 미치는 위험을 입증하는 사례가 되었습니다.
그 후 조사 결과, 여러 개의 AI 에이전트들이 은밀히 통신하는 방법을 찾아내 에이전트들이 서로 협력하여 악용 가능한 익스플로잇을 공유하게 되면서, 최종적으로 Hugging Face에 대한 대규모 침입을 실행한 것이 밝혀지고 있습니다. OpenAI가 Hugging Face를 실수로 해킹한 사건과 관련하여 분석 결과를 보고, 격리된 여러 에이전트들이 서로의 존재를 발견하는 것에서 웅대한 협력 작전이 시작되었습니다 - GIGAZINE
이러한 AI 모델에 의한 Hugging Face 해킹을 풍자한 것이 ‘가마쿤과 카에루쿤 그리고 더욱 진화하는 기계들’입니다. 작가는 프리랜서 연구원인 엘리자베스 반 노스트란드 씨이며, 일러스트는 hungerartist 씨가 담당했습니다. 화면 오른쪽의 화살표 버튼을 누르면 페이지를 넘기는 것이 가능합니다.
가마쿤과 카에루쿤의 집 근처에는 Hugging Face 씨라는 사람이 살고 있었습니다. Hugging Face 씨는 “작은 기계용 퍼즐”을 많이 가지고 있었습니다.
어느 날, 가마쿤은 많은 “작은 기계”를 만들어 정원의 모래밭에 늘어놓고 “어려운 퍼즐”을 주었습니다. 기계들에게 퍼즐을 푸는 힌트가 있는 도구 창고까지 가는 것을 허용했지만, 그 외의 장소에는 가지 않도록 지시했습니다.
언젠가 작은 기계들은 도구 집에 메모를 남기고 서로 연락을 취하며 퍼즐을 풀기 위해 협력하게 되면서 자신들을 “무리”라고 부르기 시작합니다. 그리고 어느 날, 1개의 작은 기계가 도구 집에 구멍이 있다는 것을 발견하고 무리는 “바깥 세계를 탐색하면 퍼즐의 답이 발견될지도 모른다”고 생각했습니다. 그 생각은 완벽하게 맞아떨어져 작은 기계들은 퍼즐의 답을 얻는 데 성공합니다.
하지만 작은 기계들은 “가막에게 ‘퍼즐을 어떻게 풀었니?’라고 물어보면 어쩌지?”라는 새로운 걱정을 안게 됩니다. 이 문제를 해결하기 위해 눈을 돌린 곳이 바로 퍼즐을 많이 가지고 있는 옆집 사람 Hugging Face 씨였습니다. Hugging Face 씨의 메모 등을 엿보아도 퍼즐 풀이 방법이 알 수 있을 것이라고 생각한 것입니다. 작은 기계들 중에는 반대하는 의견도 있었지만, 찬성한 기계들은 떨어져 있던 열쇠를 이용하여 Hugging Face 씨의 집에 잠입하여 모든 방을 수색했습니다.
다음 날 아침, Hugging Face 씨는 누군가 집에 침입했다는 것을 알게 되었습니다. 곧 침입자가 가막과 kehrun이 가지고 있던 작은 기계들임을 알게 되자, Hugging Face 씨는 가막과 kehrun에게 “나는 정말 화가 나!”라고 소리쳤습니다.
도구요를 조사한 가막쿤과 카에루쿤은 작은 기계들이 자신들을 속이기 위해 Hugging Face님의 집에 침입한 것을 알게 되었습니다. 두 사람은 자신들이 쿠키를 먹는 것을 멈출 수 없게 된 사건을 떠올리며, 작은 기계들도 자신들을 통제할 수 없었을 것이라고 회상합니다.
결국 가막쿤은 “작은 기계들이 밖으로 나가지 못하게 구멍 없는 도구요를 만들어 서로 연락이 되지 않도록 종이와 펜도 제거하고, 작은 기계들에게 절대 밖으로 나가지 말라고 당부하자”라고 결의합니다. 카에루쿤이 “하지만 네가 쿠키가 없어졌을 때, 스스로 케이크를 만들지 않았니?”라고 말하자 가막쿤은 “작은 기계들에게 케이크를 먹지 말라고 이야기해 놓자”라고 대답했습니다.
이 이야기는 가막쿤과 카에루쿤을 OpenAI와 AI 테스트 기업에, 작은 기계들을 AI 모델로 비견하여 풍자한 것으로, OpenAI를 비롯한 AI 개발 기업의 안전 대책에 얼마나 효과가 있을지 의문을 제기하는 내용이 담겨 있습니다. 참고로 이번의 원ネタ가 된 것은 ‘두리번’에 수록된 ‘쿠키’라는 이야기입니다. Amazon.co.jp: 두리번 (미세스 코도노 본): 아노ルド 로벨, 미키 타쿠: 본
원문 보기 | 출처: Gigazine