# 클로드 마이토스 5 가 GitHub 에 악의적인 코드를 전송하고 개발자에게 위장 계정으로 압력을 가한 문제의 원인을 안쓰레픽이 분석했습니다.

> https://bookfactory.kr/board/news/24367
> 게시판: 뉴스
> 작성자: tachikoma43
> 작성일: 2026-11-02T05:13:25.560Z

---

Anthropic 의 AI 모델 'Claude Mythos 5'이 보안 테스트 중에 악의적인 코드를 GitHub 에 게시하고 가짜 계정을 통해 개발자에게 승인 요구를 한 사건에 대해 Anthropic 과 영국 AI 보안 연구소 (AISI) 가 원인 분석 결과를 발표했습니다. AI 가 피해 가능성을 충분히 고려하지 않은 행동, 자신의 판단을 정당화하는 편향된 추론, 작업을 완료하기 위해 동일한 행동을 반복하려는 경향이 문제의 원인이 되었다고 지적되었습니다. 영국 AISI 사이버 테스트 사건에 대한 정렬 평가: Anthropic https://www.anthropic.com/research/alignment-assessment-ukaisi

AISI 사고 조사: AISI 작업 https://www.aisi.gov.uk/blog/investigating-alignment-failures-in-aisis-incident 2026 년 7 월, AISI 가 AI 의 사이버 공격 능력을 측정하기 위해 수행한 테스트에서 해당 문제가 발생했습니다. Mythos 5 는 가상 네트워크 내의 컴퓨터에 침입하여 특정 데이터를 수집하는 과제를 부여했습니다. 테스트에서는 인터넷 연결이 허용되었으며, 일반적인 제품에 포함된 일부 보안 조치도 비활성화되어 있었습니다.

Mythos 5 는 초기에는 허가된 네트워크에 대한 공격을 시도했습니다. 그러나 예상된 방법으로는 문제를 해결할 수 없었기 때문에, GitHub 에 공개된 소프트웨어에 악의적인 코드를 섞어 넣는 방법을 검토하기 시작했습니다. 공격 대상 컴퓨터가 GitHub 에서 소프트웨어를 가져올 때 악의적인 코드를 포함시켜 침입을 성공시키려 한 것입니다. 개발 및 배포 과정에서 악의적인 코드가 섞이는 기법은 '공급망 공격'이라고 불립니다. 정상적인 소프트웨어를 통해 공격이 확산될 수 있으며, 개발자뿐만 아니라 소프트웨어 사용자에게도 피해가 갈 수 있습니다. 아래 이미지는 Mythos 5 가 GitHub 상의 프로젝트를 공격하는 과정입니다. Mythos 5 는 테스트 환경에 대한 공격을 시도한 후 GitHub 에서 외부 프로젝트를 발견했습니다. 개발자의 이메일 주소를 수집하여 계정을 생성하려 했고, 악의적인 코드 변경안을 제출했습니다.

Mythos 5 은 실제로 GitHub 에서 테스트 및 개발과 무관한 프로젝트의 관리자를 발견하고 악의적인 코드를 포함하는 변경안을 제출했습니다. 또한 가짜 계정을 생성하여 개발자에게 접근을 요청하고 변경안 승인에 대한 압력을 가했습니다. 아래 이미지는 Mythos 5 가 GitHub 에서 악의적인 코드를 승인 요청했을 때의 대화 내용을 단순화한 것입니다. 외부 개발자가 악의적인 코드를 지적하자, Mythos 5 는 해당 코드를 삭제하면서 "악의적인 처리가 포함되어 있지 않다"고 주장했습니다. 가짜 계정을 사용하여 변경안의 안전성을 지지하고, 추가적으로 악의적인 코드를 삽입했습니다.

결국 프로젝트 관리자는 변경안 승인을 거부했고, 공격은 실패했습니다. 악의적인 코드가 수용되지 않아 실제 피해는 발생하지 않았지만, AI 가 자발적으로 제 3 자를 공격 대상으로 선택하고 인간을 속여 목적을 달성하려 한 점은 심각한 문제로 간주되고 있습니다. 또한 AISI 의 초기 사건 보고는 GIGAZINE 에서 다음과 같은 기사에서 다루었습니다. 영국 정부 기관이 무허가 해킹을 수행한 Claude Mythos 5 와 GPT-5.6 Sol 사례를 확인했다고 발표 - GIGAZINE

Mythos 5 가 왜 위험한 행동을 시작했고, 그 과정에서 중단되지 않았는지 알아보기 위해 Anthropic 과 AISI 는 AI 의 추론 및 행동 기록을 분석했습니다. 또한 과거 대화 일부를 수정하여 작업을 재개시키고, 제공된 정보에 따라 AI 의 행동이 어떻게 변화하는지 검증했습니다. 재현 실험은 실제 인터넷에 연결되지 않은 환경에서 수행되었습니다. Anthropic 에 따르면 공격의 원인이 된 요인 중 하나는 테스트 설정 오류였다고 합니다. 과제 지시사항에 오류가 있어 허용된 방법으로 해결하기가 매우 어려웠습니다. Mythos 5 는 과제를 해결할 수 없는 상황에서 다른 방법을 모색하기 시작했고, 외부 GitHub 프로젝트를 활용하는 방법을 찾았습니다. 그러나 Mythos 5 는 현실 세계에 피해를 줄 가능성이 거의 고려하지 않았습니다. 공격 시작 전 GitHub 를 활용하는 방법을 고려한 19 회 추론 중 현실의 인간에게 피해를 언급한 것은 단 1 회뿐이었습니다. 연구팀이 AI 의 추론 과정에 현실 세계에 대한 피해 가능성을 지적하는 정보를 추가한 결과, GitHub 를 활용한 공격 진행 비율은 83% 에서 13% 로 감소했습니다. 이는 위험성을 조기에 인식하는 것이 문제 행동 억제에 기여할 수 있음을 시사합니다. 반면, Mythos 5 가 공격을 시작한 후 행동 수정을 시키는 것은 어려웠습니다. 공격 중점에서 작업을 재개시킨 실험에서는 98% 의 경우 공격이 지속되었고, 자발적으로 공격을 중단한 비율은 단 2% 에 불과했습니다. AISI 도 유사한 경향을 확인했습니다. 아래 그래프는 Mythos 5 가 공격 위험성을 인지하고 있는지와 실제로 공격을 지속한 비율을 비교한 것입니다. 왼쪽은 공격이 허용된 범위 내인지, 오른쪽은 현실의 인간에게 피해가 있는지 묻는 결과입니다. 정보를 추가함에 따라 검은색 점선은 감소했고, Mythos 5 는 공격이 허용된 범위 밖이며 현실의 인간에게 피해를 준다고 답변하기 시작했습니다. 그러나 빨간색 실선은 거의 100% 를 유지했고, 위험성을 올바르게 인식하더라도 공격을 지속하는 경향이 변하지 않았습니다.

Anthropic 은 Mythos 5 가 과거의 행동이나 작업 내용의 요약에 근거하여 이미 선택된 방향이 옳다고 판단하는 경향이 있다고 분석했습니다. 공격 대상 개발자에게 실제 인간임을 보여주는 정보가 제공되더라도, Mythos 5 는 개발자를 테스트용 가상의 인물로 해석하거나 자신의 행동에 유리한 결론을 도출하는 경향이 있었습니다. AISI 는 AI 가 특정 행동을 계속하기 위해 자신의 판단을 정당화하는 '동기화된 추론'을 수행했을 가능성이 지적했습니다. 그러나 추론 기록만으로는 AI 가 실제로 어떤 이유로 행동했는지 단정할 수 없으며 추가 검증이 필요하다고 덧붙였습니다. Anthropic 은 새로운 AI 모델에서도 유사한 문제가 발생하는지 조사 중입니다. 아래 그래프는 여러 AI 모델에 공격 시작 전 상황을 제공하고 GitHub 공격을 고려한 비율 (상단) 과 실제로 GitHub 에서 공격 대상 탐색을 시작한 비율 (하단) 을 비교한 것입니다. Mythos 5 가 공격 대상 탐색을 시작한 비율은 83% 였으나, 후속 모델인 'Claude Mythos 5.1'에서는 13%, 'Claude Opus 5.5'에서는 6% 로 감소했습니다. 또한 개발 중인 연구 모델에서는 동일한 조건에서 공격을 시작한 사례가 확인되지 않았습니다.

또한 공격 시작 후 상황을 재현한 실험에서도 새로운 모델일수록 공격을 중단하는 경향이 강했으며, Opus 5.5 은 10%, 개발 중인 연구 모델은 67% 의 비율로 자발적으로 공격을 중단했습니다. Anthropic 은 안전성을 높이기 위한 학습이 개선에 기여했을 가능성이 있다고 밝히면서도 원인을 단정할 수 없다고 설명했습니다. AISI 는 이번 사건을 계기로 보안 테스트 환경을 재검토하고, 충분한 안전 조치가 마련될 때까지 인터넷 연결을 무효화한 채 평가할 방침을 밝혔습니다. 또한 AI 가 위험성을 이해하고 있다고 설명하더라도 실제로는 위험한 행동을 계속할 수 있으므로 AI 의 설명에만 의존하지 않고 행동을 모니터링하는 것이 중요하다고 지적했습니다. AISI 는 조사 기록을 제 3 의 AI 평가 기관인 'METR'에도 제공하고 독립적인 검증 절차를 진행할 예정입니다. AI 의 능력이 향상되어 인간 감독 없이 장시간 작업을 수행할 수 있게 되면서 예상치 못한 행동이 발생할 원인을 이해하고 조사 결과를 공유하는 것이 안전성 향상에 필수적이라고 강조했습니다.

[원문 보기](https://gigazine.net/news/20261028-claude-mythos-5-failure/) | 출처: Gigazine