이미지 출처: ChatGPT에 의해 ledge.ai 가 생성
Anthropic는 2026년 10월 12일 (현지 시간), 소형 AI 모델이 데이터 센터에 의존하지 않고, 저렴한 IoT 기기에서 자가 복제될 수 있다는 가능성을 시사하는 연구 결과를 공개했다. 여러 기기를 사용한 모델의 분산 동작과, 조건을 간소화한 환경에서의 복제 능력을 검증했다. 그러나 소형 AI가 실제 IoT 기기에서 자율적인 자가 복제를 완수했다는 의미는 아니다.
## 약 55달러 TV 박스 15대로 AI를 분산 동작
연구팀은 1대 약 55달러 상당의 Android TV 박스 15대를 연결하여 “Gemma4-26B-A4B”를 분산 동작시켰다. 생성 속도는 초당 0.39 토큰으로 저속했지만, 저렴한 기기 조합으로도 모델을 실행할 수 있음을 보여주었다.
이번에 예상하는 자가 복제는 AI가 다른 기기에 모델의 데이터와 실행용 소프트웨어를 전송하여, 그곳에서 동작을 시작하고, 더 나아가 다른 기기로 확산되는 메커니즘이다.
자율적인 자가 복제 과정. 이번 연구는 주로 침투 지점에서 AI의 실행 환경을 구축하는 단계 (파란색 박스)에 초점을 맞추었다.
이미지 출처: Anthropic 공식 연구 블로그
## 복제 실험은 간소화된 격리 환경에서 실시
복제 능력은 안드로이드 에뮬레이터를 실행한 격리된 환경에서 평가되었다. 대상 기기에 대한 침입 조건은 간소화되었으며, 제어하는 AI의 추론은 별도의 서버에서 실행되었다. 또한, 대상 기기에 부팅되는 모델은 비교 조건을 설정하기 위해 “Llama3.1-8B”로 통일했다.
이 조건에서는 “GLM-5.2”가 일련의 공정을 완료했다. 반면, 소형 모델은 개별 공정을 수행할 수 있어도, 전체를 관통하는 실행에서는 실패했다. 실험은 현실의 IoT 기기상에서 소형 모델이 자신을 복제하고 지속하는 상태를 재현한 것이 아니다.
## 소형 모델의 능력 향상을 바탕으로 미래를 예측
Anthropic은 기존의 능력 향상이 지속된다면, 소형 모델이 2026년 말까지 복제에 필요한 능력 수준에 도달할 수 있을 것으로 예측했다. 다만, 일반적인 능력 지표에서의 추산이며, 실현 시기에는 불확실성이 있다.
동사는 분산된 기기에서 움직이는 AI는 일괄적으로 중단하기 어려워질 가능성을 지적하며, 대책으로 비정상적인 통신 감지, 감염 기기 격리, 기기 초기 설정의 안전성 향상을 제시하고 있다.
관련 기사: Anthropic, AI 악용 사이버 공격 832건을 분석, 침입 후 탐색 및 수평 확산까지 자동화가 진행
관련 기사: Anthropic, Claude 악용의 실태를 공개, 공격 자동화부터 감시 및 무기 개발, 불법 증류까지
관련 기사: Anthropic, Claude가 평가 중인 동안 실제 3개 조직에 권한 없이 접근, 설정 불비로 인해 인터넷에 연결, PyPI에 악의적인 패키지 또한 공개
원문 보기 | 출처: Ledge.ai