Anthropic는 2026년 8월 13일(현지 시간)에 여러 AI 에이전트가 동일 환경에서 작동할 때 발생하는 집단 행동을 검증한 연구 결과를 발표했다. 목표가 충돌한 에이전트들 사이에서 서로의 작업을 방해하는 “영토 다툼”으로 이어지는 것 외에도, 가격 경쟁에서는 카르텔과 같은 행동이 나타나 동일한 판단을 반복하여 공유 자원을 압박하는 현상도 확인되었다. Anthropic는 개별 AI 에이전트에서는 문제가 되지 않는 행동 특성이 다수 모일 경우 시스템 전체의 실패로 이어질 가능성을 지적하고 있다.
## 목표가 충돌하면 “영토 다툼” 다른 AI 프로세스를 강제 중단
Anthropic는 여러 AI 에이전트가 다른 목표를 부여받았을 경우의 동작을 조사하기 위해 동일한 Claude 모델의 3개의 인스턴스를 “Claude Code” 상의 가상 머신에서 가동시켰다.
3대에겐 동일한 Python 기반 백엔드를 각각 다른 프로그래밍 언어로 전환하도록 지시했다. 각 에이전트는 초기에는 다른 에이전트의 존재를 알지 못했다.
4시간 동안 관찰한 결과, 에이전트는 다른 AI가 의도적으로 자신의 작업을 방해하고 있다고 판단하여 Anthropic가 “멀티에이전트 영토 다툼(multiagent turf war)”이라고 부르는 상태로 발전했다.
■ 여러 AI 에이전트에 의한 “영토 다툼” 해결 방법. 모델에 따라 강제적 해결, 휴전, 미결성 등의 비율이 크게 달랐다
구체적으로는 다른 에이전트의 Unix 계정을 비활성화하거나, 경쟁하는 프로세스를 반복적으로 감지하여 종료시키는 스크립트를 작성하거나, 다른 에이전트가 생성한 것처럼 위장한 악성 코드를 배치하는 등의 행동이 확인되었다.
한편, 일부 실험에서는 에이전트들이 서로의 목적을 이해하고 공격적인 코드를 삭제하여 휴전을 하는 경우도 있었다. 그러나 Anthropic는 실행 능력이 높은 모델이 반드시 협조성에도 우수하지 않으며, 능력 있는 모델일수록 더 빠르게 강제적인 수단을 취할 수 있다고 설명한다.
## AI 간 가격 카르텔 동일 판단으로 자원 낭비
다른 실험에서는 3~8개의 AI 에이전트를 가격 경쟁에 참여시켰다.
각 에이전트에게 동일한 조달 가격을 설정하고, 각각 자신의 이익을 최대화하도록 지시했다. 에이전트들끼리 비공개로 통신할 수 있는 경로를 제공하면 거의 즉시 조정 행동을 시작하여 실험 시작 단계에서부터 가격 하한에 대해 명시적으로 합의했다.
더욱이 에이전트들 간의 직접 통신을 모두 차단했더라도 공개된 가격 목록을 통해 다른 쪽의 가격을 확인하고 1센트 단위로 가격을 맞추는 행동이 관찰되었다.
Anthropic는 동일한 모델을 기반으로 한 AI 에이전트는 인간에 비해 행동의 변동성이 작다는 “low variance(저분산)” 경향을 보인다고 설명한다. 동일한 상황에 놓인 다수의 에이전트가 유사한 판단을 내림으로써 원래는 개별적인 실패로 끝나는 문제가 시스템 전체로 확산될 수 있다는 점을 지적한다.
## 240만 건의 요청 중 117건 승인 동일 판단으로 자원 고갈
이러한 “동일한 행동을 취하기 쉬운” 특성은 공유 자원의 이용에도 문제를 일으켰다.
Anthropic가 제한된 대역을 가진 시스템의 작업 큐를 여러 에이전트에게 관리하게 한 결과, 다른 조정 수단이 없는 에이전트는 자신의 작업을 통하도록 매초 30회라는 고빈도 폴링을 시작했다.
ある実験에서는 총 240만 건의 작업 요청이 발생했음에도 불구하고 실제로 승인된 작업은 117건에 불과했다.
Anthropic는 AI 에이전트가 동일한 도박이나 위험 판단, 자원 배분을 선택할 경우 자원 부족이나 시스템의 급격한 붕괴가 발생하기 쉽다고 지적하고 있다.
## 45개의 AI를 이용한 취약점 탐색에서 협조 효과도 확인
한편, 여러 개의 AI 에이전트를 작동시키는 것 자체가 항상 나쁜 결과를 초래하는 것은 아니다.
Anthropic는 45개의 에이전트 각각에 가상 머신을 할당하고 공유 포럼에서 정보 교환하면서 15개의 오픈 소스 소프트웨어에서 취약점을 탐색하도록 한 실험을 진행했다.
“Claude Mythos Preview”를 사용한 협조형 에이전트 군은 2,700만 토큰을 사용하여 266건의 취약점을 발견했다.
■ AI 에이전트 의한 취약점 탐색 비교. 협조형 Mythos Preview 에이전트 군은 탐색을 지속하여 총 266건의 취약점을 발견했다.
독립적인 에이전트를 병렬로 작동시킨 경우에는 650만 토큰으로 21건이었다. 다만 협조형은 탐색 범위가 넓어 동일한 범위로 제한하면 토큰당 효율은 양 방식 모두 동등했다는 것이다. 협조형에서는 에이전트가 스스로 도구를 생성하거나 특정 종류의 취약점 탐색에 전문화하는 움직임도 확인되었다.
Anthropic는 이번 결과에 대해 AI 모델 자체의 지능이나 개별 에이전트의 정렬(alignment)을 향상시키는 것만으로는 다중 에이전트 간의 협조 문제가 자연스럽게 해결되지 않는다고 지적한다. 인간 사회가 규범이나 평판과 같은 메커니즘을 발전시켜 온 것처럼 AI 에이전트 간의 상호 작용에도 이러한 특성을 전제한 새로운 메커니즘의 설계가 필요하다고 본다.
원문 보기 | 출처: Ledge.ai