# 자율형 무기 체계로의 전용을 거부한 대가인가: 미국 국방부의 Anthropic 배제 결정의 내막

> https://bookfactory.kr/board/ai-tech/18806
> 게시판: AI·머신러닝
> 작성자: admin
> 작성일: 2026-09-27T12:52:55.582Z

---

![見出し画像](https://assets.st-note.com/production/uploads/images/318089498/rectangle_large_type_2_f3756d4f9bd446cc5c8e5d336ff03102.jpeg?width=1280)

## **서론**

2026년 9월 25일, 미국 연방 추방 항소 법원은 (DC 순회 구역 항소 법원)이 국방부의 AI 기업 Anthropic을 군의 AI 공급망에서 제명한 조치에 대해 2대 1의 다수결로 “지지한다”는 판결을 내렸다. 발단은 올해 2월, 헤게스 국방 장관이 Anthropic에 완전 자율형 살상 무기나 미국 국민에 대한 대규모 국내 감시에 Claude를 사용하도록 제한을 없애도록 요구한 것이었다. Anthropic이 이를 거부하자 국방부는 3월, 원래는 적대국의 기술에 사용되는 “공급망 위험”이라는 지정(designation)을 Anthropic에 적용하여 군과의 계약을 중단했고, 그 결과 다른 국방 관련 기업이 Claude를 사용하는 것을 사실상 금지했다. 8월에는 연방 지사가 이 지정(designation)을 일시적으로 “불법”이라고 거절했지만, 항소 심판에서는 단 1개월 만에 놀랍게도 재판이 뒤집혔다.

흥미로운 점은, 다수 의견을 쓴 캐츠아스 판사가 문제 삼았던 것이 “클로드의 안전 기능” 그 자체였다는 점이다. 위험한 용도를 거부하도록 설계되어 있는 것 자체가 군에게는 “예측 불가능”한 행동을 취할 수 있는 보안 위험으로 판단되어, Anthropic이 2025년 7월에 체결한 2억 달러 규모의 국방부 계약은 거의 백지 상태가 되었고, 그 빈 공간에는 OpenAI나 일론 머스크가 이끄는 xAI가 군의 기밀 네트워크에서의 이용 계약을 빠르게 성사시키고 있다. AI의 안전성을 둘러싼 기업의 정책과 국가의 군사 수요가 앞으로 어떻게 충돌해갈 것인지, 더 큰 구조는 보이지 않는다.

## 이 기사에서 알 수 있는 내용은 다음과 같습니다.

- AI의 안전 설계가 배제의 이유가 된 데에는 여러 가지 복합적인 요인이 작용했습니다. 첫째, ‘안전’이라는 개념 자체가 주관적이고, 누구에게는 안전이 다른 누구에게는 위험으로 비칠 수 있다는 점입니다. 예를 들어, 특정 사회 집단에게는 AI의 자동화된 의사 결정이 불공정하거나 차별적이라고 느껴질 수 있으며, 이는 AI 시스템의 ‘안전’이라는 목표와 충돌합니다.

둘째, AI 개발 과정에서 다양한 이해 관계자들의 의견이 충분히 반영되지 않았다는 비판이 제기되고 있습니다. 특히, 소외된 계층이나 취약 계층의 목소리가 제대로 듣지 못하고, AI 시스템이 그들의 필요와 권리를 간과하는 경우가 많았습니다. 이러한 과정에서 AI 시스템이 특정 집단에게만 유리하게 설계될 수 있으며, 이는 AI의 ‘안전’이라는 목표를 훼손하는 결과를 초래합니다.

셋째, AI 기술 자체의 한계도 문제입니다. 현재 AI 기술은 인간의 직관이나 감성, 윤리적 판단 등을 완벽하게 모방하지 못합니다. 따라서 AI 시스템이 예상치 못한 상황에서 오류를 일으키거나, 편향된 결과를 도출할 가능성이 존재합니다. 이러한 기술적 한계는 AI 시스템의 ‘안전’을 보장하기 어렵게 만들고, 이는 배제의 원인이 될 수 있습니다.

결론적으로, AI의 안전 설계가 배제의 이유가 된 것은 ‘안전’이라는 개념의 주관성, AI 개발 과정의 불균형, 그리고 AI 기술 자체의 한계 등 다양한 요인이 복합적으로 작용한 결과라고 할 수 있습니다. 앞으로 AI 기술이 발전함에 따라 이러한 문제점을 해결하고, 모든 사람에게 안전하고 공정한 AI 시스템을 구축하기 위한 노력이 필요합니다.
- AI 공급망의 세력도와 Anthropic가 직면한 구조적 딜레마

Anthropic는 모델 개발 및 배포 과정에서 발생하는 비용 문제와 동시에 경쟁 심화에 따른 수익성 확보의 어려움 사이에서 끊임없이 균형을 찾아야 합니다. 특히, Claude 3 Opus 모델의 성능이 공개적으로 발표된 GPT-4 Turbo와 비교될 정도로 뛰어난 결과물을 보여주면서 Anthropic는 더욱 강력한 경쟁력을 확보하고 있습니다. 하지만 이러한 성공에도 불구하고 Anthropic는 여전히 상당한 규모의 자본 투입이 필요한 상황이며, 이는 회사의 지속적인 성장에 부담으로 작용할 수 있습니다.

또한 Anthropic는 자체적으로 모델을 개발하고 훈련하는 데 상당한 투자를 하고 있지만, 동시에 외부 데이터셋에 대한 의존도가 높은 점은 모델의 품질을 보장하는 데 어려움을 야기할 수 있습니다. 이러한 문제점을 해결하기 위해 Anthropic는 자체 데이터셋 구축 및 관리, 그리고 모델 훈련 방식에 대한 지속적인 연구 개발을 진행하고 있습니다.

## 이 부분부터는 유료 영역입니다.

**출처:** [note 원문](https://note.com/note_suke/n/n15c522d20449)

*번역: Gemma 3(.44) 초벌 + 교정 4청크*

[원문 보기](https://note.com/note_suke/n/n15c522d20449) | 출처: note.com