기업이 AI 서비스 이용 약관에 “이 용도에는 사용하지 마십시오”와 같은 조건을 부과한다. 일반적인 서비스라면 크게 놀라운 일은 아니다. 그러나 상대방이 세계 최대 규모의 군사 조직이라면 그 조건이 어디까지 적용될 것인가. 미국 연방 법원은 2026년 8월 27일부터 28일까지 미국 국방부(Department of Defense)가 Claude 개발사인 Anthropic을 국가 안보상의 공급망 위험으로 지정한 조치에 대해 불법이라고 판단했다.
미국 법원이 펜타곤의 안트로픽 블랙리스트 제재 명령을 정지시켰다. 2026년 8월 28일까지 효력을 유지하는 이 명령은 안트로픽이 미국 정부 기관과의 계약 체결을 막는다. 법원은 펜타곤이 안트로픽의 AI 기술이 중국 정부의 지원을 받고 미국 국가 안보를 위협한다는 주장에 대한 증거가 부족하다고 판단했다. 또한, 안트로픽이 미국 기업이며 미국 정부의 규정을 준수하고 있다는 점을 고려했다. 이 결정은 안트로픽이 미국 시장에서 경쟁력을 유지하고 AI 기술 발전에 기여할 수 있도록 하는 데 중요한 역할을 할 것으로 예상된다. Reuters는 이 사건에 대한 추가 정보를 제공할 예정이다.
이 뉴스는 “AI를 군대에 사용해야 하는가”라는 이분법적인 선택으로 이해하기 어렵습니다. Anthropic은 국가 안보 분야에 Claude를 제공하는 모든 것을 거부한 것이 아니며, 문제의 원인은 일부 이용 방식에 있었습니다.
앤서니(Anthropic)가 긋지 않았던 것은 군사적 이용 전체가 아니었습니다.
Anthropic는 미국 정부 및 국가 안보 분야에 Claude를 제공해 왔습니다. 동시에, 이 회사는 국내 대규모 감시나 인간의 충분한 관여 없이 완전 자율형 무기 등 일부 용도에 대해서는 제한을 두고 있습니다. 그 배경에는 현재 AI에는 오류나 예측 불가능한 행동이 남아있을 수 있다는 점, 시민의 권리와 관련된 문제 등이 있다는 점을 지적합니다. 따라서 이번의 대립은 “군이 AI를 사용할지 여부”가 아니라 “AI를 만든 회사가 고객인 정부의 이용 목적에 어디까지 조건을 부과할 수 있는가”라는 문제입니다.
재판소는 “클로드의 안전성”이 아닌 정부의 지정이 적법한지 판단했습니다.
미국 국방부는 Anthropic을 공급망 위험으로 지정했습니다. 이 지정은 정부 계약이나 정부와 거래하는 기업의 판단에도 영향을 미칠 수 있는 강력한 조치입니다. Anthropic은 이 지정이 자사의 AI 안전 정책에 대한 보복이며 충분한 절차도 없었다고 주장하며 이의를 제기했습니다. 보도에 따르면 Lin 판사는 지정이 부당하다고 판단했으며 제1 수정 및 제5 수정과 관련된 문제도 인정했습니다. 그러나 여기서부터 “법원이 Claude가 군사적 이용에 안전하다고 판단했다”고 읽을 수는 없습니다. 법원이 판단한 것은 정부가 Anthropic을 위험한 공급망 기업으로 취급한 절차와 이유의 적법성입니다. 자율 무기나 감시 용도로 AI를 어디까지 사용할 수 있는지에 대한 기술적 및 윤리적 문제는 그 자체로 해결된 것이 아닙니다. 정부 측이 향후 상소할 가능성도 있습니다.
요금을 지불했더라도 자유롭게 사용할 수 있다는 점을 단정할 수 없습니다.
이 문제를 우리 주변의 AI로 대체하면 조금 더 이해하기 쉬워집니다. ChatGPT나 Claude 등을 계약한다고 해도 이용 약관에서는 일정 수준의 용도가 제한됩니다. 개인 정보, 불법 행위, 고위험 자동 판단 등 서비스마다 조건이 있습니다. AI는 기존 소프트웨어보다 더 많은 경우에 모델 회사 측이 운영 및 안전 대책에 관여합니다. 따라서 사용자 측에서 보면 “구매한 도구를 마음대로 사용하는” 기존의 감각과 조금 다릅니다. 성능이 높아질수록 모델을 만든 측과 사용하는 측의 책임 경계가 문제로 다가옵니다.
이 갈등의 쟁점 뒤에서 “인공지능 사용 방식을 결정할 권리”가 더욱 큰 논점으로 부각될 것으로 보입니다.
이제부터 이번 재판을 토대로 한 시각입니다. AI가 글쓰기나 검색 기능만으로 활용되는 한, 이용 약관의 차이가 사회 전체의 문제로 이어지는 경우는 제한적이었을 것입니다. 하지만 사이버 방어, 군사, 의료, 금융, 행정 등 다양한 분야에 AI가 적용되면, 한 번의 오류가 미치는 영향 또한 커집니다. 그러면 AI 기업이 “이 용도는 위험하므로 제공하지 않겠다”고 판단하는 권리와 정부나 이용 기업이 “합법적인 용도라면 사용하게 해주길 바란다”고 요구하는 권리가 충돌하는 상황이 증가할 가능성이 있습니다. 더 나아가, 모델 회사마다 허용하는 용도가 다르면 “어느 AI를 채택할 것인가”가 기능 비교뿐만 아니라 기업이나 정부의 정책 선택에도 영향을 미치게 될 것입니다. 궁극적으로 기업의 자율적인 규칙뿐만 아니라 법률이나 조달 규정으로 경계를 정하는 영역도 확대될 것입니다. 이번 재판은 그 결론은 아니지만, AI의 성능 경쟁 다음으로 “누가 용도를 결정할 것인가”라는 경쟁이 시작되고 있음을 보여주는 사례 중 하나라고 생각합니다.
작가의 감상 | “AI가 무엇을 할 수 있는가”보다 “누가 이를 막을 것인가”가 더 어려운 문제였습니다.
발표와 보도를 읽고 느낀 것은, 인공지능(AI)이 고성능화될수록 기술만으로는 해결할 수 없는 문제들이 증가한다는 점이다. 만약 인공지능의 판단이 100% 정확하다면, 완전 자율화에 대한 인식도 달라질 수 있을 것이다. 현실에는 오류와 불확실성이 존재한다. 반면, 국방과 같은 분야에서는 즉각적인 판단이 요구되는 경우도 있다. 인공지능 기업이 신중해지는 이유, 그리고 이용자가 제한을 싫어하는 이유를 한쪽으로만 보게 되면 오해하기 쉽다. 내가 주목하고 싶은 것은 “Anthropic이 승리했고, 국방부가 패배했다”는 승패보다는, 계약 시점에 인공지능의 이용 목적까지 합의해야 하는 것이다. 일반적인 회사에서도 인공지능을 중요 업무에 사용하는 정도가 되면, 계약서나 이용 약관의 의미는 더욱 중요해질 것이다. 인공지능 도입 시 기능표뿐만 아니라 “어느 정도까지 위임하는 계약인지” 꼼꼼히 검토하는 시대가 왔다고 느꼈다.
이 판결을 보고 이용자가 어떤 것을 변경할 필요는 없습니다. 향후 규칙 마련을 짚어보는 것이 중요합니다.
일반적인 Claude 사용자께서는 이번 재판을 계기로 설정이나 계약을 변경할 필요는 없습니다. 중요한 점은 법원이 Anthropic의 AI 자체의 안전성을 인정했다는 것이 아니라, 국방부장관실이 지정한 해당 AI의 적법성을 문제 삼았다는 것입니다. AI 정책이나 기업 이용에 관심 있는 분들은 앞으로 Anthropic과 미국 정부 간의 계약이 어떤 조건으로 지속될지, 또 다른 소송이나 정부 정책이 어떻게 변화할지 확인해 보는 것이 좋습니다. 반면, 일상적인 AI 사용자에게는 더 작은 부분으로도 충분합니다. 업무에서 사용하는 AI 서비스의 이용 약관에 “금지된 용도”가 있는지 한 번 확인해 두는 것으로도 충분합니다.
참고 정보
Reuters(2026년 8월 28일) “미 재판관, 방위부의 Anthropic 블랙리스팅 금지”
※ 재판 및 정부 대응은 향후 변화할 수 있습니다. 본 기사에서는 재판소의 행정 조치 적법성 판단과 AI 기술의 안전성을 구분하여 설명하고 있습니다.
오늘부터 실용적인 지식을 습득하고, 실제 적용 가능한 AI 활용법을 배울 수 있습니다. “AI×돈×건강” 실험실에서는 앞으로도 초보자도 쉽게 AI 활용법을 소개할 예정입니다.
출처: note 원문
번역: Gemma 3(.44) 초벌 + 교정 13청크
원문 보기 | 출처: note.com