2026년 7月末Amazon에서 열린 직원 대상 회의에서, 직원들에게 “기존 프로그래밍 방식에서 AI 모델 사용으로 업무 전환 시도가 ‘예상치 못한 지출’을 발생시켰다”고 전달된 바 있습니다. 관계자에 따르면, 비용을 절감하기 위해 AI를 도입했음에도 불구하고 도입은 실패했으며 AI 비용이 프로젝트 예산을 860%를 초과했다고 합니다. Amazon은 Anthropic의 AI·Claude Sonnet을 활용한 사례에서 180만 달러(약 2억 8900만 원)를 지출했지만, 최종적으로는 해당 도입이 실패했습니다. 이 지출은 프로젝트 예산을 860%를 초과하는 수준이었으며, 발각까지 5개월이 소요되었습니다. 구체적으로 어떤 처리 과정이 비용 증가에 영향을 미쳤는지는 명확히 밝혀지지 않았지만, 직원들이 전달한 내용에 따르면 기존 시스템에서는 미미한 비용으로 해결되던 코딩 오류가 팀이 작업을 완료하기 위해 AI 모델을 도입하면서 토큰 지출이 극적으로 증가하여 “파멸적인 비용”이 발생했다고 합니다.
Amazon은 또 다른 사례로, 재무 감사 도구 구축과 관련하여 약 54만 1000달러(약 8600만 원)의 예기치 않은 비용을 발생시킨 경우도 있었습니다. 더불어 물류 네트워크의 배송 속도를 개선하기 위해 AI를 사용한 또 다른 프로젝트에서는 13만 4000달러(약 2100만 원)의 예기치 않은 지출이 발생했으며, 그 초과가 발각되는 데 2주일 이상 소요되었습니다. Amazon은 이러한 일이 발생하지 않도록 AI 사용액을 자동으로 감시하고 제한하는 “가드레일” 구축을 진행 중이라고 밝혔습니다. 또한, 내부 AI 플랫폼 “MeshClaw”에 대해서는 개발자의 80% 이상이 매주 AI를 사용한다는 목표를 설정한 상태에서, 내부 랭킹에서 토큰 소비 상황을 추적했습니다. 그 결과, 일부 직원은 관리자에게 좋은 인상을 주기 위해, 필요성이 낮은 작업까지 AI에 실행시켜 토큰 소비량을 늘려왔다는 과거 보도 내용이 있었습니다.
Amazon은 내부 프레젠테이션에서 “팀이 시도와 오류를 통해 서로의 경험을 배우는 과정에서 소규모의 개별 사례도 발생합니다. 그러한 일부 사례만을 들어 Amazon의 AI 활용이 일반적인 모습인 것처럼 묘사하는 것은, 전체적으로 AI가 어떻게 활용되고 있는지 정확하게 반영하지 않습니다”라고 설명했습니다. 또한, 실패한 AI 프로젝트에 180만 달러 이상을 투자했지만, 이러한 과도한 AI 비용은 1개월의 수익의 0.1%에도 미치지 않는다는 점을 지적했습니다.
원문 보기 | 출처: Gigazine