# AI 에이전트 현업 운용, 83%가 인프라 업데이트 필요 – Google Cloud가 세계의 IT 리더 1,402명을 조사

> https://bookfactory.kr/c/news/8218
> 게시판: 뉴스
> 작성자: tachikoma43
> 작성일: 2026-07-18T20:47:35.293771+00:00

---

※ Ledge.ai 일본어 기사를 한국어로 번역·편집한 글입니다.

## 출처
[Ledge.ai 원문](https://ledge.ai/articles/google_cloud_ai_agent_infrastructure_survey)
원문 발행일: 2026-07-17

Google Cloud는 2026년 7월 15일, AI 에이전트 운영을 본행위에 적용하는 기업의 인프라 현황을 정리한 조사 보고서 “AI 인프라의 현황”의 개요를 공개했다.

세계 IT 부문 고위 리더 1,402명을 대상으로 조사한 결과, 83%가 본 운영에 대응한 AI 에이전트를 지원하기 위해서는 현재 인프라를 업그레이드해야 한다고 응답했다.

## h2
AI 에이전트의 지속적인 추론이 비용을 누적시킨다

Google Cloud는 기업용 AI가 질문에 답변하는 챗봇에서 자율적으로 행동하여 여러 처리와 업무 흐름을 실행하는 AI 에이전트로 전환하고 있다고 설명한다.

**AI 에이전트 대응 현황을 묻는 결과, 83%가 현재 인프라에 어느 정도 업그레이드가 필요하다고 응답했다.**

AI 에이전트에서는 하나의 지시를 기점으로 수백 건의 후속 처리가 움직이며, 처리 과정에서 대량의 정보를 메모에 유지하는 경우가 있다. 기존 AI보다 추론이 훨씬 더 오래 지속적으로 실행되므로, 컴퓨팅 자원, 스토리지, 네트워크에 대한 부담도 커진다.

조사에서 62%는 데이터 외부 전송 비용, 스토리지 사용량 증가, 사용되지 않는 전용 하드웨어 등으로 인해 발생하는 비용을 AI 추론에 따른 “추론세”로 지적했다. 81%는 AI를 대규모로 확산하는 과정에서 발생하는 운영의 복잡성을, 보이지 않는 비용으로 응답했다.

Google Cloud는 대책으로 용도에 따라 TPU, GPU, CPU 등의 컴퓨팅 자원을 동적으로 할당하는 “플루이드 컴퓨팅”의 필요성을 제시했다.

## h2
79%가 보안 및 거버넌스, MLOps를 중요하게 인식

AI 추론을 대규모로 확산하는 과정에서 79%가 보안, 거버넌스, MLOps를 꼽았다. 예산 및 기존 시스템과의 호환성은 64%였고, 모델의 성능 및 효율성은 64%였다.

**AI 추론을 대규모로 확산하는 과정의 주요 과제. 보안, 거버넌스, MLOps가 79%로 가장 많았다.**

AI 에이전트는 이메일 확인, 데이터베이스 접근, 사내 시스템 조작 등을 자율적으로 실행한다. 도입 수가 증가할수록, 어떤 에이전트가, 어떤 데이터와 도구에 접근하고, 무엇을 실행했는지 일괄적으로 관리해야 한다.

Google Cloud는 에이전트별 ID 및 권한, 통신, 운영 기록을 관리하는 중앙 제어 플랫폼이 필요하다고 지적한다. 조사에서 생성 AI 솔루션을 주요 클라우드 사업자로부터 직접 조달하는 조직이 78%라는 점도 확인되었다. (2025년까지 30%포인트 증가할 것으로 예상된다.)

## h2
52%가 하이브리드 멀티클라우드, 91%가 소비 전력을 고려

AI를

전력 또한 주요 고려 사항으로 작용하고 있습니다. 응답자의 91%가 하드웨어 선택 시 소비 전력을 고려했으며, 61%는 이를 주요 또는 중요한 판단 요인으로 응답했습니다.

이번 조사는 기업의 AI 활용이 시범 도입 단계에서 본격 운영 단계로 전환되면서, 컴퓨팅 성능뿐만 아니라 운영 비용, 접근 관리, 데이터 배치, 전력 효율을 포함한 인프라 전체 설계가 과제로 나타나는 상황을 보여줍니다.