Google 의 제품에서 Python 기반 오픈소스 머신러닝 라이브러리인 'PyTorch'를 실행할 수 있는 도구 'TorchTPU'가 발표되었습니다. TorchTPU 는 이제 오픈소스로 공개되었습니다: TPUs 에서 네이티브 PyTorch 실행 | Google Cloud Blog https://cloud.google.com/blog/topics/ai-infrastructure/torchtpu-is-now-open-source-run-native-pytorch-on-tpus?hl=enTorchTPU 소개: Google Cloud TPUs 에서 네이티브 PyTorch - YouTube
TorchTPU 소개 - PyTorch https://pytorch.org/blog/introducing-torchtpu/ Google 는 Amazon 과 함께 Nvidia 의 AI 앱 개발자 중심의 강력한 지위를 공격했습니다 | TechCrunch https://techcrunch.com/2026/10/20/google-has-joined-amazon-in-attacking-nvidias-stronghold-with-ai-app-developers/ TorchTPU 는 Google 가 개발한 AI 전용 프로세서 'TPU'를 위한 네이티브 PyTorch 스택입니다. GitHub 에서 오픈소스로 공개되었으며, PyTorch 를 위한 AI 앱 등을 TPU 에서 실행할 수 있도록 지원합니다.
또한 Google 은 Hugging Face 와 협력하여, Hugging Face 에서 공개된 인기 있는 오픈 웨이트 모델을 TorchTPU 에서 네이티브로 실행할 수 있도록 했습니다. Google 은 "PyTorch 팀과 공동 개발한 TorchTPU 를 사용하면 익숙한 API 를 활용하고 코드를 최소화하여 변경만 하면 기존 PyTorch 워크로드를 TPU 에서 실행할 수 있습니다"라고 강조했습니다. "추론 능력과 에이전트 기능을 갖춘 모델이 대규모로 성장함에 따라 추론 비용과 지연 시간이 실제 환경에서 주요 병목 현상이 되고 있습니다. 따라서 TPU 와 GPU 를 가로지르는 Kubernetes 네이티브 Fleet Routing 과 함께 널리 사용되고 있는 오픈 소스 서빙 엔진에 TorchTPU 를 통합함으로써 1 달러당 스루풋을 최적화할 수 있도록 했습니다"라고 보충했습니다.
이러한 도구의 개발은 NVIDIA 의 핵심 영역을 무너뜨릴 것이라는 지적이 있습니다. 기사 작성 시점에는 대부분의 AI 앱이 기본으로 NVIDIA 의 GPU 위에서 작동하도록 설계되어 있지만, 이를 자체 프로세서에서 실행할 수 있다면 고객을 유치할 수 있습니다. 기술 미디어 테크크런치에 따르면 AI 앱의 85% 가 PyTorch 를 사용한다는 추정치가 있다는 것이었습니다. 기존 PyTorch 앱을 TPU, 나아가 Google Cloud 으로 쉽게 이식할 수 있는 TorchTPU 가 있는 덕분에 Google 은 NVIDIA 와 경쟁할 수 있습니다. Amazon 도 PyTorch 의 독자적인 버전인 TorchNeuron 을 출시하여 유사한 발표를 하고 있습니다. TorchNeuron 을 사용하면 AI 앱을 Amazon 의 독자적인 AI 칩인 Trainium 또는 AWS 로 재작성 없이 이식할 수 있습니다. Amazon 의 TorchNeuron 은 AWS Trainium 칩에서 PyTorch 를 실행합니다.
원문 보기 | 출처: Gigazine