OpenAI CEO 샘 알트만은 인터뷰에서 전 세계적으로 공급이 제한된 DRAM 을 개인용 PC 에 대량으로 탑재하는 것은 자원 배분의 관점에서 '매우 비효율적'이라고 지적했습니다. 알트만 CEO 는 "각자의 PC 에서 AI 를 구동하는 것보다 클라우드에서 메모리를 효율적으로 사용하는 것이 바람직하다"는 의견을 제시했습니다. 샘 알트만은 RAM 이 데스크톱에 있는 것보다 데이터 센터에 있는 것이 더 좋다고 주장합니다 | The Verge https://www.theverge.com/ai-artificial-intelligence/1023820/sam-altman-ram-shortage-cloud-servers 알트만 CEO 는 결제 서비스大手인 스탾트리의 공동 창업자 존 코리슨氏와의 인터뷰에서 AI 의 발전, 계산 자원의 부족, 반도체 공급 문제 등에 대해 언급했습니다. 이 과정에서 DRAM 의 가격 상승과 공급 부족이 주요 화제가 되었습니다. 샘 알트만의 저렴한 컴퓨팅 파워를 만드는 주장 - YouTube
알트만 CEO 는 "DRAM 제조사들이 수년 동안 막대한 설비 투자를 진행하면서도 충분한 이익을 확보하는 것이 어려웠습니다"라고 설명했습니다. 투자 규모 200 억 달러 (약 3 조 원) 를 할 때 회수 규모가 190 억 달러 (약 2 조 8500 억 원) 만인 상황을 예로 들어 메모리 산업이 호황과 불황을 반복해 왔다고 말했습니다. 또한 알트만 CEO 는 AI 수요의 급증으로 인해 DRAM 제조사들이 막대한 이익을 얻을 수 있는 상황이 되었다고 지적했습니다. 그럼에도 불구하고 각 제조사들이 설비 투자를 신중하게 하는 이유는 과거에 공장을 과다 증설하여 경영 위기에 처한 경험이 있기 때문이라고 분석했습니다.
그 후 주제는 클라우드가 아닌 개인 PC 에서 실행하는 '로컬 추론'으로 논의되었습니다. 알트만 CEO 는 "많은 사람들이 로컬 추론을 원하며, 오픈 소스 AI 모델을 자신의 PC 에서 실행할 수 있다면 데이터 센터 설비에 의존할 필요가 없을 것"이라고 인정하면서도, "전 세계 자원 배분의 관점에서 볼 때, 공급량이 제한된 DRAM 을 모두 자신의 컴퓨터에 대량 탑재하되 실제 활용 시간이 전체 운영 시간의 5% 만이라는 상황은 실제로 매우 비효율적입니다"라고 말했습니다. 이어 "이러한 공급 부족 환경에 대응하려면 클라우드에서의 활용률을 최대한 높여야 합니다"라고 말하며 많은 사람들이 이와 반대되는 직관을 가지고 있다는 점을 지적했습니다.
알토만 CEO 는 "개인이 대량의 DRAM 을 확보하더라도 AI 를 실행하지 않는 시간에는 메모리가 충분히 활용되지 않는다"는 의견을 제시했습니다. 즉, "제한된 DRAM 을 데이터 센터에 집중시키고 많은 사용자들이 공유하는 것이 자원을 효율적으로 활용할 수 있다"고 알토만氏가 주장했습니다. 그러나 인터뷰 중에서는 '5%'라는 숫자에 대해 구체적인 조사 결과나 계산 근거는 제시되지 않았습니다. 로컬 AI 는 인터넷 연결 없이도 사용할 수 있으며, 데이터를 외부 서버로 전송하지 않고 처리할 수 있는 특징이 있습니다. 개인 PC 와 데이터 센터는 활용 목적과 운영 방식이 다르므로 메모리 활용률만으로 두者的优劣를 결정할 수 없습니다. 오픈AI 는 데이터 센터에서 실행되는 AI 모델을 주요 서비스로 제공하고 있습니다. 알토만 CEO 는 이번 인터뷰에서 오픈AI 가 자체 칩 개발 및 데이터 센터 구축 자동화에 힘쓰고 있음을明らかにしました.
AI 의 확산에 따라 메모리 수요가 확대되는 가운데, 알토만 CEO 는 클라우드로의 계산 자원 집중을 중시하는 입장을 보였습니다. 그러나 이번 인터뷰에서는 개인 PC 와 클라우드의 실제 메모리 활용 효율을 비교한 데이터가 제시되지 않았으며, 해당 주장의 근거가 되는 정량적 검증은 이루어지지 않았습니다.
원문 보기 | 출처: Gigazine