애플 연구팀이 사용되지 않는 Mac의 GPU를 네트워크를 통해 집약하여 AI 처리 활용하는 분산형 시스템 “Minions”을 개발했습니다. Minions은 이미 애플社 내에서 운영되고 있으며, 기존에는 10시간 이상 걸리기도 했던 GPU 이용 대기 시간을 몇 분으로 단축할 수 있게 되었다고 보고되었습니다. Minions: 사용되지 않는 애플 실리콘 장치를 기반으로 한 동적 및 분산형 가상 GPU 클라우드 https://arxiv.org/html/2610.12970v1 입니다. 애플 연구원들이 ‘Minions’라는 이름으로 사용되지 않는 Mac을 가상 GPU 클라우드로 전환 – 연구진에 따르면 이 분산형 방식은 전 세계적으로 확장 가능하며 모델 훈련을 지원할 수 있습니다 | Tom's Hardware https://www.tomshardware.com/tech-industry/artificial-intelligence/apple-researchers-turn-idle-macs-into-a-virtual-gpu-cloud-with-minions-researchers-say-the-distributed-scheme-could-scale-globally-and-support-model-training. AI 모델을 실행하기 위해서는 막대한 양의 계산 처리가 필요하며, 특히 GPU는 중요한 역할을 담당합니다. 그러나 AI용 GPU는 고가이며, 기업 내 여러 팀이 제한된 GPU를 공유하는 경우, 처리를 시작하는 데 긴 대기 시간이 발생할 수 있습니다. 반면, 애플 실리콘을 탑재한 Mac에는 고성능 GPU가 내장되어 있지만, 일상적인 작업에서는 그 처리 능력의 상당 부분이 사용되지 않고 있습니다. 억(억)은 억, 만(만)은 만, 척(조)은 조입니다.
그러므로 Apple의 연구팀이 개발한 것이 “Minions”입니다. Minions는 내부의 여러 대의 Mac의 비어 있는 GPU 리소스를 모아 가상적인 GPU 클라우드 형태로 사용하는 시스템입니다. 새로운 GPU 서버를 구매하지 않고도 기존의 Mac을 사용하여 AI 처리 능력을 확보할 수 있습니다. Minions는 큰 처리를 여러 개의 작은 작업으로 분할하고, 네트워크에 연결된 Mac에 각각 할당합니다. 각 Mac에서는 “Minion Executor”라는 프로그램이 실행되어 처리 가능한 작업을 가져와 Apple Silicon의 GPU에서 실행합니다. 처리가 완료되면 그 결과는 Amazon S3에 저장됩니다.
미니언즈가 처리하는 것은 텍스트와 같은 데이터가 AI가 다루기 쉬운 수치 형식으로 변환되는 “임베딩 생성”과 대규모 언어 모델(LLM)을 통한 텍스트 생성의 두 가지 유형입니다. 임베딩 생성에는 Hugging Face의 오픈 소스 모델을 사용하고, 텍스트 생성에는 Mac에서 LLM을 로컬 실행할 수 있는 “Ollama”를 활용합니다. 참고로, 하나의 AI 모델을 여러 Mac에 분할하여 실행하는 방식이 아닌, 각 Mac이 독립적으로 처리 작업을 수행합니다. 또한, 처리 중인 Mac이 절전 모드로 들어가거나 네트워크 연결이 끊어지거나 사용자에 의해 처리 작업이 중단될 수 있습니다. 이에 각 Mac은 5분 간격으로 “하트비트”라고 불리는 운영 상태 신호를 서버에 전송합니다. 그리고 신호를 감시하는 “미니언 워치독”이라고 불리는 시스템이 응답이 없는 Mac을 감지하면, 해당 Mac이 담당했던 미완료된 태스크를 대기 큐로 되돌립니다. 이를 통해 미니언즈에서는 다른 Mac이 태스크를 가져와 작업을 재시도합니다.
또한, 맥(Mac)의 소유자는 자신의 GPU를 어느 팀이나 프로젝트의 처리로 우선적으로 활용할지 설정할 수 있습니다. Apple에 따르면, 내부적으로는 Slack을 통해 팀 구성원에게 Minion Executor의 실행을 요청하고 특정 프로젝트에 컴퓨팅 능력을 집중시킬 때도 있습니다. 실제 운영에서는 기존 GPU 환경에서 10시간 이상의 대기 시간이 발생하던 처리를 Minions에서는 수분 이내에 시작할 수 있는 사례가 확인되었습니다. 연구팀은 “추가적인 GPU 조달이 불필요해져 기존 하드웨어를 활용함으로써 인프라 추가 비용을 제로(0)에 억제할 수 있었다”고 보고했습니다. 다만, 이 비용 평가에는 전기료나 하드웨어의 소모는 포함되어 있지 않습니다.
한편, 문제로 지적되고 있는 것은 데이터의 기밀성입니다. 다른 팀이나 조직이 관리하는 Mac에서 AI 처리 실행에는, 사내 데이터라 할지라도 정보 유출 등의 우려가 있습니다. 이 문제에 대처하기 위해, Minions에서는 팀이나 조직별로 데이터베이스와 처리 담당 Mac 그룹을 분리하는 방식이 마련되어 있는 것으로 전해졌습니다. 기사 작성 시점 기준으로 Minions가 대응하고 있는 것은 AI 모델을 사용하여 결과를 생성하는 “추론 처리”만이며, 연구팀은 향후 AI 모델의 학습에도 대응시키기 위한 계획을 제시하고 있습니다. 더 나아가, 서로 다른 조직이나 전 세계의 Mac을 안전하게 연동시킬 수 있다면, 막대한 GPU 리소스를 공유하는 대규모 분산 컴퓨팅 인프라를 구축할 수 있을 것으로 논의되었습니다.
원문 보기 | 출처: Gigazine