이미지 출처: Spotify
스포티파이의 Principal Product Manager을 맡은 Dimitri Mazmanov 氏は2026년 9월 3일, AI 코딩 도구 “Claude Code”에서 대량의 파일 읽기 등을 다른 AI 모델로 전송하고, Claude가 소비하는 토큰을 대폭 줄이는 방법을 공식 기술 블로그에서 공개했다.
그 회사가 공개한 벤치마크에서는 16만 2천 행의 자바 코드 포함된 대규모 코드 리포지토리를 활용하여, 대량의 파일을 읽어들이는 3가지 케이스에서 토큰 소비를 82~94%까지 감축했습니다. 평균 감축률은 약 90%였다고 합니다.
“토큰”은 생성 AI가 문장이나 코드를 읽고 쓸 때 사용하는 처리 단위입니다. 긴 문장이나 많은 양의 코드를 AI에 읽어 보이게 할수록 더 많이 소비하며, 이용 비용이나 한 번에 처리할 수 있는 정보량에도 영향을 미칩니다.
스포티파이에서 공개한 방법은 쉽게 말해서 “고성능 AI에 모든 일을 맡추지 않고, 단순한 일은 다른 AI에게 맡기는” 방식이다.
모든 클로이드에 읽어달라고 하는 것을 멈춰야 합니다.
클로이드와 같은 AI 코딩 도구는 개발자에게 질문을 받으면, 필요한 소스 코드를 읽어내어 내용을 이해한 후 답변을 하거나 코드를 작성한다.
하지만 그 모든 작업에는 고도한 추론 능력은 필요하지 않다.
예시로 “이 거대한 파일 중에서 이 기능과 관련된 부분을 찾아”와 같은 작업에서는 먼저 대량의 코드를 로드해야 합니다. 반면에 최종적으로 Claude가 필요로 하는 것은 그 중 일부일 경우도 있습니다.
Spotify의 Principal Product Manager인 Dimitri Mazmanov 氏は、こうした 대량의 파일 읽기 및 기존 형식에 맞는 정형 코드 생성까지 고성능 모델에 담당시키면 많은 토큰을 소비한다고 설명하고 있습니다.
이에 Mazmanov 氏は Claude Code를 전체의 “지휘관”으로 남겨두면서 단순한 작업만 다른 AI 모델에 맡기는 시스템을 구축했습니다.
스포티파이에서 공개한 예시에서는 작업을 수락하는 AI로 구글의 “Gemini 2.5 Flash”를 활용하고 있습니다. 다만 이 모델에 고정되어 있는 것은 아니며 다른 AI 모델로 변경할 수 있습니다. 처리의 분배에는 스포티파이가 개발자용 플랫폼 “Portal by Spotify”의 AI 기능 “AiKA Modes”를 사용합니다. shunt가 클라우드 코드에서 AiKA Modes를 호출하여 설정한 다른 AI 모델로 작업을 전달하는 시스템입니다.
## 대량의 코드는 다른 AI가 먼저 읽고 필요한 부분만 Claude에게
Spotify는 주로 2종류의 작업을 별 AI로 분담하고 있다.
1가지는 대량의 파일을 읽는 “bulk-reader”이다.
Claude가 수천 행의 파일을 전체적으로 읽는 대신, 다른 AI가 먼저 파일을 읽고 Claude로부터 주어진 질문에 필요한 정보만 추출하여 반환한다.
비유하자면, 전문가가 두꺼운 자료를 처음부터 끝까지 읽는 대신, 조력이 먼저 자료를 확인하고 “이번 판단에 필요한 부분입니다”라고 텍스트를 추출하여 전달하는 것과 같다.
Claude가 읽는 정보량을 줄일 수 있게 되므로, 그만큼 토큰 소비도 줄어든다. shunt는 기본적으로 350행을 초과하는 파일의 읽기 처리를 분담 대상으로 한다. 작은 파일의 경우, 다른 모델로 처리를 넘기는 노력이 효율 개선 효과를 넘어서기 때문이다.
2가지는 정형적인 코드를 작성하는 “code-writer”이다.
예를 들어, 기존 형식에 맞춰 테스트 코드, 설정 파일, 타입 정의 등 어느 정도 패턴이 결정된 코드는 다른 AI에 생성하도록 한다. 생성된 코드를 그대로 파일에 저장할 수도 있으므로, 완성된 코드 전체를 Claude에 읽어올 필요가 없다.
Spotify는 이러한 처리를 Claude Code에서 이용할 수 있는 플러그인 “shunt”를 GitHub에서 공개하고 있다.
## 대량 파일 읽기로 평균 90% 감소
Spotify는 16만 2000행의 Java 코드 포함 대규모 코드 리포지토리에서 shunt 효과를 검증했다.
4014행의 큰 파일을 1개 읽는 경우에서는 일반적으로 3만 3684 토큰을 소비하는 반면, shunt 이용 시에는 5737 토큰으로, 82% 감소했다.
소스 코드와 테스트 코드의 총 7408행을 읽는 경우에서는 7만 5990 토큰에서 4148 토큰으로 94% 감소했다.
여러 서비스에 걸쳐 총 1281행의 파일을 읽는 경우에도 1만 6221 토큰에서 821 토큰으로 94% 감소했다.
대량 파일 읽기 3가지 시나리오의 평균 감소율은 90%였다.
16만 2000행의 Java 코드를 사용한 shunt의 벤치마크. 대량 파일 읽기 3 시나리오에서는 82~94%, 평균 90%의 토큰 감소가 나타났다.
이미지 출처: Spotify 공식 GitHub
한편, code-writer에 대해 Spotify는 단순한 감소율을 제시하지 않고 있다.
일반적으로 Claude가 참고할 코드를 읽고 새로운 코드를 생성하기 때문에 입력과 출력 모두 토큰을 사용한다. 반면, code-writer에서는 별도의 AI가 코드를 생성하여 바로 파일에 작성할 수 있기 때문에 동일한 기준으로 비교하기 어렵다.
## 어려운 판단까지 “저렴한 AI”에 맡기는 것은 아니다
Spotify가 중시하는 것은 모든 것을 별도의 AI에 맡기는 것이 아니라, 작업의 난이도에 따라 AI를 분산하여 사용하는 것이다.
대량의 파일을 읽고 필요한 정보를 추출하거나, 정해진 형식의 코드를 작성하는 작업은 별도의 AI에 맡긴다. 반면, 버그의 원인을 찾아내어 디버깅하거나, 시스템 전체의 설계 판단, 안전성이 중요한 코드 등 고도의 추론이 필요한 일은 Claude 쪽에 남긴다.
마즈만오프 씨의 검증 결과, 별도의 AI가 코드의 표면적인 패턴을 포착하는 데는 성공했지만, 여러 처리 과정이 동시에 진행될 때 발생하는 미묘한 버그를 놓치는 사례가 있었다. 반면, Claude는 필요한 정보를 제공받으면 그 문제를 찾아낼 수 있었다.
즉, Spotify의 방식은 “고성능 AI를 저렴한 AI로 대체하는” 것이 아니다.
단순 작업은 경량 모델에 맡고, 인간으로 치자면 전문가는 아니면 할 수 없는 판단에만 고성능 AI를 사용하는 구성이다.
동사의 AI 기능 “AiKA Modes”에서는 용도에 따라 사용하는 AI 모델을 설정할 수 있다. 이번의 shunt도 이 메커니즘을 활용하여 Claude Code가 작업 내용에 따라 다른 AI로 처리를 분배한다.
AI 코딩 툴의 이용이 확산됨에 따라 1개의 고성능 모델에 모든 것을 처리시키는 것이 아니라, “어떤 일을 어떤 AI에 맡출 것인가”를 분별함으로써 토큰 소비 및 이용 비용을 절감하는 방법의 일례이다.
덧붙여, 스포티파이의 공식 GitHub에서는 9월 5일, 슌트의 대규모 파일 읽기 접근 제어를 제어하는 훅(Hooks)에 대해 클로드 코드(Claude Code)의 사양과의 불일치를 지적하는 이슈(Issue)가 게시되어 있습니다. 기사 작성 시점에서는 이슈가 해결되지 않았으며, 스포티파이 측의 수정이나 의견 확인은 이루어지지 않았습니다.
관련 기사: Claude Code, 짧은 지시어도 최초 실행 시 약 3.3만 토큰, MCP 등 추가로 약 7.5만, Systima가 측정
관련 기사: Claude Code에서 AI 에이전트를 어떻게 지시할 것인가, Anthropic가 CLAUDE.md, 스킬, 서브 에이전트 등 7가지 방법을 설명
관련 기사: AI 코딩 에이전트, 개발자의 90%가 주 1회 이상 이용, Claude Code가 39%로 GitHub Copilot를 역전시키고 1위, 1월 18%에서 급상승
관련 기사: Anthropic, Claude Code “auto mode”를 기본으로 활성화, 위험한 명령어를 89% 차단, 인간은 13.6%
원문 보기 | 출처: Ledge.ai