AI 요금 페이지를 둘러보는 것을 상당히 좋아한다.
100만 토큰당 얼마인지, 그런 표. 저도 처음에는 “음, 저렴한 게 좋네” 정도로밖에 보지 않았는데, 자세히 보면 桁이 2개나 다른 모델이 아무렇지 않게 같은 목록에 나열되어 있는 거야. 출력 1달러 이하의 것과 50달러짜리 둘 다 같은 “AI”라는 말로 묶여 있는 걸, 냉정하게 생각하면 이상하지 않아?
그래서 이번 달에 그 표가 또 크게 움직였다.
중국의 Moonshot AI가 7월 16일에 “Kimi K3”를 발표하고, 7월 27일에는 모델의 가중치까지 모두 공개했다. 총 파라미터 2.8조. 국경 수준의 AI를 누구나 다운로드할 수 있는 상태로 만들었다고 한다.
저렴함의 본질과 ‘오픈’의 본질이다. 이 두 가지를 추적하면 생각했던 것보다 훨씬 더 흥미로운 구조가 드러나므로, 순차적으로 살펴봐야 한다.
🌙 김미 K3는 대체 뭐가 그렇게 대단한 걸까?
먼저 “가중치”를 정리해야 합니다.
가중치(무게)는 인공지능이 학습을 통해 얻은 방대한 수치들의 모임입니다. 억지스럽게 말하자면 인공지능의 뇌마저 그 내용 그대로라고 할 수 있죠. 이것이 공개되면 다운로드하여 자국 서버에서 실행할 수 있습니다. 개발사에게 돈을 지불하지 않더라도, 원리적으로는 사용 가능한 상태가 됩니다. OpenAI의 GPT나 Anthropic의 Claude는 이것을 공개하지 않았습니다. 사용하고 싶다면 각 회사의 클라우드에 연결하여 사용한 만큼만 비용을 지불합니다. 이 차이는 생각하는 것보다 큽니다.
그뿐만 아니라 김미 K3의 사양을 살펴보니 꽤 괜찮은 숫자들로 구성되어 있다.
- 총 파라미터 수 2.8조 (오픈 웨이트로서 세계 최대 규모)
- 컨텍스트 윈도우 약 105만 토큰
- 이미지 입력에 네이티브 대응
- Hugging Face와 GitHub에서 가중치와 기술 보고서를 동시에 공개
성능의 위치도 명확하다. 평가기관 Artificial Analysis의 Intelligence Index에서 K3는 점수 57로, 종합 3위 정도에 해당하며, Claude Opus 4.8이나 GPT-5.5와 비슷한 수준으로 측정되었다. Claude Fable 5나 GPT-5.6 Sol에는 미치지 못하지만, 오픈 웨이트 중에서는 확실히 돋보인다. GLM-5.2는 51, DeepSeek V4 Pro는 44로, 이 차이는 꽤 크다.
왜 중국산 AI가 그렇게 저렴하게 만들어질 수 있는 걸까
이제 본론으로 들어가겠습니다. 저렴한 가격의 작동 방식에 대한 이야기입니다.
🏢 896명의 전문가가 있었으며, 움직이는 사람은 16명이었다.
중국제 모델의 저렴한 가격은 가격 경쟁이 아닌, 아키텍처의 혁신적인 설계 덕분이다. 핵심적인 개념은 MoE(Mixture of Experts)이다.
상상해 주시면 좋겠어요. 거대한 오피스 빌딩 안에 전문가들이 밀집해 있는 상황을 말씀드리고 싶습니다. Kimi K3의 경우, 그 전문가들은 896명입니다. 하지만 질문이 한 번 접수되면, 모든 사람을 회의실에 불러 모으지는 않습니다. 접수처 직원이 “이건 16명으로 충분합니다”라며 분담하고, 나머지 880명은 자리에 앉아 기다립니다.
따라서 총 파라미터가 2.8조일지라도 1 토큰을 처리하는 데 실제로 계산되는 것은 1040억 파라미터 분으로만 소요된다. 간판의 크기와 1회당 전력 소비량이 분리되어 있다는 점이다. DeepSeek, Qwen, GLM 모두 동일한 발상 구조를 채택하고 있다.
K3는 또한 긴 문서를 읽는 비용을 낮추는 KDA(Kimi Delta Attention)라는 독자적인 주의 메커니즘을 총 93층 중 69층에 사용하고 있다. Moonshot에 따르면 전世代의 Kimi K2에 비해 약 2.5배의 스ケーリング 효율이라고 한다. 다만 이는 자사 공칭이며 외부의 재현 실험은 아직 통과하지 않았으므로 유보된 내용으로 받아들여야 할 부분이다.
똑같은 이야기는 두 번째부터 할인됩니다.
또 하나의 효과는 바로 캐시 때문입니다.
에이전트를 실행할 때마다 항상 똑같은 시스템 프롬프트를 앞부분에 붙여 보내게 되죠. 그걸 매번 진지하게 계산하는 건 솔직히 너무 아깝잖아요. 그래서 “이전에 처리했던 것과 같은 부분은 기억을 재사용해서 저렴하게 처리한다”는 방식이 적용되어 있는 거예요.
Kimi K3의 공식 API에서는 입력당 100만 토큰에 대해 3.00달러입니다. 하지만 캐시 히트한 부분은 0.30달러로 줄어듭니다. 90% 할인 혜택을 받는 셈이죠. DeepSeek의 경우에는 캐시 히트 가격이 100만 토큰에 0.0028달러로, 거의 소수점 바로 다음 단계처럼 낮은 수준까지 떨어집니다.
같은 지시를 반복적으로 수행하는 에이전트 운영에서는 이 한 점이 총 비용을 좌우한다. 설계에 따라 비용이 숫자로 크게 달라지는 것은 생각보다 놀라운 일이라고 생각하지 않는가?
그런데 K3 자체는 가장 저렴한 모델이 아니었습니다.
여기 조금 놀라운 사실이 있습니다.
Kimi K3는 사실 “가성비의 대명사”가 아니다. 2026년 7월 시점의 주요 모델을 100만 토큰당 입력/출력(미달러)으로 나열하면 다음과 같다.
- DeepSeek V4 Flash：0.14 ／ 0.28
- 딥시크 V4 프로: 0.435 ／ 0.87
- GLM-5.2：1.40 ／ 4.40
- Gemini 3.6 Flash：1.50 ／ 7.50
- 키미 K3：3.00 ／ 15.00
- GPT-5.6 테라：2.50 ／ 15.00
- 클로이드 오퍼스 5: 5.00 ／ 25.00
- GPT-5.6 솔루션: 5.00 / 30.00
- 클로드 페이블 5 : 10.00 ／ 50.00
DeepSeek V4 Flash와 GPT-5.6 Sol의 차이는 대략 100배이다. “중국산 AI는 비용이 99% 감소했다”고 말될 때 주역은 바로 이 초저가형 모델이다. K3는 GPT-5.6 Terra와 거의 동가격대의 중급 모델로 자리 잡고 있다.
그러므로 K3의 가치는 단순히 저렴한 가격 자체가 아닌, 자신의 손안에 프론티어에 가까운 성능을 가진 모델을 둘 수 있다는 한 점에 있다.
에이전트 성능 지표도 이를 뒷받침하고 있다. AutomationBench-AA에서 K3는 53%로 1위를 차지했으며, 작업당 비용은 0.94달러였다. GPT-5.6 Sol과 동일한 수준이었고, Claude Opus 4.8의 약 절반 가격이었다. 단가로만 보지 않고 “1 작업이 얼마에 끝나는가”를 기준으로 보면 또 다른 그림이 나타나게 된다.
오픈에도 제대로 가격표가 붙어 있었다.
그러면 가중치가 공개되었으니 완전히 자유로운 것은 아니라는 점을 알 수 있습니다. 해당 부분을 읽어보면 더 흥미로울 것입니다.
키미 K3 라이센스는 권한을 부여하는 부분만 읽고 보면 거의 MIT 라이선스와 같습니다. 사용, 복제, 수정, 배포, 판매, 미세 조정, 파생물의 제작 등 모든 것이 무상으로 가능합니다. 다만, 수익 규모에 따라 조건이 2가지 추가됩니다.
- K3의 API를 재판매하는 MaaS 사업자는 연간 매출 2000만 달러를 초과하는 시점에 Moonshot과의 별도 계약이 필요합니다.
- 월간 활성 사용자 1억 명 이상 또는 월 매출 2천만 달러 초과 규모의 대규모 제품은 UI에 “Kimi K3” 표시를 의무화합니다.
저사설 인프라에서의 내부 이용이나, Moonshot 인증의 추론 파트너를 거치는 경우는 대상 외입니다. 선입선 기준이 사용자 수로가 아니라 비즈니스 모델인 점이 마음에 드는 부분입니다. 스타트업은 자유롭게 사용하고, 큰 재판매 비즈니스로 성장한 단계에서 Moonshot의 분담이 발생합니다. 널리 퍼질수록 협상력이 올라가는 설계입니다.
또한, 다른 값표가 인프라 측에 있었다. K3를 실제로 작동시키려면 약 594GB의 저장 공간이 필요하며, Moonshot은 64개 이상의 액셀러레이터를 묶은 “슈퍼노드” 구성을 추천하고 있다. 개인이나 중견 기업에게도 상당한 어려움이다.
더욱 복잡한 사항 하나가 있습니다. K3는 과거의 보조 발화 내용, 추론 내용, 툴 호출 내용을 전부 다음 입력에 포함시켜 학습되었다는 전제하에 작동합니다. 중간에 모델을 전환하거나 이 기록을 삭제하면 출력이 불안정해진다고 Moonshot 스스로도 명시하고 있습니다. 여러 모델 구성의 에이전트를 중간에 삽입하는 방식은 사용하기 어렵다는 의미입니다.
키미 K3 오픈 웨이트즈 수익 기반 등급 라이선스
“오픈”이라는 말은 생각보다 훨씬 깊이 있는 개념이었다.
미국 측이 흔들린 이유
미국 측이 일본 해군 제1함대의 활동이 미국 본토 주변 해역에 미치는 영향에 대한 우려가 커지고 있다는 내용이 담겨 있었습니다. 특히, 홋카이도 주변 해역에서의 활동이 문제로 지적되었는데, 이는 일본 정부가 최근 추진하고 있는 ‘자유로운 인도적 접근’이라는 명칭으로 불리는 해군 훈련 계획과 관련이 있습니다.
이 훈련 계획은 일본 해군이 미국 본토 주변 해역에 직접 진입하여 훈련을 실시하는 것으로, 미국 측은 일본 해군의 활동이 자국의 해군 작전 수행에 방해가 될 수 있다는 우려를 표명했습니다. 특히, 홋카이도 주변 해역은 미국의 핵미사일 발사 실험장이 위치한 곳으로, 일본 해군 훈련의 안전 문제가 더욱 부각되었습니다.
보고서에 따르면, 미국 국방부는 일본 해군 훈련 계획에 대한 공식적인 답변을 요청했지만, 일본 정부는 아직까지 명확한 답변을 제시하지 않고 있습니다. 이러한 상황이 미국 측의 우려를 더욱 심화시키고 있으며, 양국 간의 군사적 긴장을 고조시키는 요인으로 작용하고 있습니다.
한편, 일본 정부는 미국 측의 우려를 해소하기 위해 훈련 계획의 내용을 수정하거나, 훈련 지역을 변경하는 방안을 검토하고 있다고 합니다. 하지만, 현재까지 구체적인 방안은 아직 결정되지 않았습니다.
이러한 상황은 ‘무라카미 하루키’의 소설 『카호』에 등장하는 일본 해군의 모습과 대비되는, 현실의 일본 해군 활동을 보여주는 사례로 해석될 수 있습니다. 훈련 계획의 배경에는 일본 해군의 확장과 미국의 안보 우려가 복합적으로 작용하고 있다는 점을 시사합니다.
이 릴리즈, 미국에서의 반응이 상당히 격렬했다.
OpenAI의 전략 책임자 디언 볼드 씨가 X(엑스)에 장문을 게시하여 오픈 웨이트 전략의 결론이 “AI 공산주의”가 될 것이라고 지적했다. 또한 “트럼프 정권은 결국 중국의 오픈 웨이트형 AI 모델의 이용에 대해 대규모 규제 위험을 만드는 것이 최선의 전략이라고 깨닫지 않을 텐가”라고 예측했다.
이 것에 대한 반발이 상당히 컸다. 대통령 과학기술자문위원회의 공동의장 데이비드·사ックス氏は「규제의 불확실성을 무기화하는 것」은 용납할 수 없다고 단조, 폐쇄형 시스템의 대규모 사업체가 이미 사실상 복존 상태에 있다고 지적했다.
정부 측도 움직이고 있었다. 백악관 과학기술정책국 클라시오스 국장은 7월 22일, 문샷이 금수禁輸措置를 회피하여 NVIDIA의 GB300을 조달하고, 앤트로픽의 Fable 5에서 대규모 증류를 했다고 공개적으로 비난했다. 상무부 BIS가 조사(調査)를 시작했다는 보도도 나오고 있다.
한편, Moonshot의 직원들은 Fable 5의 공개부터 K3 발표까지 15일밖에 되지 않아 대규모 증류가 물리적으로 불가능하다고 주장하고 있다. UK 사이버 인스튜트의 독립 테스트에서는 사이버 능력과 수학 능력에 프론티어 모델과의 명확한 차이가 확인되어, 이것이 증류에 따른 편견을 보여주는 가능성을 지적하는 연구자도 있지만, 증거는 상황 증거의 영역을 벗어나지 못하고 있다.
어느 쪽이 맞는지 단언할 만한 자료는 아직 충분하지 않다. 웨이트가 공개되어 외부 검증의 길이 열렸다는 사실 자체가 지금은 더 중요한 것 같다.
💡 미셀의 시선 ── 모델과 서비스는 별개의 존재로 취급될 수 있다
이 글에서 가장 강조하고 싶은 부분입니다.
중국산 AI에 대한 논의에서는 대부분 “사용한다/사용하지 않는다”는 이분법적 선택으로 귀결되는 경향이 있습니다. 하지만 기술적 메커니즘을 고려하면, 그 답은 그 중간에 있습니다.
일본 개인정보보호위원회는 2025년 2월 3일, DeepSeek에 대한 주의를 환기하고 있다. 입력 데이터가 중국 내 서버에 저장되는 것과 그 데이터에 중국 법규가 적용되는 두 가지 점이 논점이었다. 디지털청과 NISC 또한 각 부처 및 정부기관에 대해 이어졌다.
여기 중요한 것은 이 주의 촉구의 대상이 “서비스”였던 점이다. 즉, 중국 기업이 운영하는 앱이나 API에 업무 데이터를 보내는 행위가 문제시되고 있다는 뜻이다.
한편, 오픈 웨이트 모델은 스스로 경로를 선택할 수 있다. 미국 기반 클라우드의 관리형 서비스를 통해 자사 GPU 인프라로 실행하는 등 다양한 선택지가 가능하다. 같은 모델이라도 어디에서 실행하느냐에 따라 위험의 내용이 완전히 달라진다.
더욱이 실무적으로 가장 효과적인 방법은 아마도 라우팅이라는 개념일 것이다. LiteLLM과 같은 AI 게이트웨이를 한 장에 배치하여 “기묘 정보가 포함되지 않은 대량의 정형 처리 작업은 저가 모델, 기밀 데이터나 고난도 작업은 플래그십 모델”로 분배하는 것이다. 이렇게 하면 특정 벤더의 장애나 규제 변경에도 설정 변경만으로 대응할 수 있고, 교체 비용도 절감된다.
이건 개인적인 활용에도 그대로 적용되는 생각 방법이야. 분류, 요약, 초고 같은 “실수를 해도 치명적이지 않은 업무”를 저렴한 모델에 맡기고, 판단이 필요한 상황에만 고가 모델을 불러오는 방식이지.
질의의 주역이 “어떤 모델이 가장 현명한가”에서 “어떤 워크로드를 얼마나 저렴한 모델에 맡길 수 있는가”로 옮아가는 흐름으로 보입니다.
✨ 요약 ── 가격표 보는 방식이 달라진다
기미키 K3가 알려준 것은 아마도 세 가지일 것이다. 가격이 저렴한 것은 아키텍처에서 비롯되는 것이며, 오픈 소스에도 가격이 매겨져 있고, 모델과 서비스는 분리하여 고려할 수 있다는 점이다.
이 세 가지를 가지고 요금 페이지로 돌아가면, 그 숫자들의 나열이 완전히 달라 보입니다. 숫자 차이는 기술 차이이고, 라이선스 조항에는 비즈니스 모델이 담겨 있으며, 데이터가 어디에 저장될지는 직접 선택할 수 있습니다. 시스템을 알게 되면 선택지가 한꺼번에 늘어나는 것을 느낄 수 있습니다.
지금 어떤 작업을 어떤 모델에게 맡기고 있나요? 사용 방식에 대한 팁이나 규칙이 있다면 댓글로 공유해 주세요. 🎯
제작 노트
처음에는 “중국산 AI는 단순히 저렴하다”는 시각으로 글을 쓰기 시작했는데, 가격표를 실제로 나열해 보니까 Kimi K3가 중가격대에 있고, 그래서 한 번 멈춰 서게 됐다. 저렴함의 주역은 DeepSeek 계열이었고, K3의 가치는 다른 곳에 있는 것이다. 이 꼬임이 없었다면, 아마 얇은 기사로 흘러갔을 거라고 생각한다. 라이선스 조항을 읽어 가려고 했던 것도 수확이었고, “오픈 = 무조건 자유”가 아니라는 것이 명확하게 보인 것이다. 594GB라는 숫자를 보던 순간, 집 NAS를 잠시만 바라본 것은 비밀이다.
Miccell - 仕組みがわかれば、世界はもっと面白くなる。
출처: note 원문
번역: Gemma 3(.44) 초벌 + 교정 46청크
원문 보기 | 출처: note.com