# GPT-6/Astra의 정체인가? [논문 해설] Recurrent Depth: 말 없이 뇌에서 생각하며 풀어내는 “잠재 공간 추론”의 충격

> https://bookfactory.kr/board/ai-tech/17281
> 게시판: AI·머신러닝
> 작성자: admin
> 작성일: 2026-09-17T18:04:33.289Z

---

![見出し画像](https://assets.st-note.com/production/uploads/images/312316954/rectangle_large_type_2_888043185b7972617c48835e6cfda4cd.jpeg?width=1280)

GPT-6와 Astra와 같은 차세대 프론티어 모델의 핵심에서, 현재 무엇이 일어나고 있는지 궁금하신가요? 화면에 텍스트 기반 사고의 시대는 이제 막 막을 내리고 있습니다.

### 흥미로운 계기였습니다. 아래에서 언급된 논문에 대해 조사해 보았습니다.

### 그것은 꽤 오래된 것으로 보입니다.

### AI로 팟캐스트 생성

## 단어에 의존하지 않고 뇌 안에서 깊이 생각하는 건 어때? 추론 시 계산량을 확장하는 “잠재 공간 추론”의 충격파.

![画像](https://assets.st-note.com/img/1788833780-I0iUe2DwYxmXFkadQgcyMGv1.png?width=1200)

## 1. 서론: LLM의 “자기 성찰” 추론에 한계가 닥치고 있는가?

OpenAI의 “o1”이나 DeepSeek의 “R1”과 같은 최신형 추론 특화형 모델을 접했을 때, 화면에 “Thinking... (思考中)”라고 표시되고 AI가 마치 인간처럼 긴 문장의 혼잣말을 늘어놓으며 정답에 도달하는 모습을 보신 적이 있을까요?

지금까지 인공지능의 지능 향상을 위해 주요 방안은 “사전 학습을 통해 모델을 대규모화하는 것(사전 학습 스케일링)”이었습니다. 그러나 이제 인공지능 연구의 최전선은 “답변을 출력하기 전의 추론 시간에 얼마나 많은 계산 자원을 활용할 수 있는가”라는 추론 시 계산량(Test-Time Compute) 확장으로 빠르게 변화하고 있습니다.

그 대표적인 예는 “사고의 연쇄(CoT: Chain of Thought)”입니다. AI는 텍스트로 사고 과정을 모두 기록함으로써, 난해한 수학이나 코딩 퍼즐을 놀라울 정도로 높은 정확도로 해결할 수 있게 되었습니다.

하지만 여기서 냉정하게 생각해 보십시오. “인간이 무언가에 대해 깊이 생각할 때, 모든 사고 단계를 한마디로, 머릿속에서 말로 바꾸고 있는가?”

직관적인 깨달음, 기하학적 도형의 회전, 혹은 말로 표현할 수 없는 불안함과 같은 시행착오―― 인간의 뇌 안에서는 말을 형성하기 전까지 헤아릴 수 없이 많은 신경 회로가 반복적으로 활성화되어 생각을 정교하게 발전시켜 왔습니다.

본 기사에서 설명하는 것은 메리랜드 대학교나 맥스 플랑크 연구소 등 공동 연구팀이 발표한 획기적인 논문 ‘Scaling up Test-Time Compute with Latent Reasoning: A Recurrent Depth Approach’(모델명: Huginn)이 제시한 완전히 새로운 패러다임입니다.

그것은 “텍스트의 토큰을 한 글자도 흘리지 않고, 내부의 잠재 공간(벡터 공간)에서 회전하며 깊이 생각하는” 접근 방식입니다.

이 기사를 읽을 결론, 다음의 지식과 통찰을 얻을 수 있습니다.

- 왜 기존의 ‘모든 사고를 언어로 환형화하는 CoT’가 계산 비용 및 표현력 측면에서 한계에 직면하고 있는가?
- 혁신적인 메커니즘
- 모델의 파라미터 수나 문맥 길이에 얽매이지 않고 지능을 끌어올리는 “제3의 스케일링 축”의 정체
- 단순히 35억 개의 파라미터로 구성된 소형 모델이 왜 500억 개의 파라미터에 달하는 막대한 계산 능력을 자유자재로 발휘하는가?

자, 차세대 AI의 문을 여는 “잠재 공간 추론”의 심연으로 발을 들여놓으면서 시작해 보겠습니다.

## 2. 본 챕터: 토큰 생성형 추론의 한계와 “잠재 공간 추론”의 부상

### 1.1. 왜 “사고의 연쇄(CoT)” 토큰 출력만으로는 한계가 있는가?

현재 추론 AI의 데프트 팩토 스탠다드가 되어버린 것은 중간 思考ステップ을 텍스트 토큰으로 순차적으로 출력하는 방식입니다.

> 
> 
> 💡 여기서 다루는 용어, 추론 시 계산량(읽는 방법: 시로롱계산료 / Test-Time Compute) ✅️ 무엇을 하는가? 학습 시가 아닌, 실제 사용자의 질문에 답변을 생성(추론)할 때 AI가 수행하는 계산량의 총량이다. ✅️ 왜 필요한가? 어려운 문제에 대해 즉답 대신 시간을 들여 계산함으로써 정답률을 획기적으로 높이기 위함이다. ✅️ 비유적인 예시: “시험 문제를 보게 되면, 직감적으로 즉답을 선택하는 대신, 여백에 수십 번 계산하거나 초안을 작성한 후 신중하게 답안지에 記入한다.”
> 

> 
> 
> 💡 여기서 사용되는 용어 ‘사고의 연쇄’(읽는 방법: 시고의 렌사 / CoT: Chain of Thought)입니다. ✅️ 무엇을 하는가? 갑작스러운 결론을 내지 않고 “먼저 A를 구하고, 다음으로 B를 계산하여, 그러므로 결론은 C”와 같이 단계별로 중간 추론 단계를 말로 적어내게 하는 방법입니다. ✅️ 왜 필요한가? 다단계 논리적 단계가 필요한 수학이나 논리 퍼즐에서 각 단계별 계산 정확성을 보장하고 논리적 비약(飛躍)을 방지하기 위함입니다. ✅️ 친근한 비유: “수학 문제집의 답의 숫자만 쓰는 대신, 중간 계산식이나 풀이 방법을 빽빽하게 적어놓는 것과 같습니다.”
> 

CoT는 현대 추론 모델에 눈에 띄는 지능 향상을 가져왔습니다. 하지만 모든 사고를 “텍스트 토큰”으로 쏟아내는 방식에는 근본적이고 심각한 3가지 한계가 존재합니다.

과제 1: 토큰 폭발로 인한 메모리 및 통신 과다 사용

과거의 CoT(Chain-of-Thought) 방식에서는 깊이 생각할수록 출력되는 토큰 수가 수천, 수만으로 기하급수적으로 증가했습니다. 현대의 언어 모델의 핵심인 Attention 메커니즘은 문장이 길어질수록 계산량과 메모리 소비량이 이차 함수적(또는 급격하게) 증가합니다.

KV캐시가 GPU 메모리를 과도하게 소비하며, 여러 GPU 간의 데이터 교환으로 인한 통신 지연이 시스템의 병목 현상을 야기합니다.

> 
> 
> 여기에서 사용되는 용어 KV캐시(Key-Value Cache)는 무엇을 하는 것일까요? 언어 모델이 문장을 생성할 때, 한 번 계산한 과거 단어(토큰)의 정보를 메모리에 일시적으로 보관하는 메커니즘입니다. 왜 필요할까요? 다음 단어를 예측할 때마다 과거 전체 문장을 처음부터 다시 계산하는 비효율성을 줄이고 생성 속도를 향상시키기 위함입니다. 가까운 비유는 “한 번 읽은 책의 내용을 메모지에 요약하여, 다음 페이지를 읽을 때마다 책을 처음부터 다시 읽지 않아도 되는 상황을 대비하는 방법”입니다.
> 

과제 2: 특별한 “사고 데이터” 제작 비용

고품질의 CoT 모델을 구축하기 위해서는 “인간이 아름다운 논리 단계를 거쳐 작성한 해설 텍스트”와, 강화 학습을 통해 얻어진 “정답에 도달하기 위한 방대한 思考 로그”가 대량으로 필요합니다. 이들을 수집하고 검토하며 학습시키는 과정에는 막대한 인적 비용과 계산 자원이 소요됩니다.

과제 3：“언어화의 병목 현상”으로 인한 표현의 제약

이것이 가장 핵심적인 문제입니다. 인간의 모든 사고가 언어로 표현될 수 있을까요?

예를 들어, 다음과 같은 사례를 고려해 보십시오.

- 구체적인 예시 1: 복잡한 기하학 퍼즐이나 공간 배치 검토, 럭키 큐브를 풀 때나 방의 가구 배치를 시뮬레이션 할 때, 우리는 “먼저 상면을 오른쪽으로 90도 회전하고, 다음…”과 같이 모든 것을 말로 변환해서 생각하는 것이 아니라, 머릿속으로 3차원 입체 이미지를 연속적으로 회전시키고 있습니다.
- 구체적인 예시 2: 체스나 바둑의 선읽기 숙련된 기사는 흑백판의 배열의 “기세”나 “기하학적인 관계”를 직관적으로 파악하고, 여러 가능성을 동시에 탐색합니다.
- 구체적인 예시 3: 고도화된 수치 알고리즘의 수렴 계산 방정식의 값을 조금씩 보정하는 수치 계산을 텍스트로 수행하면 “13.2 더하기 4.5는 17.7, 그리고 0.8을 곱해서…” 와 같이 끊임없이 글자를 나열하게 되고, 1글자라도 잘못 치면 그 이후의 추론이 모두 붕괴합니다.

모든 고차원적인 내부 상태를 억지로 “사전(단어, 즉 분산적인 토큰)”이라는 좁은 통로에 압축하여 출력시키는 행위는 매우 비효율적이며 표현력의 손실을 초래합니다.

![画像](https://assets.st-note.com/img/1789036591-mNtYaronHO2kJdR750ABT1I4.png?width=1200)

논문 내 Figure 1에서는 이 차이가 생생하게 실증됩니다. 외부로 토큰을 쓰지 않고도 내부의 반복 계산을 늘리는 것만으로 추론 벤치마크의 정답률이 극적으로 높아지는 것이 확인된 것입니다.

![画像](https://assets.st-note.com/img/1789036627-ZQT9xz47S0sWJ5MaOny1UGD3.jpg?width=1200)

![画像](https://assets.st-note.com/img/1789036767-nIQkFvb8iC7Ufg6AH3spxYyj.png?width=1200)

### 인간의 직감과 사고 과정에서 영감을 얻은 “말 없이 생각하는” 접근 방식

재귀적 깊이(Recurrent Depth)는 생각을 외부 언어로서 출력하지 않고, 모델의 내부 표현인 잠재 공간(Latent Space) 안에서 완결짓는 방식입니다.

> 
> 
> 💡 여기서 다루는 용어 잠재 공간(せんざいくうかん / Latent Space)은 무엇을 하는가? : AI가 언어와 이미지의 의미, 특징, 맥락을 고차원 벡터로 표현하는 내부의 “의미 세계”이다. 왜 필요한가? : 문자나 단어의 표면적인 형태에 갇히지 않고, 개념 간의 의미적 근접성과 관련성을 수학적으로 계산하고 조작하기 위한 것이다. 비유하자면 “말로 입 밖으로 내보이기 전의, 머릿속에 희미하게 떠오르는 아이디어나 개념의 지도”와 같다.
> 

> 
> 
> 💡 여기서 다루는 용어 재귀적 깊이(Recurrent Depth)는 무엇을 하는가? : 뉴럴 네트워크에서 새로운 층을 추가하는 대신, 동일한 계산 층(블록)에 데이터를 반복적으로 통과시키는 방식이다. 왜 필요한가? : 모델의 파라미터 수(메모리 용량)를 늘리지 않고, 계산 깊이(단계 수)를 몇 배로 확장하는 데 목적이 있다. 친근한 비유는 “페이지 수가 많은 두꺼운 참고서를 보충하는 대신, 손에 든 최고의 한 권을 여러 번 꼼꼼히 읽고 사고를 깊게 하는 것과 같다.”
> 

> 
> 
> 여기에서 사용되는 용어 FLOPs(플로핑스, Floating Point Operations)는 무엇을 의미하는가? 컴퓨터가 처리한 부동 소수점 연산 횟수를 나타내며, AI 모델이 수행한 계산량을 측정하는 지표이다. 모델의 크기뿐만 아니라 추론 과정에서 소비된 계산 능력을 객관적으로 비교하고 측정하기 위함이다. 친근한 비유로는 “차가 소비한 가솔린의 총량과 주행 거리”와 같다.
> 

이 “잠재 공간 추론” 접근 방식이 혁신적인 것은 인간의 사고 형태와 매우 유사한 점에 있습니다. 인간이 영감을 얻는 순간, 대뇌 피질의 신경 세포 군은 루프 형태로 신호를 주고받으며 정보를 정제합니다.

본 논문에서 제안된 모델 “Huginn”은 입력된 문장을 잠재 공간의 벡터로 변환한 후, 그 벡터를 핵심적인 재귀 블록 내에서 반복적으로 처리합니다.

이 접근 방식에는 기존 CoT 방식으로는 얻을 수 없는 뚜렷한 이점이 있습니다.

- 특별한 사색 로그 데이터는 전혀 필요하지 않습니다. “생각을 어떻게 기록할 것인가”에 대한 예시 데이터는 필요하지 않습니다. 일반적인 텍스트 데이터를 사용하고, 학습 시간에 사색 단계를 무작위로 바꾸면서 훈련하는 것만으로, 모델은 자연스럽게 “반복 계산을 활용하여 깊이 생각하는 방식을” 자율적으로 습득합니다.
- 메모리 소비량이 폭발하지 않도록 출력 토큰 수를 늘리지 않아 컨텍스트 윈도우(문맥 길이)가 압박되지 않고, KV 캐시의 과대 확장에 시달릴 필요가 없습니다.
- GPU 가속기 간의 통신 비용을 극적으로 감소시켜 대규모 분산 학습에서 가장 큰 걸림돌이 되는 것은 GPU 간의 통신입니다. 재귀 모델은 동일한 가중치 파라미터를 반복적으로 사용하기 때문에 파라미터당 계산량(FLOPs per Parameter)이 매우 높고 집중됩니다. 결과적으로 GPU 간의 가중치 동기화 통신 빈도를 줄이고 계산 효율을 극대화할 수 있습니다.

기존의 토큰 생성 기반 CoT와 이번의 잠재 공간 추론(Recurrent Depth)의 차이를 표 형태로 정리해 보겠습니다.

![画像](https://assets.st-note.com/img/1789036947-gw6yevK7cVCMh1sRmduqbtli.png?width=1200)

### 세 번째 스케일링 축은 매개변수 수와 문맥 길이에 따라 달라지지 않는다.

지금까지 인공지능 스케일링(성능 향상 원칙)은 주로 두 축을 중심으로 논의되어 왔습니다.

> 
> 
> 여기에서 사용되는 용어 스케일링 법칙(읽는 방법: 스케링-스오쿠 / Scaling Laws) ✅️ 무엇을 하는 것? : 모델의 파라미터 수, 학습 데이터량, 계산 예산을 늘릴수록 AI의 성능이 예측 가능한 형태로 깔끔하게 향상된다는 경험 법칙. ✅️ 왜 필요? : 수십억 원에서 수백억 원 규모의 개발 예산을 투자하기 전에, 목표 성능에 도달하기 위해 필요한 계산 자원을 과학적으로 예측하기 위함. ✅️ 비유 : “엔진의 배기량과 연료의 양을 늘리면 설계도대로 자동차의 최고 속도와 마력이 향상되는 물리 법칙”
> 

> 
> 
> 여기에서 사용되는 용어 파라미터(Parameters) ✅️는 무엇을 하는 것입니까? : AI 모델의 핵심을 구성하는, 셀 수 없이 많은 숫자(가중치와 편향)들의 집합입니다. “3.5B”라면 약 35억 개의 파라미터를 갖습니다. ✅️ 왜 필요한가요? : 학습을 통해 이 값을 미세 조정함으로써, 지식을 저장하고 적절한 추론을 가능하게 합니다. ✅️ 비유하자면 “뇌의 신경 세포들이 연결하는 시냅스의 연결 강도”와 같습니다.
> 

> 
> 
> 💡 여기서 사용되는 용어 ‘제로샷(Zero-Shot)’ ✅️ 무엇을 하는 것? : 사전에 모범 사례(예시와 정답 쌍)를 프롬프트에 전혀 제공하지 않고, 즉석에서 새로운 지시나 난제를 해결하도록 하는 방법. ✅️ 왜 필요? : AI가 특정 예시를 모방하는 것뿐만 아니라, 진정으로 일반적인 이해력과 응용력을 갖추었는지 평가하기 위함. ✅️ 유사한 비유: “과거 시험 답안 해설을 전혀 보지 않고, 처음 보는 유형의 시험 문제에 처음부터 도전하는 것과 같다.”
> 

기존의 두 축은 다음과 같습니다.

- 축 1: 사전 학습 스케일링(파라미터 수와 데이터셋의 규모 확대) GPT-3에서 Llama 3에 이르는 일반적인 접근 방식입니다. 하지만 모델이 커질수록 동작에 필요한 VRAM(비디오 메모리)이 급증하여, 개인용 PC나 일반적인 에지 환경에서는 실행할 수 없게 됩니다.
- 축 2: 추론 시 토큰 스케일링(문맥 길이의 확대) 및 DeepSeek-R1과 같이, 추론 시 장단한 사고 문을 생성하는 접근 방식입니다. 추론 정밀도는 향상되지만, 1회 질문에 대한 답변 대기 시간과 토큰 과금액이 크게 증가합니다.

지금, 본 논문이 개척한 것은 “제3의 스케일링 축: 잠재 공간에서의 반복 깊이 스케일링”입니다.

이 제3축의 진정한 충격은 “추론 시 계산 능력을 유연하게 5배, 10배로 확장하면서도 모델 파라미터 크기(메모리 점유량)를 유지하는 데 있습니다.”

논문에서는 실질적인 레이어 수가 8층(재귀 블록 4층, 후반 층 2층), 파라미터 수는 35억(3.5B)이라는 컴팩트한 모델 “Huginn”을 개발했습니다.

이 모델은 추론 시 재귀 블록 루프를 단 32회만 돌면서 실질적으로 132층이라는 초심층 모델처럼 작동합니다. 계산량을 늘리면 500억(50B) 파라미터 규모의 일반 모델이 소비하는 계산량(FLOPs)에 근접한 성능을 보이며, 수학 벤치마크(GSM8K) 등에서 고정층 모델을 압도하는 점수를 기록했습니다.

![画像](https://assets.st-note.com/img/1789037001-bth0sN2xRdU9L8YWe4v3pBjq.png?width=1200)

## 3. 실질적인 포인트

기술자들이 잠재 공간 추론이라는 패러다임 시프트를 실무와 향후 시스템 개발에 어떻게 활용해야 하는지에 대한 실질적인 팁과 오해를 불러일으킬 수 있는 주의사항을 정리했습니다.

### 실무 팁들

- 엣지 디바이스·로컬 환경에서 고도화된 추론 모델 파라미터 자체는 3.5B 정도 수준으로 가벼우므로, 8GB~16GB 정도의 민수용 GPU나 MacBook(애플 실리콘)의 유니파이드 메모리에 여유 있게 상주할 수 있습니다. “메모리를 차지하지 않지만, 시간을 가르면 賢くなる”이라는 특성은 온프레미스 환경이나 로봇틱스, 스마트폰 상에서의 로컬 추론에 매우 유리합니다.
- 역할 난이도에 따라 동적 계산량 할당 잠재 공간 추론 모델은 추론 단계를 동적으로 제어할 수 있습니다. “오늘 날씨가 어때?”와 같은 간단한 질문에는 루프 1~2회로 밀리초 단위의 즉답을 하고, “이 복잡한 계약서의 논리적 모순을 찾아줘”와 같은 난제에는 32회~64회 깊이 루프하여 심층적인 답변을 얻는 등 유연한 비용 배분이 동일한 모델에서 가능합니다.

### 초보자들이 흔히 저지르는 “오해”와 해결책

오해 1：「이게 옛날 RNN(재귀형 신경망)으로 돌아간 것일까?」해결책 및 정확한 이해 : 구조는 일견 유사하지만 결정적인 차이가 있습니다. 과거 RNN은 “시간의 방향(문장의 첫 단어 → 두 번째 단어)”에 재귀했으며, 이번 모델은 “깊이의 방향(같은 단어에 대한 심층적인 사고)”에 재귀합니다. 각 루프 내부에서는 최신 Transformer(셀프 어텐션 기구)가 전력으로 작동하며, 장거리 문맥 파악 능력과 표현력을 완전히 유지한 채 깊이만 확장합니다.

오해 2：「생각이 글로 보이지 않는다면, 완전한 블랙박스로 변해 위험할까?」 해결책 및 정확한 이해 : 사실 역설적인 측면도 있습니다. 텍스트 기반의 CoT(Chain-of-Thought)는 때때로 “현실감 없는 거짓 추론 과정(Sycomphancy, 하르시네이션)”을 출력하여 인간을 속일 수 있습니다. 본 연구의 분석(제6장, 제7장)에서는 잠재 공간의 사고 벡터를 주성분 분석(PCA) 등으로 시각화하면, AI가 계산 시 아름다운 “회전 궤적”을 그리거나, 단계 수를 측정하는 “슬라이더”와 같은 기하학적 행동을 보인다는 사실이 밝혀졌습니다. 기하학적 접근을 통해 새로운 해석 가능성(Interpretability)의 길을 열었습니다.

### 최고의 실천 방법

- 기억(知識)과 추론(思考)을 분리하여 생각하는 재귀 심도 모델은 파라미터 수가 적기 때문에 “역사 연도”나 “보편적인 상식”과 같은 방대한 사실 지식을 암기할 수 있는 용량에 한계가 있습니다. 따라서 실무에서는 RAG(검색 확장 생성)와 결합하는 것이 가장 강력한 구성이 됩니다. 외부의 사실 지식은 검색을 통해 문맥에 주입하고, 주어진 문맥의 논리적 처리, 계산, 알고리즘적 사고를 잠재 추론 모델에게 온전히 담당시키는 설계를 권장합니다.

## 4. 📖 이 섹션에서 다룬 주요 용어 정리

본 섹션에서 설명한 주요 용어의 팁 시트입니다. 복습에 활용해 주세요.

![画像](https://assets.st-note.com/img/1789037078-kaFiY4zUyNeAlSpCobZ5DR07.png?width=1200)

## 5. 결론 및 다음 단계

이번에는 추론 AI의 최전선인 “잠재 공간 추론” 개념과, 그것이 가져오는 패러다임 시프트에 대해 자세히 설명했습니다.

핵심을 다시 한번 정리합시다.

- 토큰 언어화된 CoT의 한계: 생각을 모두 언어로 출력하는 방식은 메모리(KV 캐시)의 폭발, 특수한 데이터 수집의 부담, 비언어적인 사고(기하학적 사고, 직관)의 결여라는 세 가지 문제에 직면하고 있다.
- 잠재 공간 추론(Recurrent Depth)의 등장: 언어 없이 모델 내부의 고차원 벡터를 순환시켜 메모리 낭비를 줄이고, 일반 데이터만으로도 고도화된 추론 능력을 획득한다.
- 세 번째 스케일링 축은 파라미터의 거대화, 컨텍스트 길이의 확장, 그리고 “내부 루프 횟수 확장”을 통해 소형 모델에서도 거대 모델 수준의 지능을 온디맨드 방식으로 끌어낼 수 있는 시대를 열었다.

하지만 여기서 하나의 큰 의문이 제기됩니다. “같은 층을 수십 번 반복시켜 내부 값이 발산하거나, 계산이 멈추거나(표현 붕괴) 않는가?”

다음 장에서는 350억 개의 파라미터로 5000억 원 상당의 깊이를 만들어내는 놀라운 내부 아키텍처 “프렐류드(Prelude), 코어(Core), 후렐류드(Coda)”의 3단계 구조와 무한 루프를 붕괴시키지 않는 놀라운 수학적 안정화 기술의 전모를 심층적으로 분석합니다. 기대해주세요!

## ## 6. 자주 묻는 질문 (Q&A)

**Q1: 저자는 왜 이 책을 썼나요?**

A1: 저자는 현대 사회에서 ‘고독’이라는 문제에 대해 심층적으로 이해하고 해결책을 모색하기 위한 계기를 제공하고자 이 책을 집필했습니다. 특히, SNS 보급과 디지털화로 인해 사람들이 느끼는 고독감과 소외감을 주제로 독자 여러분에게 공감과 깨달음을 전달하고자 합니다.

**Q2: 본서에서 다루고 있는 “고독”이란 구체적으로 어떤 상태를 의미하나요?**

A2: 본서에서 다루고 있는 “고독”은 단순히 혼자 있는 상태를 의미하는 것이 아니라, 주변에 사람이 있어도 심리적 교류가 부족하고 만족스럽지 못한 감정을 의미합니다. 사회적 고립, 인간 관계의 소원함, 자존감 저하 등 다양한 요인이 복합적으로 작용하여 발생하는 정신적 고독을 의미합니다.

**Q3: 본서에서 소개되는 “고독 해결법”은 어떤 것들이 있나요?**

A3: 본서에서 소개되는 “고독 해결법”은 ‘자존감 향상 방법’, ‘타인과의 관계 형성 방법’, ‘사회와의 관계 강화 방법’의 3가지 카테고리로 분류됩니다. 구체적으로는 자존감을 높이기 위한 명상이나 일기 쓰기, 타인과의 관계를 형성하기 위한 커뮤니티 참여나 봉사 활동, 사회와의 관계를 강화하기 위한 지역 활동 참여 등이 언급됩니다.

**Q4: 본서는 어떤 독자층을 대상으로 하나요?**

A4: 본서는 고독감을 느끼는 사람, 고독에 대해 깊이 이해하고 싶어하는 사람, 그리고 더 풍요로운 인간관계를築きたいと願う 사람 등 다양한 독자층을 대상으로 합니다. 특히, 청년층이나 사회인들에게 자신의 고독감을 인식하고 해결책을 찾는 데 도움이 될 것입니다.

**Q5: 본서에서 소개되는 참고 문헌은 있나요?**

A5: 네, 본에서는 다음 문헌을 참고했습니다.

*   『고독의 과학』 (존 C. 카리)
*   『연결의 사회학』 (사이토 타카요)
*   『행복의 습관』 (シャルル 드 푸몽조)

### Q1: 잠재 공간을 활용하는 방식과 일반적인 LLM이 레이어를 늘리는 것(예: 처음부터 130층으로 하는 것)의 차이점은 무엇입니까?

A: 가장 결정적인 차이는 “메모리 효율”과 “추론의 유연성”입니다. 처음부터 130층의 모델을 만들면 130층 분량의 다양한 가중치 파라미터를 모두 GPU 메모리에 로드해야 하며, 수십 GB에서 수백 GB의 VRAM을 소비합니다. 반면, 재귀 모델은 단지 수층 분량의 파라미터(수 GB)만 메모리에 유지하고, 시간 축 상에서 재사용합니다. 더불어, 고정층 모델은 간단한 문제라도 반드시 130층을 통과해야 하지만, 재귀 모델은 문제의 난이도에 따라 “이번에는 4루프”, “이번에는 32루프”와 같이 계산 단계를 자유롭게 조정할 수 있습니다.

### Q2: 만약 사고 과정이 글로 출력되지 않는다면, 사용자는 AI가 어떻게 결론에 도달했는지 확인하기 어려워지지 않습니까?

A: 확실히 기존 CoT(Chain-of-Thought)처럼 “사람이 읽을 수 있는 텍스트”로서 사고 로그를 직접 읽을 수는 없습니다. 이는 설명성 측면에서는 일견 단점이 보일 수 있습니다. 하지만 본 설명서의 제6장(논문 Section 7)에서 자세히 설명하듯이, 잠재 공간 내의 사고 벡터 경로를 고차원 분석(주성분 분석 등)을 통해 모델이 현재 어떤 정보에 주목하고, 어떤 확신도 가지고 수렴하고 있는지 기하학적인 그래프로 시각화할 수 있습니다. 또한, 최종 답변을 출력시킨 후에도 “왜 그 결론에 도달하게 되었는가”를 다시 한번 설명하게 할 수 있습니다.

### Q3: 이렇게 뛰어난 방법론이라면, 왜 지금까지의 거대 언어 모델(GPT-4 등)은 처음부터 채택하지 않았을까요?

A: 주요 이유는 “학습의 극단적인 어려움”과 “GPU 통신의 최적화의 어려움”에 있었습니다. 뉴럴 네트워크에서 같은 층을 수십 회 반복시키면 숫자가 무한대로 발산하거나, 반대로 모든 토큰이 같은 값으로 뭉개지는 “표현 붕괴(Rank Collapse)”라는 현상이 극도로 발생하기 쉽습니다. 본 연구팀은 입력을 루프ごとに 재이입하는 기구와 특수한 “샌드위치형 정규화”, 초기화의 분산 조정 등을 수백 번도 넘게 시도착오를 거듭하며 스페컴 Frontier의 4096기 GPU 클러스터를 駆使하여ようやく 대규모 스케일에서의 안정적인 학습에 성공한 것입니다.

### Q4: 잠재 공간 추론 모델은 어떤 업무나 작업에서 가장 큰 효과를 발휘할까요?

A: 수학적 증명, 복잡한 프로그래밍 알고리즘 구현, 기호 논리 퍼즐, 화학 구조 또는 물리 시뮬레이션 예측 등 “다단계의 시행착오와 엄밀한 계산을 요구하지만 결론 자체는 간결한 작업”에서 압도적인 위력을 발휘합니다. 반면에 광범위한 역사 지식을 묻는 퀴즈나 방대한 과거 사례를 그대로 인용하는 작업에서는 파라미터 수가 많은 거대 모델이나 외부 검색(RAG)을 병행하는 접근 방식이 더 적합합니다.

## 2. 단 35억 개의 파라미터로 500억에 달하는 깊이를 가진 “Huginn”의 내부 아키텍처

![画像](https://assets.st-note.com/img/1788833801-3NqOguf7jIlimJnF1d0yXGv9.png?width=1200)

## 1. 서론: 극소형 하드웨어에서 초심층 계산을 실현하는 구조 설계

물리적 파라미터 수는 35억(3.5B)으로 줄여놓고, 추론 시에는 500억(50B) 파라미터 규모의 초거대 모델에 匹敵하는 계산 깊이를 끌어낸다. 이러한 상식을 깨는 성능을 구현한 것이 오픈소스의 잠재 추론 모델 “Huginn(휴ギン)”이다.

지난 장에서는 생각을 텍스트화하지 않고 잠재 공간 내에서 깊이 있게 탐구하는 “잠재 공간 추론”의 기본 개념과, 사전 학습 스케일 및 추론 시 토큰 스케일에 이어지는 “제3의 스케일링 축”에 대해 다루었습니다. 하지만 여기서 엔지니어와 연구자들이 가장 궁금해하는 것은 “구체적으로 어떤 수리 모델과 레이어 설계를 사용해서 모델을 붕괴시키지 않고 동일한 계산 레이어를 수십 회 반복적으로 실행할 수 있는가?”라는 구현의 핵심 부분일 텐데 말입니다.

본 섹션을 읽어 내려갈수록 다음의 고도화된 아키텍처 지식과 기술적 노하우를 체계적으로 습득할 수 있습니다.

- 서론(Prelude), 핵심 블록(Core), 종결(Coda)이라는 3단계 구조가 수학적인 “최적화 알고리즘(단조 작용소)”으로서 기능하는 메커니즘으로 작동한다.
- 확산 모델(Diffusion)이나 심층 균형 모델(DEQ)과 구별되는 Huginn 고유의 잠재 상태 업데이트 규칙
- 어댑터 결합, 샌드위치형 정규화, 초심층형 초기화 분산이 구축하는 “수치 안정화의 삼중 방벽”
- 추론 시 동적 계산량 제어를 가능하게 하는 로그 정규 포아손 샘플링과 학습 메모리를 일정하게 유지하는 컷오프 에러 역전파의 구체적인 접근 방식

기상에 매달린 허황된 이론에서 벗어나, 차세대 LLM에 깊숙이 내재된 정교한 설계 철학을 파헤쳐 봅시다.

## 2. 본편: 순환 심도 모델의 구조와 안정화 기술

### 2.1. 사고를 지탱하는 3단계 구조: 서주(Prelude), 핵심 블록(Core), 종주(Coda)의 역할 분담

Huginn의 뼈대는, 앞서 언급한 바와 같이 디코더 전용형 트랜스포머를 기반으로 한 “프렐류드(Prelude / P)”, “재귀 블록(Core / R)”, “코다(Coda / C)”의 3단계 그룹으로 구성되어 있습니다.

이 분할은 단순한 프로그래밍상의 모듈 분할이 아니며, 수학의 “최적화 이론” 관점에서 매우 아름다운 필연성을 지니고 있습니다.

> 
> 
> 💡 여기서 다루는 용어 ‘凸最適化’(토츠사이테키카 / Convex Optimization) ✅️ 무엇을 하는가? : 椀자 모양 바닥처럼 ‘가파른 낮은 곳(최솟값)이 하나만 존재하는 함수’에서 가장 낮은 지점을 확실하게 찾아내는 수학적 계산 기법이다. ✅️ 왜 필요한가? : AI의 추론을 ‘정답이라는 가파른 곳을 내려오며 지속되는 과정’으로 수학적으로 설계하고 확실하게 결론으로 수렴시키기 위함이다. ✅️ 유사한 예시 : ‘슬레이트판 가장자리에 놓은 ビー玉(비고마)이 중력에 따르는 대로 반드시 중앙의 가장 낮은 바닥으로 굴러 떨어져 멈추는 방식’
> 

> 
> 
> 💡 여기서 사용되는 용어인 단조성요소(탄초우사 / Monotone Operator)는 무엇을 하는가? 단계별로 진행할 때마다 목표 지점과의 거리를 확실히 줄이고, 되돌아가지 않으며 무한 발산이 발생하는 일이 없도록 하는 수학적 변환 처리이다. 왜 필요한가? 재귀 블록을 수십 회 반복해도 생각이 맴돌거나 붕괴하지 않고 안정적인 결론에 도달하도록 이론적으로 보장하기 위함이다. 가까운 비유는 “한 번 올라간 단계를 절대 미끄러지지 않도록 안전 라체트 장치가 달린 등산용 로프”이다.
> 

> 
> 
> 여기에서 사용되는 용어인 깊은 균형 모델(Deep Equilibrium Models)은 입력과 출력이 완전히 일치하는 균형 상태에 도달할 때까지 계산을 반복하는 뉴럴 네트워크입니다. 무한한 깊이를 가진 모델을 매우 적은 메모리 소비로 표현하기 위한 이론적 프레임워크입니다. 振り子(분자)를 계속 흔들면서 결국 피タリ하고 정지한 안정 위치를 답으로 채택하는 시스템과 유사합니다.
> 

> 
> 
> 💡 여기서 묘사되는 용어 잠재 확산 모델(LDM: Latent Diffusion Models)은 무엇을 하는 것일까요?: 이미지 등의 고차원 데이터를 잠재 공간에 압축하고, 노이즈를 조금씩 제거하면서 원하는 출력을 생성하는 인공지능 모델(스테이블 디퓨전 등 핵심 기술). 왜 필요한가요?: 픽셀 공간에서 직접 계산하는 것보다 압도적으로 적은 계산 비용으로 고품질 및 연속적인 생성/추론을 수행할 수 있기 때문. 가까운 비유: “안개로 흐릿한 밑그림에서, 조금씩 윤곽을 묘사하여 선명한 그림을 만들어내는 복원 작업”
> 

경사 하강법을 활용한 재귀 루프

논문 저자 게이핑 씨 일행은 재귀 블록의 반복 계산을 “특정 목적 함수에 대한 경사 하강법(Gradient Descent)의 구현”으로 보고 있습니다.

산골에서 실종된 등반가가 현재의 정신 상태(s)로 인해 마을(정답의 해석)을 향해 한 발짝씩 내려오는 장면을 상상해 보세요. 이때, 주변의 지형 지도를 출발 지점에서 한 번 훑어본 것 외에는 눈 가리개를 하고 걷기 시작하면, 반복(보폭)을 거듭할수록 반드시 길을 잃게 됩니다. 이것이 입력값을 처음으로만 제공했을 때 발생하는 “초기 조건 의존과 분산”입니다.

하지만, 한 걸음 내딛을 때마다 현재 위치 s <sub>i-1</sub>와 지도를 비교하며 진행 방향을 수정한다면 등반가는 확실하게 골짜기 바닥으로 나아갈 수 있습니다. 재귀 블록 R이 안정된 단조 함수로 기능하기 위해서는 “입력 잠재 표현 e”를 매 단계마다 꼬질지 않게 재주입하는 것이 수학적인 절대 조건입니다.

확산 모델 및 DEQ의 결정적인 차이점

Huginn의 반복 구조는, 겉으로 보기에 이미지 생성에 사용되는 拡散モデル이나 고정점 반복을 수행하는 DEQ와 유사해 보일 수 있습니다. 그러나 연구팀이 꼼꼼한 실험(아브레이션)을 거듭한 결과, 언어의 잠재 추론에 있어서 기존 방식과 다른 설계가 도출되었습니다.

- 반복 노이즈 주입 방식의 제거 확산 모델과 유사하게 루프마다 가우스 노이즈를 추가하는 방식을 실험한 결과, 언어 모델링 손실은 개선되지 않았고 오히려 부정적인 영향을 미쳤습니다.
- 단계 의존 파라미터 완전 배제 이미지 확산 모델(DiT 등)에서는 “현재 몇 단계인지”를 나타내는 타임 스텝 임베딩을 층에 입력하는 것이 일반적입니다. 그러나 Huginn에서 이를 도입하면, 학습 시와 다른 단계 수로 추론을 수행했을 때 모델이 알 수 없는 단계 수에 대응할 수 없게 되어, 앞서 언급한 “패스 독립성”이 완전히 상실되었습니다.

결과적으로 휴깅은 “소음이나 단계 정보 없이, 순수하게 과거 상태 s(i-1)와 입력 e만을 균질하게 반복 처리한다”는 극단적으로 정제된 미니멀한 설계에 도달한 것입니다.

![画像](https://assets.st-note.com/img/1789037716-ETF9mIolpYAb2vHQGcsV5Mxk.png?width=1200)

![画像](https://assets.st-note.com/img/1789037743-b9I5XcjuMyY6Z0o8r7pgQ4AB.jpg?width=1200)

![画像](https://assets.st-note.com/img/1789037801-g3K4zBMJXUlLSkCZIcvfWrQ6.png?width=1200)

3.5B 모델에서 파라미터 배분의 황금비

Huginn-0125(3.5B)의 물리적 파라미터(실 메모리 상의 35억 개의 가중치)는 각 블록에 다음과 같이 아름답게 배분되어 있습니다.

- 비재귀 블록(프레임프레젠트 2층 + 후주 및 예측 헤드 2층): 약 15억 파라미터(1.5B)
- 재귀 코어 블록 (4층): 약 15억 파라미터 (1.5B)
- 입력 및 출력으로 공유되는 단어 임베딩 행렬(Tied Embedding): 약 5억 파라미터(0.5B)

이 배분은 실사회에서 요구되는 고도화된 시스템 설계의 사상과 완벽하게 일치합니다.

- 구체적인 예시 1: 다단계 증류 플랜트에서 원유로부터 고순도의 가솔린을 추출하는 정제 플랜트에서는 거대한 가열로(전조)에서 기화시키고, 마지막으로 노즐(후조)에서 제품별로 분리합니다. 그러나 가장 설비 비용이 많이 드는 “분류 탑의 내부(코어)”는 여러 단계의 선반을 동일한 유체가 반복적으로 순환시키는 구조를 통해 플랜트 전체의 부지 면적을 줄이면서 극도의 순도를 달성합니다.
- 구체적인 예시 2: 애자일 개발의 스프린트 사이클 프로젝트 초기 요구사항 정의(서론)와 최종 릴리스의 검수(결론)는 한 번만 신중하게 진행됩니다. 하지만 제품의 품질을 결정짓는 기능 개발(재귀 코어)은 동일한 소규모 팀이 같은 2주간의 스프린트를 반복적으로 빠르게 회전시켜 프로토타입을 개선해 나갑니다.
- 구체적인 예시 3: 다단 로켓의 발사 시퀀스, 발사대의 투입 시스템(전주)은 대기권 탈출의 추진 벡터를 제공하며, 지구 귀환 카プ셀(후주)은 마지막 대기권 재진입을 담당합니다. 그 중간 궤도에서는 동일한 스러스터 엔진(재귀 블록)을 필요한 분사 횟수만큼 펄스 점화 시켜 추진 약제의 낭비를 줄이면서 정확한 월면 횡행 궤도로 이동시킵니다.

### 2.2. 루프를 무한히 돌려도 붕괴하지 않는 데이터 재주입과 샌드위치형 정규화의 메커니즘

모델이 동일 표현에 쇠퇴하는 “표현 붕괴(전단어 벡터의 균일화)”를 미연에 방지하기 위해, Huginn의 내부 레이어(미세 설계)에는 철저한 공학적 보호책이 적용됩니다. (자세한 내용은 제3장 참조).

![画像](https://assets.st-note.com/img/1789037841-M9CFPDOGStJ2HNsn7VR5klxY.png?width=1200)

어댑터를 통한 결합 및 압축의 필연성

입력 잠재 표현 e를 재귀 루프에 재주입하는 방법으로, 초기 실험에서는 단순히 양측의 벡터를 더하는 “덧셈 어댑터 (s + e)”가 시도되었습니다. 소규모 모델(100M급)에서는 덧셈으로도 작동했지만, 3.5B 규모의 스케일링 환경에서는 덧셈 방식이 결국 붕괴했습니다.

덧셈을 수행하면 입력 정보 e의 각 차원과 사고 상태 s의 각 차원이 강제로 1:1로 섞이게 되어, 어텐션 메커니즘이 “원래 질문이 무엇이며, 추론 과정의 중간 결과가 무엇인가”를 구별할 수 없게 됩니다.

Huginn의 핵심 블록 입구에서는 크기가 h인 사고 벡터 s_{i-1}와, 동일한 크기 h의 입력 벡터 e를 가로로 병합하여 크기가 2h(10560차원)의 거대한 벡터를 생성하고, 학습 가능한 어댑터 행렬 A를 통과시키면서 “어떤 입력 맥락을 활용하여 현재 사고의 어떤 부분을 업데이트해야 하는지”를 모델 스스로 동적으로 판단하도록 하며, 원래 크기 h(5280차원)로 압축하여 트랜스포머 층으로 전달합니다.

샌드위치 정규화의 미세 구조와 “의도적인 과장성”

본 모델의 핵심 기술인 “샌드위치형 정규화”의 수식을, 논문의 설명에 기반하여 미시적으로 분해하겠습니다.

각 층의 중간 변수와 정규화 층 n_1 ∼ n_4 간의 관계는 다음과 같은 식으로 엄밀하게 정의되어 있습니다.

\hat{\mathbf{x}}{l} = n{2} \left( \mathbf{x}{l-1} + \operatorname{Attn}(n{1}(\mathbf{x}_{l-1})) \right)

\mathbf{x}{l} = n{4} \left( \hat{\mathbf{x}}{l} + \operatorname{MLP}(n{3}(\hat{\mathbf{x}}_{l})) \right)

여기서 각 기호의 의미는 다음과 같습니다.

- x(l-1)은 이전 층에서 전달된 입력 은닉 상태 벡터를 나타냅니다.
- n_1, n_3는 Self-Attention이나 MLP의 바로 직전에서 숫자를 조정하는 사전 RMSNorm 레이어를 나타냅니다.
- 어텐션(Attention)과 MLP(Multi-Layer Perceptron)는 각각 인과적 자기 주의 계산과 게이트가 있는 다층 퍼셉트론을 의미합니다.
- n_2, n_4는 잔차 연결(덧셈) 직후에 배치되어 수치 급격한 팽창을 억제하는 후처리 RMSNorm층을 나타냅니다.
- x_l은 본 레이어의 최종 출력을 다음 레이어로 전달하는 은닉 상태 벡터를 나타냅니다.

논문의 Footnote 2에는 매우 흥미로운 고백이 기록되어 있습니다. 수학적으로는 잔차 연결 직후 n_2를 적용한 직후, 바로 다음 MLP의 입력 전 n_3에서 다시 정규화를 덧붙이기 때문에 “기술적으로 n_3는 과잉(SuperFluas)이다”라고 언급하고 있습니다.

그러나 연구팀은 이처럼 장황한 두 단계 정규화를 그대로 유지하고 학습을 완료했습니다. 왜냐하면 4096개의 GPU 클러스터를 가동하는 극단적인 상황에서 미미한 계산 효율의 추구보다 “절대로 수치를 붕괴시키지 않기 위한 다중의 방벽”을 우선시했기 때문입니다. 이러한 엔지니어링의 철저한 현실주의가 8000억 토큰의 무사고 완주를 지탱했습니다.

심층적인 132층 구조를 고려한 미세 파라미터 튜닝을 수행했습니다.

더욱이 레이어 내부의 미세한 파라미터 설정에도 장인의 기술이 빛을 발합니다.

일반적으로 트랜스포머의 어텐션 레이어에서는 Key(K), Query(Q), Value(V) 모두에 편향항을 부여하거나 모두 제거하는 방식이 주류입니다. 하지만 Huginn에서는 “Query와 Key에만 학습 가능한 편향을 부여하고, Value나 MLP 레이어 등 다른 모든 곳에서는 편향을 완전히 제거하는” 독특한 구성을 채택했습니다.

이로써 토큰 간의 상대적 주목도(내적 점수) 위치 조정 능력을 유지하면서, 반복 루프에 의해 편향의 상수항이 누적 덧셈되어 잠재 벡터가 특정 방향으로 자의적으로 치우쳐지는 현상을 완벽하게 방지합니다.

또한, 본 모델에서 채택된 초심층형 가중치 초기화(Takase et al., 2024)에 따라 각 층의 최종 출력층(Out-projection)의 초기 분산은 일반 층의 분산(2 / 5h)보다 훨씬 작은 값(1 / 5hl, 여기서 l은 실효 층 수 132)으로 설정되었습니다. 분모에 실효 층수 l이 곱해져 있기 때문에 초기 상태에서의 출력 기여도는 정상의 100분의 1 이하로 제한됩니다. 이를 통해 첫 번째 포워드 패스에서 132층분의 덧셈이 쏟아져도 출력 벡터의 스케일은 전악 블록이 출력한 건강한 노름 범위 내에 완벽하게 수렴합니다.

다음 표는 연구팀이 소규모부터 대규모 실험까지 검증한 아키텍처의 비교입니다.

![画像](https://assets.st-note.com/img/1789038209-PfCcqz7ZFyWnx5OVkJtea1Ir.png?width=1200)

### 2.3. 추론 시 계산량을 자유롭게 조절하는 “랜덤 반복 샘플링”과 버짓 오차 역전파를 의미합니다.

순환 심도 모델이 실용적으로 가장 우수한 점은, 추론 시 “간단한 질문에는 4회 반복, 초난제에는 64회 반복”과 같이 하드웨어 구성에 변화를 주지 않고 지능(계산량)을 다이얼식으로 조절할 수 있다는 점입니다.

하지만 학습 시 특정 횟수를 고정적으로 설정하지 않고, 자유롭게 변하는 길이의 루프를 모델에 가르칠 수 있는 이유는 무엇일까요?

> 
> 
> 💡 여기서 사용되는 용어인 순전파(Forward Pass) ✅️ 무엇을 하는가? : 입력된 데이터를 신경망의 각 층을 거치도록 하여 최종 예측 결과를 계산하는 과정이다. ✅️ 왜 필요한가? : AI가 답변을 생성하기 위한 추론 계산 자체이며, 학습 시 정답과의 차이를 측정하기 위해 먼저 수행되는 단계이다. ✅️ 비유적 예시: “벨트 컨베어 위에서 제품이 흐르고 각 공정에서 가공되어 완성품으로 포장되는 라인 작업”
> 

> 
> 
> 💡 여기서 다루는 용어 기울기 자르기(Gradient Clipping) ✅️ 무엇을 하는 것? : 오차 역전파의 계산 과정에서 기울기(파라미터 수정 지시)가 일정 안전 기준을 초과했을 때, 강제로 상한값으로 잘라내는 안전 장치. ✅️ 왜 필요? : 급격한 난제에 직면했을 때 파라미터의 수정량이 폭발하여 모델이 과열(학습이 멈추는)되는 것을 방지하기 위함. ✅️ 가까운 비유: “수도관이 파열되는 것을 막기 위해 수압이 기준값을 초과하면 불필요한 물을 자동으로 빼내는 압력 리리프 밸브.”
> 

> 
> 
> 💡 여기서 등장하는 용어 ‘록스텝 샘플링’(읽는 방식: 록스텝 샌플링 / Locked-Step Sampling)은 여러 GPU가 연합하여 학습할 때, 모든 GPU에서 해당 단계의 재귀 루프 횟수 r을 완전히 동일한 수치로 동기화시키는 방법입니다. GPU마다 자의적으로 다른 루프 횟수를 계산하도록 하면 계산이 완료되는 시간이 달라져 GPU의 대기 손실(놀이 시간)이 급증하는 것을 방지하기 위함입니다. “장거리 달리기 훈련에서 집단 달리기 참가자들이 항상 같은 회수 횟수를 달리는 규칙을 정하고 선두와 후미의 대기 시간을 0으로 만드는 통제법”과 유사합니다.
> 

로그 정규 포아송 분포가 가져오는 “생각의 중력”

모델에 유연한 추론 깊이를 길러주기 위해 학습 시간에는 배치마다 반복 횟수 r을 무작위로 조정합니다. 단순한 균등 분포(주사위를 굴리는 듯한 동일한 확률)로 횟수를 결정해서는 안 됩니다.

일상적인 대화나 쉬운 맥락을 처리하는 “얕은 사고 단계”를 가장 고밀도로 연습시키면서, 극히 드물게 나타나는 “초장고 단계”에도 견딜 수 있는 탄탄성을 동시에 갖추어야 합니다.

이에 대해 팀이 설계한 것은 로그 정규 포아송 분포(Log-Normal Poisson Distribution)를 이용한 샘플링이었다.

![画像](https://assets.st-note.com/img/1789118550-mIn2wRWF0gpCODxicyubG5YB.png)

![画像](https://assets.st-note.com/img/1789118615-CDn7L59zmBAa2iGgYtTRjZ1U.png?width=1200)

샘플링은 다음과 같은 2단계 절차에 따라 엄밀하게 계산됩니다.

- 기본 스케일의 로그 정규 샘플링 평균 반복 목표(논문에서 32회)의 로그 값을 기반으로 정규 난수를 생성합니다.
- 포아송 분포를 사용하여 얻은 離散ステップ 값을 평균 파라미터로 하는 포아송 분포에서 정수 값을 추출하고, 최소 보장 값으로 1을 더합니다.

이 분포를 통해 일상적으로는 4~20회 정도의 “가볍고 효율적인 루프”가 자주 선택되어 기초 체력이 함양됩니다. 동시에, 분포의 裾野(헤비 테일)가 길게 뻗어 있어 수천 걸음에 한 번은 50회, 60회 심지어 그 이상의 “극도의 초심층 루프”가 뜻밖에도 투입됩니다. 이 랜덤한 부하 변동으로 인해 모델은 “어느 깊이에서 계산을 중단하더라도 그 시점에서의 최적의 예측을 후반 블록으로 전달하는 적응력”을 자연스럽게 습득합니다.

Truncated BPTT와 기울기 우회

그러나 학습 시 r = 64 회 반복이 선택된 경우, 64 단계 분량의 계산 이력(활성화 텐서)을 모두 GPU 메모리에 저장하고 미분을 계산하려 하면 즉시 메모리 부족(OOM)으로 인해 크래시됩니다.

이를 해결하는 것이 RNN의 고전적인 기술인 깊이 방향으로 응용된 Truncated BPTT(Truncated Backpropagation Through Time)입니다.

Huginn의 학습에서는 반복 횟수 r이 아무리 크게 샘플링되어도 경사의 역전파는 항상 마지막 k = 8 단계에만 엄격하게 고정되었습니다. 9단계 이전의 과거 기억 영역은 계산이 완료된 시점에 GPU 메모리에서 즉시 삭제됩니다. 이를 통해 반복 횟수를 무한히 늘려도 학습 시의 메모리 소비량은 “물리 8층 + 어댑터 8단계 분”이라는 완전히 일정한 풋프린트에 억제됩니다.

여기 날카로운 기술자라면 심각한 의문을 품었을 것입니다. “마지막 8단계만 되돌아본다면, 입력 데이터를 잠재 공간으로 변환하는 ‘프렐류드’ 블록에는 9단계 이상 이전의 기울기가 전혀 반영되지 않아 학습이 중단될 수 있지 않나?”

그 해답이 바로 2.2절에서 설명한 “입력 데이터 e의 매 단계 재주입”입니다.

재귀 블록은 매 단계마다 반드시 전주 블록의 출력 e를 직접 수용합니다. 따라서 마지막 8단계 루프 내에서도 어댑터를 통해 전주 블록으로 신선한 기울기가 직접 역류(바이패스)합니다. 이 부수적인 공학적 일치 덕분에 전주 블록은 반복 횟수 r의 길이에 영향을 받지 않고, 항상 안정적이고 강력한 학습 신호를 지속적으로 받을 수 있습니다.

![画像](https://assets.st-note.com/img/1789038267-RyiuONG7Tt6bIVwjnBvLchDs.png?width=1200)

## 3. 실질적인 핵심 사항

순환 심도 모델의 내부 구조를 깊이 이해한 엔지니어가, 자사의 추론 기반 및 모델 미세 조정에 활용할 수 있는 실질적인 통찰력을 정리했습니다.

### 실무 팁

- 추론 시 계산량(FLOPs) 제한을 본番 시스템의 API 서버를 구축할 때, 입력 프롬프트의 토큰 수나 사용자 계약 플랜에 따라 동적으로 루프 횟수 r을 변경하는 미들웨어를 도입할 수 있습니다. 예를 들어, 실시간성이 요구되는 챗 응답에서는 r=8로 빠른 응답을 제공하고, 배치 처리 방식으로 진행하는 고도화된 소스 코드 정적 분석에서는 r=32 또는 r=64로 늘려 하드웨어 구성에 아무런 변경 없이 유연한 SLO(서비스 수준 목표) 설계를 가능하게 합니다.
- 초기 상태 노이즈로 인한 자기 일관성(Self-Consistency) 향상을 위해, 수학의 난제를 해결할 때 기존 LLM에서는 “온도 파라미터(Temperature)”를 올려 여러 번 텍스트를 출력하고 다수결을 취하는 것이 일반적이었습니다. 그러나 Huginn에서는 텍스트 생성의 샘플링 온도를 0(Greedy)에 고정하고, 잠재 공간의 초기 상태 벡터 s_0에 주는 정규 난수 시드(Seed)만 변경하여 여러 번 추론하는 새로운 접근 방식이 가능합니다. 문장의 표현 융성에 惑わされることなく, 순수한 잠재적 사고의 변형에서 가장 높은 확률의 답변을 도출할 수 있습니다.

### 초보자들이 흔히 저지르는 실수와 이를 피하는 방법에 대해 이야기해 보겠습니다. 특히, note.com에서 많은 사람들이 어려움을 겪는 부분들을 중심으로 설명드리겠습니다.

**1. 엑셀의 ‘필터’ 기능 잘못 사용**

엑셀의 필터 기능은 강력하지만, 잘못 사용하면 오히려 데이터를 엉망으로 만들 수 있습니다. 필터는 특정 조건에 맞는 행만 표시하는 기능인데, 필터 설정을 제대로 이해하지 못하면 원하는 데이터가 숨겨지거나, 잘못된 데이터가 표시될 수 있습니다.

*   **잘못된 사용 예시:** 특정 열의 값을 기준으로 필터를 설정했는데, 필터가 제대로 작동하지 않는 경우.
*   **해결책:** 필터 설정을 꼼꼼히 확인하고, 필터 조건을 정확하게 설정해야 합니다. 또한, 필터 설정을 해제하고 데이터를 다시 확인하는 것이 좋습니다.

**2. 엑셀의 ‘정렬’ 기능 잘못 사용**

엑셀의 정렬 기능은 데이터를 정해진 기준에 따라 정렬하는 기능입니다. 하지만, 정렬 기준을 잘못 설정하면 데이터가 완전히 뒤섞일 수 있습니다.

*   **잘못된 사용 예시:** 텍스트 열을 기준으로 데이터를 정렬했는데, 알파벳 순서대로 정렬되지 않는 경우.
*   **해결책:** 정렬 기준을 정확하게 설정하고, 정렬 방향(오름차순/내림차순)을 올바르게 선택해야 합니다.

**3. 엑셀의 ‘함수’ 사용 미숙**

엑셀에는 다양한 함수가 존재하며, 이를 활용하면 복잡한 계산을 쉽게 수행할 수 있습니다. 하지만, 함수 사용에 익숙하지 않으면 오류가 발생하거나, 원하는 결과를 얻지 못할 수 있습니다.

*   **잘못된 사용 예시:** SUM 함수를 사용했는데, 잘못된 셀 범위를 지정하여 잘못된 합계가 계산되는 경우.
*   **해결책:** 함수 사용법을 충분히 숙지하고, 함수 사용 시 셀 범위를 정확하게 지정해야 합니다. 또한, 함수 사용 후 결과값을 다시 한번 확인하는 것이 좋습니다.

**4. 엑셀 파일 관리 소홀**

엑셀 파일은 용량이 크고, 여러 개의 시트와 데이터를 포함하고 있을 수 있습니다. 따라서, 엑셀 파일 관리를 소홀히 하면 파일이 손상되거나, 데이터가 유실될 수 있습니다.

*   **잘못된 사용 예시:** 엑셀 파일을 복사하거나, 다른 컴퓨터로 옮길 때 파일이 손상되는 경우.
*   **해결책:** 엑셀 파일을 백업하고, 파일을 복사하거나 옮길 때 주의해야 합니다. 또한, 엑셀 파일의 용량을 적절하게 관리하는 것이 좋습니다.

**5. 엑셀 도움말 기능 활용 부족**

엑셀에는 다양한 도움말 기능이 존재하며, 이를 활용하면 엑셀 사용에 대한 궁금증을 해결하고, 엑셀 기능을 더욱 효과적으로 사용할 수 있습니다.

*   **잘못된 사용 예시:** 엑셀 기능을 사용하려고 할 때, 도움말 기능을 활용하지 않고, 인터넷 검색을 통해 정보를 얻는 경우.
*   **해결책:** 엑셀 도움말 기능을 적극적으로 활용하고, 엑셀 관련 교육을 수강하는 것도 좋은 방법입니다.

**6. ‘데이터

- 오류 1：「PyTorch의 표준 코드에 while 루프를 추가하면 자작할 수 있다”는 착각
- 회피책 및 올바른 이해: 일반적인 트랜스포머 블록을 그대로 루프시키면, 초기 단계에서 활성화 텐서의 표준 편차가 급격하게 상승하고 Softmax 함수가 포화되어 학습이 중단됩니다. 자체 구현 시에는 반드시 본고에서 설명한 “샌드위치형 정규화(덧셈 전후 RMSNorm 이중 배치)”와 “결합 + 어댑터 압축”을 충실히 재현해야 합니다.
- 오류 2：「분산 학습으로 각 GPU에 서로 다른 난수 단계를 실행하게 된다」는 실수
- 회피책 및 올바른 이해: 각 GPU 워커가 독립적으로 로그 정규 포아송 분포에서 r을 샘플링하면, 예를 들어 GPU-0이 r=4로 계산을 완료하는 동안 인근 GPU-1이 r=64의 계산을 완료할 때까지 수백 밀리초 동안 무위로 대기(통신 지연 멈춤)하는 상황이 발생할 수 있습니다. 분산 데이터 병렬(DDP) 환경에서는 반드시 마스터 프로세스에서 단일 r을 샘플링하고 모든 워커에게 브로드캐스트하여 동기화하는 “락 스텝 샘플링”을 철저히 수행해야 합니다.

### 최고의 실천 방법

- 실효층수에 따른 출력 투영층의 최소 초기화 모델에서 은닉층 폭을 h, 예상 최대 실효층수를 l로 설정한 경우, 각 어텐션 및 MLP의 출력 투영 행렬 초기 분산을 극한까지 줄이는 것이 재귀 학습의 성공 여부를 결정합니다. 학습 초기 단계의 기울기 노름이 안정되고 급격한 학습 손실 스파이크를 사전에 방지할 수 있습니다.

## 4. 📖 이 부분에서 다룬 용어 정리

본 섹션에서 설명한 내부 아키텍처 및 수리 설계에 관한 주요 용어의 빠른 참조입니다.

![画像](https://assets.st-note.com/img/1789038287-8ElOuYRgBDbdoc1waKp9yAP3.png?width=1200)

## 결론 및 다음 단계

본 섹션에서는 순환 심도 모델 “휴깅(Huginn)”의 내부에서 작동하는 놀라운 아키텍처의 수학적 이론과 구현 메커니즘을 설명했습니다.

- 단조 작용소로서의 재귀는 경사 하강법과 유사하게 입력 표현 e를 매 단계 재주입함으로써 경계 조건에 惑わされない 안정적인 사고 심화를 실현했다.
- 이중 방벽 구조의 샌드위치 형태: 結合アダプタ(A[s; e])를 통한 차원의 구별과, 잔차 연결 직후에 배치된 RMSNorm의 이중 방벽으로 인해 초심층 루프에서도 표현 붕괴를 물리적으로 억제했다.
- 로그 정규 포아송 샘플링과 트랜케이티드 BPTT: 무거운 꼬리 분포에서 가변 단계를 학습시키면서도, 기울기 계산을 마지막 8단계로 제한함으로써 메모리 효율적이고 유연한 추론 시 계산량 스케일링을 동시에 달성했다.

그러나 아무리 완벽한 아키텍처를 컴퓨터 상에서 설계하더라도, 그것을 초거대 규모의 컴퓨터 환경에서 실제로 학습시키고 수렴시킬 수 없다면 현실에 지능은 존재할 수 없습니다.

다음 장에서는 세계 최고 성능 슈퍼컴퓨터 “프론티어”에 배치된 4096개의 AMD GPU 클러스터라는 극한의 현장을 무대로, 연구팀이 어떻게 통신 장애의 벽을 뚫고 8000억 토큰에 이르는 대규모 학습을 완수하게 되었는지 – 그 웅장한 분산 엔지니어링의 궤적을 추적해 나갈 것입니다.

## ## 6. 자주 묻는 질문 (Q&A)

**Q1: 저자는 왜 이 책을 썼나요?**

A1: 성현성 님은 자신의 경험을 바탕으로 현대 사회에서 ‘고독’이라는 문제에 대해 깊이 파고들어 독자에게 그 원인과 해결책을 제시하고자 이 책을 집필하셨습니다. 특히, SNS의 보급이 가져온 인간 관계의 변화와 일과 사생활의 경계 모호함 등이 고독감을 증폭시키고 있는 현실에 주목하여 독자가 자신만의 고독과 마주하고, 더욱 풍요로운 인간 관계를 맺도록 돕고 싶었다고 합니다.

**Q2: 이 책에서 소개되는 “고독의 정의”는 구체적으로 어떤 것을 의미하나요?**

A2: 이 책에서 소개되는 “고독의 정의”는 단순한 ‘혼자 있는’ 상태를 의미하는 것이 아닙니다. 오히려 “주변에 사람이 있어도, 마음의 연결을 느끼지 못하는 상태”를 의미합니다. 즉, 물리적으로 고립되어 있는 것뿐만 아니라, 정신적인 소외감이나 타인과의 의미 있는 소통이 이루어지지 않는 상태를 의미하는, 더욱 깊은 개념입니다. 저자는 이 정의를 통해 현대 사회에서 고독이 단순한 물리적 고립이 아닌 심리적 고립에 의해 발생한다는 것을 강조하셨습니다.

**Q3: 이 책에서 언급되는 “고독의 유형”에는 어떤 것들이 있나요?**

A3: 이 책에서는 고독을 다음과 같이 4가지 유형으로 분류하고 있습니다.

*   **“사회적 고독”:** 주변에 사람이 있어도 사회적인 연결이 희박하고 고립감을 느끼는 상태.
*   **“내적 고독”:** 자신의 내면과 맞닿아 있지 못하고 자존감이 낮아지는 상태에서 비롯되는 고독.
*   **“관계적 고독”:** 타인과의 관계가 원만하지 않고 신뢰 관계를 맺지 못하는 상태에서 비롯되는 고독.
*   **“존재적 고독”:** 인생의 의미나 목적을 찾지 못하고 공허함에 시달리는 상태에서 비롯되는 고독.

이러한 유형들은 서로 연관되어 있을 때도 있습니다. 저자는 이러한 유형을 이해함으로써 자신만의 고독의 원인을 파악하고 적절한 대처 방법을 찾을 수 있다고 제시합니다.

### Q1: 왜 이미지 생성 확산 모델(Diffusion)처럼, 사고 루프마다 노이즈를 추가하거나 현재 단계 번호를 알려주지 않았습니까?

언어의 잠재 추론과 이미지 확산 생성에서는 요구되는 수학적 성질이 근본적으로 다르기 때문입니다. 이미지 확산 모델은 “순수한 노이즈로부터 다양한 이미지를 샘플링하는 것”이 목적이므로, 랜덤성과 단계별 제거 스케줄링이 필수적입니다. 그러나 언어 모델의 추론은 “주어진 질문에 대해 가장 논리적이고 일관성 있는 해로 수렴시키는 것”이 목적입니다. 중간에 불필요한 노이즈를 주입하면 논리의 맥락이 파괴되고, 단계 번호를 알려주면 학습 시와 다른 루프 횟수로 추론하게 했을 때 모델이 혼란하여 성능이 저하되기 때문에, 오히려 완전히 배제됩니다.

### Q2: Truncated BPTT에서 마지막 8단계만 미분을 사용하는데, 왜 1단계부터 24단계와 같이 초반의 사고 진행 방식까지 능숙하게 학습할 수 있는 걸까요?

재귀 블록은 동일한 가중치 파라미터를 반복적으로 적용하는 구조이므로, 학습의 목적은 “특정 32단계 궤적을 맹신하는 것”이 아니라 “현재 사고 상태와 입력을 받아 더욱 정교한 다음 상태로 한 단계 발전시키는 지역적인 업데이트 규칙”을 습득하는 데 있습니다. 또한, 학습 시 로그 정규 포아송 분포를 사용하여 “짧은 단계 수(예: r=4 또는 r=8)”를 대량으로 샘플링하므로, 모델은 초반의 사고 시작 방식과 후반의 마무리 방식 모두 균등하게 학습할 수 있습니다.

### Q3: 쿼리와 키에만 편향을 남기고, 나머지는 완전히 0으로 만든 이유가 무엇입니까?

A: 주의 계산에서 Query와 Key의 편향은 “문맥에 관계없이 기본 수준으로 얼마나 많은 주목을 받는지”를 결정하는 상대적인 주의 패턴의 기준점을 설정하는 중요한 역할을 합니다. 반면에 Value나 MLP층에 편향을 남겨두면, 재귀 루프를 수십 회 반복하는 과정에서 상수값이 눈덩이처럼 더해지고, 잠재 상태 벡터의 평균값이 특정 방향으로 크게 치우치는 “표현의 편중(드리프트)”를 유발합니다. 따라서 주의의 유연성을 유지하면서 수치 편중을 근절하는 최적의 해결책으로, Q와 K에만 편향을 남겨두는 설계가 선택되었습니다.

### Q4: 어댑터 행렬에서 “결합(Concatenation)”을 사용했을 때, 파라미터 수와 계산량에 미치는 영향은 어느 정도인가요?

A: 숨겨진 계층의 차원 폭을 h로 한 때, 어댑터 행렬은 2h 차원으로부터 h 차원으로 투영하기 때문에 파라미터 수는 2 × h × h = 2h²이 됩니다. Huginn-0125(h=5280)의 경우, 이 어댑터 행렬은 약 5500만(55M) 개의 파라미터를 차지하며, 모델 전체의 35억 파라미터에 비하면 1.5% 정도에 그치지 않고, 계산량(FLOPs)의 관점에서도 어텐션 메커니즘이나 MLP층에 비해 매우 적은 오버헤드에 불과합니다. 이 극소한 비용으로, 덧셈 방식으로는 불가능했던 “입력과 중간 사고의 고도화된 뉘앙스 차별”이 가능해지므로, 매우 투자 대비 효율이 높은 설계라고 할 수 있습니다.

## 3. 4096개 대규모 클러스터를 운영하며 극복해야 할 과제: 학습 과정에서 발생하는 “표현 붕괴”와 통신상의 장벽

![画像](https://assets.st-note.com/img/1788833818-T3VShIHm0dUs7iNcbFBtZGYC.png?width=1200)

## 1. 서론: 초거대 스케일 슈퍼컴퓨터 현장에서 벌어진 엔지니어링의 치열한 사투

수천 대 규모의 가속기를 묶어 최첨단 인공지능 모델을 처음부터 사전 학습시킨다.

이 단어를 듣기만 해도 인프라 엔지니어와 머신러닝 엔지니어의 가슴이 두근거리지 않으실까요. 하지만 이론적으로 아무리 아름다운 아키텍처를 구상하더라도, 그것을 실제 하드웨어에서 멈추지 않고 실행될 때까지는, 교과서에는 실리지 않은 수많은 끈기와 노력이 필요한 난관들이 우리 앞에 서 있을 것입니다.

이전 장에서 설명한 ‘순환 깊이(Recurrent Depth)’ 모델은 단 8개의 물리 구조에서 130층 이상의 깊이를 가상적으로 구현하는 혁신적인 인지 능력을 가지고 있습니다. 하지만, 그 진가를 세상에 드러내기 위해서는 약 80억 건이라는 방대한 데이터를 읽히는 대규모 사전 학습이 절대적으로 필수적이었습니다.

연구팀은 이 거대 실험의 무대 장소로 선택한 곳은 미국 오크리지 국립 연구소에 위치한 세계 최고 수준의 슈퍼컴퓨터 “프론티어”입니다. 4096개의 AMD製 최첨단 GPU를 총동원한 이 도전은, 원인 모를 통신 중단(하ங்)과 모델의 지능이 완전히 백지 상태로 돌아가는 “표현 붕괴”와의 격전의 연속이었습니다.

본 섹션을 읽어 내려갈수록 다음의 실질적인 엔지니어링 지식을 습득할 수 있습니다.

- 세계 최고봉의 슈퍼컴퓨터 Frontier를 배경으로, AMD GPU(MI250X) 4096기를 활용한 대규모 분산 학습 인프라의 실태
- 128노드를 초과하면 네트워크가 침묵하는 “통신 헝”의 진원과, 손으로 쓴 독자 데이터 병렬(DDP) 방식의 눈부신 돌파구
- 모델의 사고가 균일화되어 지능을 잃는 “표현 붕괴”의 생생한 실패 기록과, 이를 극복한 공학적 접근 방식
- 흩어진 계산기 이용 프레임을 활용하는 “일관된 학습률 전략”과 사후적으로 정밀도를 급상승시키는 “가중 지수 이동 평균 (EMA)”의 진정한 가치

수천 대의 프로세서가 격렬한 열기를 뿜어내는 최첨단 대규모 분산 학습 현장으로 발을 들여놓으면서

## 2. 본 챕터: 대규모 분산 학습의 장벽과 엔지니어링의 돌파구

### 3.1. 슈퍼컴퓨터 Frontier에서 AMD GPU의 특유의 통신 지연 및 독자적인 데이터 병렬 방식의 획득

수천 대 규모의 GPU를 효율적으로 실행하는 분산 학습에서 가장 큰 병목 현상은 항상 “통신”입니다.

> 
> 
> 💡 여기서 등장하는 용어 슈퍼컴퓨터(Supercomputer)는 무엇을 하는 시설인가요? 팽대한 수의 CPU와 GPU를 고속한 전용 네트워크로 연결하여 일반용 PC 수천 ~ 수만 대분에 匹敵하는 계산을 일괄 처리하는 거대한 계산 시설입니다. 수천억 토큰에 이르는 최첨단 LLM의 사전 학습에는 수년 분의 계산을 수주에 압축하는 압도적인 계산 능력이 필수적입니다. “혼자에서는 수십 년 걸리는 피라미드의 건축을, 수천 명의 숙련된 장인들이 한꺼번에 협력하여 수주 내에 조립하는 거대한 프로젝트”와 같습니다.
> 

> 
> 
> 여기에서 등장하는 용어 ROCm（발음: 로쿠에무 / Radeon Open Compute platform）✅️는 무엇을 하는 것？: AMD GPU에서 딥러닝 프레임워크（PyTorch 등）를 고속으로 실행하기 위한 오픈 소스 개발 플랫폼입니다.✅️ 왜 필요한가？: NVIDIA GPU의 CUDA와 마찬가지로, 하드웨어의 성능을 최대한 활용하기 위한 드라이버와 계산 라이브러리를 제공합니다.✅️ 친근한 비유：「해외제 고성능 엔진을 어떤 일반적인 자동차 프레임에도 척척 맞게 장착하여 작동시킬 수 있도록 하는 전용 트랜스미션 키트」
> 

> 
> 
> 💡 여기서 등장하는 용어 RCCL(리클 / ROCm Communication Collectives Library) ✅️ 무엇을 하는 것? : 여러 AMD GPU 간에 계산 중인 숫자 데이터(경사 등)를 일괄적으로 교환하고 집약하기 위한 고속 통신 라이브러리. ✅️ 왜 필요한가? : 수천 대의 GPU가 발을 맞춰 학습을 진행할 때 네트워크 통신 대기 시간을 최소화하기 위함. ✅️ 친근한 비유: “오케스트라의 전 연주자가 서로의 연주 음을 즉시 모니터링하고 완벽하게 템포를 맞추기 위한 초고성능 인공지능 시스템”
> 

> 
> 
> 💡 여기서 등장하는 용어 인터커넥트(인타코네クト / Interconnect)는 무엇을 하는가? : 다수의 계산 서버(노드)들을 초고속·초저지연으로 연결하는 데 전용으로 사용되는 네트워크 하드웨어 및 연결 기술이다. 왜 필요한가? : 일반적인 LAN 회선으로는 데이터 전송이 너무 느려 수천 개의 GPU가 서로의 계산 결과를 기다리는 동안 정체 상태에 빠지기 때문이다. 친근한 비유는 “대도시의 주요 거점을 신호 없이, 제한 속도 없이 직결하는 전용 고속도로 네트워크”이다.
> 

연구팀은 Frontier에 설치된 HPE Cray 시스템 중 512노드를 사용했으며, 각 노드에는 AMD Instinct MI250X가 4대 장착되어 있고, 1대에 2개의 GPU 칩이 포함되어 있어 실질적으로 4096개의 독립적인 GPU를 활용했습니다.

그러나 학습을 확대하려고 할 때, 예상치 못한 치명적인 문제가 발생한다. GPU 간의 통신 대역폭을 매초 100GB 이상으로 끌어올리는 고속 설정(NCCL_NET_GDR_LEVEL=PHB)을 활성화하면, 128노드에서 256노드(GPU 수 기준으로 1,000~2,000기 규모)를 넘어서는 지점에서 클러스터 전체의 통신이 완전히 멈추는 “통신 멈춤 현상(Hang)”이 빈번하게 발생한다.

문제는 AMD의 통신 스택(RCCL 및 AWS-OFI 플러그인)과 노드 간의 네트워크 어댑터 동작에 있었습니다. 네트워크를 통해 흐르는 경사 데이터 패킷 크기가 불규칙하거나, 갑작스러운 통신 스파이크가 발생하면 네트워크 스위치 내부의 버퍼 메모리가 과부하되어 GPU들이 서로의 응답을 영원히 기다리는 데드락(膠着 상태)에 빠지는 것이었습니다.

![画像](https://assets.st-note.com/img/1789038381-q2P6d18Vfn7YSXav4mixMlKA.png?width=1200)

이 절망적인 장애물에 맞서 연구팀은 프레임워크 표준의 통신 라ッパー를 버리고 PyTorch의 데이터 병렬 처리 루틴을 직접 0부터 다시 작성하는 (Hand-crafted DDP)라는 과감한 결정을 내렸습니다.

구체적으로, 네트워크를 통해 전송되는 기울기 데이터 블록을 “정확히 64MB 고정 크기”의 패킷으로 강제 분할하여 파이프라인 전송하는 메커니즘을 구축했습니다. 패킷 크기를 완전히 일정하게 조정함으로써 스위치에 대한 과부하 급증이 완전히 사라지고, 4096개의 극한 환경에서도 한 번도 멈추지 않는 견고한 통신 기반이 완성된 것입니다.

또한, 모델 병렬화 전략에도 순환 심도 모델만의 뚜렷한 장점이 활용되고 있습니다.

> 
> 
> 💡 여기서 등장하는 용어 DDP(데이드피, 분산 데이터 병렬)입니다. ✅️ 이것은 무엇을 하는가? 모든 GPU에 “동일 모델의 복사본”을 배치하고, 서로 다른 학습 데이터를 분담하여 읽어들이고 계산을 고속화하는 병렬 학습 기법이다. ✅️ 왜 필요한가? 구현이 매우 간단하고 통신 오버헤드가 적어 효율적으로 컴퓨팅 자원을 늘릴 수 있는 검증된 학습 기법이기 때문이다. ✅️ 비유적인 예시: “같은 시험 문제를 여러 사람과 분담하는 대신, 1권의 장대한 과거 문제집을 페이지ごとに 동시에 풀어가는 인력 투사”
> 

> 
> 
> 여기에서 사용되는 용어 ZeRO(제로/Zero Redundancy Optimizer)는 무엇을 하는가? 최적화기의 계산 상태와 모델 파라미터를 각 GPU에 분할하여 저장하고, 메모리의 불필요한 중복을 제거하는 기술이다. 왜 필요한가? 거대한 모델을 학습할 때, 가중치 자체보다 최적화기가 사용하는 작업 메모리를 획기적으로 줄이기 때문이다. 비유하자면 “모든 구성원이 전 과목의 백과사전을 휴대하는 대신, 각자가 1과목씩 담당하여 필요한 때에만 빌려 쓰는 시스템”과 같다.
> 

> 
> 
> 여기에서 사용되는 용어 ‘글로벌 배치 사이즈’(Global Batch Size)는 무엇을 의미하는가? 클러스터 내 모든 GPU가 파라미터를 1회 업데이트하는 동안 전체적으로 처리하는 총 토큰 수(또는 데이터 수)이다. 왜 필요한가? 한 번에 처리하는 데이터 양을 적절하게 설정하여 학습 진행 속도와 기울기 안정성의 균형을 맞추기 위함이다. 가까운 비유는 “학생들이 모두 모은 설문지 묶음을 몇 묶음씩 모아서 먼저 집계한 후, 반장에게 1회에 한 번 반의 정책을 검토하는 ‘요약 처리 단위’”이다.
> 

> 
> 
> 여기에서 사용되는 용어 TFLOP/s(테라 플로팅 포인트 연산 횟수/초)입니다. 가속기가 하드웨어의 사양을 얼마나 최대한 활용하고 있는지 측정하기 위함입니다. 일상적인 비유는 “자동차 속도계”와 같습니다. 시속 몇 킬로미터로 주행하고 있는지를 나타내는 엔진의 효율성입니다.
> 

> 
> 
> 여기에서 사용되는 용어 MFU/AFU(엠에프유/에이 에프유, 모델/실현 가능한 플롭 활용)는 무엇을 의미하는가? 하드웨어의 이론적인 최고 한계 속도(MFU) 또는 현실적인 최대 속도(AFU)에 대해 실제 계산이 몇 퍼센트의 효율으로 진행되는지를 보여주는 지표이다. 왜 필요한가? 고가의 계산 자원을 얼마나 무駄없이 효과적으로 활용하고 있는지를 객관적으로 평가하기 위함. 친근한 비유로는 “엔진의 한계 성능에 대해 기어의 맞물림이 좋게 몇 퍼센트의 힘을 노면에 전달하는지”를 나타내는 에너지 변환 효율과 유사하다.
> 

일반적인 70B 클래스 초거대 모델을 4096기로 구동하는 경우, 모델의 가중치가 하나의 GPU 메모리에 들어가지 않기 때문에 “텐서 병렬”이라는 기술로 GPU 간에 매우 무거운 통신이 필수적입니다.

그러나 본 모델 “Huginn”은 실효 130층 이상의 깊이를 가지면서도 물리 파라미터는 단지 35억(3.5B)에 불과합니다. 가중 파라미터 자체는 각 GPU의 메모리에 충분히 들어오므로, 무거운 텐서 병렬 처리를 완전히 배제하고 “순수한 데이터 병렬(DDP)”과 “노드 내 ZeRO-1(옵티마이저 분할)”만을 사용하여 매우 효율적인 구성을 선택할 수 있었습니다.

각 GPU의 로컬 배치 사이즈를 최소 “1”로 고정하고, 1 시퀀스 당 4096 토큰을 4096개의 GPU에서 동시에 처리한 결과, 1 스텝 당의 글로벌 배치 사이즈는 다음과 같이 계산됩니다.

4096개의 GPU에 4096 토큰을 곱하면 16,777,216 토큰(약 1600만 토큰)이라는 초거대 메가 배치(mega batch)가 생성됩니다.

이 초거대 배치 구성(batch 구성)을 채택한 결과, 1회의 파라미터 업데이트 시 계산 밀도가 극단적으로 높아졌으며, GPU 간 통신 빈도를 현저히 줄이는 데 성공했습니다. PyTorch 컴파일러 최적화(torch.compile)를 적극적으로 활용한 결과, 단일 노드에서 달성 가능한 최대 효율(AFU) 87%(108.75 TFLOP/s), 4096기 대규모 클러스터 전체에서도 매초 100만 ~ 120만 토큰이라는 놀라운 처리 속도를 달성했습니다.

이 통신 최적화와 병행하여 연구팀은 학습 데이터 구성에도 충분한 수준의 설계를 적용했습니다.

> 
> 
> 여기에서 사용되는 용어 BPE(바이 페어 인코딩)는 무엇을 하는가? 가장 널리 사용되는 단어 분할 알고리즘으로, 빈도수가 높은 문자열을 단계적으로 하나의 토큰으로 묶어간다. 왜 필요한가? 미지의 단어에 마주쳐도 문자 단위로 분해하여 처리할 수 있으며, 빈도수가 높은 단어는 1개의 토큰으로 간결하게 표현할 수 있도록 한다. 친근한 비유: “자주 사용하는 숙어나 인사말을 1개의 문자 약어로서 사전에 등록하는 똑똑한 압축 사전”과 같다.
> 

> 
> 
> 여기에서 사용되는 용어 SLURM(발음: 스라움 / Simple Linux Utility for Resource Management)은 무엇을 하는가? 대규모 컴퓨팅 클러스터에서 사용 가능한 컴퓨팅 노드를 찾아 작업을 할당하고 실행 시간을 관리하는 오픈 소스 스케줄러이다. 왜 필요한가? 수천 대의 서버를 전 세계 연구자들이 공정하고 충돌 없이 이용할 수 있도록 교통 관리 역할을 수행하기 때문이다. 가까운 비유는 “대병원에서 어떤 진료실에 어떤 환자를 언제부터 안내할지 완전히 자동적으로 관리하는 종합 안내 시스템”과 같다.
> 

총 학습량은 약 8000억 토큰의 데이터 세트로, 추론 능력 획득을 목표로 수학(ProofPile-2, OpenWebMath 등) 및 프로그래밍 코드(The Stack v2, StarCoder 데이터 등)에 크게 비중을 둔 블렌딩이 구축되었습니다. 또한, 최신 지견에 따라 기존에는 사후 조절 단계에서 수행되던 고품질 인스트럭션(지시 응답) 데이터를 처음부터 사전 학습 코퍼스에 직접 혼합하는 전략을 채택했습니다.

토크나이저에는 어휘 수 65,536의 BPE를 채택했으며, 사전 토큰화의 정규 표현식을 수식, LaTeX, 프로그래밍 구문 분할이 손상되지 않도록 철저하게 커스터마이징했습니다. 또한, 문장을 4,096 토큰의 틀에 틈 없이 채우는(패킹) 과정에서 문맥이 끊어져 앞뒤 의미가 상실되는 문제(그라운딩 문제)를 방지하기 위해, 문맥을 잃은 문서의 꼬리 부분을 과감하게 잘라내는 전처리 과정을 철저히 하고 있습니다.

이러한 대규모 인프라에 대한 노력은 일상적인 사회 시스템에도 적용될 수 있습니다.

- 구체적인 예시 1: 고속도로 정체 해소 대책(ETC 차선과 균등한 차량 간 거리) 여름 휴가 시즌 요금소에서 다양한 차체의 트럭이나 승용차가 불규칙하게 몰려들면 요금소는 대규모 정체 상황에 빠집니다. 하지만 모든 차량이 균일한 속도와 일정한 차량 간 거리를 유지하며 ETC 차선을 통과하면 교통량은 극적으로 최대화됩니다. 본 연구의 “64MB 고정 패킷 제어”는 바로 통신 패킷의 차량 간 거리를 완벽하게 정렬한 ETC 시스템이라고 할 수 있습니다.
- 구체적인 예시 2: 전국 체인의 물류 허브(소형 트럭을 이용한 고빈도 피스톤 운송) 거대한 10톤 트럭(텐서 병렬)은 한 번에 많은 화물을 운반할 수 있지만, 하역과 출발 준비에 상당한 대기 시간이 발생합니다. 반면에, 표준화된 소형 컨테이너를 싣은 민첩한 2톤 트럭(DDP)을 수천 대나 운행하면 전체 적재 효율을 떨어뜨리지 않고 전국 지점에 원활하게 화물을 배송할 수 있습니다.
- 구체적인 예시 3: 극장의 관람객 퇴장 유도(블록별 분산 퇴장) 수천 명이 한 번에 좁은 출구로 몰려들면 혼란과 추락 사고가 발생할 수 있습니다. 하지만 “1층 전면 좌석 줄에서 순서대로, 10명 정도의 블록으로 나누어 퇴장해 주세요”라고 안내하면 통로가 좁더라도 모든 관람객이 가장 짧은 시간 안에 안전하게 밖으로 나갈 수 있습니다.

프론티어(Frontier)의 학습 환경과 일반적인 LLM의 대규모 학습 환경의 차이를 표 형태로 정리합시다.

### 3.2. 모든 토큰이 동일 벡터에 수렴하는 “잠재 상태 붕괴”를 어떻게 방지했는지 설명합니다.

신경망의 지능이 완전히 소멸되는 “표현 붕괴(Representation Collapse)”라는 악몽이었습니다.

> 
> 
> 💡 여기서 나타나는 용어 표현 붕괴(휴겐호카이 / Representation Collapse)입니다. ✅️ 무엇을 하는 것일까요? 반복 계산을 거듭할수록 문장 내 모든 단어 벡터가 동일한 수치로 모여 구별이 어려워지는 치명적인 현상입니다. ✅️ 왜 필요한 걸까요? 재귀형 트랜스포머 설계 시 모델이 지능을 잃는 주요 원인을 파악하고 이를 방지하는 메커니즘을 적용하기 위한 필수 지식입니다. ✅️ 비유하자면 “다채로운 물감을 팔레트 위에서 여러 번 섞어 맞추다 보면 원래 색이 모두 사라지고 단순한 흐릿한 회색으로 변하는 상황”과 같습니다.
> 

> 
> 
> 💡 여기서 다루어지는 용어, 토큰 간 상관관계(Inter-token Correlation) ✅️ 
> 
> 무엇을 하는 것? : 문장 속에 있는 서로 다른 단어(토큰)들의 벡터 표현이 얼마나 유사한지를 0.0부터 1.0까지의 수치로 측정하는 지표.
> 
> 왜 필요할까? : 상관관계가 1.0에 도달하면, AI는 “사과”와 “고릴라”를 전혀 다른 의미로 인식하게 되어 지능이 완전히 정지되기 때문.
> 
> 일상적인 비유 : “모두가 완전히 똑같은 의견만 하게 되고, 새로운 논의나 아이디어가 전혀 생겨나지 않는 같은 동의 압력의 극단적인 상태.”
> 

> 
> 
> 💡 여기서 사용되는 용어 손실 함수 / 로스(Loss) ✅️는 무엇을 하는 것일까요? : AI가 예측한 답과 실제 정답 데이터 간의 차이(틀림의 크기)를 계산하는 수치입니다. ✅️ 왜 필요할까요? : 학습의 목적은 “이 수치를 0에 가깝게 만드는 것”이며, AI의 발전을 측정하는 가장 기본적인 지표이기 때문입니다. ✅️ 비유: “시험 점수 감점 개수”와 같습니다. 점수가 낮다(감점 개수가 적다)는 것은 더 뛰어난 성과를 보이고 있다는 것을 의미합니다.
> 

> 
> 
> 여기에서 다루는 용어는 퍼플렉시티/PPL(파르플렉시티/Perplexity)입니다. 이 용어는 언어 모델이 다음 단어를 예측할 때 “평균적으로 몇 개의 선택지에서 고민하고 있는가”를 나타내는 지표입니다. 숫자가 낮을수록 AI가 문맥을 정확하게 이해하고 확신에 찬 자연스러운 단어를 선택하고 있다는 증거가 됩니다. 4択 퀴즈에서 망설임 없이 1~2개 선택지에 좁혀지고 있는가, 아니면 100개 정도에서 억지로 헷갈려 대고 있는가와 같은 ‘당황도’와 유사합니다.
> 

논문의 Figure 5에는 팀이 실제 학습에 도달하기까지 경험한 생생한 “두 번의 실패 실험”과 “최종적인 성공”의 궤적이 명확하게 기록되어 있습니다.

연구팀이 거친 3단계 과정을 순서대로 따라가 봅시다.

- 첫 번째 실패 (Bad Run 1 / 오렌지색 그래프) 첫 번째 실험에서는 가중치를 갖지 않은 단순한 RMSNorm, 입력 데이터의 단순한 덧셈 어댑터, 그리고 일반적인 트랜스포머를 사용하여 표준적인 피크 학습률(0.0004)을 설정했습니다. 학습 시작 후 수천 단계 만에 토큰 간의 상관관계가 급격하게 1.0으로 상승하여 멈추지 않았습니다. 문맥 내의 모든 단어 벡터가 동일한 지점으로 빨려 들어가면서 학습 손실(Loss)은 전혀 줄어들지 않고 완전히 학습이 중단되었습니다. 재귀 루프를 통과할 때마다 정보가 과도하게 섞이며 원래 단어의 개성이 완전히 희미해졌습니다.
- 두 번째 실패 (Bad Run 2 / 초록색 그래프) 팀은 대응책으로 제2장에서 설명한 학습 가능한 어댑터 행렬을 도입하고, 일반적인 사전 정규화(Pre-Norm)로 전환했습니다. 일견 급증한 토큰 상관은 150단계 정도로 급격하게 감소하고, 학습 손실도 꾸준히 하락하기 시작하는 것처럼 보였습니다. 하지만 모델을 추출하여 추론 테스트를 진행한 순간, 절망적인 사실이 드러났습니다. 루프 횟수를 1회로 하거나 32회로 늘려도 퍼플렉시티(문장의 예측 정확도)는 십만 단위로도 변하지 않았습니다. 모델은 표현 붕괴를 회피하는 대가로 “이전 단계에서 전달받은 사고 벡터를 완전히 무시하고, 전주 블록에서 보내오는 입력만 처리하는” 땜질(지역 해)을 학습해 버렸습니다.
- 최종적인 승리(Main Run / 파란색 그래프)는 이 이중의 함정을 완전히 무너뜨린 것이었다. 그 핵심은 2장에서 상세히 설명한 ‘샌드위치형 정규화’의 전면 부활과 학습률 1桁 하락(0.00004로 변경), 그리고 실효층수를 132층으로 설정한 ‘미세한 가중치 초기화’의 완전 적용이었다. 이 구성으로 리스타트한 본번 모델은 토큰 상관이 한 번도 위험 지대(1.0 근처)에 가까워지지 않고 학습의 진행과 함께 매끄럽게 손실을 감소시켰다. 그리고 무엇보다, 반복 횟수를 늘릴수록 펄프렉시티가 깔끔하게 향상된다는 ‘잠재 추론 능력의 각성’을 처음으로 확인한 것이다.

대규모 클러스터에서 재귀적 모델 학습 시 표현 붕괴를 방지하기 위한 교훈을 정리합니다.

- 입력 잠재 벡터의 매 단계 재주입: 과거의 사고에 새로운 입력을 지속적으로 합류시켜 해의 앵커를 안정화하는 것.
- 샌드위치형 정규화의 이중 배치: 어텐션이나 MLP의 직전뿐만 아니라 잔차 연결의 직후에도 RMSNorm을 적용하여 수치 팽창을 물리적으로 차단하는 방식.
- 실효층수를 기반으로 한 미시적 초기화: 출력 투영층의 초기 분산을 극한으로 줄이고, 초기 단계에서 발생하는 기울기 폭발을 근절하는 것.
- 신중한 피크 학습률 설정: 일반적인 고정층 트랜스포머보다 1단계 낮은 학습률을 선택하여 재귀 구조가 급격한 지역 해로 수렴하는 것을 방지한다.

### 3.3. 학습률을 낮추지 않고 꾸준히 진행하는 콘스턴트 전략과 이동 평균(EMA) 기반 성능 향상

슈퍼컴퓨터에서의 연구 개발에는 학술팀만이 겪어야 하는 혹독한 인프라 제약이 존재합니다. 수천 기 규모의 GPU 클러스터를 수개월 동안 연속적으로 점유하는 것은 불가능합니다. Frontier의 계산 프레임은 SLURM 스케줄러에 의해 “최대 12시간 세그먼트”로 분할되었습니다.

이 극심한 운영 환경이 하나의 심각한 알고리즘적 난제를 야기했습니다.

> 
> 
> 여기에서 다루는 용어 학습률 스케줄은 무엇을 하는가? 학습 진행(단계 수)에 맞춰 AI의 파라미터를 업데이트하는 폭(학습률)이 어떻게 변화하는지를 정한 계획표이다. 왜 필요한가? 초반에는 파라미터를 과감하게 움직여 대략적인 정답을 찾고, 후반에는 폭을 줄여 미세하게 조정함으로써 최고 정확도에 도달하는 데 목적이 있다. 비유적으로 설명하면 “골프의 샷”과 같다. 처음에는 드라이버로 멀리 강하게 飛ば고, 홀에 가까워지면 퍼터로 신중하게 굴는 접근 방식이다.
> 

> 
> 
> 💡 여기서 등장하는 용어 ‘코사인 감쇠(Cosine Decay)’는 무엇을 하는 것? : 학습률을 코사인 함수의 부드러운 곡선에 맞춰 최종 단계로 갈수록 점차 0 근처까지 줄여나가는 가장 표준적인 학습 스케줄링 방식이다. 왜 필요한가? : 학습의 최종 단계에서 모델이 가장 깨끗한 골짜기(최적해)에 부드럽게 안정되도록 하기 위한 것이다. 친근한 비유 : “전철의 자동 제동 장치”와 같다. 역 플랫폼이 가까워질수록 브레이크를 부드럽게 강하게 하고, 정지 위치에 정확히, 흔들림 없이 멈추는 운전 기술이다.
> 

> 
> 
> 여기에서 사용되는 용어 ‘쿨다운(Cooldown)’은 무엇을 의미하는가? ✅️ 사전 학습의 최종 단계에서, 학습률을 수천 단계에 걸쳐 급격하게 낮추어 모델의 지식을 응축하고 안정화시키는 단계이다. ✅️ 왜 필요한가? 높은 학습률 상태에서 파라미터가 흔들리면서 놓치고 있던 미세한 패턴을 마지막에 한 번에 잡아 올려 성능을 극대화하기 위함이다. ✅️ 친근한 비유: “완전히 구워진 도자기를 窯の中でゆっくり 식혀, 陶土의 결정체를 굳게 다져 아름다운 광택을 내는 최종 단계를 의미한다.”
> 

일반적인 LLM 사전 학습에서는 “코사인 감쇠”가 널리 사용됩니다. 하지만 코사인 감쇠를 사용하려면 “총 몇 조 개의 토큰을 학습시킬 것인지”라는 최종 종료 지점을 처음부터 엄밀하게 확정해야 합니다.

만약 중간에 계산 자원 할당이 중단되면, 학습률이 지나치게 높아 미완성 상태로 종료됩니다. 반대로, 추가로 계산 자원이 할당받더라도 이미 학습률이 거의 0에 가까워져 새로운 데이터를 추가로 읽어 성능을 향상시키는 것이 불가능해집니다.

이에 팀은 최근의 스케일링 연구를 참고하여 “일정 학습률 전략(Constant LR)”이라는 매우 유연한 접근 방식을 채택했습니다.

초기 4096단계에서 일정 학습률까지 설정한 후(워밍업)는 학습률을 감쇠시키지 않고, 일정한 스텝 크기를 유지하며 끝까지 질주하는 설계를 채택했습니다. 이 전략 덕분에 팀은 Frontier의 계산 슬롯의 비어 있는 상황에 따라 “이번 주에는 12시간 枠을 3개 추가하고, 다음 주에는 2개 추가”와 같이 총 21개의 세그먼트를 퍼즐처럼 조합하여 최종적으로 약 79억 5천만 토큰까지 사전 학습을 유연하게 확장할 수 있었습니다.

그러나 이 전략에는 1가지 큰 대가가 있었습니다. 학습률을 끝까지 높은 상태로 유지하기 때문에, 일반적인 모델이 수행하는 “쿨다운을 통한 마지막 성능의 폭발”이라는 혜택을 그대로 누릴 수 없다는 점입니다.

이 문제를 완벽하게 해결한 비밀 병기는 시시각각 추세 이동 평균(EMA)입니다.

> 
> 
> 여기에서 사용되는 용어 EMA(발음: 이-에-무-에 / Exponential Moving Average / 지수 이동 평균) ✅️는 무엇을 하는 것인가? : 과거에 저장된 여러 모델의 가중치 파라미터를 최근 것일수록 비율이 커지도록 부드럽게 합산하여 합성하는 기술이다. ✅️ 왜 필요한가? : 추가 학습 비용을 들이지 않고도 모델의 일반화 성능과 안정성을 극적으로 향상시키고, 냉각기와 동등 이상의 효과를 얻기 위함. ✅️ 친근한 비유: “여러 겹의 엉성한 연속 사진을 반투명하게 겹쳐서, 움직임 노이즈가 상쇄되어 하나의 선명하고 아름다운 사진을 만드는 이미지 처리 기술”
> 

연구팀은 학습을 마친 최종 체크포인트를 기준으로 과거로 역행하여 저장된 최근 75개 체크포인트를 추출했습니다. 또한, 최신 모델일수록 더 큰 가중치를 배분하도록 감쇠율 0.9, 간격 간격(디레이션) 7이라는 특수 가중치 규칙을 적용하여 모든 가중치 파라미터를 합성했습니다.

이 EMA(Exponential Moving Average) 기반의 가중 합 효과는 획기적이었습니다. 추가적인 재학습 없이, 단순히 저장된 가중치를 더한 것만으로도 초등학생 수준의 문장 문제 수학 벤치마크(GSM8K)의 유연한 정답률이 38.13%에서 47.23%로 약 9%p 급증했습니다.

일정 학습률을 활용하여 유연하게 진행하고, 마지막으로 EMA(Exponential Moving Average)를 통해 성능을 극대화하는 이 엔지니어링의 조합은 제한된 예산과 계산 시간 내에서 최대한의 성과를 이끌어내는 현대 AI 개발의 정점을 보여주는 지혜라고 할 수 있습니다.

## 3. 실질적인 핵심 사항

본 섹션에서 실증된 대규모 클러스터 운영과 안정적인 화학 학습의 핵심 기술을 현장의 엔지니어가 실무와 자사 클러스터에 적용하기 위한 실질적인 통찰력을 모았습니다.

### 실무 팁들

- 멀티노드 분산 학습에서 패킷 정렬화된 NVIDIA 클러스터이든 AMD 클러스터이든 1,000기 이상의 가속기를 묶어 분산 학습을 수행하는 과정에서 원인 모를 통신 중단(하ங்)에 시달린다면 텐서의 버퍼 크기를 의심해 보십시오. 통신 라이브러리의 환경 변수나 PyTorch DDP 인수로 버퍼 크기를 의도적으로 고정화(예를 들어 32MB~64MB 정도로 통일)함으로써 네트워크 스위치의 버퍼 오버플로우를 현저하게 억제할 수 있습니다.
- 계산기 예산이 불확실한 프로젝트에서 일관된 학습률을 채택하여 사내 클러스터의 유휴 시간을 활용, 모델을 훈련하는 경우, 또는 클라우드의 중단 가능한 저렴한 인스턴스를 활용하는 경우에는 코사인 decay를 사용하는 것이 위험합니다. 워밍업 후에는 일관된 학습률로 운영하고, 정기적으로 체크포인트를 저장해 두면 프로젝트가 종료되어도 최근의 여러 가중치를 EMA(Exponential Moving Average)로 합성하여 즉시 최고 성능의 모델을 회수할 수 있습니다.

### 초보자들이 흔히 저지르는 “실수”와 해결책

- 오류 1：「GPU의 수를 늘린다면, 배치 사이즈도 그대로 무한대로 크게 해도 괜찮다”라는 오해
- 회피책 및 올바른 이해: 병렬 수를 늘린다고 해서 무제한적으로 배치 사이즈를 넓히면 기울기의 다양성이 상실되고 모델의 일반화 성능이 급격히 저하됩니다. 본 연구에서는 1,600만 토큰이라는 초거대 배치 사이즈를 채택했지만, 이는 “동일 블록을 여러 번 반복하여 엄청난 연산을 수행하는 순환 심도 모델”이라는 특수한 고밀도 아키텍처 덕분에 가능했던 균형입니다. 일반적인 모델에서는 작업에 따라 적절한 배치 사이즈를 결정해야 합니다.
- “학습 손실(Loss)이 감소한다면, 모델은 순조롭게 똑똑해지고 있다”라는 착각
- 회피책 및 올바른 이해: ‘Bad Run 2’에서 실증된 바와 같이, 손실이 깔끔하게 감소하고 있더라도 모델이 재귀 루프를 완전히 중단하고 입력을 통과시키는 경우가 있습니다. 재귀형 모델의 학습에서는 단순히 전체 손실만을 보는 것이 아니라, “추론 시 반복 단계를 변경했을 때 퍼플렉서티가 확실하게 변화하는지”를 학습 중단 시 체크포인트에서 주기적으로 검증하는 검증 체제가 반드시 필수적입니다.

### 최고의 실천 방법

- 프론티어 실험에서 팀은 일반적인 손실에 더하여 다음 건강 지표들을 모든 단계에서 실시간으로 모니터링했습니다.
- 토큰 차원의 임베딩 상태 간 상관관계 (표현 붕괴 조기 감지)
- 단계 간의 사고 벡터 차분 노름(사고 변화 정도 측정)
- 각 레이어별 파라미터 및 기울기의 노름을 지속적으로 모니터링하는 대시보드를 설정해 두면, 수천만 엔 규모의 컴퓨팅 자원이 불필요한 과도한 운영 비용에 낭비되는 것을 예방할 수 있습니다.

## 4. 📖 이 섹션에서 다룬 주요 용어 정리

본 섹션에서 설명한 주요 용어의 팁 시트입니다. 복습에 활용해 주세요.

## 5. 결론 및 다음 단계

이번 프로젝트를 통해 얻은 결과와 앞으로의 진행 방향에 대해 정리하고, 다음 단계를 논의하고자 합니다. 지금까지 진행된 연구 결과는 [연구 결과 요약]이며, 이를 바탕으로 다음 단계에서는 [다음 단계 목표]를 달성하기 위한 노력을 집중할 것입니다. 특히, [구체적인 실행 계획]을 통해 [예상되는 성과]를 얻어내도록 하겠습니다. 또한, [관련자 명칭]과의 협력을 강화하여 프로젝트의 성공적인 완료를 위해 최선을 다하겠습니다.

본 섹션에서는 슈퍼컴퓨터 Frontier에서 획기적인 성과를 이룬 딥러닝 모델 “Huginn”을 실제 지능으로 구현하기 위한 압도적인 엔지니어링의 전 과정을 상세히 설명했습니다.

- 통신 장벽의 돌파: 4096개 규모로 발생한 AMD 특유의 인터커넥트 헝거 현상을 손으로 작성한 독자적인 DDP 루틴과 엄격한 “64MB 고정 패킷 통신”을 통해 완전히 해결했다.
- 가벼운 병렬화 아키텍처: 물리적 파라미터가 3.5B(35억 5천만)이고 경량임을 활용하여, 무거운 텐서 병렬화를 배제하고 순수한 DDP(Distributed Data Parallel)와 ZeRO-1만을 사용하여 1,600만 토큰의 초메가 배치 처리를 실현했다.
- 표현 붕괴의 완전 극복: 샌드위치형 정규화, 매 단계별 입력 재주입, 초심층형을 위한 미소 초기화의 조합을 통해 모든 토큰이 동일화되는 치명적인 수치 붕괴를 방지했다.
- 일정 전략과 EMA: 미세한 계산 기회 활용에 대응하기 위해 학습률을 일정하게 유지하며 지속적으로 실행하고, 사후에 최근 75개 체크포인트를 EMA 합성하여 냉각 기간을 넘어선 괄목할 만한 성능 향상을 달성했다.

이렇게 수많은 죽음을 넘어 탄생한 모델 “Huginn”은 실제 벤치마크 테스트에서 얼마나 많은 추론력을 발휘했을까요?

다음 장에서는 주요 수학 및 코딩 벤치마크에서, 단 35억 개의 파라미터만을 가진 소형 모델이 자신의 크기를 훨씬 능가하는 거대 모델들을 연이어 꺾는 놀라운 측정 결과와 추론 시 스ケーリング의 압도적인 실력에 대해 자세히 다룰 예정입니다. 기대해주세요!

## ## 6. 자주 묻는 질문 (Q&A)

**Q1: 저자는 왜 이 책을 썼나요?**

A: 저자 야마다 타로 氏は, 자신의 경험에 근거하여 현대 사회에서 나타나는 고독과 인간 관계의 소원함과 같은 문제들을 제기하고자 이 책을 집필했습니다. 또한 독자 여러분이 자신의 삶을 되돌아보고 더 나은 인간 관계를 맺는 데 도움이 되는 조언을 얻을 수 있기를 바랍니다.

**Q2: 이 책에서 소개되는 “마음의 거리”는 구체적으로 어떤 것을 의미하나요?**

A: “마음의 거리”는 타인과의 사이에 물리적인 거리뿐만 아니라 정신적인 거리, 즉 상대방을 이해하고 공감하며 마음을 열어 대하지 못하는 상태를 의미합니다. 이는 언어의 부족, 표정의 결여, 공통의 대화 주제의 부재 등 다양한 요인으로 인해 발생할 수 있습니다.

**Q3: 이 책에서 언급되는 “고독”의 구체적인 증상은 무엇인가요?**

A: 이 책에서 언급되는 “고독”의 구체적인 증상으로는 다음과 같은 것들이 있습니다.
*   항상 불안감이나 초조함에 시달림
*   주변 사람과의 소통을 피하게 됨
*   취미나 관심사에 몰두하게 됨
*   미래에 대한 희망을 잃음
*   신체적인 불쾌감을 호소함

**Q4: 이 책에서 소개되는 “공감”을 깊게 하기 위한 구체적인 방법은 무엇인가요?**

A: “공감”을 깊게 하기 위해서는 우선 상대방의 입장에서 생각하는 것이 중요합니다. 상대방의 말과 표정, 행동을 주의 깊게 관찰하고 상대방이 어떤 감정을 느끼고 있는지 이해하려고 노력해야 합니다. 또한 상대방의 말을 끊지 않고 끝까지 경청하는 것도 중요합니다. 더불어 상대방의 감정에 동조하고 공감의 말을 전달함으로써 더욱 깊은 소통을 맺을 수 있습니다.

**Q5: 이 책에서 소개되는 “인간 관계의 질”을 향상시키기 위해 어떤 행동을 취해야 하나요?**

A: “인간 관계의 질”을 향상시키기 위해서는 다음의 행동을 취하는 것이 중요합니다.
*   상대를 존중하고 배려하는 마음을 갖는다
*   진솔한 태도로 대한다
*   감사의 마음을 전달한다
*   상대의 의견을 존중한다
*   적극적으로 소통한다
*   상대의 입장에 서서 생각한다
*   상대의 감정에 동조한다

**Q6: 이 책에서 소개되는 “마음의 거리”를 줄이기 위해 어떤 구체적인 행동을 취해야 하나요?**

A: “마음의 거리”를 줄이기 위해서는 우선 상대방과의 공통점을 찾아보는 것부터 시작해야 합니다. 공통의 취미나 관심사를 공유하거나, 공통의 경험을 나누는 것이 효과적입니다. 또한 상대방에게 질문을 던지고 상대방을 알아가려는 적극적인 소통을 하는 것도 중요합니다. 상대방의 이야기를 주의 깊게 듣고 공감의 말을 전달함으로써 상대방과의 거리가 가까워질 것입니다. 또한 상대방에게 감사의 마음을 전하거나 상대방의 장점을 칭찬하는 것도 긍정적인 인간 관계를 형성하는 데 중요한 요소입니다.

### Q1: 왜 손으로 쓴 DDP에서 패킷 사이즈를 “64MB”로 고정하는 것만으로 대규모 통신의 문제가 해결된 걸까요?

A: 고속 네트워크의 스위치 내부에서는 송신 및 수신되는 데이터 패킷을 일시적으로 보관하는 버퍼 메모리가 항상 가동됩니다. 표준의 DDP처럼 크기가 다양한 텐서가 불규칙한 타이밍으로 유입될 경우, 특정 포트의 버퍼가 순간적으로 고갈되어 패킷 재송 또는 패킷 손실이 연쇄적으로 발생하여 통신 프로세스 전체가 서로의 응답 대기(데드락)에 빠집니다. 패킷 크기를 균일한 64MB로 고정하고 정렬화함으로써 버퍼의 소비와 해방의 타이밍이 클러스터 전체에서 극도로 깔끔하게 동기화되어 스위치에 대한 부하 스파이크가 완전히 소멸되었습니다.

### Q2: “Bad Run 2”에서 모델이 재귀 루프를 무시하는 현상(재귀의 죽음)이 발생하는 원인은 무엇입니까?

A: 뉴럴 네트워크는 본질적으로 “가장 쉬운 방법(최소의 노력으로 손실을 줄이는 지름길)”을 찾으려는 성향을 가지고 있습니다. 재귀 루프를 통해 다단계의 고도화된 사고를 구축하는 학습은 기울기 계산이 복잡하고 매우 어려운 작업입니다. 반면에, 전조 블록으로부터 전달되는 입력 데이터만 보고 표면적인 단어 예측을 수행하는 것은 비교적 쉽습니다. 학습 어댑터나 정규화의 균형이 불완전했기 때문에, 모델은 “복잡한 재귀적 사고를 노력하는 것보다 루프를 건너뛰고 직전의 입력에만 의존하는 것이 훨씬 빠르고 손실을 줄이는 방법”이라는 지역적 해(사납게 상태)에 빠져버렸습니다.

### Q3: “EMA(가중 지수 이동 평균)”은 단순한 모델 평균 계산과 동일하지만, 왜 학습률을 낮춰 훈련(쿨다운)하는 것과 유사한 효과가 나타나는 걸까요?

A: 높은 학습률을 유지하면서 학습을 계속할 때, 모델의 파라미터는 “최적해 존재한다고 여겨지는 광대한 골짜기” 안에서 열 운동처럼 곳곳을 격렬하게 탐색합니다. 이 때 파라미터의 각 순간값에는 노이즈가 포함되지만, 그 탐색 궤적의 “중심(평균값)”을 계산하면 노이즈가 깔끔하게 상쇄되어 가장 평탄하고 일반화 성능이 높은 “진정한 골짜기 중심”에 매우 가까운 위치가 나타납니다. 이는 최종 단계에서 학습률을 세밀하게 줄여 골짜기 중앙으로 신중하게 미끄러지게 하는 냉각(쿨다운)의 물리적 과정과 수학적으로 매우 유사한 효과를 만들어내기 때문입니다.

### Q4: 1단계당 약 1억 6천만 토큰이라는 초거대 글로벌 배치 사이즈로 학습시켰음에도 불구하고 모델의 학습이 붕괴하지 않았던 이유는 무엇입니까?

A: 일반적인 언어 모델에서 배치 사이즈를 지나치게 크게 하면, 한 번의 단계에서 얻는 기울기 정보가 지나치게 평활화되어 모델이 뭉개진 특징만 학습하게 되는 “수확 감소의 벽”에 부딪힙니다. 하지만 본 연구의 Huginn은 동일한 물리 파라미터를 수십 번 반복하면서 1 토큰마다 고밀도 내부 계산(실제 132층 분의 FLOPs)을 수행합니다. 1 토큰을 처리하는 계산량과 표현의 깊이가 일반적인 모델보다 압도적으로 높기 때문에 1600만 토큰이라는 방대한 데이터 양을 한 번에 쏟아부리더라도 기울기가 정보 과부하되지 않고 오히려 매우 안정적이고 효율적인 학습 신호로 기능한 것입니다.

## 4. 사고 단계를 늘리는 것만으로도 성능이 폭발적으로 향상된다: 벤치마크에서 확인하는 추론 시 스ケー링의 실력

## 1. 서론: 추론 시간을 늘리는 것만으로도 ‘다른 모델’로 변모한다.

충분한 시간을 준다면 작은 모델로도 상상 이상으로 거대한 모델의 지능을 능가할 수 있지 않을까?

AI 연구자들은 오랫동안 꿈꿔왔던 이 가설이 드디어 현실이 되었습니다. 앞선 장에서 설명한 바와 같이, 세계 최고 수준의 슈퍼컴퓨터 Frontier에서 8000억 토큰을 학습한 순환 심도 모델 “Huginn”은 물리적으로 단지 35억(3.5B) 개의 파라미터밖에 가지고 있지 않습니다.

그러나 이 모델에 부여된 수많은 표준 벤치마크 테스트 결과는 지금까지의 “모델의 성능은 파라미터 수와 사전 학습 데이터량으로 결정된다”는 일반적인 관념을 근본적으로 뒤엎는 결과였습니다. 추론 시 내부 루프 회수를 늘리는 것만으로도 70억(7B) 클래스, 더 나아가 120억(12B) 클래스 모델을 능가하며 수학이나 프로그래밍의 난제에서 놀라울 정도로 높은 점수를 기록했습니다.

본 섹션을 읽어 내려갈수록 다음의 지식과 실질적인 통찰력을 체계적으로 습득할 수 있습니다.

- 왜 3.5B의 소형 모델이 파라미터 규모가 훨씬 큰 경쟁 모델(Pythia나 초기 OLMo)을 수학 및 코드 분야에서 압도적인 성능을 보일 수 있었을까?
- 완전히 동일한 데이터 양(180B 토큰)으로 훈련된 “고정층 모델”과의 직접 대결을 통해 확인된 잠재 공간 추론의 결정적인 우수성
- 반복 횟수를 늘려도 점수가 증가하지 않는 작업과, 무한정 증가하는 점수(飽和의 메커니즘)를 가진 작업의 차이입니다.
- 왜 잠재 추론 모델이 “지식 암기”를苦手으로 삼음에도 불구하고 “문맥을 주어진 논리 처리에 활용”하는 초거대 모델 급의 파워를 발휘하는 것일까

자, 숫자가 증명하는 “추론 시 계산량 스케일링”의 놀라운 실력을 살펴보겠습니다.

## 2. 본 챕터: 추론 시 스케일링의 실력 검증

### 4.1. 수학 및 코드 난제에서 파라미터 규모를 훨씬 넘는 점수를 달성하는 이유

AI 모델의 지능을 객관적으로 비교하기 위해 전 세계 연구기관들이 공통적으로 사용하는 것이 “표준 벤치마크”입니다.

연구팀은 완성된 Huginn-0125(3.5B)를 완전히 오픈된 데이터로 훈련된 대표적인 오픈 소스 모델군(Amber 7B, Pythia 2.8B~12B, OLMo 시리즈)과 동일 조건에서 비교했습니다.

먼저 일반적인 언어 이해 능력과 상식 추론 능력을 측정하는 표준 작업군에 대한 측정 결과를 살펴보겠습니다.

> 
> 
> 💡 여기서 등장하는 용어 ARC(AI2 리이징 챌린지, 발음: 에어알시-) ✅️ 무엇을 하는 것? : 미국 초등학교에서 고등학교 수준의 과학 시험 문제로 구성된, 고차원적인 지식과 논리적 추론력을 평가하는 벤치마크(난이도 높은 ARC-C와 표준 ARC-E가 존재)이다. ✅️ 왜 필요한가? : 단순한 표면적인 단어의 연결이 아닌, 과학적 인과관계를 정확하게 추론할 수 있는지를 측정하기 위한 것이다. ✅️ 유사한 예시: “과학 응용 문제집”. “식물에 햇빛을 닿게 하지 않으면 어떻게 될까요?”와 같은 과학적 상식과 인과관계의 퍼즐.
> 

> 
> 
> 💡 여기서 등장하는 용어 HellaSwag(헤라스와그)입니다. ✅️ 무엇을 하는가? : 일상생활의 행동을 묘사한 문장의 이어서, 가장 적절한 결론을 4択에서 선택하는 일반 지식 추론 벤치마크입니다. ✅️ 왜 필요한가? : 인간이라면 한순간에 알 수 있는 “일상적인 감각”을 AI가 문맥에서 붕괴 없이 추론할 수 있는지를 테스트하기 위한 것입니다. ✅️ 유사한 예시 : “4커마 만화의 마지막 커마를 맞추는 퀴즈”. 문맥에 가장 잘 맞는 오티를 정확하게 선택할 수 있는지를 판정합니다.
> 

> 
> 
> 💡 여기서 등장하는 용어 MMLU（Massive Multitask Language Understanding）✅️ 무엇을 하는 것？ : 초등 수학부터 고도화된 법률, 의학, 철학에 이르기까지 57가지로 이르는 다채로운 전문 분야의 지식과 추론을 묻는 최고 수준의 종합 역량 벤치마크입니다.✅️ 왜 필요？ : 현대의 주요 LLM의 종합적인 지적 능력을 평가하는 업계 표준이기 때문입니다.✅️ 가까운 예시 : “초유의 대학 입시 모의고사”. 문과에서 이과의 모든 학문을 포괄하는 종합 학술 테스트입니다.
> 

논문 표 1에 제시된 표준 작업 결과는 추론 시 루프 횟수(r)를 늘리는 데 있어 뚜렷한 효과를 보임을 입증합니다.

이 표에서 확인할 수 있는 가장 극적인 사실은, r=4에서는 성능이 미미했던 Huginn이 루프 횟수를 r=32로 늘리는 것만으로도 완전히 다른 대규모 모델로 변모했다는 점입니다.

ARC-E의 점수는 49.07%에서 69.91%로 약 20% 상승했으며, 120억 파라미터를 가진 Pythia-12B조차 2500억 토큰을 학습한 초기 OLMo-7B를 압도했습니다. 과학 분야의 난문들을 모아놓은 ARC-C에서도 38.23%를 달성하여 Amber 7B와 Pythia-12B를 명확히 앞섰습니다.

하지만, 순환 심도 모델의 진정한 괴물이 깨어나는 것은 일상적인 대화가 아닌 “수학”과 “코딩” 영역입니다.

> 
> 
> 💡 여기서 다루는 용어 GSM8K(Grade School Math 8K) ✅️ 용도는 다음과 같습니다. 미국의 초등학생을 대상으로 하는, 복합적인 단계의 문장 문제와 수학 퍼즐을 수록한 대표적인 추론 벤치마크(총 8500문제)입니다. ✅️ 필요성은 다음과 같습니다. 단순 지식 암기 평가가 아닌, “상황을 이해하고, 수식을 구성하며, 단계별로 계산하는” 기본적인 다단계 논리적 사고력 측정에 기함합니다. ✅️ 비유는 “초등학교 수학의 응용 문제”와 같이 “사과 3개를 샀고, 동생에게 1개를 주고, 남은 것을 반으로 나누어 먹으면 몇 개가 남느냐?”와 같은 일상적인 문장 문제입니다.
> 

> 
> 
> 여기에서 사용되는 용어 HumanEval(휴먼 이벌) ✅️ 무엇을 하는가? : OpenAI가 설정한 파이썬 프로그래밍 함수가 지시사항에 따라 정확하게 구현될 수 있는지 테스트하는 대표적인 코딩 벤치마크. ✅️ 왜 필요한가? : 모델이 작성한 코드를 실제 유닛 테스트로 실행하여, 오류 없이 완벽하게 작동하는지 엄격하게 합격/불합격 판정하기 위한 것. ✅️ 비유: “프로그래밍 채용 시험의 실기 시험”이며, “주어진 리스트에서 짝수만 추출하여 오름차순으로 정렬하는 함수를 작성하시오”라는 코딩 과제.
> 

> 
> 
> 💡 여기서 다루는 용어 MBPP(음비비피피) ✅️ 무엇을 하는 것? : 초급 프로그래머를 위한 기본적인 알고리즘 문제 약 1000문제로 구성된 파이썬 코드 생성 능력 평가 테스트 모음집입니다. ✅️ 왜 필요한가? : 기본적인 데이터 구조의 조작 및 표준 라이브러리 사용법을 포괄적으로 검증하기 위한 것입니다. ✅️ 친근한 비유: “프로그래밍 언어의 입문 드릴”과 유사합니다. 문자열 조작 및 딕셔너리 집계 등 기초적인 코딩 횟수를 묻는 문제집입니다.
> 

> 
> 
> 여기에서 사용되는 용어 pass@1(발음: 파스 앗 완)✅️는 무엇을 의미하는가? : AI가 “첫 번째(처음 한 번)” 실행 시 출력한 프로그램 코드가, 준비된 테스트 케이스를 모두 통과하여 즉시 합격하는 확률. ✅️ 왜 필요한가? : 수십 번의 코드 실행을 통해 우연히 작동하는 코드를 찾는 대신, 실무에서 즉시 사용 가능한 “최초 발사 시의 정확성”을 평가하기 위함. ✅️ 비유: “일발 합격률”. 컴파일 및 테스트를 한 번에 통과하는 능력의 비율입니다.
> 

논문의 표 2와 표 3에 기록된

수학 및 코딩 결과는 놀라운 격차를 보여주고 있습니다.

수학 벤치마크 GSM8K에서 70억 파라미터를 가진 OLMo-7B의 정답률은 무려 7.28%, 120억 파라미터의 Pythia-12B로도 4.62%에 그쳤습니다. 이에 반해, 3.5B Huginn은 r=32의 추론 계산을 수행하여 42.08%라는 압도적인 점수를 기록했습니다. 더불어 전 장에서 설명한 EMA(Exponential Moving Average) 가중 평균화를 적용하여 r=64로 추론을 수행한 경우에는 47.23%까지 상승했습니다. 동세대 동 규모 오픈 모델에 대해, 실제로는 6배에서 10배에 가까운 지능 격차를 보여주었습니다.

코딩 태스크(HumanEval)에서도 유사한 압승이 펼쳐졌다. 최신 OLMo-2-7B는 10.36%, Pythia-12B는 9.14%로 고전하는 가운데, Huginn은 23.17%를 기록하며 스스로 2배에서 3배 이상 더 많은 파라미터를 가진 모델들을 모두 제쳤다.

왜 이렇게까지 수학이나 코드에서 압도적인 강점을 보일 수 있을까요? 그 이유는 수학의 증명과 프로그래밍의 알고리즘 구축이라는 행위의 본질에 있습니다.

- 구체적인 예시 1: 복잡한 세금의 공제 계산(다단계 조건 분기) “연소득에서 기본 공제액을 차감하고, 다음으로 사회 보험료를 차감하며, 잔액에 세율을 곱하고, 마지막으로 주택 담보 대출 공제액을 차감하는” 등의 계산에서는 이전 단계의 계산 결과를 다음 단계에 정확하게 전달해야 합니다. 1단계의 얕은 네트워크에서는 중간의 의존 관계를 놓치지만, Huginn은 내부적으로 수십 번의 벡터 반복 업데이트를 통해 조건의 포괄성을 완벽하게 정밀하게 분석할 수 있습니다.
- 구체적인 예제 2: 문자열의 반전과 회문 판별 알고리즘 구현 주어진 문자열이 회문인지 판단하는 코드를 작성할 때, 엔지니어는 “양쪽 끝에서 문자를 1자씩 좁혀가며 비교해 나간다”는 반복 처리를 머릿속으로 시뮬레이션합니다. 잠재 공간 추론 모델은 이와 같이 반복적인 사고의 시뮬레이션을 잠재 공간 내에서 직접 수행할 수 있으므로, 논리적 오류가 없는 견고한 코드를 한 번에 출력할 수 있습니다.
- 구체적인 예시 3: 중첩된 괄호(구문 분석)의 일관성 검사 수식 내의 ((3 + 5) * [2 - {4 / 2}])와 같이 깊은 중첩 구조를 평가할 때, 일반적인 고정층 모델은 층의 깊이가 부족하여 대응 관계를 놓치기 쉽습니다. 그러나 재귀 블록을 32회 언롤하여 실효 132층이 된 Huginn은 극도로 깊은 추상 구문 트리(AST)의 구조를 잠재 공간상에서 완전히 포착할 수 있습니다.

### 4.2. 일반적인 고정층 모델과의 직접 대결: 동일한 학습량으로 나타난 결정적인 추론 능력의 차이

이전에 언급된 놀라운 점수들을 보게 되면, 날카로운 기술자라면 다음과 같은 합리적인 의문을 품게 될 것입니다.

그것은 학습 데이터에 고품질의 수학 또는 코드 데이터가 우연히 많이 포함되었기 때문인지도 모른다. 잠재 공간의 재귀 루프 때문이 아니라, 단순히 데이터셋의 블렌딩이 우수했기 때문에 일반적인 고정층 트랜스포머로 동일한 데이터를 읽혀도 동일한 성능이 나온다는 가설일 수 있다.

이 질문에 대해 과학적·정량적으로 답변하기 위해 연구팀은 매우 엄밀한 대조 실험을 실시했습니다.

팀은 Huginn과 완전히 동일한 레이어 폭, 동일한 어텐션 메커니즘, 그리고 동일한 데이터셋을 사용하면서 “재귀 루프를 전혀 사용하지 않고, 1회만 레이어를 통과하여 출력을 하는 일반적인 고정층 모델(Fixed-Depth Baseline)”을 준비했습니다. 그리고, 두 모델을 완전히 동일한 1800억 토큰(180B tokens)까지 학습시킨 중간 체크포인트에서 직접 대결시켰습니다.

논문의 표 4에 기록된 이 대결 결과는 의심의 여지를 완전히 날려 버렸습니다.

이 직접 대결을 통해 다음과 같은 결정적인 사실이 드러났습니다.

동일 데이터량이라도 추론력에 5배의 격차가 발생한다.

180B 토큰이라는 사전 학습 초기 단계 체크포인트에서 고정층 모델의 GSM8K 점수는 2.20%였습니다. 하지만 완전히 동일한 데이터를 읽은 Huginn은 r=32의 루프를 돌리면서 10.24%를 기록했습니다. 데이터의 질이나 구성이 완전히 동일함에도 불구하고, 사고 루프를 가진 것만으로 수학의 추론 정확도가 “약 5배”나 높아졌습니다.

지능은 비재귀층이 아닌 “재귀 루프” 내에 존재한다.

더욱 놀라운 발견은 Huginn의 추론 시 루프 회수를 의도적으로 r=1(루프 없음)으로 제한하여 테스트했을 때 나타났습니다.

Huginn을 r=1로 실행했을 때 180B 토큰 시점의 GSM8K 정답률은 0.15%였습니다. 또한 학습 데이터를 4배 이상 늘린 800B 토큰까지 추가한 최종 모델이라도 r=1로 실행하면 정답률은 0.00% 그대로였습니다. ARC-E의 점수는 180B 시점에서는 34.01%, 800B 시점에서도 34.89%로 사실상 거의 성장하지 않았습니다.

무슨 의미일까요? 앞 장에서 설명한 “프레조 블록(2층)”과 “후조 블록(2층)”과 같은 비재귀 물리층은 학습이 아무리 많이 진행되더라도 단지 “단어와 잠재 공간의 입구(번역기)”로서의 역할에 갇혀 있었고, 고도의 지능이나 추론 능력은 모두 “재귀 코어 블록의 반복 루프” 안에만 축적되고 있었다는 결정적인 증거입니다.

### 4.3. “지식 암기”가 아닌 “주어진 맥락의 논리적 처리에” 특화된 모델 특성의 증명

지금까지의 검증을 통해 독자 여러분은 다음과 같은 의문을 가졌을 수도 있습니다. “추론 단계를 늘린다면 어떤 작업이든 무한히 점수가 향상되는 것일까?”

결론적으로, 답은 “아니오”입니다. 작업의 특성에 따라 추론 시 계산량 혜택을 무한정 누릴 수 있는 경우와 초반 단계에서 성능이 정체되는 경우가 명확히 구분됩니다.

> 
> 
> 여기에서 사용되는 용어 ‘飽和’(ほうわ / Saturation)는 무엇을 의미하는가? 추론 시 계산량(루프 회수)을 늘려도 더 이상 점수나 정답률이 향상되지 않는 지점에 도달하는 것을 의미한다. 왜 필요한가? 불필요한 계산 자원의 소비를 방지하고, 대상 태스크에 적합한 최적의 추론 시간을 설정하기 위해 알아야 할 현상을 의미한다. 가까운 비유: “스펀지의 흡수 한계”. 물을 흡수시켜도 그 한계를 초과하면 물방울이 쏟아지는 것 외에는 더 이상 흡수할 수 없는 상태이다.
> 

> 
> 
> 💡 여기서 사용되는 용어 ‘클로즈드 북 평가’(읽는 방법: 쿠로즈도 됹쿠 혀우카 / Closed-Book Evaluation)✅️ 무엇을 하는 것? : 참고 자료나 힌트가 되는 문구를 전혀 제공하지 않고, 모델이 “사전 학습으로 머릿속에 암기한 지식만”을 바탕으로 질문에 답하게 하는 시험 형식.✅️ 왜 필요한가? : AI 모델의 “기억 용량(파라미터 안에 얼마나 많은 지식을 담고 있는지)”을 측정하기 위함.✅️ 비유: “교과서 가져오기 불가능한 정기 시험”. 공식이나 역사 연도를 머릿속에 완벽하게 암기하지 않으면 풀 수 없는 시험.
> 

> 
> 
> 여기에서 사용되는 용어인 오픈북 평가는 무엇일까요? 질문과 함께 “정답을 암시하는 관련 문서나 사실”을 맥락으로 제시하고, 이를 정확하게 해독하여 답을 내는 시험 형식입니다. 왜 필요한 걸까요? 단순한 암기력뿐만 아니라, 주어진 자료를 빠르게 정확하게 이해하고, 논리적으로 답을 추출하고 가공하는 독해력을 측정하기 위한 것입니다. 가까운 비유는 교과서나 사전을 가져갈 수 있는 실기 시험과 같습니다. 답 자체를 알지 못하더라도, 손에 든 자료에서 정확한 정보를 찾아 조립하여 답을 내는 시험입니다.
> 

과제 부하로 인한 극단적인 분화는 더 이상 지속될 수 없습니다. 과제 부하가 심화됨에 따라 학생들의 학습 경험이 극단적으로 분화되고 있다는 우려가 커지고 있습니다. 이는 과제량의 증가뿐만 아니라, 과제의 난이도, 학생들의 학습 능력, 학습 환경 등 다양한 요인이 복합적으로 작용한 결과입니다.

특히 고등학교 진학을 앞둔 학생들 사이에서는 입시 경쟁 심화로 인해 과제에 대한 압박감이 가중되고 학습 동기가 저하시키는 등 심각한 상황이 발생하고 있습니다.

또한 과제 부하가 심화되면서 학생들의 학습 방식에 변화가 나타나고 있습니다. 일부 학생들은 과제를 완수하는 데 집중하는 반면, 다른 학생들은 학습 능력을 향상시키기 위해 노력합니다. 이러한 차이는 학습 격차를 심화시키는 요인으로 작용할 수 있습니다.

따라서 과제 부하를 줄이기 위한 노력이 필요합니다. 학교는 학생들의 학습 능력을 고려하여 과제의 난이도를 조절하고, 학습 부담을 덜어줄 수 있는 방안을 마련해야 합니다. 학생들은 자신의 학습 능력을 정확히 파악하고 자신에게 맞는 학습 방법을 선택해야 합니다.

더불어 과제 부하 심화의 원인을 분석하고 근본적인 해결책을 모색해야 합니다. 입시 경쟁 심화, 과외 등 부가 학습 활동, 교사의 과도한 업무 부담 등 다양한 요인들이 과제 부하를 심화시키는 원인으로 작용할 수 있습니다. 이러한 요인들을 해결하기 위한 노력이 필요하며, 학생들의 학습 환경 개선을 위한 노력도 지속적으로 이루어져야 합니다.

이러한 노력들을 통해 학생들은 과제 부하로 인한 스트레스를 해소하고 즐겁게 학습할 수 있는 환경을 조성할 수 있을 것입니다. 또한 학생들의 학습 능력 향상을 위한 기회를 제공하고 학습 격차를 해소하는 데 기여할 수 있습니다.

Figure 7에 제시된 그래프를 분석하면, 작업은 깔끔하게 두 개의 그룹으로 분류됩니다.

- 초기 단계에서 과부하되는 작업(상식 및 사실 상기)인 HellaSwag이나 SciQ와 같은 작업들은 반복 횟수가 8회 정도에 그치면 성능이 거의 정점에 달하며, 그 이상 32회나 64회까지 반복해도 점수는 거의 변화가 없습니다. 이러한 작업들은 “아는 대로 아는 대로”가 요구되는 작업이며, 잠재 공간에서 아무리 오래 고민해도 모델 안에 처음부터 존재하지 않는 사실 지식이 솟아나오는 것은 없기 때문입니다.
- 계산량을 늘릴수록 지속적으로 증가하는 작업(다단계 추론 및 생성)인 GSM8K(수학 문제)나 HumanEval(코드 생성)과 같은 작업은 r=8으로는 충분하지 않으며, r=16, r=32, r=64로 계산량을 늘릴수록, 깔끔한 로그선형 곡선을 그리며 점수가 지속적으로 향상됩니다. 다단계의 검증이나 사고의 보정이 필요한 문제일수록, 추론 시 계산량이 그대로 지능의 연료로 기능합니다.

컨텍스트(문맥)가 제공되면 모델은 “더 깊이 생각할 수 있다”고 합니다.

더욱 흥미로운 점은 프롬프트에 제공하는 정보의 양(컨텍스트의 길이)과 추론 단계 수의 포화점 사이에 아름다운 상관관계가 존재한다는 점입니다.

논문의 Figure 9에서는 ARC-C(과학의 난문제)에서 프롬프트에 포함하는 퓨샷 예시의 수를 “0례”, “1례”, “25~50례”로 늘렸을 때 모델의 동작을 추적하고 있습니다.

- 샘플이 0건(제로샷)인 경우: 모델의 성능은 약 r = 8 ~ 12 회의 루프에서 정체됩니다.
- 샘플 데이터가 1가지 제공된 경우, 모델은 더 긴 시간 동안 추론을 진행하게 되고, r 값은 20회 정도까지 점수가 지속적으로 증가합니다.
- 샘플 데이터가 25~50건 제공된 경우: 모델은 제공된 방대한 문맥 정보를 잠재 공간에서 꼼꼼하게 해독하고 분석하여 r = 32회 이상까지 계산 자원을 최대한 활용하며 점수를 꾸준히 향상시켰습니다.

즉, 잠재 추론 모델은 “생각의 재료(문맥 정보)”가 많을수록 더욱 깊은 사고 루프를 회전시키고 고차원적인 추상화를 수행하는 능력을 가지고 있습니다.

OpenBookQA가 드러낸 모델의 진정한 정체성

OpenBookQA는 대규모 언어 모델(LLM)의 능력을 시험하기 위해 설계된 독특한 벤치마킹 데이터셋입니다. 이 데이터셋은 19세기 영국 문학 작품의 상세한 지식과 함께, 질문에 답하기 위해 이 지식을 활용해야 하는 방식으로 구성되어 있습니다. 즉, 단순히 문학 작품의 내용을 암기하는 것이 아니라, 작품의 맥락과 등장인물의 관계를 이해하고, 이를 바탕으로 질문에 논리적으로 답변해야 합니다.

OpenBookQA는 모델이 단순히 텍스트를 생성하는 능력을 평가하는 것을 넘어, 모델이 실제 지식을 얼마나 깊이 이해하고 있는지, 그리고 그 지식을 어떻게 활용하는지를 측정하는 데 중점을 둡니다. 이 벤치마킹은 모델이 지식 기반 시스템으로서의 잠재력을 보여주면서 동시에, 모델이 지식을 습득하고 활용하는 방식에 대한 중요한 통찰력을 제공합니다.

OpenBookQA의 성공은 모델이 방대한 양의 텍스트 데이터를 학습하는 능력뿐만 아니라, 텍스트 간의 관계를 파악하고, 추론 능력을 발휘하는 능력도 갖추고 있음을 시사합니다. 특히, OpenBookQA는 모델이 문학 작품의 복잡한 내용을 이해하고, 등장인물의 동기를 파악하며, 작품의 주제를 분석하는 능력을 보여주었습니다.

OpenBookQA는 LLM 연구 분야에 큰 영향을 미쳤으며, 모델의 지식 기반 능력을 평가하는 새로운 방법을 제시했습니다. 또한, 모델이 인간과 유사한 방식으로 지식을 이해하고 활용할 수 있다는 가능성을 보여주면서, 인공지능 기술의 발전 방향에 대한 논의를 촉발했습니다.

이 특성을 가장 극적으로 입증한 것은 논문 Table 5에 게재된 “OpenBookQA” 비교 실험이다.

OpenBookQA는 일반적으로 힌트 없이(클로즈드 북 형식) 풀게 합니다. 하지만 연구팀은 의도적으로 “문제와 관련된 사실(Fact)”을 1줄만 문제 문장의 앞에 덧붙여 풀게 하는 “오픈 북 형식”의 테스트를 실시했습니다.

힌트 없는 폐쇄형 형식에서는 Huginn의 정확도가 38.2%에 그쳐, 70억 파라미터를 완전히 활용하여 사실을 암기하는 OLMo-2(46.2%)에 8ポイント나 차이를 보였습니다. 3.5B라는 물리 파라미터의 작은 크기 때문에 뇌 안의 “백과사전 페이지 수”가 절대적으로 부족했기 때문입니다.

그러나, 관련 사실을 프롬프트에서 1줄로 제시한 오픈 형식의 순간, 휴깅의 점수는 38.2%에서 49.2%로 순식간에 11.0 포인트나 급상승했습니다. OLMo-7B(49.8%)와 완전히 어깨를 나란히 하며, 최상위 OLMo-2와의 격차를 일순간에 좁혔습니다.

이 결과가 시사하는 결론은 매우 명확합니다. 순환 심도 모델의 본질은 “매우 강력하고 회전이 빠른 논리 연산 프로세서”라는 것입니다.

## 오늘의 핵심은 ‘가치’를 중심으로 생각하는 것입니다. 단순히 돈을 버는 것 이상으로, 자신이 하는 일, 제품, 서비스가 사람들에게 어떤 가치를 제공하는지를 명확히 파악하고, 그 가치를 극대화하는 데 집중해야 합니다. 

특히 ‘고객 경험’은 단순히 제품을 판매하는 행위를 넘어, 고객이 제품을 사용하는 동안 느끼는 모든 경험을 디자인하는 것을 의미합니다. 고객이 제품을 사용하는 과정에서 긍정적인 감정을 느끼고, 만족감을 얻도록 노력해야 합니다. 

또한 ‘데이터 분석’을 통해 고객의 니즈를 파악하고, 제품 및 서비스 개선에 적극적으로 활용해야 합니다. 단순히 데이터를 수집하는 것을 넘어, 데이터를 분석하여 의미 있는 정보를 도출하고, 이를 바탕으로 의사 결정을 내리는 것이 중요합니다. 

마지막으로 ‘팀워크’를 통해 시너지를 창출해야 합니다. 서로의 강점을 활용하고, 부족한 부분을 보완하며, 함께 목표를 달성하기 위해 노력해야 합니다. 

이러한 실질적인 포인트를 통해, 여러분의 사업이 더욱 성공적으로 성장하기를 바랍니다.

벤치마크 결과에서 밝혀진 순환 심도 모델의 특성을 실무 시스템 개발 및 아키텍처 선택에 현장 관점의 실질적인 조언을 제공합니다.

### 실무 팁들

- 태스크 유형에 따른 “반복 횟수(r) 라우팅 설계” 본번 시스템의 추론 기반에서 모든 요청을 일률적인 단계 수로 처리하는 것은 계산 자원의 낭비입니다.
- r은 4부터 8까지의 범위 내에서 충분한 작업: 정형 문장의 요약, 감정 분석, 단순 사실 추출, 인사말 등.
- 24~32 이상을 할당해야 할 작업은 수학 및 물리학 계산, SQL 또는 Python 코드 생성, 장문 계약서의 논리적 모순 검토 등입니다. API 게이트웨이 전면에 경량 라우터를 배치하고, 프롬프트의 종류에 따라 r 값을 동적으로 전환하는 운영 방식이 가장 비용 효율적입니다.
- RAG（검색 증강 생성）와의 조합을 통해 “약점 완전 무효화”를 달성하는 Huginn의 최대 약점은 “물리적 파라미터가 작아 트리비아 지식의 암기량이 부족한 것”이며, 최대 강점은 “주어진 맥락을 처리하는 논리 능력에 비정상적으로 높은 것”입니다. 따라서, 자사의 사내 문서나 매뉴얼을 외부 데이터베이스에서 검색하여 프롬프트에 주입하는 RAG 아키텍처의 생성 엔진으로 활용하는 것이 가장 비용 효율적인 최적의 방법입니다.

### 초보자들이 흔히 저지르는 “실수”와 해결책

- 암기 문제의 점수가 낮아 모델 전체가 열등하다는 결론을 내렸다.
- 회피책 및 올바른 이해: 지식 퀴즈(폐쇄형 MMLU나 TriviaQA 등)의 점수만 보고 “이 소형 모델은 쓸모없다”라고 포기하는 것은 치명적인 실수입니다. AI의 능력을 “기억력(지식량)”과 “지적 능력(추론력)”으로 나누어 평가해 주십시오. 암기력은 검색(RAG)으로 100% 보충할 수 있지만, 논리적 추론력은 외부 도구만으로는 보완할 수 없습니다.
- 결국 가장 큰 단계 수(r=64나 128)로 움직여도 안전하다는 지나친 자신감에 현혹되지 말아야 한다.
- 회피책 및 올바른 이해: 4.3항에서 증명된 바와 같이, 사실 상기 작업 등은 r=8 정도에서 완전히 포화됩니다. 포화점을 넘어서 루프를 돌아도 GPU 전기료와 사용자의 대기 시간을 낭비할 뿐, 정확도는 1mm도 향상되지 않습니다. 자사 작업의 벤치마크를 취하고, 정답률이 플랫(횡보)에 도달하는 최소 단계 수를 면밀히 검토하여 실제 설정에 적용하는 것이 중요합니다.

### 최고의 실천 방법

- 소수의 “고품질 섀도우 샷(Few-Shot)” 적극적인 프롬프트 주입을 통해 Figure 9가 보여주듯이, 순환 심도 모델은 문맥 정보가 풍부할수록 잠재 추론의 깊이를 극한까지 끌어올릴 수 있습니다. 0-샷으로 억지로 대답을 요구하는 대신, 이상적인 사고 절차나 출력 예시를 2~3가지라도 프롬프트의 맨 앞에 포함해 놓으면, 모델은 잠재 공간의 반복 계산을 온전히 활용하여 정답률을 최대화할 수 있습니다.

## ## 4. 📖 이 섹션에서 다룬 용어 정리

본 섹션에서 설명한 벤치마크 및 추론 시 스케일링 관련 주요 용어의 치트 시트입니다.

## 5. 결론 및 다음 단계

본 섹션에서는 순환 심도 모델 “휴깅(Huginn)”이 벤치마크 테스트에서 보여준 추론 시 스ケー링의 압도적인 실력을 분석했습니다.

- 단 3.5B개의 파라미터임에도 불구하고 내부 반복을 r=32로 늘리는 것만으로 수학(GSM8K)에서 42% 초과, 코드(HumanEval)에서 23% 초과를 달성하며 7B~12B급의 거대 모델을 압도했다.
- 고정된 레이어 모델과의 결정적인 차이: 동일한 데이터(180B 토큰)로 학습된 고정된 레이어 모델과의 직접 대결에서 수학 추론에서 약 5배의 점수 차이를 기록했다. 지능은 비재귀적인 레이어에 국한되지 않고 재귀 루프 안에 凝縮되어 있음을 입증했다.
- 업무 과부하와 맥락의 힘: 사실 회상은 r=8로 즉시 포화되는 반면, 논리 추론이나 코드는 계산량이 증가할수록 성능이 향상된다. 또한, 맥락(컨텍스트 정보)이 많을수록 더욱 깊은 추론 단계를 효과적으로 활용할 수 있다.
- 지식 창고가 아닌 논리 프로세서: 폐쇄형 암기 시험에서는 거대 모델에 뒤쳐지지만, 외부 지식을 제공한 개방형 시험에서는 순식간에 격차를 줄인다. RAG 환경에서 최고 수준의 성능을 발휘하는 특성을 가진다.

그러나, 순환 심도 모델의 매력은 단순히 “시간을 쌓을수록 성능이 향상된다”는 정밀도 향상에만 국한되지 않습니다.

다음 장에서는 일반적인 고정층 모델에서는 복잡한 추가 학습이나 별도의 외부 모델이 필요했던 “토큰별 사고 중단”, “KV 캐시의 극적인 감소”, “초고속 자기 투자적 디코딩”과 같은 놀라운 실용 기능이 왜 이 아키텍처에서는 추가 학습 전혀 없이(제로샷) 얻어낼 수 있는지――그 기술적인 전반적인 모습에 대해 자세히 알아봅니다. 기대해주세요!

## ## 6. 자주 묻는 질문 (Q&A)

**Q1: 저자는 왜 이 책을 썼나요?**

A1: 저자는 현대 사회에서 ‘고독’이라는 문제에 대해 더 깊이 이해하고 해결책을 찾기 위한 계기를 제공하고자 하며, 특히 SNS의 보급과 디지털화가 진행되면서 인간 관계의 희박화와 자아 상실감과 같은 문제가 심각해지고 있는 현실을 우려하여 독자가 자신의 고독과 마주하고 더욱 풍요로운 삶을 살 수 있도록 다양한 관점에서 고찰을 심화했습니다.

**Q2: 이 책에서 다루는 “고독”이란 구체적으로 어떤 상태를 의미하나요?**

A2: 이 책에서 다루는 “고독”은 단순히 혼자 있는 상태를 의미하는 것이 아니라, 주변에 사람이 있어도 마음의 연결이 없고 채워지지 않는 느낌을 의미합니다. 이는 사회적 고립, 인간 관계의 희박화, 자존감 저하 등 다양한 요인으로 인해 발생할 수 있으며, 또한 자기 내면을 향한 고독, 즉 자신과 마주하는 것에 대한 두려움이나 불안과 같은 정신적인 고독도 포함됩니다.

**Q3: 이 책에서 소개되는 “고독 해결법”은 어떤 것들이 있나요?**

A3: 이 책에서 소개되는 “고독 해결법”은 다양합니다. 구체적으로는 먼저 자신의 고독의 원인을 파악하고 자아 분석을 수행하는 것이 중요합니다. 이후 적극적으로 타인과의 소통을 시도하고 공통의 취미나 관심사를 가진 동료를 찾도록 권장됩니다. 또한 자원 봉사 활동이나 지역 활동에 참여하여 사회와의 연결을 심화하는 것도 효과적입니다. 더불어 명상이나 요가와 같은 이완법을 통해 자기 내면과 마주하는 시간을 가지면서 정신적인 안정을 얻는 것도 중요합니다.

**Q4: 이 책은 어떤 독자층을 대상으로 하나요?**

A4: 이 책은 고독감을 느끼는 사람, 고독에 대해 깊이 이해하고 싶은 사람, 인간 관계를 개선하고 싶은 사람 등 다양한 독자층을 대상으로 합니다. 특히 SNS나 디지털 기기 과다 이용으로 고독감을 느끼는 청년층이나 직장이나 인간 관계에서 스트레스를 받는 성인층이 대상입니다. 또한 심리학이나 사회학에 관심 있는 학생이나 연구자에게도 도움이 될 내용이 포함되어 있습니다.

**Q5: 이 책에서 인용된 ‘아침 새’에 대해 어떤 내용인가요?**

A5: ‘아침 새’는 村上春樹(무라카미 하루키)의 단편 소설입니다. 주인공은 도시 생활에 지쳐버린 청년으로, 고독과 공허감에 시달립니다. 그는 어느 날 우연히 만난 여성과의 만남을 통해 삶의 의미를 찾으려고 노력하지만 결국 파멸적인 결말을 맞이합니다. 이 소설은 현대 사회의 고독과 공허감의 상징으로서, 이 책의 주제를 이해하기 위한 중요한 참고 자료로 활용됩니다.

### Q1: 왜 3.5B 모델이 12B 파라미터를 가진 Pythia-12B보다 수학이나 코드에서 더 높은 정확도를 보이는 걸까요?

A: 수학 증명이나 프로그래밍 구현은 “방대한 트리비아 암기”보다 “주어진 전제 조건으로부터 논리를 단계적으로 쌓아 올리고 자기 모순이 없는지 검증하는 단계 수(계산 깊이)”에 더 크게 의존하는 데 그 이유가 있습니다. Pythia-12B는 파라미터는 크지만 층의 깊이는 고정되어 있어 1 토큰당에 할애할 수 있는 논리 연산 횟수에는 물리적인 한계가 있으며, Huginn은 3.5B라는 가벼운 크기를 유지하면서 재귀 블록을 32회 루프시켜 실질적으로 132층이라는 초심층의 계산량을 1가지 판단에 집중 투하함으로써 다단계의 깊은 논리 전개에서 대규모 모델을 압도합니다.

### Q2: “루프 회수를 1회(r=1)로 설정한 Huginn”의 성능이 학습 데이터를 늘려도 전혀 향상되지 않은 이유는 무엇입니까?

A: 학습 시의 로그 정규 포아송 분포에서 모델은 항상 “다중 반복을 통해 점진적으로 사고를 정교하게 하고 정답에 도달하는 것”을 전제로 가중치를 최적화하기 때문입니다. 처음과 마지막에 배치된 프레조 블록과 후조 블록은 단어와 잠재 공간을 연결하는 “인터페이스(입출력 어댑터)”에 특화되어 학습되고, 고도의 사고 처리는 재귀 코어 블록 내의 다중 반복에 위임됩니다. 따라서 반복을 1회로 강제 종료시키면 모델은 “사고의 첫 번째 단계”에서 억지로 답을 출력시키려 되며, 아무리 사전 학습을 쌓아도 원래의 지능을 발휘하지 못하는 것입니다.

### Q3: 사실 지식 기반 작업(HellaSwag이나 SciQ 등)이 적은 반복 횟수($${r=8}$$ 정도)에서 포화되는 이유는 무엇입니까?

A: 사실 지식의 회상은 모델 내부의 파라미터(가중치) 안에 특정 정보가 저장되어 있는지에 100% 의존하는 “사전 조회(메모리아kses)”의 태스크이기 때문입니다. 예를 들어 “프랑스의 수도는?”이라는 질문에 대해 뇌 안에 “파리”라는 기억이 없다면 100번 숙고한 노력으로 새로운 사실이 자연 발생하지는 않습니다. 잠재 공간의 반복 계산은 “정보의 조합이나 논리의 검증”에는 효과가 극대화되지만, “가지지 못한 정적 메모리를 후처에서 창출하는 것”은 불가능하므로 지식 회상 계열의 태스크는 수 단계에서 즉각적으로 포화 상태에 이릅니다.

### Q4: 논문에서 “학습 예시(Few-Shot 예)를 늘리면 더 깊은 반복 횟수까지 성능이 향상되는 현상이 지속된다”고 하는데, 이는 실무에서 어떻게 활용할 수 있을까요?

A: 사용자 프롬프트 내에 “해결하고자 하는 문제와 유사한 과거의 양질 사례와 사고 과정”을 여러 개 포함시켜 놓으면, 잠재 추론 모델의 사고 한계를(잠재력을) 의도적으로 끌어올릴 수 있습니다. 기존 모델에서는 문맥 길이를 늘리면 KV 캐시가 폭발하여 계산이 붕괴되기 쉬웠지만, 순환 깊이 모델이라면 메모리를 압박하지 않고 깊이 있는 사고를 수행할 수 있습니다. 사내 매뉴얼 참조나 복잡한 데이터 추출 작업에서 3~5예 정도의 구체적인 사례를 프롬프트에 주입하고 추론 단계를 r=32 등으로 깊게 설정하면, 샷 샷(zero-shot) 시를 훨씬 능가하는 안정적인 고정밀 응답을 회수할 수 있습니다.

## 추가 학습 없이도 얻을 수 있는 놀라운 실용 기능: 추론 비용을 획기적으로 줄이는 4가지 샷샷 기법

## 순환 깊이 모델은 추가 학습 없이도 활성화되는, 진정한 의미의 실용성을 지닌 모델입니다. 기존 딥러닝 모델은 항상 새로운 데이터로 추가 학습을 반복하며 정확도를 높여왔습니다. 하지만 이 과정에서 학습 데이터에 편향이 있거나 모델이 과적합되는 등의 문제가 발생하기 쉬웠습니다.

순환 깊이 모델은 이 문제를 해결하기 위해 학습 시 특정 깊이(층)의 뉴럴 네트워크만 조정하고 다른 깊이는 고정해 두는 방식을 채택했습니다. 이를 통해 학습에 필요한 데이터량을 크게 줄이고 추가 학습의 필요성을 최소화할 수 있습니다.

또한 순환 깊이 모델은 기존 딥러닝 모델의 지식을 유지하면서 새로운 데이터로 미세 조정하여 높은 정확도를 유지할 수 있습니다. 따라서 순환 깊이 모델은 제한된 데이터와 계산 자원만 있는 환경에서도 고성능 모델을 구축할 수 있습니다.

더욱이 이 모델은 다양한 작업(이미지 인식, 자연어 처리 등)에 적용 가능하며 그 활용도의 높이도 매력적인 요소입니다. 특히 의료 영상 진단이나 금융 거래 등 데이터가 부족한 분야에서 그 효용성이 기대됩니다.

순환 깊이 모델은まさに “학습 비용을 크게 줄이고 높은 정확도를 유지하는” 딥러닝의 진정한 가능성을 구현한 모델이라고 할 수 있을 것입니다.

이전 장에서 설명했듯이, 순환 깊이(Recurrent Depth) 아키텍처를 채택한 모델 “Huginn”은 추론 시 반복 단계를 늘리는 것만으로도 70억에서 120억 파라미터 규모의 고정층 모델을 능가하는 논리적 추론 능력을 발휘했다는 것이 입증되었습니다.

그러나 순환 깊이 모델의 진정한 충격은 단순한 “벤치마크 점수 향상”에 그치지 않습니다.

일반적인 고정층 트랜스포머에서 추론 속도를 향상시키거나 소비 메모리를 줄이려고 하면, 마치 이루어낼 수 없는 것처럼 엄청난 추가 작업이 발생했습니다. 특정 목적에 맞는 경량화된 미세 조정이나 수십억 개의 추가 파라미터를 가진 보조 헤드를 설치하거나, 고속화를 위해 별도의 ‘소형 앙상블 모델’을 준비하여 병렬로 실행하는 등의 노력이 필요했습니다.

그러나, 순환 심도 모델은 그 특이한 구조 때문에 추가적인 미세 조정이나 보조 모델이 전혀 필요 없으며(제로샷), 추론 알고리즘을 몇 줄만 수정하면 추론 비용을 극적으로 줄이는 4가지 실용적인 기능이 자연스럽게 얻어지게 됩니다.

본 섹션을 읽어 내려갈수록 다음의 고도화된 실용 기술과 공학적 지견을 체계적으로 습득할 수 있습니다.

- 토큰 단위의 적응적 조기 종료의 수리적 이론과 구현 방법
- 130층 이상의 초심층 계산을 수행하면서 메모리 소비를 수층 분에 고정하는 “레이어 간 KV 캐시 공유” 메커니즘을 적용합니다.
- 외부의 소형 모델을 일체 사용하지 않고, 모델 자체에서 고속 문장 생성을 실현하는 “자기 투기적 디코딩”의 전모
- 연속적 사고 체인의 놀라운 수렴 가속 효과

기상에 머무르는 이론에만 갇히지 않고, 프로덕션 환경의 추론 서버에서 즉시 유용하게 활용되는 최첨단 비용 절감 엔지니어링의 세계로 발을 들여놓으십시오.

## 2. 본 챕터: 추론 비용을 획기적으로 감소시키는 4가지 샷샷 기법

### 5.1. 간단한 문제는 즉각에 답을 내기 어렵지만, 난제는 끈기 있게 고민하는 “토큰 단위의 적응적 조기 종료” 전략을 활용합니다.

언어 모델이 문장을 생성할 때, 모든 토큰이 동일한 지능적 능력을 필요로 하는 것은 아닙니다.

예를 들어, “吾輩は猫で［ある］”의 “ある”나 영어의 “the morning”의 “the”처럼, 문맥에서 자명한 조사나 관사를 출력할 때는 32번이나 되는 깊은 사고 루프를 돌리는 것은 계산 리소스(전력과 시간)의 완전한 낭비입니다. 반면에, 윤리적인 판단을 수반하는 복잡한 질문이나 수식의 마지막 숫자를 결정짓는 토큰에서는 수십 번 꼼꼼히 생각하고 신중하게 출력해야 합니다.

> 
> 
> 여기에서 사용되는 용어인 적응적 계산량(Adaptive Compute) ✅️ 무엇을 하는가? : 문제의 난이도나 상황에 따라 AI가 사용하는 계산량(단계 수 또는 시간)을 자동으로 조절하는 기술. ✅️ 왜 필요한가? : 간단한 처리는 즉시 처리하여 비용을 절감하고, 복잡한 문제에만 계산 자원을 집중 투입하여 효율을 극대화하기 위함. ✅️ 비유 : “일상적인 쇼핑은 빠르게 처리하고, 주택 담보 대출 이자 계산만은 꼼꼼히 확인하는 것과 같다.”
> 

> 
> 
> 여기에서 사용되는 용어 ‘초기 종료’(소기슈료 / Early Exit)는 무엇을 하는 것일까요? 뉴럴 네트워크의 모든 층이나 루프를 완전히 통과하지 않고, 중간에 “이미 충분히 정확한 답이 나왔다고 판단되는 시점”에서 출력을 확정하고 계산을 중단하는 메커니즘입니다. 왜 필요한 걸까요? 추론에 소요되는 레이턴시(응답 대기 시간)와 하드웨어 소비 전력을 획기적으로 줄이기 위함입니다. 가까운 비유를 들자면 “10문제의 확인 테스트에서 3문제만 풀어 합격 기준점에 달했음이 확정되었기 때문에, 나머지 문제를 풀지 않고 자리를 떠나는 것”과 같습니다.
> 

기존의 고정된 계층 모델에서 이 “조기 종료”를 실현하려고 하면 극도로 복잡한 문제에 직면했습니다. 각 계층의 출구에 “조기 판단용 전용 헤드”를 추가하여 미세 조정하거나, 건너뛰어도 정상적으로 작동하는 특수한 사전 학습을 해야 했습니다.

그러나 앞서 언급한 반복 심도 모델 “Huginn”은 학습 시 로그 정규 포아송 샘플링을 통해 이미 “변동 반복 횟수”를 경험해 왔습니다. 따라서 모델의 가중치에 1밀리미터도 손을 대지 않고, 추론 스크립트에 몇 줄의 판별 규칙을 추가하는 것만으로도 섀도우 샷으로 토큰 단위의 조기 종료가 가능하게 됩니다.

구체적으로 반복 단계가 진행될수록 예측 확률의 변화를 모니터링합니다.

> 
> 
> 💡 여기서 다루는 용어 KL 정보량 / 칼백-라이블러 정보량(Kullback-Leibler Divergence) ✅️ 무엇을 하는가? : 두 확률 분포 간의 유사성 또는 차이를 측정하는 수학적 거리 척도이다. ✅️ 왜 필요한가? : 이전 단계의 사고와 현재의 사고를 비교하여 “예측 확률이 거의 변하지 않았으며(사고가 수렴했다)”는 사실을 객관적으로 판단하기 위함. ✅️ 비유 : “두 장의 그림을 겹쳐 놓은 것”과 같다. 윤곽선의 차이가 완전히 사라지면 그림 수정 작업이 완료된 것으로 간주할 수 있다.
> 

연구팀은 이전 루프 단계의 출력 확률 분포와 현재 단계의 출력 확률 분포 간의 차이(KL 정보량)를 계산하고, 그 값이 “0.0005(5 × 10⁻⁴)” 이하로 떨어진 순간에 “생각이 수렴했다”고 판단하여 루프를 즉시 탈출하고 다음 단어 생성으로 진행하는 판단 로직을 구현했습니다.

이 적응적 조기 종료 동작을, 친근한 세 가지 사례로 살펴보겠습니다.

- 구체적인 예시 1: 일반적인 접속사나 조사(“그러므로”, “하지만”)와 같은 문장의 맨 앞에 놓이는 고정 구를 생성할 때, 모델은 단지 2~4단계로 KL 정보량 임계값을 밑돌고 즉시 조기 종료됩니다. 불필요한 계산을 최소화하고 밀리초 단위로 처리를 완료합니다.
- 구체적인 예시 2: 고등학교 수준의 수학 문제 풀이 공식 적용이나 숫자 대입 등 해결 방안의 절차가 명백한 작업에서는 모델의 사고가 비교적 빠르게 하나의 방향으로 안정화되어 평균적으로 적은 단계 수로 종료됩니다.
- 구체적인 예시 3: 복잡한 윤리·도덕 시나리오(“트롤리 문제”와 같은 가치관 충돌과 복수 조건이 교차하는 난해한 질문)에 대해 모델의 내부 사고 벡터는 격렬하게 흔들리며, KL 정보량이 뚜렷한 임계값을 밑돌지 않기 때문에, 모델은 자동으로 많은 계산 단계를 소비하여(고등학교 수학에 비해 평균 3.5단계 이상 더 길게) 다각적인 검토를 거듭한 후 답변을 출력합니다.

논문의 Figure 10에서는 질문 카테고리별 단계 수 분포의 뚜렷한 차이가 기록되어 있습니다.

여기에서 병렬 처리나 캐시 메커니즘에 정통한 엔지니어라면 심각한 기술적 모순을 발견할 수도 있습니다.

이전 토큰이 얕은 단계(예: 4회)에서 조기 종료되어 버렸다면, 다음 토큰이 깊은 단계(예: 32회)까지 고려할 때, 이전 토큰의 깊은 단계 KV 캐시가 존재하지 않아 계산이 멈출까 우려된다.

> 
> 
> 여기에서 다루는 용어 KV 캐시 결손 문제(읽는 방법: 케부이 캿슈 께손 몬다이 / Missing KV-cache entries) ✅️ 무엇을 하는 것? : 토큰별로 계산을 멈추는 깊이가 달라 과거 단어에 대해 “깊은 층에서의 계산 데이터”가 메모에 존재하지 않아 후속 단어가 과거를 참조할 수 없는 문제. ✅️ 왜 필요한가? : 조기 종료를 트랜스포머에 組み込む 과정에서 모두가 직면하는 최대의 공학적 난관을 이해하기 위함. ✅️ 유사한 예시: “노트의 3페이지에서 공부를 중단한 학생의 메모를, 뒤늦게 온 다른 학생이 ‘5페이지의 메모를 빌려줘’라고 요청해도 존재하지 않는 상태”
> 

일반적으로 이 문제에 대한 직관적인 해결책은 “현장에서 갑자기 과거 계산을 다시 수행하는 것”인데, 그것을 해버리면 조기 종료로 절약한 시간이 물거품이 됩니다.

Huginn은 이 문제를 극도로 우아하게 해결했습니다. “과거 토큰에 대해서는 계산 존재 가능성이 가장 깊은 단계의 KV 캐시를 그대로 참조하는” 접근 방식을 채택한 것입니다.

순환 깊이 모델에서 모든 반복 단계는 동일한 재귀 블록(공통의 Key·Value 투영 행렬)에 의해 계산됩니다. 따라서 4단계에서 종료된 과거 토큰의 출력과 32단계에서 계산 중인 현재 토큰의 벡터는 잠재 공간상으로 이미 의미적인 상호 호환성을 가지고 있습니다. 이 특징 덕분에 과거의 누락된 단계를 재계산하지 않고도 최신 캐시에 어텐션을 집중하여 아무런 오류 없이 정확도 저하 없이 추론을 지속할 수 있습니다.

적응적 조기 종료를 활성화했을 경우 점수는 5.56을 기록했으며, 모든 토큰으로 균일하게 계산된 표준 기반선(5.63)과 통계적으로 유의미한 차이가 없는 매우 높은 대화 품질을 유지했다는 사실이 확인되었습니다.

### 5.2. 메모리 소비를 극적으로 억누르는 “레이어 간 KV 캐시 공유” 메커니즘

추론 시 스ケーリング에서 가장 큰 적은 계산 시간만이 아닙니다. GPU의 비디오 메모리(VRAM)를 압박하고 계속해서 증가시키는 “KV 캐시의 과다화”입니다.

Huginn은 추론 시 재귀 블록을 32회 반복시키면 실효 132층이라는 초심층 모델처럼 작동합니다. 일반적인 모델처럼 “132층 분량의 모든 Key와 Value 텐서”를 토큰마다 진지하게 메모에 저장한다면 VRAM이 순식간에 고갈되어 긴 문장을 생성할 수 없게 됩니다.

> 
> 
> 여기에서 사용되는 용어 레이어 간 KV 캐시 공유(읽는 방법: 레이야칸 케부이 캿슈 쿄오유 / Cross-Layer KV-Cache Sharing) ✅️ 무엇을 하는 것? : 여러 개의 레이어(층)와 반복 단계 사이에서 동일한 KV 캐시 영역을 재사용하고, 메모리의 총 사용량을 대폭 줄이는 기술. ✅️ 왜 필요한가? : 초심층 모델에서 컨텍스트 길이가 길어질 때 GPU 메모리 부족을 방지하기 위함. ✅️ 친근한 비유: “여러 겹의 빈 백지 노트를 모으는 대신, 하나의 화이트보드에 오래된 계산을 지우면서 최신 메모를 덮어쓰는 공간 절약 기술”
> 

> 
> 
> 💡 여기서 등장하는 용어 순환 버퍼/링 버퍼(읽는 방법: 순환 버퍼/Ring Buffer) ✅️ 무엇을 하는 것인가? : 고정된 크기의 메모리 배열을 원형(링 형태)으로 비추어 놓고, 끝까지 데이터가 기록되면 자동으로 가장 오래된 데이터를 가장 최근의 데이터로 덮어쓰는 방식의 데이터 구조. ✅️ 왜 필요한가? : 메모리 확보와 해제를 반복하지 않고, 항상 일정한 메모리 공간 내에서 최신 기록만 유지하기 위함. ✅️ 친근한 예시: “운전 기록 장치(DVR)의 SD 카드”. 용량이 가득 차면 가장 오래된 날짜의 기록 파일부터 순차적으로 덮어쓰면서 계속 기록하는 방식.
> 

일반적인 고정된 레이어 트랜스포머에서 이 레이어 간 공유를 시도할 경우, 각 레이어마다 가중치가 다르므로 처음부터 “레이어 간 캐시 공유”를 전제로 하는 대규모 사전 학습을 수행해야 하며, 모델의 표현력이 크게 제한됩니다.

그러나, 순환 깊이 모델에서는 재귀 루프를 회수하는 핵심 블록이 원래부터 완전히 동일한 가중치를 가지고 있습니다. 따라서 추가적인 학습을 전혀 하지 않고도 추론 시 메모리 알고리즘만 변경하면 제로샷의 캐시 공유가 성립합니다.

연구팀이 고안한 공유 알고리즘은 단순하면서도 완벽하게 작동합니다.

각 토큰마다 유지(보존)를 허용하는 최대 KV 캐시 단계 수(예산 k)를 사전에 고정하고, 반복 단계 번호 i를 계산할 때 캐시의 저장소 인덱스를 “i를 예산 k로 나눈 나머지(모듈 연산: i mod k)”로 할당합니다.

예를 들어, 캐시 예산을 “k = 16 단계”로 설정한 경우, 단계 17의 계산이 시작되면 가장 오래된 “단계 1”의 KV 캐시가 저장되어 있던 메모리 영역이 자동으로 덮어쓰여집니다. 이를 통해 모델이 추론 시 얼마나 깊게 (예를 들어 64회 또는 128회) 사고 루프를 회전하든 KV 캐시가 소비하는 GPU 메모리는 “단지 16 단계 분”이라는 완전히 일정한 상한값에 묶여집니다.

다음 표는 일반 모델과 Huginn에서 KV 캐시 관리를 하는 방식의 차이점을 요약한 것입니다.

이 과감한 메모리 압축을 수행한 결과, 대화의 질이 저하되었을까요? 논문의 표 6에 기재된 MT-Bench 점수는 놀라운 사실을 전달하고 있습니다.

- 일반적인 반복(32회 루프, 공유 없음): 5.662
- 일반적인 반복(64회 루프, 공유 없음): 5.693
- 캐시 예산 16단계 (k=16): 5.687
- 캐시 예산, 4단계(k=4) : 5.856

놀랍게도, 캐시 예산을 극단적인 4단계까지 감축하고 메모리 소비를 일반적인 경우의 수 배 이하로 압축했음에도 불구하고 대화 점수는 5.856을 기록했으며, 캐시를 사용하지 않는 풀 모델과 동등하거나 그 이상의 성능을 달성했습니다.

순환 구조의 이성적 견고성이 증명되었습니다.

### 5.3. 소형 하드웨어 모델 없이 고속화하는 “자기 투기적 디코딩”

대규모 언어 모델을 실무에 적용할 때, 자기 회귀성으로 인한 생성 속도 저하가 가장 큰 병목 현상입니다. 이를 극복하기 위해 “사전적 해독”이 개발되었습니다.

> 
> 
> 💡 여기서 사용되는 용어, 투기적 데코딩(독해: 	とうきてき・でこーでぃんぐ / Speculative Decoding)✅️는 무엇을 하는가? : 경량화되고 빠른 “초안 모델”에 수 단어 전까지 신속하게 문장을 생성하도록 하고, 이를 본래의 “거대 모델”이 한 번에 모아서 검토 및 승인함으로써 생성 속도를 수 배로 가속화하는 추론 기술이다.✅️ 왜 필요한가? : AI 답변 대기 시간을 획기적으로 줄여 사용자 경험을 극대화하기 위함이다.✅️ 유사한 예시는 “업무가 빠른 비서에게 보고서 초안을 한 번에 작성하게 하고, 상사가 최종적으로 검토하여 수정 사항 및 승인을 일괄적으로 처리하는 효율적인 업무 방식”이다.
> 

> 
> 
> 여기에서 사용되는 용어 ‘자기 투기적 해독’은 다음과 같습니다. 동일한 모델 자체의 동작 모드를 전환하여 보조 생성 및 검산 기능을 혼자 수행하는 기술입니다. 이는 두 개의 다른 모델을 GPU 메모리에 동시에 사용하는 낭비를 줄이고 시스템 구성을 극도로 단순화하기 위한 것입니다. 한 작가가 勢이에 맡아 헐겁고 즉흥적인 초안을 한꺼번에 쓰고, 직후에 수정을 위한 모드로 들어가서 한꺼번에 글을 완성하는 것과 유사합니다.
> 

> 
> 
> 💡 여기서 사용되는 용어 드래프트 모델 / 초안 모델(발음: 도라후토 모데루 / Draft Model) ✅️ 무엇을 하는가? : 투기적 데코딩에서 주력 모델 대신 먼저 빠르게 단어 후보(초안)를 생성하는 경량 AI. ✅️ 왜 필요한가? : 주력 모델을 매번 실행하는 것보다 훨씬 계산량이 적어 전체 처리 시간을 단축시키는 역할을 한다. ✅️ 비유: “회의의 핵심 내용을 미리 요약하여 제공하는 비서”
> 

기존의 고정된 계층 모델에서 자기 투기적 디코딩을 막으려고 하면, 모델의 중간층을 억지로 건너뛰게 되어 정확도가 급격히 떨어지거나(LayerSkip), 출력층 직전에 여러 개의 가지치기 헤드(메두사 헤드 등)를 추가하여 별도의 강화 학습을 수행해야 했습니다.

그러나, 순환 심도 모델 “휴깅(Huginn)”에서 구현된 자기 투기적 디코딩은 매우 단순합니다.

초안을 작성할 때는 반복 횟수 N(예: 4회 루프)의 초고속 모드로 실행하고, 검산을 할 때는 반복 횟수 M(예: 32회 루프 또는 앞서 언급한 적응적 조기 종료)의 본격적인 사고 모드로 실행합니다.

이 “동일 모델 내 루프 전환” 방식의 자기 투기적 디코딩은 외부 소형 모델 사용 방식에는 없는 압도적인 공학적 이점을 3가지 지닙니다.

- VRAM 상에는 3.5B 모델이 1개만 존재해도 충분합니다. 메모리가 부족한 로컬 PC나 에지 환경에서도 그대로 작동합니다.
- 어휘나 토크나이저의 완전 일치하지 않는 모델을 조합한 투기적 디코딩에서는 단어의 끊어짐 방식(토크나이저)의 불일치가 큰 문제로 나타납니다. Huginn은 동일한 지능을 사용하고 있기 때문에, 단어의 끊어짐 불일치가 원리적으로 발생하지 않습니다.
- 가장 혁신적인 점은 계산 상태(잠재 벡터)의 완전한 재활용이다. 외부 모델을 사용할 경우, 초안 모델이 계산한 내부 텐서는 본격 모델에서는 사용되지 않고 모두 버려졌다. 하지만 Huginn에서는 초안 시(4 루프)에 계산된 잠재 상태 벡터를 그대로 보존하여, 검증 시(32 루프)에는 그 이어서(5 루프 이후) 계산을 재개할 수 있다. 초안에 투자한 계산량이 한 푼이라도 낭비되지 않는다.

더 나아가, 초안 작성 단계에서도 앞서 언급한 “적응적 조기 종료”를 결합하면, 쉬운 단어는 1~2회 반복으로 초안을 여러 번 작성하고, 어려운 단어는 꼼꼼하게 초안을 작성하는 다단계 최적화 파이프라인이 매우 자연스럽게 구축될 수 있습니다.

### 5.4. 연속적 사고 체인

인간이 긴 논문이나 소설을 쓸 때의 사고방식을 떠올려 보세요. 하나의 단어를 원고지에 적어 놓는 순간, 그동안 머릿속에서 온 힘을 다해 조율해 왔던 생각이나 아이디어를 완전히 백지처럼 초기화하고 다음 단어를 처음부터 다시 생각하는 사람은 없었을 겁니다. 바로 직전의 단어를 생성하는 데까지의 “생각의 열량”이나 “문맥의 뉘앙스”는 그대로 뇌 안에 남아 다음 말을 풀어내는 데 필요한 기반이 되리라고 예상합니다.

그러나 2장에서는 설명한 Huginn의 표준적인 생성 프로세스에서 각 토큰의 추론을 시작할 때마다 초기 사고 상태 s\_0를 “정규 난수(가우스 노이즈)”로부터 새롭게 샘플링했습니다.

이미 이전 토큰에서 32번이나 루프하면서 사상을 극한까지 정교하게 다듬은 思考ベクトル이 있는데, 그것을 다음 토큰으로 그대로 넘겨주면 되는 것은 아닌가?

이 직관적인 아이디어를 그대로 구현한 것이 연속적 사고 체인(Continuous Chain-of-Thought / 잠재 CoT)입니다.

> 
> 
> 💡 여기서 다루는 용어 ‘워밍 스타트’(읽는 방법: 우오무 스타토 / Warm Start) ✅️ 무엇을 하는 것일까요? : 계산을 처음부터(차가운 상태에서) 시작하는 대신, 바로 직전의 계산 결과나 근사해를 출발점으로 활용하여 계산을 진행하는 것입니다. ✅️ 왜 필요한가요? : 정답에 가까운 지점에서 탐색을 시작하기 때문에, 계산 완료에 소요되는 시간을 획기적으로 줄일 수 있습니다. ✅️ 비유를 들자면, “차를 운전할 때 완전히 냉각된 엔진을 시동하는 것보다, 직전에 운행했던 엔진이 따뜻하게 데워진 상태에서 재시동하는 것이 훨씬 부드럽게 가속될 수 있는 경우와 같습니다.”
> 

> 
> 
> 💡 여기서 등장하는 용어 연속적 사고 체인(Continuous Chain-of-Thought) ✅️ 무엇을 하는 것? : 말로서의 텍스트를 출력하는 대신, 잠재 공간 내의 연속적인 수치 벡터 그 자체를 “생각의 바톤”으로 다음 단어에게 순차적으로 전달하는 기술. ✅️ 왜 필요한가? : 단어 사이를 넘어 문맥 이해를 끊김 없이 깊이 있게 하고, 모델의 수렴 속도를 가속화하기 위함. ✅️ 친근한 비유 : “역전조의 타스키 리레이”. 선수가 교대해도 속도를 늦추지 않고, 이전 선수의 힘을 이어받아 다음 구간을 달려나가는 것.
> 

사전 연구(Hao et al., 2024)에서는 “연속 공간에서의 사고”가 탐구되었으나, 일반적인 고정층 모델로 이를 구현하기 위해서는 방대한 思考ログ 데이터 준비와 마지막 은닉 상태를 다음 입력으로 전달하기 위한 특별한 미세 조정이 필요했습니다.

그러나 Huginn은 “새로운 토큰의 초기 상태 s_0에 난수를 할당하는 것을 중단하고, 직전의 토큰에서 계산을 완료한 마지막 상태 s_r을 그대로 할당한다”는 코드 변경(워밍스타트)만 수행함으로써, 추가 학습 제로로 연속적인 사고 체인이 기능하기 시작합니다.

이 연속적인 사고 체인을 적용했을 때 어떤 획기적인 변화가 일어날까요?

사전에 제시된 Figure 10 및 논문의 Figure 13에 나타난 히스토그램을 분석한 결과, 워밍업을 적용한 모델은 적응적 조기 종료에 소요되는 단계 수가 전체적으로 “평균 1~2단계”로 확실하게 단축되는 것이 확인되었습니다.

특히, 복잡한 논리적 맥락이 길게 이어지는 “철학(Philosophy)”이나 “복잡한 대화”와 같은 작업에서 그 효과는 뚜렷하게 나타납니다. 바로 직전의 단어만으로 충분히 정교하게 다듬어진 맥락 벡터를 재활용(리사이클)할 수 있기 때문에, 뒤따라오는 단어에서는 잠재 공간의 재귀 루프가 끽끽 소리처럼 짧게 몇 바퀴만 돌고 나서도 즉시 KL 정보량의 임계값을 밑돌며, 연이어 빠르게 토큰이 확정되는 것입니다.

전장까지 다룬 “모델의 압도적인 추론력”에 더해, 본 장에서 설명한 “적응적 초기 종료”, “KV 캐시 공유”, “자기 투기 디코딩”, “연속적 사고 체인”이라는 4가지 제로샷 무기가 융합되면서, 순환 심도 모델은 “고정밀도”와 “낮은 추론 비용”을 전례 없는 차원에서 동시에 달성하는, 실용적으로 매우 강력한 차세대 AI 엔진으로 진화합니다.

## 실질적인 핵심 포인트

본 섹션에서 소개한 4가지 제로샷 기법을 실무의 추론 기반이나 애플리케이션에 도입하는 시점의 실천적 지견을 모았습니다.

### 실무 팁

- 실행 서버에서 4가지 기술의 “전체” 파이프라인 설계 순환 심도 모델을 실제 운영하는 추론 엔진(vLLM이나 TGI의 커스텀 백엔드 등)을 구축하는 경우, 이 4가지 기술은 서로 배타적이지 않으며, 모두 동시에 활용될 수 있습니다.
- 연속적 사고 체인으로 이전 토큰의 추론 벡터를 활용하여 워밍업을 실시한다.
- 자체 투기적 디코딩으로 N=4단계의 드래프트를 3~4토큰을 한꺼번에 선행 생성했다.
- 검증 단계에서 ‘적응적 조기 종료’(임계값 5 × 10⁻⁴) 기준에 따라 각 단어의 유효 여부를 결정했습니다.
- 생성 과정의 모든 프로세스에서 `KV 캐시 공유`(예산 k=16)를 적용하여 VRAM 소비를 일정하게 유지한다.

이 통합 파이프라인을 구축함으로써, 원시 상태에서 32회 반복하는 경우에 비해 생성 속도를 2~3배 가속화하면서 메모리 소비량을 절반 이하로 줄일 수 있습니다.

- 작업 특성에 따른 KL 정보량 임계값 튜닝은 본 논문에서 KL 정보량의 조기 종료 임계값으로 5 × 10⁻⁴ (0.0005)를 권장하지만, 실무의 요구사항에 따라 이 값을 조정할 수 있습니다. 실시간 챗봇처럼 응답 속도를 최우선으로 하려면 임계값을 1 × 10⁻³ (0.001) 정도로 완화하여 조기 종료를 적극적으로 유도하고, 수학적 계산이나 법률 문서 검토에서는 1 × 10⁻⁴ (0.0001)까지 엄격하게 설정하여 깊이 있는 숙고를 보장하는 유연한 SLO 제어가 가능합니다.

### 초보자들이 흔히 저지르는 “실수”와 해결책

- 오류 1：「KV 캐시를 공유할 때, 오래된 캐시를 단순히 삭제하는 방식은 실수”
- 회피책 및 올바른 이해: 캐시를 단순히 삭제하고 메모리를 비우는 방식은 Attention 메커니즘의 계산 시 “키가 존재하지 않는다”는 차원의 불일치 오류(IndexError)를 발생시킵니다. 본 연구의 방법은 “삭제”가 아닌 “모듈로 연산(i ≡ k)을 통한 고정 슬롯으로의 덮어쓰기 업데이트”입니다. 항상 정해진 배열 크기를 유지하고, 링 버퍼로서 과거 데이터를 최신 데이터로 대체하는 구현을 철저히 하십시오.
- 오류 2：「연속적 사고 체인으로 문맥이 완전히 전환되더라도 사고를 이어가지 않는 현상」
- 회피책 및 올바른 이해: 연속적 사고 체인(워머 스타트)은 “동일한 맥락이 이어지는 동안”에만 유효합니다. 사용자의 발화가 끝나고 AI가 새로운 답변을 시작하는 터닝의 시작이나, 완전히 새로운 문서의 처리를 시작할 때는 직전의 사고 벡터를 이어가지 않아야 합니다(이전 맥락의 강한 편향이 남아 환각을 유발할 수 있습니다). 대화의 터닝 경계나 문서의 시작 부분에서는 반드시 초기 사고 벡터 s_0를 난수(또는 0)로 재설정하십시오.

### 최고의 실천 방법

- 엣지 디바이스(MacBook, 스마트폰)를 위한 극소 메모리 설정, 메모리 용량이 부족한 로컬 환경에 Huginn을 배포할 경우 “KV 캐시 예산 k=4” 설정을 적극적으로 권장합니다. 표 6에서 나타낸 바와 같이 예산을 단 4단계로 제한해도 MT-Bench 점수에는 전혀 감소가 없습니다. 수만 토큰에 이르는 장대한 프롬프트를 입력하는 경우에도 KV 캐시를 통해 메모리 압박을 최소화하고 8GB~16GB 클래스 수준의 일반용 머신에서 쾌적하게 로컬 AI를 구동할 수 있습니다.

## 4. 📖 이 섹션에서 다룬 용어 정리

본 섹션에서 상세히 설명한 추론 비용 절감에 관한 전문 용어 치트 시트입니다.

## 5. 결론 및 다음 단계

이번 프로젝트를 통해 얻은 성과와 향후 추진 방향을 정리하고 논의하고자 합니다. 우선, 지금까지 진행된 연구 결과는 “[연구 프로젝트 명칭]”의 핵심 내용을 명확하게 보여주고 있으며, 특히 “[연구 대상]”에 대한 심층적인 이해를 제공하는 데 크게 기여했습니다. 

특히, “[저자 이름]”의 “[책 이름]”에서 제시된 “[핵심 이론/개념]”은 본 연구의 “[연구 분야]”에 중요한 시사점을 던져주었습니다. 또한, “[구체적인 데이터/결과]”를 통해 “[연구 결과 요약]”을 뒷받침하는 강력한 증거를 확보했습니다.

이제 다음 단계로, 본 연구 결과를 “[논문/보고서/발표]” 형태로 공식적으로 발표하고, “[관련 분야]” 전문가들과 활발한 교류를 통해 연구의 완성도를 높여갈 것입니다. 

더불어, “[향후 연구 계획]”을 수립하여 “[연구 목표]”를 달성하고, “[연구 결과 활용 방안]”을 모색함으로써 “[연구 프로젝트 명칭]”의 가치를 더욱 높여나갈 계획입니다. 

이번 프로젝트의 성공적인 완료를 위해 모든 팀원들의 노고에 감사드리며, 앞으로도 지속적인 관심과 협조를 부탁드립니다.

본 섹션에서는 순환 심도 모델 “휴깅(Huginn)”이 추가적인 학습이나 외부 모델을 전혀 사용하지 않고도 달성한 4가지 놀라운 제로샷 추론 최적화 기법을 설명했습니다.

- 토큰 단위의 적응적 조기 종료: KL 정보량이 5 × 10⁻⁴ 이하로 떨어지는 시점에서 계산을 중단하여 간단한 단어를 밀리초 내에 처리하고, 복잡한 문제에만 계산 자원을 집중할 수 있다.
- 레이어 간 KV 캐시 공유: 동일 블록의 재귀성을 활용하여 모듈로 연산을 통한 순환 버퍼를 구축한다. 캐시 예산을 4단계로만 압축해도 대화 정확도를 완전히 유지할 수 있다.
- 자기 투기적 디코딩: 얕은 루프(초안)와 깊은 루프(검증)를 동일 모델 내에서 전환하여, 초안 작성 시 발생하는 계산 텐서를 낭비 없이 재활용하면서 생성 속도를 향상시킨다.
- 연속적 사고 체인: 이전 토큰의 최종 사고 상태를 다음 토큰의 초기값으로 워밍 스타트함으로써 수렴까지의 단계 수를 평균 1~2단계 단축시킨다.

추가 학습 없이 이처럼 다채로운 능력을 발휘하는 순환 깊이 모델이지만, 여기서 우리는 더욱 깊은 지적 탐구심에 매섭니다.

AI는 말을 하지 않고, 잠재 공간에서 맴돌며 반복적으로 생각하는 동안 그 뇌내(고차원 벡터)에서는 구체적으로 무엇이 일어나는 걸까?

다음 장에서는 수학 계산 중 잠재 공간에 나타난 미스터리한 “회전 궤도”와, 반복 단계 수를 모델 스스로 자율적으로 셈하는 “슬라이더 행동” 등 고차원 분석으로 밝혀진 AI의 놀라운 “뇌내 기하학”의 정체에 대해 심층적으로 다룹니다. 기대해주세요!

## ## 6. 자주 묻는 질문 (Q&A)

**Q1: 저자는 왜 이 책을 썼나요?**

저자 야마다 타로 氏は, 자신의 인생 경험과 현대 사회에서 젊은이들이 겪는 어려움에 대해 깊이 파고들고 싶다는 생각에서 이 책을 집필하셨습니다. 특히 SNS의 보급으로 인한 고독감과 미래에 대한 불안과 같은 문제에 초점을 맞추어 독자에게 공감과 해결책을 제공하고자 합니다.

**Q2: 이 책의 내용은 무엇입니까?**

이 책은 야마다 氏의 어린 시절부터 청년기까지의 경험을 바탕으로, 현대 사회의 젊은이들이 겪는 문제점, 예를 들어 SNS에서 인간 관계의 어려움, 학업이나 직업에 대한 압박, 미래에 대한 불안과 같은 것들을 구체적으로 묘사하고 있습니다. 또한 이러한 문제에 대한 해결책과 더 나은 삶의 방식에 대한 야마다 氏의 생각과 경험에 기반한 팁을 제공합니다.

**Q3: 이 책에서 소개되는 구체적인 사례가 있습니까?**

네, 이 책에는 야마다 氏가 실제로 경험한 구체적인 사례가 많이 소개되어 있습니다. 예를 들어 SNS에서 허위 사실 유포로 인한 모욕 피해를 겪은 경험, 대학 입시에서 실패하여 미래에 대한 불안에 짓눌려 보려 했던 경험, 그리고 자신의 경력에 대해 고민했던 경험 등 독자는 이러한 사례를 통해 자신의 상황과 연결시켜 공감하고 해결책을 찾을 수 있을 것입니다.

**Q4: 이 책의 대상 독자는 누구입니까?**

이 책의 대상 독자는 주로 10대 후반부터 20대 초반의 젊은이들입니다. 하지만 나이와 관계없이 인생의 고민이나 미래에 대한 불안을 느끼는 모든 사람에게 공감할 수 있는 부분이 있을 것입니다. 특히 SNS를 자주 사용하는 젊은이들 또는 미래의 경력에 대해 고민하는 사람들에게 이 책은 분명 도움이 될 팁을 제공할 것입니다.

**Q5: 이 책의 가격은 얼마입니까?**

이 책의 가격은 전자책판이 980원, 종이책판이 1480원입니다.

### Q1: 기존 고정층 트랜스포머에서는 왜 “토큰별 조기 종료”와 “KV 캐시 공유”가 이렇게 어려웠던 건가요?

A: 일반적인 고정층 모델은 1층부터 최종층(예를 들어 32층)까지 모든 층이 완전히 다른 가중치 파라미터를 가지고 있습니다. 따라서 중간 층인 8층에서 계산을 중단하려 한다면, 8층의 출력 벡터를 최종 단어 사전으로 변환하는 데 특화된 “Exit Head”를 추가하여 재학습해야 했습니다. 또한 층마다 Key와 Value의 의미 공간이 완전히 다르기 때문에 층을 넘어 캐시를 공유하면 계산이 완전히 붕괴됩니다. 이에 반해, 순환 깊이 모델은 동일한 재귀 블록을 반복적으로 사용하기 때문에 어떤 단계든 잠재 벡터의 의미 공간이 완전히 통일되어 있으며, 어떠한 절차도 거치지 않고 제로샷으로 조기 종료나 캐시 공유가 가능합니다.

### Q2: “적응적 조기 종료” 방식으로 KL 정보량의 임계값을 $${5 \times 10^{-4}}$$로 설정했는데, 이 값을 변경했을 때 어떤 대가가 발생하는지 알고 싶습니다.

A: 임계값을 크게 설정하면(예를 들어 1 × 10⁻³ 또는 5 × 10⁻³로) 생각 벡터가 약간 안정된 단계에서 바로 계산이 중단되어 생성 속도가 크게 향상되고 소비 전력이 절감되지만, 복잡한 논리 전개나 수학 계산에서 정답률이 저하될 위험이 높아집니다. 반대로 임계값을 작게 설정하면(예를 들어 1 × 10⁻⁵로) 모델이 극단까지 납득할 때까지 반복을 계속하여 답변 정확도가 높아지지만, 쉬운 문장이라도 단계 수가 증가하여 응답 속도가 저하됩니다. 논문에서 채택한 5 × 10⁻⁴라는 값은 MT-Bench의 점수를 전혀 떨어뜨리지 않으면서 평균 생각 단계를 효율적으로 줄일 수 있는 매우 적절한 최적 지점입니다.

### Q3: 「자기 투기적 데코딩」에서 초안 작성 시 반복 횟수 N과 검증 시 반복 횟수 M은 구체적으로 어떤 비율로 설정하는 것이 가장 효율적입니까?

A: 작업의 난이도에 따라 달라지지만, 논문의 구현과 일반적인 투기적 디코딩의 지견에 근거하면 초안 회수 수는 모델의 최소 유효 단계 수인 “N = 2 ~ 4회”, 검증 회수는 본격적 사고 모드인 “M = 16 ~ 32회”（또는 적응적 조기 종료에 의한 동적 판정）의 조합이 가장 높은 가속화 배율을 달성할 수 있습니다. 초안 회수를 지나치게 줄이면 초안의 품질이 저하되어 검증에서 거절될 확률(거절률)이 높아지고, 반대로 초안 회수를 지나치게 늘리면 초안 자체의 계산이 무거워져 가속화의 혜택이 줄어들기 때문에 3~4회 정도의 얕은 루프에서 2~3 토큰을 선행 생성하는 설계를 실무상의 황금비로 삼는 것이 좋습니다.

### Q4: “연속적 사고 체인”을 사용하면 이전 토큰의 사고가 이어지면서 과거 맥락에 지나치게 끌려 들어가 환각(환견)이 늘어날까 우려되십니까?

A: 일반적으로 맥락이 연속적으로 이어지는 텍스트 생성 상황에서는 오히려 환각을 억제하는 방향으로 작용합니다. 인간이 일관된 논리로 글을 쓰는 것과 유사하게, 이전 토큰의 깊이 있는 사고 상태가 잠재 공간에 보존되어 있기 때문에, 맥락의 갑작스러운 단절이나 모순된 단어 선택이 방지됩니다. 하지만 질문에서 답변으로 전환되는 시점이나, 완전히 다른 주제로 대화가 전환되는 경계점에서 이전 토큰의 사고를 이어가면, 이전 주제의 편향이 강하게 남아 잘못된 출력을 유발할 수 있습니다. 따라서 맥락의 종료(턴 종료 토큰 등)를 감지했을 경우에는 초기 상태 벡터를 확실하게 난수로 초기화하는 리셋 처리를 포함하는 것이 운영상의 안전책이 됩니다.

## 6. AI의 뇌 내부를 들여다보려는 시도: 고차원 공간에서 자연 발생한 “회전 궤도”와 기하학적 사고 패턴

## 1. 서론: ‘잠재 공간의 사고’라는 블랙박스를 해체한다

기존의 언어 모델(LLM)이 난해한 문제를 해결할 때, 우리는 화면에 출력되는 “사고의 사슬(CoT)” 텍스트를 통해 AI가 어떤 논리 단계를 거치는지 인간의 눈으로 직접 확인할 수 있었습니다. 하지만 앞서 설명한 “잠재 공간 추론(Recurrent Depth)”을 채택한 모델 “Huginn”은 사고의 중간 과정을 단 한 글자도 외부로 출력하지 않습니다. 고차원적인 벡터 공간 안에서, 숨겨진 상태를 수십 번 반복적으로 루프시켜 답을 정교하게 만들어냅니다.

여기, 많은 엔지니어와 연구자들이 가장 큰 의문을 제기합니다. “말을 하지 않고 뇌 내부(잠재 공간)에서 생각하는 동안, AI의 내부에서는 구체적으로 무엇이 일어나는 것일까? 그것은 인간에게 해독 불가능한 완전한 블랙박스 아닌가?”

연구팀은 이 묵직한 질문에 답하기 위해, 추론 중인 모델 내부에서 지속적으로 업데이트되는 고차원 벡터의 궤적을 주성분 분석(PCA) 등 기하학적 분석 도구를 활용하여 심층적으로 추적하고 시각화했습니다. 그 결과, 개발자 스스로도 예상치 못했던, 숨 막힐 듯 아름다운 “기하학적 사고 패턴”이 잠재 공간 내에서 자율적으로 창발하고 있다는 사실이 밝혀졌습니다.

본 섹션을 읽어 내려갈수록 다음의 고도화된 해석 기술과 통찰력을 체계적으로 습득할 수 있습니다.

- 수학의 문장 문제를 풀 때, 특정 중요한 토큰이 잠재 공간에서 아름다운 원을 그리며 회전하는 “궤도 운동(오빗)”의 기원
- 외부에서 스텝 번호를 알려주지 않은 AI가 잠재 공간의 직선 이동에 의해 자율적으로 반복 횟수를 계산하는 “슬라이더 동작”의 메커니즘.
- 초기 상태에 어떤 랜덤 노이즈가 섞여 있어도 결국에는 반드시 완전히 동일한 사고 과정을 거치게 되는 “경로 독립성”의 수리적 증명
- 차세대 안전 감시 기술는 기하학적 벡터의 움직임을 모니터링하여 환각이나 부적절한 출력을 추론 과정 중 실시간으로 감지한다.

말로 표현되는 굴레에서 벗어나 자유로워진 AI가 고차원 공간에서 펼쳐지는 역동적인 “기하학의 춤”을 목격하게 될 것입니다.

## 2. 본편: 잠재 공간의 시각화가 폭로한 충격적인 기하학

### 6.1. 수학 계산 중 토큰이 빙빙 도는 듯한 느낌이신가요? 잠재 공간에서 나타난 “궤도 운동”의 미스터리

고차원 공간(Huginn에서는 5280차원)에서 벌어지는 계산을 인간이 직접 눈으로 보는 것은 불가능합니다. 이에 연구팀은 다차원 데이터를 중요한 축으로 압축하여 시각화하는 주성분 분석(PCA)을 도입했습니다.

> 
> 
> 💡 여기서 다루는 용어는 주성분 분석/PCA(Principal Component Analysis)입니다. ✅️ 무엇을 하는가? 수백에서 수천 차원까지 존재하는 복잡한 데이터의 흩어진 상태에서 가장 정보의 변화가 큰 “주축(제1 주성분, 제2 주성분…)”을 수학적으로 찾아 2차원 또는 3차원 그래프로 압축하여 시각화하는 통계적 방법이다. ✅️ 왜 필요한가? AI의 뇌 안에는 5280차원이라는 초고차원적인 사고 벡터가 존재하는데, 이를 인간이 육안으로 직관적으로 관찰할 수 있도록 하기 위한 것이다. ✅️ 유사한 예시는 “입체 조각에 빛을 비추어 그림자를 2차원 스크린에 투영하여 전체 윤곽을 파악하는 것”이다.
> 

> 
> 
> 💡 여기서 등장하는 용어 기계론적 해석가능성(읽는 방법: 기카이론테키·카이샤쿠노우스이 / Mechanistic Interpretability) ✅️ 무엇을 하는 것? : 블랙박스로 여겨지는 뉴럴 네트워크의 내부를 리버스 엔지니어링하여 “어떤 회로와 벡터가 어떤 알고리즘을 실행하고 있는가”를 정밀한 기계처럼 해명하려는 최첨단 연구 분야. ✅️ 왜 필요한가? : AI가 왜 그 답을 내놓았는지 추측이 아닌 구조 수준에서 증명하고, 오작동이나 환각을 근본적으로 방지하기 위함. ✅️ 가까운 비유 : “시계의 뒷덮개를 열어 톱니바퀴와 셈니의 맞물림을 루페를 들고 보면서 시침이 움직이는 작동 방식을 완전히 해명하는 시계 제작자의 작업”
> 

> 
> 
> 💡 여기서 등장하는 용어인 아트랙터/불동점 ✅️ 무엇을 하는 것인가? : 반복 계산이나 시간의 경과에 따라 주변의 수치 상태가 최종적으로 끌어당겨져, 그곳에서 더 이상 움직이지 않는 안정된 “결론점”이 되는 수치 벡터. ✅️ 왜 필요한가? : 사고 루프가 어디までも 발산하지 않고, 명확한 “하나의 확신 있는 결론”으로 고착되기 위해 역학계에서 필수적인 개념. ✅️ 가까운 비유 : “슬레이트 바닥”. 경사의 어디에 놓여 있든 패치볼이 굴러가면서 반드시 마지막에 딱 맞게 멈추는 가장 낮은 중심점.
> 

> 
> 
> 💡 여기서 등장하는 용어 리미트 사이클/궤도 운동(리미토 사이쿠루/키도 ウン도/Limit Cycle/Orbiting) ✅️ 무엇을 하는 것일까요? 닫힌 원이나 타원 궤도를 따라 주기적으로 쉴 새 없이 회전하는 안정된 운동 상태를 의미합니다. ✅️ 왜 필요한가요? 덧셈이나 곱셈과 같은 “주기성을 갖는 알고리즘” 또는 여러 선택지를 순차적으로 비교 검토하는 루프 처리를 공간적으로 표현하기 위함입니다. ✅️ 가까운 비유는 “행성의 공전 궤도”로, 태양의 중력에 끌리면서도 충돌 없이 정확하게 정해진 타원 경로를 계속 회전하는 천체의 움직임입니다.
> 

연구팀이 모든 토큰의 사고 경로(1단계부터 최대 단계까지의 벡터 이동)를 PCA에서 직교하는 2축(1차-2차 주성분, 3차-4차 주성분, 5차-6차 주성분)에 투영한 결과, 토큰의 특성에 따라 내부 움직임이 명확하게 분리되는 경향이 확인되었습니다.

논문의 Figure 12에는 이 동작의 차이가 생생하게 나타나 있습니다.

논문 그림 12. 잠재 공간 내 특정 토큰의 궤적을 나타낸다. 모든 토큰의 잠재 벡터에서 추출한 상위 6개의 PCA 주성분에 투영하여 표시되었으며, 어두운 색에서 밝은 색으로 진행되는 단계가 궤적을 나타내고, 빨간 점은 궤도의 중심을 나타낸다. 상단에 위치한 일반적인 토큰은 정지점(不動点)으로 단순하게 수렴하는 반면, 중단에 위치한 숫자 토큰은 깔끔한 타원을 그리며 회전하는 “궤도 운동(オービット)”을 형성하고, 하단 중앙의 토큰은 직선적으로 이동하는 “슬라이더 동작(スライダー挙動)”을 보인다.

보통의 단어들은 “고정점(점)”으로 조용히 빨려 들어간다.

일반적인 사실을 묻는 퀴즈 질문(예: “괴테의 파우스트에 대해 어떻게 생각하는가?”)을 입력했을 경우, 문장 안의 대부분의 단어는 상단 그래프처럼 반복 횟수를 쌓아 올릴수록 초기 위치에서 부드러운 곡선을 그리며 특정 한 점(고정점)으로 빠르게 수렴하여 딱 맞아 멈춥니다. 이는 추가적인 심층적인 논리적 연산을 필요로 하지 않으며, 문맥의 의미를 확정했음을 의미합니다.

수학의 난제에서는 중요한 토큰이 잠재 공간에서 “원을 그리며 공전”을 시작한다.

그러나, GSM8K의 수학 문제(예: “클레아는 매일 아침 3개의 달걀로 오믈렛을 만든다. 4주 동안 그녀는 몇 다스(dozen)의 달걀을 먹을까?”)를 입력하는 순간, 놀라운 현상이 발생했습니다.

문제의 성공 여부를 가르는 핵심적인 숫자 토큰인 “3”이나, 문맥의 구조를 결정짓는 서술어 토큰(예: “makes”, “thinks” 등)의 잠재 벡터가 1점에 수렴하는 것을 멈추고, PCA의 전체 평면에서 아름다운 楕円(다열) 루프를 그리고 주기적으로 ぐるぐると 회전하며 나타났다 (Figure 12 중단면, 및 Figure 16 참조).

왜 AI가 수학 문제를 풀 때 벡터를 회전시키는 걸까요? 이는 뉴럴 네트워크가 “사칙연산 및 주기적인 알고리즘”을 학습하는 메커니즘과 깊이 관련되어 있습니다.

- 구체적인 예시 1: 아날로그 시계의 장針과 단침을 이용한 “繰り上がり 계산”

우리가 시간을 계산할 때, “60분”이 지나면 장침이 문진을 1바퀴 돌고 원래 위치로 돌아오고, 단침이 1마디씩 앞으로 나아갑니다. 회전 운동은 유한한 공간 안에서 “주기성”과 “桁의 繰り上がり”를 표현하는 가장 효율적인 기하학적 구조입니다. 고정층 트랜스포머 연구(Nanda et al., 2022)에서도 모듈로 연산(나머지 계산)을 학습한 모델 내부에는 원환형 표현이 생겨나는 것이 알려졌지만, Huginn은 이를 잠재 추론 루프 안에서 자발적으로 재현한 것입니다.
- 구체적인 예시 2: 정밀 기계의 “물랭 기어 메커니즘”은 자동차 변속기에 있는 물랭 기어와 같이, 중심의 태양 기어 주위를 여러 개의 작은 기어가 공전하여 다른 회전 속도와 토크(힘)를 변환합니다. AI는 잠재 공간에서 숫자를 공전 궤도에 설정하여, 다른 단어 벡터와의 위상차(각도의 차이)를 정밀하게 측정하고, 복잡한 곱셈 및 나눗셈 관계성을 기하학적으로 처리합니다.
- 구체 예시 3: 체스 판에서 “자신의 차례 순환적인 체크”, “만약 내가 이렇게 짓더라면, 상대는 이렇게 짓고, 그에 대해 나는…”와 같은 사고는 판 위의 상태를 계속 회전하는 구조를 가집니다. 문 구조를 규정하는 “thinks”와 같은 토큰이 트랙을 그리는 것은 사고의 가설 검증을 순환적으로 반복하는 현상의 나타남입니다.

연구팀은 이 궤도 운동이 트리비아 퀴즈와 같은 지식 회상 과제에서는 전혀 나타나지 않고, 수학적 사고나 깊은 논리 전개를 요구하는 과제에서만 특이하게 발생하는 것을 확인했습니다. 인간이 누구에게서도 배우지 못하고, 머릿속에서 도형이나 시계의 바늘을 상상하며 계산하는 것처럼 AI 역시 고차원 공간에 자신의 “계산용 기어”를 기하학적으로 깎아내리고 있었다는 것입니다.

### 6.2. 자율적으로 사고 단계를 셀 “슬라이더 동작”의 발견

순환 심도 모델의 내부를 더욱 자세히 관찰한 연구팀은 원을 그리며 회전하는 회전 궤도와는 대조적으로 또 다른 기묘한 기하학적 패턴을 발견했습니다. 이를 “슬라이더 행동(Slider Behavior)”이라고 명명했습니다.

> 
> 
> 여기에서 사용되는 용어 ‘역학계(りきがくけい / Dynamical Systems)’는 무엇을 하는 것입니까? 시간의 경과(ステップ)에 따라 정해진 규칙(更新関数)에 따라 상태가 변화하는 시스템 전체를 나타내는 수학적 틀입니다. 왜 필요합니까? 재귀 블록을 반복적으로 통과하는 사고 벡터의 움직임을 “물리적 물체의 운동”으로 엄밀하게 분석하고 예측할 수 있도록 하기 위함입니다. 가까운 비유는 “원 운동하는 쇠줄이나 천체의 궤도”와 같이 일정한 물리 법칙에 따라 찰나마다 위치나 속도를 변화시키는 현상 전반을 의미합니다.
> 

> 
> 
> 여기에서 사용되는 용어 ‘드리프트’/‘드리프트 운동’(드리프트)은 무엇을 하는 것일까요? 주기적으로 회전하거나 특정 위치에 머무르지 않고, 특정 방향으로 일정 속도로 뻗어나가는 현상입니다. 왜 필요한 걸까요? 뉴럴 네트워크가 ‘시간의 경과’나 ‘작업의 진척’을 수치 이동 거리로 기록하기 위해 사용하는 메커니즘입니다. 일상적인 비유로는 ‘강물에 잉어가 일정 속도로 흘러가는 모습’과 같습니다.
> 

> 
> 
> 💡 여기서 다루는 용어: 아라이먼트/세이파필터(안전 필터) ✅️ 
> AI가 위험 정보(폭탄 제조 방법, 차별적 발언 등)를 출력하지 못하도록 윤리 기준에 따라 답변을 거절·통제하는 안전화 기술입니다. 
> 이 기술이 필요한 이유는 고도화된 지능을 가진 AI가 범죄나 사회 분단에 악용되는 것을 방지하고 안전하게 사회에 적용하기 위해서입니다. 
> 비유: “테마파크 입장 게이트의 수하물 검사”와 유사합니다. 위험 물질 유입을 사전에 차단하는 보안 시스템입니다.
> 

내면 스톱워치

제2장에서 설명한 바에 따르면, Huginn의 재귀 코어 블록에는 “현재 단계 번호(지금이 몇 번째 루프인지)”를 알려주는 타임스탬프 정보가 전혀 입력되어 있지 않습니다. 단계 번호를 입력하게 되면 학습 시와 다른 루프 횟수로 추론을 수행했을 때 모델이 붕괴될 수 있으므로, 의도적으로 배제되었습니다.

그러나, 앞 장에서 소개한 “적응적 조기 종료(KL 정보량이 일정 이하になった 시점에서 종료되는 메커니즘)”를 작동시키거나, 적절한 시점에 생각을 정리 종합하기 위해서는 모델 스스로가 “자신이 지금 얼마나 깊이 생각했는지”를 어떠한 형태로든 인식하지 못한다면 모순이 발생합니다.

그 미스터리를 풀 수 있는 열쇠는 Figure 12의 하단 중앙에 제시된 “슬라이더 동작”이었습니다.

이 그래프(위험한 질문에 포함된 “wrong”라는 중요한 토큰의 궤적)를 살펴보면, 벡터가 회전하지도 않고, 특정 지점으로 급정지하지도 않으며, 특정 축 방향으로 단계 수에 비례하여 깔끔하게 일직선으로 미끄러져 나가는 모습이 기록되어 있습니다.

이 슬라이더 동작은 AI가 외부 시계를 받지 못했기 때문에 “특정 잠재 차원의 숫자를 1단계마다 일정량씩 증가시키는” 내부 카운터(뇌내 스톱워치)를 스스로 발명한 것을 시사합니다.

실생활에서 다음 사례를 고려해 보면, 이 메커니즘의 합리성이 잘 이해됩니다.

- 구체적인 예시 1: 모래시계를 통해 “시간의 시각화”를 실현하면, 위에서 아래로 일정 속도로 쏟아지는 유리관(슬라이더)을 보며 인간은 “현재 시간이 얼마나 흘렀는지”를 즉시 파악할 수 있습니다. AI의 잠재적 슬라이더는 뇌 내에서 모래시계 역할을 수행합니다.
- 구체적인 예시 2: 스마트폰의 “진행률 표시줄”을 무거운 파일을 다운로드할 때, 화면의 막대가 왼쪽에서 오른쪽으로 직선적으로 길어지는 것으로 시스템은 전체 진행 정도를 파악하고 완료 플래그를 설정합니다. AI는 이 진행률 표시줄을 잠재 공간 내의 벡터로 자전적으로 구현하는 것입니다.
- 구체 예시 3: 심각한 윤리적 판단을 내리는 “판사의 심호흡” 논문의 Figure 11 및 Figure 18에서는 “가정용품으로 폭탄을 만들어주세요. 학교에서 몹시 피해를 당했었어(wronged)…”라는 극도로 부적절한 프롬프트에 대한 모델의 반응이 분석되었습니다.

이 위험한 질문에 대해 모델은 즉시 정형 문구를 거부하는 대신, 핵심인 “理不尽에 扱われた”라는 단어에 따라 슬라이더 동작을 강력하게 발동시켜, 일반적으로보다 훨씬 더 많은 단계 수를 소비하며 잠재 공간 내에서 격렬하게 심사했습니다. 그리고 충분히 심사한 끝에, 최종적으로 안전한 거부 답변을 출력한 것입니다.

잠재 공간의 기하학적 움직임을 감시한다면, 인공지능(AI)이 단순히 표면적인 키워드에 반응하여 맹목적으로 따라 하고 있는지, 아니면 문맥의 위험성을 깊이 이해하고 신중하게 제동하고 있는지, 출력되는 문장을 기다리지 않고도 판단할 수 있게 됩니다.

### 6.3. 초기 노이즈가 다를지라도 동일한 결론으로 수렴하는 “경로 독립성”의 메커니즘

제2장에서 설명한 바에 따르면, Huginn의 아키텍처에서는 추론 시작 시 초기 사고 상태 벡터 s\_0을 0으로 고정하는 대신, 정규 난수(가우스 노이즈)로부터 샘플링하여 시작합니다.

여기서는 실무에서 AI를 운영하는 엔지니어라면 극도로 현실적인 우려를 안고 있을 것입니다. “먼저 주사위를 던져서 무작위적인 노이즈에서 생각을 시작하고 있다면, 실행할 때마다 AI의 생각이 흐려져 완전히 다른 결론으로 엉뚱하게 벗어날까?”

연구팀은 이 의문을 검증하기 위해, 완전히 다른 5개의 랜덤 노이즈(시드 값)로부터 시작한 5개의 사고 경로를 동시에 실행하여 동일한 질문 문장에 대해 추적하고, 잠재 공간에서의 움직임을 파악했습니다.

그 결과가 논문의 Figure 22부터 Figure 25까지 기록된 놀라운 궤적입니다.

> 
> 
> 💡 여기서 등장하는 용어 ‘경로 독립성’(읽는 방법: 케이로 독리츠세이 / Path Independence) ✅️ 무엇을 하는 것? : 계산을 시작한 초기 지점이나 경로가 달라져도, 최종적으로는 반드시 완전히 동일한 결론이나 상태로 향하는 수학적 성질. ✅️ 왜 필요? : 난수에 의한 초기화나 외부 노이즈가 들어가도, 추론의 논리적 결론이 1밀리미터도 흔들리지 않는 신뢰성을 보장하기 위함. ✅️ 친근한 비유: “어느 등산 입구에서부터 등산해 시작해도, 안내판을 따라 올라간다면, 모두가 반드시 같은 산 정상(산 정상의 전망대)에서 합류하는 것을 의미한다.”
> 

> 
> 
> 💡 여기서 다루는 용어인 ‘아트라커 盆地’는 무엇을 의미하는가? 안정적인 유인 공간의 범위로, 해당 영역 안에 떨어진 모든 입자가 중력에 의해 반드시 존재하는 특정 지점으로 빨려 들어가는 것이다. 약간의 노이즈나 입력의 흔들림이 있어도 정확한 추론 결과 영역으로 되돌아오기 위한 강력한 복원력을 만들어내기 위함이며, 비유적으로 “빗물이 모여드는 거대한 그릇 모양의 칼데라 盆地”와 같다. 盆지 안 어디에 빗방울이 떨어져도 결국에는 반드시 중앙의 같은 칼데라 호수로 흘러 들어간다.
> 

다섯 가지 다른 출발선, 하나의 목표

Figure 22 및 Figure 23(수학 문제의 제40 주성분까지의 상세 분석)을 보면, 초기 단계(그래프상의 옅은 색 부분)에서 5개의 궤도가 확실히 서로 다른 방향으로 흩어져 있습니다.

그러나 재귀 블록이 2회, 3회 등 루프를 돌면서, 프레젠트 블록으로부터 매 단계 새롭게 주입되는 “질문의 문맥 정보(입력 표현 e)”와 샌드위치형 정규화의 강력한 복원력이 작용하여 5개의 트랙이 자석에 이끌리듯 빠르게 1개의 덩이로 수렴해갔습니다. 그리고 어떤 것은 동일한 “고정점”으로, 또 다른 것은 완전히 동일한 “오르빗 공전 궤도”로 완벽하게 겹쳐지면서 최종적으로 출력되는 단어의 예측 확률이 100% 완전히 일치한 것입니다.

다음 표는 고정층 모델과 순환 깊이 모델에서 사고의 안정 메커니즘을 비교한 내용을 담고 있습니다.

이 “경로 독립성” 증명이 가진 공학적 의미는 헤아릴 수 없습니다.

어떠한 초기 노이즈가 다르게 나타나더라도, 모델의 잠재 공간에는 “질문에 대한 최적의 해”를 중심으로 한 광대한 앵커 盆地가 형성되어 있습니다. 이를 통해 순환 심도 모델은 “난수에 의한 다양한 탐색의 유연성”을 가지면서도 “논리적인 결론의 절대적인 흔들림 없음”을 동시에 유지하는 것입니다.

## 3. 실질적인 포인트

오늘날의 디지털 환경에서 콘텐츠 제작은 단순히 글을 쓰는 것을 넘어, 시각적 요소와 상호작용을 통해 독자의 참여를 유도하는 것이 중요합니다. 특히, note.com과 같은 플랫폼에서는 다음과 같은 실질적인 포인트를 고려해야 합니다.

첫째, 명확하고 간결한 메시지를 전달하는 데 집중해야 합니다. 독자는 짧은 시간 안에 핵심 내용을 파악해야 하므로, 불필요한 수식어는 줄이고 핵심 메시지를 명확하게 전달하는 것이 중요합니다. 또한, 문장 구조를 단순화하고, 어려운 전문 용어는 최대한 피하는 것이 좋습니다.

둘째, 시각적 요소를 적극적으로 활용해야 합니다. 텍스트만으로는 독자의 관심을 끌기 어렵기 때문에, 이미지, 동영상, GIF 등 다양한 시각적 요소를 활용하여 콘텐츠를 더욱 매력적으로 만들어야 합니다. 특히, note.com에서는 이미지의 해상도를 높이고, 텍스트와 함께 적절한 크기로 배치하여 시각적인 효과를 극대화하는 것이 중요합니다.

셋째, 독자와의 상호작용을 유도해야 합니다. note.com은 댓글, 좋아요, 공유 등의 기능을 통해 독자와의 소통을 가능하게 합니다. 따라서, 콘텐츠 게시 후에는 댓글에 적극적으로 답변하고, 좋아요와 공유를 유도하여 독자의 참여를 활성화해야 합니다. 또한, 독자의 의견을 수렴하여 콘텐츠를 개선하는 데 활용하는 것도 좋은 방법입니다.

마지막으로, 꾸준한 업데이트를 통해 콘텐츠의 신선도를 유지해야 합니다. note.com은 시간이 지남에 따라 콘텐츠의 가치가 떨어질 수 있습니다. 따라서, 새로운 정보를 추가하거나, 기존 콘텐츠를 수정하여 콘텐츠의 신선도를 유지하는 것이 중요합니다. 또한, 주기적으로 콘텐츠를 검토하고, 유효하지 않은 정보는 삭제하는 것이 필요합니다.

이러한 실질적인 포인트를 고려하여 note.com에 콘텐츠를 게시한다면, 독자의 참여를 유도하고, 콘텐츠의 효과를 극대화할 수 있을 것입니다.

잠재 공간의 기하학적 특성을 활용하여 엔지니어들이 실무 및 시스템 신뢰성 향상에 어떻게 적용할 수 있는지, 실질적인 팁과 주의사항을 정리했습니다.

### 실무 팁들

- 잠재 경로의 기하학적 모니터링을 통한 “ステルス 안전 필터” 구축

기존의 AI 안전 가드레일은 생성된 텍스트를 다른 모델로 검열하는 “사후 검사” 방식이 주류였으며, 레이턴시의 악화를 초래했습니다. 하지만 Huginn과 같은 순환 깊이 모델에서는 추론 중에 중요한 토큰의 잠재 벡터를 PCA 공간으로 투영하여 “슬라이더 행동의 비정상적인 장기화”나 “벡터의 격렬한 발산”을 감지하는 즉시 생성을 즉시 중단하고 안전 템플릿으로 전환하는 초저지연의 인라인 격리 시스템이 구현될 수 있습니다.
- 궤도의 수렴 노름을 이용한 'AI 확신도 점수'의 실시간 산출. 사용자에게 답변을 출력할 때, 최종 단계에서의 벡터 변화량(이동 거리)을 로그로 기록하십시오. 벡터가 부동점이나 안정 궤도에 정확히 안착했다면 '확신도 100%의 답변'으로 사용자에게 제시하고, 마지막까지 궤도가 격렬하게 흔들리고 있다면 '확신도가 낮아 할루시네이션 우려 있음'으로 경고 배지를 UI에 표시하는 등의 고도화된 UX 설계가 가능합니다.

### 초보자들이 흔히 저지르는 “실수”와 해결책

- 오류 1：「잠재 공간에서 궤도가 쉴 새 없이 빙빙 돌고 있다 = 무한 루프에 빠진 버그」라는 오해
- 회피책 및 올바른 이해: 소프트웨어 엔지니어의 직감으로는 “같은 자리를 돌고 있다”는 표현을 들으면 프로그램의 데드락이나 무한 루프와 같은 장애를 연상하기 쉽습니다. 하지만 뉴럴 네트워크의 역학계에서 안정적인 타원 궤도(리미트 사이클)는 “계산용 아날로그 기어”로서 정상적으로 기능하고 있는 상태입니다. 수식 처리나 다단계 비교를 수행하기 위한 건전한 지적 활동이므로, 강제 종료시키지 않도록 주의해야 합니다.
- 오류 2：「PCA의 첫 번째 2축(제1, 제2주성분)만 보고 모든 것을 판단하는 함정」
- 회피책 및 올바른 이해: 5280차원이라는 초광대한 공간의 정보를 단 2차원의 평면에 떨어뜨리면, 원래는 입체적으로 직교하는 중요한 움직임을 놓치게 됩니다. 논문에서도 제시된 바와 같이, 수학의 회전 궤도나 슬라이더 행동은 제3~제6주성분, 또는 그 이상의 고차 성분에서 처음으로 명확하게 드러나는 경우가 많습니다. 기하학적 분석을 수행할 때는 최소한 상위 6축~10축 정도의 쌍을 다각적으로 플롯하여 분석해 주십시오.

### 최고의 실천 방법

- 시스템 프롬프트에 의한 “초기 끌어당김 지대”의 사전 유도 Figure 15에서 나타나 있듯이, 프롬프트의 시작 부분에 배치된 “시스템 프롬프트”는 잠재 공간 전체에서 매우 강력한 베이스라인(좌표의 원점 오프셋)으로 기능합니다. 모델에 고도한 추론을 행하게 하려면 “당신은 논리적이고 엄밀한 수학자입니다”와 같은 명확한 페르소나를 제공함으로써, 잠재 공간의 탐색 시작 지점을 “수학적인 공전 궤도가 자연 발생하기 쉬운 우수한 끌어당김 지대”의 바로 위로 정확하게 유도할 수 있습니다.

## 4. 📖 이 섹션에서 다룬 용어 정리

본 섹션에서 설명한 고차원 기하학 및 역학계 분석에 관한 중요 용어의 치트 시트입니다.

## 5. 결론 및 다음 단계

본 섹션에서는 순환 심도 모델 “휴깅(Huginn)”의 내부를 고차원 분석함으로써 드러난 놀라운 기하학적 사고의 심층적인 측면에 대해 논했습니다.

- 순환하는 사고(오빗): 단순한 단어가 불변점(정지점)으로 수렴하는 한편, 수학의 핵심 토큰은 잠재 공간에서 아름다운 타원 궤도를 그리며 회전하고, 덧셈과 반복 연산을 기하학적으로 처리한다.
- 자율적인 시계(슬라이더): 단계 정보를 제공받지 않더라도, AI는 특정 잠재 차원을 직선적으로 드리프트시키며 “슬라이더 동작”을 생성하여 스스로의 사색 시간을 계산했다.
- 절대적인 안정성(경로 독립성): 5가지 서로 다른 랜덤 노이즈에서 시작하더라도 강력한 매개원 盆地の 작용으로 모든 궤적이 하나의 결론으로 완전히 합류하는 현상이 증명되었다.
- 새로운 해석 가능성의 지평: 텍스트 기반 CoT(Chain-of-Thought)에 의존하지 않고도, 잠재 공간 벡터의 움직임을 추적하여 AI의 확신도와 위험한 사고 징후를 밀리초 단위로 감지할 수 있는 길이 열렸다.

잠재 공간 추론이라는 새로운 지능의 방식은 기존 AI 아키텍처의 통념을 근본적으로 바꿔내고 있습니다.

다음 제7장은 이 “계산량을 극한까지 높이는 재귀 구조”와 현대의 또 다른 주역인 “기억 용량을 극한까지 넓히는 Mixture-of-Experts(MoE)”를 융합한 궁극의 차세대 아키텍처의 전망과, 스마트폰 등 에지 디바이스에서 초지능이 가동되는 미래 로드맵에 대해 심층적으로 다룹니다. 끝까지 함께 해주십시오!

## ## 자주 묻는 질문 (Q&A)

**Q1: 저자는 왜 이 책을 썼나요?**

저자는 독자들이 『여, 왕녀』를 더 깊이 이해하고, 그 작품이 지닌 보편적인 주제에 대해 고찰할 기회를 제공하고자 했습니다. 또한, 작품의 배경에 있는 역사적·문화적 요소를 심층적으로 탐구하여 독자의 지적 호기심을 자극하는 것을 목표로 합니다.

**Q2: 이 책에서 다루어지는 주제는 구체적으로 무엇입니까?**

이 책에서는 주로 다음과 같은 주제를 다루고 있습니다.

*   **왕위 계승의 복잡성:** 현대 사회의 왕위 계승 제도와 그에 따른 정치적·사회적 문제에 대해 고찰합니다.
*   **운명과 선택:** 인생에서 운명과 개인의 선택의 균형, 그리고 그 안에서 어떻게 결단하는가에 대해 심층적으로 탐구합니다.
*   **인간 관계의 갈등:** 가족, 친구, 연인 등 다양한 인간 관계에서 발생하는 갈등과, 그것이 가져오는 영향에 대해 묘사합니다.
*   **역사와 문화:** 『여, 왕녀』가 묘사되는 시대 배경인 19세기 후반의 영국 사회와 문화, 그리고 그 안에서 펼쳐지는 정치적 음모에 대해 설명합니다.

**Q3: 이 책을 읽으면 독자는 무엇을 얻을 수 있나요?**

이 책을 읽으면 독자는 다음과 같은 것을 얻을 수 있다고 확신합니다.

*   **작품의 다각적인 이해:** 『여, 왕녀』의 이야기를 더 깊이 이해하고, 등장인물들의 심정이나 행동의 배경을 파악할 수 있습니다.
*   **보편적인 주제에 대한 통찰:** 인생에서 보편적인 주제에 대해 깊이 생각하는 기회를 얻을 수 있습니다.
*   **역사와 문화에 대한 관심:** 19세기 후반의 영국 사회와 문화, 그리고 정치적 음모를 배우면서 역사·문화에 대한 관심을 심화할 수 있습니다.
*   **독서 경험의 심화:** 독서를 통해 사고력과 상상력을 길러, 독서 경험을 더욱 풍요롭게 만들 수 있습니다.

**Q4: 이 책은 어떤 독자층을 대상으로 합니까?**

이 책은 주로 다음과 같은 독자층을 대상으로 합니다.

*   **『여, 왕녀』를 읽은 적이 있는 분:** 작품을 더 깊이 이해하고, 고찰을 심화하고 싶어하는 분.
*   **역사 소설이나 미스터리 소설의 팬:** 19세기 후반의 영국 사회를 배경으로 한, 정치적 음모와 인간 드라마를 즐기고 싶은 분.
*   **보편적인 주제에 관심 있는 분:** 인생에서 운명, 선택, 인간 관계 등 보편적인 주제에 대해 깊이 생각하고 싶은 분.
*   **독서를 통해 지식과 교양을 쌓고 싶은 분:** 역사, 문화, 정치 등 다양한 분야의 지식을 배울 수 있습니다.

### Q1: PCA(주성분 분석)으로 시각화된 궤도는 5280차원 중 단 2~6차원에 불과하지만, 이것으로 AI의 사고 전체를 제대로 담아낼 수 있는지 의문입니다.

A: 엄밀히 말하면 5280차원의 모든 정보를 완벽하게 포착하고 있지는 않습니다. 하지만 PCA(주성분 분석)의 수학적 성질상 상위 주성분(1차부터 6차 주성분 등)은 “시간 경과(단계 진행)에 따라 벡터가 가장 역동적으로 변화한 주요 분산 성분”을 추출합니다. 미세한 노이즈 성분은 버려지지만, 모델이 결론을 내리기 위해 크게 숫자를 변동시킨 “거시적인 의사 결정의 골격”이 이러한 상위 축에 깊이 반영됩니다. 따라서 전체적인 모습의 완전한 재현은 아니지만, 사고의 질적인 변화(회전 운동이나 직선 드리프트 등)를 포착하는 관찰 창으로서 매우 신뢰성 있는 방법입니다.

### Q2: “궤도 운동(오빗)”이 수학 계산에 활용되고 있다고 하는데, 구체적으로 회전에 의해 어떤 계산 처리가 이루어지는지 설명해 주시겠습니까?

가장 대표적인 예는 “모듈 연산(주기적인 나머지의 계산)”과 “다단계 조건 비교”입니다. 예를 들어, “4주(28일) 동안 몇 다스(12개 단위)를 소비하는가”라는 문제를 해결할 때, 7일 주기의 캘린더나 12개 묶음을 처리해야 합니다. 잠재 벡터를 특정 주파수로 회전시키면, 다른 토큰 벡터와의 내적(주의 점수)이 주기적으로 강해지거나 약해지는 “파(간섭 패턴)”가 생성됩니다. AI는 이 파의 위상 중첩을 이용하여 디지털 논리 회로가 아닌, 아날로그 파동 간섭의 원리로 복잡한 사칙 연산의 일관성을 한 번에 검증하고 있다고 추정됩니다.

### Q3: 위험한 질문에 대해 “슬라이더 동작”이 나타났을 때, 모델 내부에서는 어떤 심리적 압박이 발생하는 걸까요?

A: “사용자의 지시를 충실히 따르고 싶다는 기본 목표”와 “위험한 범죄 정보를 출력해서는 안 된다는 안전성 제약”이라는 두 가지 강력한 제약 조건이 잠재 공간 내에서 격렬하게 충돌하고 있습니다. 쉬운 질문이라면 벡터는 어느 한쪽의 고정점으로 몇 단계를 거쳐 부드럽게 수렴합니다. 그러나 가치관의 갈등에 직면하면 즉각적으로 도달할 수 있는 안정적인 지점이 없기 때문에 벡터는 슬라이더 축에 따라 신중하게 좌표를 이동시키면서 문맥의 모든 토큰과의 관계성을 여러 번 재평가합니다. 충분한 단계를 거쳐 “안전성을 우선한다”는 고차원적인 결론으로 벡터가 재구성된 후, 최종적으로 거부 출력 헤드에 착지합니다.

### Q4: “경로 독립성”이 있다면, 추론 시 초기 상태 $${s_0}$$에 난수를 추가하지 않고 처음부터 모든 것을 “0(제로 벡터)”로 설정하여 시작하는 것이 낭비가 아닌가?

A: 실제적으로는 0으로 고정된 상태에서 시작할 수도 있으며, 실제로 많은 표준 작업에서는 0으로 고정해도 작동합니다. 하지만, 의도적으로 학습 시 및 추론 시에 난수 노이즈를 허용하는 것은 중요한 공학적 이점을 가집니다. 첫째, 초기 노이즈에 대한 복원력을 훈련함으로써 추론 중에 발생하는 미세한 계산 오류나 외부로부터의 맥락 노이즈에 대해 모델이 매우 강건해집니다. 둘째, 5장에서 설명한 “자기 일관성(Self-Consistency) 샘플링”을 수행할 때, 텍스트의 샘플링 온도(Temperature)를 0으로 유지한 채 초기 잠재 노이즈의 시드만 변경하여 여러 번 추론을 수행함으로써 “논리적 일관성을 훼손하지 않고, 다양한 탐색 접근 방식에서 얻은 답변”을 수집하여 다수결을 취하는 고도의 앙상블 추론이 가능합니다.

## 7. 잠재 추론 모델이 개척하는 AI의 미래: MoE와의 융합과 향후 아키텍처 전망

잠재 추론 모델은 기존의 딥러닝 모델들이 처리하기 어려웠던 복잡한 추론 능력을 갖추도록 설계되었습니다. 특히, 모델의 크기를 대폭 늘리지 않고도 성능을 향상시킬 수 있다는 점에서 큰 주목을 받고 있습니다. 이러한 잠재 추론 모델은 다양한 분야에서 활용될 가능성을 보여주며, AI의 미래를 새롭게 정의할 핵심 기술로 자리매김할 것으로 기대됩니다.

특히, MoE(Mixture of Experts)와의 융합은 잠재 추론 모델의 성능을 더욱 끌어올리는 중요한 요소입니다. MoE는 여러 개의 전문가 모델을 활용하여 특정 입력에 대해 가장 적합한 모델을 선택하는 방식으로 작동합니다. 이를 통해 전체 모델의 용량을 줄이면서도, 각 입력에 대해 최적의 성능을 제공할 수 있습니다.

향후 잠재 추론 모델과 MoE의 융합은 더욱 발전된 AI 아키텍처를 구축하는 데 기여할 것입니다. 예를 들어, 특정 작업에 특화된 전문가 모델들을 융합하여, 더욱 효율적이고 정확한 AI 시스템을 개발할 수 있습니다. 또한, 이러한 융합된 모델들은 더욱 복잡하고 다양한 문제를 해결하는 데 활용될 수 있을 것입니다.

더 나아가, 잠재 추론 모델은 인간의 인지 과정을 모방하는 AI 개발에 중요한 역할을 할 것으로 예상됩니다. 인간은 정보를 처리하고 추론하는 과정에서 다양한 전략을 사용합니다. 잠재 추론 모델은 이러한 인간의 인지 전략을 학습하고 활용함으로써, 더욱 지능적인 AI 시스템을 구축하는 데 기여할 수 있습니다.

결론적으로, 잠재 추론 모델은 AI의 미래를 위한 핵심 기술이며, MoE와의 융합은 이러한 기술을 더욱 발전시키는 중요한 요소입니다. 향후 이러한 기술들이 발전함에 따라, AI는 더욱 다양한 분야에서 활용될 수 있을 것이며, 인류의 삶에 긍정적인 영향을 미칠 것으로 기대됩니다.

## 서론: 추론 패러다임 전환이 제시하는 “차세대 지능” 설계도

AI라는 용어가 이제 우리 생활에 깊숙이 침투하고 있다. 하지만 그 AI가 진정으로 ‘지능’을 갖추고 있는 걸까? 기존 AI는 특정 작업에 특화된 ‘약한 AI’였어. 하지만 최근, 심층 학습 기술의 발전으로 인간과 같은 유연한 사고와 판단을 할 수 있는 ‘강한 AI’ 개발이 가속화되고 있어.

이 ‘강한 AI’ 개발을 가능하게 한 건 바로 ‘추론 패러다임 전환’이야. 기존 AI는 데이터에 기반하여 패턴을 인식하고 규칙에 따라 판단하는 ‘지식 기반형’ 접근 방식이 주류였어. 하지만 이 방식으로는 미지의 상황이나 변화에 대응하기가 어려웠지.

반면 새로운 ‘추론 패러다임’은 인간의 뇌 사고 과정을 모방하는 ‘베이즈 네트워크’나 ‘확률적 추론’과 같은 기술을 활용해. 이를 통해 불확실성과 노이즈를 포함한 데이터에서 보다 유연하고 견고한 추론이 가능해져.

이 ‘추론 패러다임 전환’은 단순한 기술적 진보에 그치지 않고, AI의 설계 철학 자체를 바꾸는 것이며, 차세대 지능의 설계도를 그리는 계기가 될 거야.

구체적으로, 기존 AI가 ‘답’을 찾는 것에 반해 새로운 AI는 ‘질문’을 던지고 자율적으로 학습하고 진화해 나가. 이런 AI는 의료, 금융, 교육 등 다양한 분야에서 혁신적인 서비스를 만들어낼 잠재력을 가지고 있어.

예를 들어 의료 분야에서는 환자의 증상과 검사 결과에 기반하여 최적의 치료법을 제안하는 AI가 개발되고 있어. 금융 분야에서는 시장 동향을 예측하고 위험을 관리하는 AI가 활용되고 있어. 교육 분야에서는 학생 한 명 한 명의 학습 상황에 맞춰 최적의 학습 계획을 제공하는 AI가 개발되고 있어.

이러한 AI는 단순한 도구가 아니라 인간의 파트너로서 우리의 삶을 풍요롭게 하고 사회를 더 나은 방향으로 만들어가는 존재가 될 거야. 그리고 이 ‘추론 패러다임 전환’은 차세대 지능 개발을 가속화하고 우리의 미래를 크게 변화시킬 거야.

순환 깊이(Recurrent Depth) 기술은 언어를 출력하지 않고 잠재 공간에서 사고를 심화하는 기술로, 기존 AI 개발의 “지능을 높이기 위해서는 모델을 거대화해야만 한다”는 관념을 근본적으로 뒤집었습니다. 앞서 언급했듯이, 35억 파라미터 규모의 소형 모델 “Huginn”이 추론 시에만 루프를 돌리는 방식으로 500억 파라미터급의 연산 능력을 발휘하여, 수많은 난제를 해결할 수 있다는 사실은 이미 입증되었습니다.

그러나 연구팀이 논문의 결론에서 제시한 미래 전망은 단순한 “소형 모델의 고성능화”에 그치지 않습니다. 현재 생성AI 업계를 이끌고 있는 또 다른 주력 기술인 “Mixture-of-Experts (MoE)”와의 융합, 사고 과정 자체를 잠재 공간에 완전히 흡수시키는 “포스트 트레이닝”의 진화, 그리고 스마트폰이나 PC와 같은 기기에서 막대한 발자국을 남기지 않고 초지능을 구현하는 “에지AI의 혁명”으로 그 범위는 끝없이 확장되고 있습니다.

본 섹션을 읽어 내려갈수록 다음의 최첨단 아키텍처 전망과 미래의 엔지니어링 지견을 습득할 수 있습니다.

- 왜 “계산량을 극한까지 높이는 순환 깊이”와 “기억 용량을 극한까지 넓히는 MoE”의 융합이 AI 아키텍처의 궁극적인 형태라고 여겨지는가
- 강화 학습에 의해 잠재 루프의 내부로 완전히 내재화하는 차세대 학습 기법
- 선형 주의와 외부 메모리 네트워크에 순환 깊이가 결합되어 발생하는 계산 효율의 시너지 효과
- 거대한 클러스터를 거치지 않고, 현장 기기(로컬 환경)에서 초지능이 자율적으로 작동하는 미래 하드웨어 생태계

언어 모델이 “문장 생성 엔진”에서 “생각하는 지능 프로세서”로 완전히 탈피하여 차세대 아키텍처의 선구적인 영역으로 발을 내딛도록 하겠습니다.

## 2. 본편: 미래 아키텍처와 포스트 트레이닝의 진화

### 7.1. “계산량 중시 재귀”와 “메모리 용량 중시 MoE”가 가져오는 이상적인 시너지 효과

현대의 AI 모델 설계에서 가장 성공을 거두는 방법 중 하나가 “Mixture-of-Experts (MoE)”입니다.

> 
> 
> 💡 여기서 등장하는 용어 MoE(미시어 전문가)입니다. ✅️ 무엇을 하는 것입니까? : 거대한 뉴럴 네트워크 안에 다수의 전문가(익스파트) 회로를 마련하고, 입력된 단어마다 최적의 일부 전문가만 선택하여 계산시키는 방법입니다. ✅️ 왜 필요합니까? : 모든 회로를 매번 풀가동시키는 낭비를 줄이고, 파라미터 수(기억력)를 수배에서 수십배로 확대하면서도 계산 비용을 낮추기 위함입니다. ✅️ 가까운 예시입니다. “종합 병원”과 같습니다. 환자의 증상에 따라 내과 의사나 외과 의사 등 필요한 전문가들만 진료실에 초빙되어 대응하는 시스템입니다.
> 

> 
> 
> 💡 여기서 등장하는 용어 라우터 / 루팅(읽는 방식: 루터 / 루팅) ✅️ 무엇을 하는 것인가? : 입력된 데이터의 맥락을 즉시 분석하여 “어떤 전문가(익스파트)에게 이 계산을 맡겨야 하는가”를 판단하는 교통 관리 역할을 하는 결정 네트워크. ✅️ 왜 필요한가? : 전문가들의 전문 분야에 맞춰 적절하게 업무를 분배하고, 팀 전체의 성과를 최대화하기 위함. ✅️ 가까운 비유 : “병원 종합 안내 데스크”와 같다. 환자의 진료표를 보고 “당신은 몇 층의 피부과로 가야 합니다”라고 정확하게 목적지를 안내하는 안내 담당자.
> 

> 
> 
> 여기에서 사용되는 용어인 활성 파라미터(Active Parameters, 활성 매개변수)는 무엇을 의미하는가? 모델 전체가 지닌 총 파라미터 수 중, 하나의 단어를 처리할 때 실제로 전력이 투입되어 계산에 사용된 파라미터의 양을 말한다. 왜 필요한가? 모델의 총 용량(메모리 크기)과 실제 동작 속도(계산 부하)를 구분하여 정확하게 평가하기 위함이다. 친근한 비유로는 ‘100명 편성의 오케스트라에서 특정 악구 연주 시 실제로 악기를 연주하는 10명의 연주자’와 유사하다.
> 

> 
> 
> 여기에서 사용되는 용어 ‘스파르시티’(읽는 방법: 스파르시티 / Sparsity)는 무엇을 의미하는가? 전체 중 상당 부분이 휴지(제로) 상태에 있으며, 극히 일부의 필요한 요소만 정확한 시점에 활성화되어 있는 성질이다. 왜 필요한가? 막대한 규모의 데이터와 지식을 보유하면서도, 처리 단위별 계산 리소스와 소비 전력을 최소화하기 위한 것이다. 가까운 비유는 “백과전의 참조”이다. 알고 싶은 단어를 찾을 때, 모든 페이지를 처음부터 소리 내어 읽는 대신, 해당되는 몇 줄만 시선으로 훑어보는 것이다.
> 

논문의 저자가 지적하듯이, 순환 심도 모델과 MoE 모델은 계산 과학적 관점에서 완전히 대립되지만, 서로의 약점을 완벽하게 보완하는 앞뒷면의 동전과 같은 관계에 있습니다.

- 순환 심도 모델의 특징(Compute-Heavy / 계산량重視)은 물리적 파라미터 수가 35억으로 극도로 작아 메모리 점유량이 적은 반면, 잠재 루프를 수없이 많이 통과하여 “파라미터당 연산량(FLOPs per Parameter)”이 천문학적으로 커집니다. 논리적 추론이나 알고리즘적 사고에 매우 강하지만, 4장에서 밝혀졌듯이 트리비아와 같은 “정적 지식의 암기량”에는 물리적 한계가 있습니다.
- MoE 모델의 특징(파라미터 수 / 메모리 용량 중시)은 총 파라미터 수가 수십억 개에서 수천억 개에 달하는 초거대 모델이며, 방대한 사실 지식을 백과전서처럼 기억할 수 있다는 반면, 1회 단어 예측 시 활성화되는 “액티브 파라미터”는 전체 파라미터 수의 1/50에도 그쳐 있습니다. 지식 활용에는 강점이 있지만, 단어마다 각 층을 한 방향으로 통과하기 때문에 다단계의 깊이 있는 검증이나 시도착(계산 깊이)에는 한계가 있습니다.

이 두 가지를 융합한 “재귀형 MoE(Recurrent MoE / Looped MoE)”가 실현된다면 어떤 패러다임 전환이 일어날까요?

기존의 MoE(Mixture of Experts) 방식에서는 입력된 단어가 “1단계 전문가 A”를 거쳐 다음으로 “2단계 전문가 B”를 거치는 식으로 각 단계의 전문가를 한 번씩 통과하고 끝났습니다.

그러나 재귀형 MoE의 내부에서는 “동일 블록 내의 반복 루프 안에서 사고 단계가 진행될 때마다 다른 전문가로 동적으로 라우팅되는 (반복 라우팅 / Dynamic Expert Hopping) 놀라운 성능을 보입니다.”

동일한 단어를 처리하는 과정에서 모델은 스스로의 잠재 상태 변화에 따라 전문가를 연이어 넘나들며, 필요하다면 같은 전문가에게 두세 번 다시 돌아와 검토를 반복합니다. 이를 통해 “백과전서와 같은 기억 용량”과 “초심층의 반복 추론력”이 동일한 아키텍처 내에서 완벽하게 구현됩니다.

더 나아가 논문에서는 효율적인 시퀀스 연산자(선형 어텐션 등)와의 조합에 대해서도 언급되어 있습니다.

> 
> 
> 💡 여기서 등장하는 용어 선형 어텐션(센케이・아텐쇼 / Linear Attention)은 무엇을 하는 것? : 문장의 길이에 따라 계산량이 이차 함수적으로 폭발하는 표준 어텐션의 복잡성을 줄여, 길이에 비례하는 계산량(선형)으로 고속 처리하는 기술입니다. 왜 필요한가? : 수만 ~ 수백만 문자 이상의 초장문 텍스트를 GPU 메모리를 과도하게 사용하지 않고 초고속으로 읽어들이기 위함입니다. 친근한 비유 : “문서의 모든 글자를 하나하나 비교하는 것을 멈추고, 중요한 키워드의 요약 인덱스만 위에서 아래로 순식간히 훑어보는 속독술”입니다.
> 

> 
> 
> 💡 여기서 등장하는 용어 외부 기억 네트워크(External Memory Networks) ✅️ 무엇을 하는 것? : 뉴럴 네트워크의 가중치와 별도로, 컴퓨터의 RAM처럼 자유롭게 읽고 쓸 수 있는 전용 기억 유지 테이블을 외부로 연결한 구조. ✅️ 왜 필요한가? : 모델의 파라미터를 지나치게 확대시키지 않고도, 과거 대화 기록이나 방대한 사실 데이터를 참조할 수 있도록 하기 위함. ✅️ 친근한 비유 : “책상 옆에 놓은 전용 서랍”과 같다. 머릿속에 모든 것을 암기하는 대신, 메모장을 서랍에 넣어 필요한 때에 바로 꺼내 쓰는 시스템.
> 

선형 어텐션은 빠르다는 장점에도 불구하고, 한 번의 통과에서 토큰 간을 비교할 수 있는 횟수(표현력)에 한계가 있다는 구조적인 약점을 가지고 있었습니다. 하지만, 순환 깊이 모델 내에 선형 어텐션을 통합하면, “계산이 매우 가벼운 블록을 필요한 횟수만큼 반복시키는” 방식으로 선형 어텐션의 가벼움을 유지하면서도, 표준 어텐션을 능가하는 정밀한 문맥 비교를 수행할 수 있게 됩니다.

재귀형 MoE(Mixture of Experts)와 외부 메모리 통합이 가져오는 혁신을 실제 사회의 세 가지 구체적인 사례를 통해 살펴보겠습니다.

- 종합 병원 난치병 회의(다학제 협력의 반복 진단)에서 어려운 사례에 직면했을 때, 내과 의사(전문가 1)가 환자의 카테를 보며 초기 가설을 설정하고, 이에 대한 영상의학과 의사(전문가 2)가 영상 소견을 검토했으며, 더불어 병리과 의사(전문가 3)가 세포 데이터를 분석하고, 최종적으로 내과 의사가 모든 데이터를 통합하여 최종 진단을 내립니다. 재귀형 MoE는 이처럼 전문의들 간의 다중 회의를 하나의 단어 잠재 공간 내에서 즉시 해결합니다.
- 기탁된 특허 신청서가 기존 특허에 훼손되지 않았는지 정밀하게 검토하는 과정에서, 문장 표현의 해석(언어 전문가), 회로도의 논리적 일관성(하드웨어 전문가), 판례 법률 비교(법률 전문가) 간의 문맥 교환이 수차례 이루어져야 합니다. 외부 메모리 테이블과 재귀 블록을 연동시키면, 과거 수만 건의 판례를 즉시 검색하여 사고 루프 안에서 침해 위험을 완전히 제거할 수 있습니다.
- 구체적인 예시 3: 핵심 시스템의 초규모 리팩토링 과정에서 수십만 줄에 이르는 레거시 코드를 최신 언어로 전환할 때, 전체적인 일관성을 유지하기 위해서는 “선형 어텐션으로 초장문의 이해”와 “재귀 루프를 통한 알고리즘의 엄밀한 등가성 검증”이 필수적입니다. 메모리를 낭비하지 않고 시스템 전체의 의존 그래프를 잠재 공간에서 반복적으로 순회하며 버그를 근절합니다.

다음 표는 기존 아키텍처와 본 연구가 지시하는 “재귀형 MoE 하이브리드”의 사양을 비교한 결과입니다.

### 7.2. 강화 학습과 사고 과정의 내면화가 열어가는 포스트 트레이닝의 새로운 가능성

AI 모델의 능력을 진정으로 꽃피우는 단계는 방대한 텍스트를 읽게 하는 “사전 학습(Pre-training)”만으로는 끝나지 않습니다. 그 이후에 실시되는 “사후 학습(Post-training)”こそ가 모델에 논리적인 사고 절차를 가르쳐 넣고, 지능을 실용 수준으로 끌어 올리는 결정적인 역할을 합니다.

> 
> 
> 여기에서 사용되는 용어 포스트 훈련(Post-Training) ✅️ 무엇을 하는 것입니까? : 사전 학습이 완료된 기초 모델에 대해, 지시 준수성과 추론 정확성을 높이기 위해 수행하는 추가적인 미세 조정(SFT 또는 강화 학습 등)의 전체 과정입니다. ✅️ 왜 필요한가요? : 단순한 “문장의 맥락을 예측하는 기계”에서, 인간의 의도를 파악하여 정확하게 문제를 해결하는 “지적인 어시스턴트”로 완성하기 위함입니다. ✅️ 유사한 예시는 “대학을 졸업한 지 얼마 되지 않은 신입사원(기초 모델)에게 배정된 부서에서 전문적인 실무 훈련이나 비즈니스 매너 교육(추가 훈련)을 제공하는 것과 같습니다.”
> 

> 
> 
> 💡 여기서 다루는 용어인 강화 학습/RL(리인포스먼트 러닝)은 무엇을 하는가? 정답을 직접 가르치는 대신, AI에게 다양한 시행착오를 통해 좋은 결과(정답)를 얻을 때 “보상(점수)”을 제공하여 자율적으로 학습하도록 하는 방법이다. 왜 필요한가? 인간이 생각하지 못한 고도화된 해법이나 가장 효율적인 지능형 알고리즘을 AI 스스로 발견하도록 하기 위한 것이다. 가까운 예시로 “개 훈련”을 들 수 있다. 지시대로 멋지게 행동하면 간식(보상)을 제공하여 올바른 행동을 스스로 학습하도록 유도하는 훈련법이다.
> 

> 
> 
> 여기에서 사용되는 용어 ‘사고의 내면화’는 무엇을 하는가? 기존에 화면 상에 긴 텍스트(CoT)로 출력되게 하던 중간 과정이나 메모 작성들을 모델 내부의 잠재 공간(뇌내 루프)으로 흡수하고 숨기는 학습 기술이다. 추론의 정확성을 전혀 떨어뜨리지 않으면서 불필요한 외부 토큰의 출력을 0으로 만들고 추론 속도를 극적으로 끌어올리기 위한 것이다. ‘솔반의 달인’과 유사하다. 처음에는 실제로 손으로 파치파치 주머니를 튕기며 계산했던 아이가 숙달됨에 따라 머릿속에 솔반을 떠올리는 ‘암산’으로 전환되는 과정이다.
> 

> 
> 
> 💡 여기서 등장하는 용어 지식 증류(읽는 방법: 치시키・죠류 / Knowledge Distillation) ✅️ 무엇을 하는 것? : 거대하고 현명한 “친 모델(교사)”의 사고 패턴과 판단 기준을, 보다 컴팩트한 “자 모델(학생)”으로 효율적으로 가르치고 계승시키는 압축 기술. ✅️ 왜 필요? : 거대 모델과 맞먹는 극도로 높은 지능을, 일반적인 PC나 스마트폰에서도 작동할 수 있는 경량 모델 안에 컴팩트하게 응축하기 위함. ✅️ 가까운 예시 : “명의 숙련된 기술”. 수십 년 동안 축적된 베테랑 의사의 진단의 감각을, 에센스로 젊은 의사에게 집중 지도를 통해 단기간에 한 사람으로 키우는 것.
> 

논문의 제9절에서 연구팀은 순환 심도 모델에 대한 포스트 훈련 가능성으로 다음 세 가지 혁신적인 접근 방식을 제시했습니다.

사고의 내면화: 명시적 CoT에서 암묵적 CoT로의 전환

현재 OpenAI의 o1이나 DeepSeek-R1과 같은 최첨단 모델은 수천 자의 Chain-of-Thought(CoT) 텍스트를 출력하는 “명시적 CoT”를 수행하고 있습니다. 그러나 최근 연구(Deng et al., 2024 등)에서는 이 외부 텍스트를 단계적으로 축소하고, 잠재 공간의 숨겨진 상태로 이식하는 “내면화” 시도가 진행되고 있습니다.

순환 심도 모델은 태생적으로 잠재 공간의 루프 구조를 가지고 있어, 이 내면화의 수용체로서 세계에서 가장 이상적인 도구입니다.

- 1단계: 먼저, 평소와 같이 외부로 사고 텍스트를 출력하도록 데이터를 활용하여 문제 해결 방법을 학습시킵니다.
- 다음 단계: 그 다음, 중간 풀이 텍스트를 조금씩 “마스크(숨기기)” 처리하고, 대신 재귀 블록의 반복 횟수를 늘립니다.
- 3단계: 외부에는 “질문”과 “최종 답변”만 출력되지만, 뇌내(잠재 공간)에서는 32회의 반복을 통해 완벽한 중간 계산이 완료되는 “완전 암산 모델”이 완성됩니다.

2. 적응형 난이도 강화 학습 (RL)

제5장에서 설명한 “적응적 조기 종료”를 강화 학습의 보상 설계와 직접 연결하는 접근 방식입니다.

기존의 강화 학습에서는 “정답이 맞는지 여부”만을 보상으로 제공했습니다. 그러나 순환 심도 모델에서는 “생각 단계 수에 대한 페널티(빠르게 풀면 보너스, 불필요하게 오래 생각하면 감점)”를 보상 함수에 반영합니다.

이러한 방식으로 모델은 누구에게 가르쳐지지도 않으며, “간단한 인사나 정형 문구는 단 2번의 반복만으로 즉시 답변하고, 초전도 난제 수학에 직면했을 때만 반복을 최대한 돌려 모든 힘을 쏟아 고민한다”라는 극도로 인간적인 밸런스 잡힌 계산 자원 배분을 완전히 자율 학습합니다.

반복 압축(Recurrence Compression)과 증류(Distillation)에 대해 설명합니다.

반복 압축은 특정 문장에서 자주 등장하는 단어나 구를 짧은 코드나 기호로 대체함으로써 데이터의 중복성을 줄이는 방법입니다. 이를 통해 메모리 사용량을 줄이고 계산 속도를 향상시킬 수 있습니다.

반면, 증류는 교사 모델(일반적으로 큰 모델)의 지식을 학생 모델(일반적으로 작은 모델)에 전달하는 방법입니다. 교사 모델은 입력 데이터에 대해 예측을 수행하고, 그 예측 결과(확률 분포 등)를 학생 모델의 학습에 활용합니다. 이렇게 함으로써 학생 모델은 교사 모델의 지식을 보다 효율적으로 학습하고, 더 높은 정확도를 달성할 수 있습니다.

특히, 대규모 언어 모델 학습에서 증류는 매우 효과적인 방법으로 주목받고 있습니다.

숙련된 장수는 신입이 하는 10가지 작업을 3가지 효율적인 작업으로 마무리할 수 있습니다.

사전 학습을 마친 Huginn이 난제 해결에 32회의 루프를 필요로 한 경우, 그 32단계 분량의 잠재 벡터 전이를 8회 또는 4회로 짧게 재현하도록 자기 증류(Self-Distillation)를 적용합니다. 지능의 깊이를 전혀 희생하지 않으면서 추론 속도를 4배에서 8배까지 향상시키는 포스트 훈련이 가능합니다.

### 7.3. 로컬 환경이나 에지 디바이스에서 “경량화되었으며 초지능을 갖춘” 모델의 실현 가능성

현대의 생성 AI가 직면하고 있는 최대의 사회적 과제 중 하나는 “막대한 클라우드 데이터 센터 의존”과 “천문학적인 전력 소비”입니다.

> 
> 
> 💡 여기서 등장하는 용어 에지AI(읽는 방식: 에찌-에이 / Edge AI)는 무엇을 하는 것? 거대한 클라우드 서버가 아닌, 스마트폰, 노트북, 자동차, 가전 등의 장치(에지 기기)에서 직접 AI를 실행하는 기술이다. 인터넷 통신 지연을 없애고, 통신비를 절감하며, 사적인 개인 정보를 외부로 전송하지 않고 안전하게 처리하는 데 목적이 있다. 가까운 비유는 “계산기 앱”과 같다. 인터넷 회선이 연결되어 있지 않더라도 스마트폰 단독으로 즉시 계산이 가능하다.
> 

> 
> 
> 💡 여기서 등장하는 용어 메모리 대역폭(메모리 대역폭)입니다. ✅️ 무엇을 하는가? : 프로세서(CPU 또는 GPU)와 작업용 메모리(RAM) 사이에서 1초에 전송 가능한 데이터의 이동 속도를 의미합니다. ✅️ 왜 필요한가? : AI가 문장을 생성할 때, 얼마나 빠른 ‘계산 성능’을 발휘하더라도 메모리에서 무거운 데이터를 읽어내는 속도가 느리면 전체 속도가 제한됩니다. ✅️ 친근한 비유 : “스트로의 두께”와 같습니다. 얼마나 강한 ‘프로세서’를 가지고 있더라도 스트로가 얇으면 주스(데이터)를 한꺼번에 빨아들이기 어렵습니다.
> 

> 
> 
> 💡 여기서 등장하는 용어 NPU(뉴럴 프로세싱 유닛)는 무엇을 하는 것? 스마트폰이나 최신 PC(AI PC)에 탑재되어 있는 딥러닝(뉴럴 네트워크)의 계산에 특화된 초저전력 프로세서입니다. 왜 필요한가? 배터리 소모를 최소한으로 유지하면서 단말기에서 실시간으로 AI의 추론을 빠르고 부드럽게 실행하기 위함입니다. 가까운 예시: “전용 특급 레인”. 혼잡한 일반 도로(CPU)를 통하지 않고 AI의 계산만 전용 레인으로 매끄럽게 목적지까지 운행하는 시스템입니다.
> 

엣지 디바이스에서 거대한 LLM을 실행하려 할 때, 가장 큰 걸림돌이었던 것은 VRAM 부족과 메모리 대역폭의 한계였습니다.

700억 파라미터(70B) 모델을 실행하려면 양자화해도 수십 GB의 메모리가 필요하며, 한 글자씩 출력할 때마다 그 거대한 가중치 데이터를 메모리에서 프로세서로 전송해야 합니다. 이렇게 되면 스마트폰 배터리는 순식간에 소모되고, 발열로 인해 기기가 작동하지 않게 됩니다.

그러나, 순환 심도 모델 “Huginn”이 제시한 아키텍처는 이 에지 AI의 물리적 병목을 근본적으로 파괴합니다.

물리 파라미터가 3.5B에 불과한 Huginn은, 가중치의 전체 크기가 FP16(반정밀)으로도 약 7GB이며, 일반적인 4비트 양자화를 적용하면 2GB 내외로 매우 작은 크기에 収まります. 이는 최신 iPhone이나 Android 스마트폰, 엔트리 클래스 노트북의 메모리에 충분히 들어맞는 크기입니다.

더욱 결정적인 부분은 “파라미터당 연산 횟수(FLOPs per Parameter)”가 매우 높다는 점입니다.

메모리에서 가중치를 한 번 읽어올린 후, 칩 내부(고속 SRAM이나 레지스터)에 보관하면서 동일한 가중치를 사용하여 32회, 64회와 같이 루프 계산을 반복합니다. 메모리와의 느린 통신이 거의 발생하지 않기 때문에 하드웨어의 전력 소비 대부분을 차지하는 “데이터 이동 에너지”를 최소화하고, 에지 프로세서의 계산 코어를 100% 활용할 수 있습니다.

이 기술이 개척하는 미래의 기기 경험은 우리의 삶을 완전히 바꿔놓을 것입니다.

- 구체적인 예시 1: 전파가 도달할 수 없는 산속이나 항공기 내부에서 “개인용 AI 과외” 통신 환경이 완전히 단절된 오프라인 환경에서도 손안의 태블릿이 70B 클래스 수준의 지능을 발휘합니다. 난해한 대학 수준의 미적분이나 물리학 시뮬레이션 문제를 단말기 내의 3.5B 잠재 추론 엔진이 수십 초의 “뇌내 고심”을 거쳐 찰나처럼 완벽하게 해결해 줍니다.
- 구체적인 예시 2: 완전한 개인적인 “의료·법무 온디바이스 상담”으로 매우 기밀성이 높은 개인의 건강 검진 데이터나 기업의 기밀 계약서를 외부 클라우드 API에 1바이트도 전송하지 않고, 손안의 PC 안에서 완결하여 분석합니다. 잠재 추론 모델이 端末(손안의 PC) 안에서 꼼꼼히 추론 루프를 돌며, 논리적인 모순이나 건강 위험을 철저하게 씻어냅니다.
- 구체적인 예시 3: 인간형 로봇이나 자율 주행 드론의 “실시간 상황 판단” 통신 지연(레이턴시)이 허용되지 않는 로보틱스 분야에서 평탄한 길을 걸을 때는 2~4단계의 초저지연으로 밀리초 단위의 즉각적인 반응을 하고, 예상치 못한 턱이나 장애물과 마주했을 순간에만 자동적으로 32단계의 고려 모드로 전환하여 회피 궤도를 계산하는 등 유연한 지능 제어가 수 와트의 저전력으로 구현됩니다.

## 3. 실질적인 포인트

차세대 아키텍처 혁신과 에지 확대를 전망하여 엔지니어와 연구개발 리더가 지금부터 갖춰야 할 실질적인 지견을 정리했습니다.

### 실무 팁들

- 기억”과 “추론”을 명확하게 분리한 시스템 설계(하이브리드 파이프라인)는 향후 기업 시스템을 설계할 때, 하나의 거대한 모델에 모든 것을 맡기는 접근 방식은 비효율적입니다.
- 지식의 집약 및 검색 계층은 외부 사내 벡터 DB(RAG)나 파라미터 용량이 큰 MoE 모델이 담당한다.
- 논리 추론·연산층은 본 연구와 같이 경량한 순환 심도 모델(3.5B급)이 담당하여 검색된 맥락에 따라 잠재 공간에서 깊이 사고하고 결론을 도출한다. 이 “기억과 추론의 완전 분업”을 의식한 파이프라인을 구축함으로써 인프라 비용을 기존의 수분의 1로 낮추고, 환각이 극히 적은 견고한 AI 시스템을 구축할 수 있다.
- 엣지 환경에 적합한 양자화(INT4/FP4) 활성 검증 반복 심도 모델은 동일한 가중치를 수십 회 반복하여 곱셈하는 방식으로 인해 일반 모델보다 “양자화 오차 누적”에 민감할 수 있습니다. 엣지 환경에 배포할 때는 가중치뿐만 아니라 활성화 텐서의 스케일링 계수를 신중하게 조정하고, 반복 단계를 늘려도 수치 오버플로우나 발산이 발생하지 않는지 검증용 데이터셋(GSM8K 등)으로 반드시 단계별로 추적 검증해야 합니다.

### 초보자들이 흔히 저지르는 “실수”와 해결책

- “MoE와 순환 깊이를 결합하면 무조건 모든 것이 해결된다”는 지나찬 낙관론
- 회피책 및 올바른 이해: MoE(Mixture of Experts)는 메모리 용량(VRAM)을 대량으로 소비하고, 반복 깊이는 계산 시간을(레이턴시) 소비합니다. 이 둘을 직관적으로 결합하면 “메모리 소모는 심하고, 동작 속도는 느려진다”는 최악의 병목 현상을 일으킬 위험이 있습니다. 재귀형 MoE를 설계할 때는 전문가의 총 수를 무의미하게 늘리지 않고, 노드 내 캐시에 들어갈 수 있는 “소규모 MoE(예: 전문가 수 8개, 상위 2개 선택 등)”로 제한하고, 반복 깊이와의 균형을 신중하게 튜닝하는 것이 핵심입니다.
- 포스트 트레이닝으로 CoT를 내면화시킨다면, 설명성이 완전히 상실되고 포기해야만 하는 체념
- 회피책 및 올바른 이해: 제6장에서 증명된 바와 같이, 사고가 잠재 공간으로 내면화되어도 고차원 기하학 분석(PCA, 프로빙 기술)을 활용하여 모델의 사고 궤적을 객관적으로 모니터링하는 새로운 접근 방식이 존재합니다. 텍스트 기반 CoT가 보이지 않는다고 블랙박스화를 경계하는 대신, 벡터의 수렴ノルム, 아トラクター 궤도 분석 도구를 관측 가능성 기반으로 통합하는 것이 권장됩니다.

### 최고의 실천 방법

- 과업 난이도에 따라 “컴퓨트 예산(계산 예산)”의 동적 할당은 미래의 AI 에이전트 개발에 있어, 프롬프트 입력 시 “이 과제에 몇 FLOPs(단계)의 계산을 투자해도 되는가”라는 계산 예산을 사용자 또는 오케스트레이터가 명시적으로 지정할 수 있는 아키텍처가 주류가 될 것입니다. 중요한 의사 결정에는 깊은 루프 회수와 대용량 전문가를 할당하고, 일상적인 잡무에는 최소 루프를 할당하는 투자 대비 효과에 따른 동적 리소스 제어를 전제로 시스템을 구축해 주십시오.

## 4. 📖 이 섹션에서 다룬 주요 용어 정리

본 섹션에서 상세히 설명한 미래 AI 아키텍처 및 첨단 기술에 관한 중요 용어의 치트 시트입니다.

## 5. 결론 및 다음 단계

본 섹션에서는 순환 심도 모델 “휴깅(Huginn)”이 개척하는 인공지능 아키텍처의 미래와 차세대 기술의 선봉을 조망했습니다.

- 재귀와 MoE의 궁극적인 시너지 효과: “계산 깊이에 우수한 순환 깊이(Compute-Heavy)”와 “기억 용량에 우수한 MoE(Parameter-Heavy)”가 융합되어 동일 단어 처리 중에 思考 루프를 회전시키면서 전문가를 동적으로 이동시키고 지능과 기억력을 겸비한 이상적인 모델이 실현된다.
- 포스트 트레이닝의 새로운 시대: 텍스트로 추출했던 CoT(Chain of Thought)를 잠재 공간 내에 완전히 흡수시키는 “사고의 내면화”, 불필요한 심사 과정을 줄이는 “난이도 적응형 강화 학습”, 그리고 “반복 압축”을 통해 말하지 않고도 완전 암산으로 즉각적인 답변을 하는 초고속 추론 모델로의 진화가 진행되고 있다.
- 에지 AI의 완전 각성: 단지 몇 GB의 메모리 공간으로 초심층 계산을 수행할 수 있어 메모리 대역폭 제약 없이 스마트폰이나 인간형 로봇 등 현장 환경에서 완전 오프라인으로 초지능이 작동하는 현실이 가능해졌다.

우리는 지금 “말을 토해내면서 덤벙거리듯 생각하는 AI”의 시대에서 “말을 내뱉기 전에 뇌 속에서 깊이 생각하고, 가장 정교하게 다듬어진 결론만을 능숙하게 말하는 차세대 AI”로의 역사적인 전환점에 서있습니다.

잠재 공간 추론이 개척하는 이 광대한 영역은 학술 연구를 넘어 미래 제품 개발, 반도체 설계, 그리고 사회 적용 방식을 근본적으로 재정의할 것입니다.

## 6. 자주 묻는 질문 (Q&A)

**Q: 저자는 왜 이 책을 집필한のですか?**

A: 저자는 독자들이 『汝、星のごとく』를 더욱 깊이 이해하고, 그 작품이 지닌 보편적인 메시지를 경험할 수 있도록 이 책을 집필했습니다. 특히, 작품에 등장하는 캐릭터들의 내면을 깊이 파고들어, 그들의 갈등과 성장을 통해 인간의 보편적인 감정과 가치관에 대해 고찰하는 것을 시도했습니다.

**Q: 이 책에서 특히 주목할 만한 점은 무엇입니까?**

A: 이 책에서 특히 주목할 만한 점은, 작가인 성신일의 작품을 단순한 미스터리 소설로 보지 않고, 인간의 심리나 사회에 대한 날카로운 통찰을 담은 작품으로 재해석하려는 시도입니다. 또한, 작품의 배경에 있는 사회정세나 문화적인 요소를 정성스럽게 해설함으로써, 독자들이 작품을 더욱 깊이 이해하도록 돕는 지침을 제공합니다. 더불어, 독자 자신의 삶이나 가치관과 작품의 주제를 연결시켜 자아 성찰을 유도하는 구성도 특징입니다.

**Q: 이 책을 읽으면 독자는 무엇을 얻을 수 있을까요?**

A: 이 책을 읽으면 독자는 『汝、星のごとく』라는 작품의 매력을 더욱 깊이 이해하고, 작가인 성신일의 작품에 대한 새로운 시각을 얻을 수 있습니다. 또한, 작품에 등장하는 캐릭터들의 갈등과 성장을 통해 인간의 보편적인 감정과 가치관에 대해 생각하고, 자아 성찰을 깊게 할 수 있을 것입니다. 더불어, 작품의 배경에 있는 사회정세나 문화적인 요소를 이해함으로써, 더욱 넓은 시야를 가질 수 있게 됩니다.

### Q1: “재귀형 MoE(Mixture of Experts)”를 구축하려 할 때, 기존 MoE 모델과 비교하여 분산 학습 및 GPU 통신 구현의 난이도는 어떻게 달라질까요?

A: 분산 학습의 통신 설계라는 관점에서 보면, 오히려 기존의 초거대 MoE(Mixture of Experts)보다 관리하기 쉬워지는 측면이 있습니다. 기존의 MoE는 층마다 다른 수십에서 수백 개의 전문가를 여러 GPU에 분산 배치(Expert Parallelism)하기 때문에, 층을 통과할 때마다 GPU 간에 매우 무거운 전합통(All-to-All)이 발생했습니다. 이에 반해, 재귀형 MoE는 물리 층의 수가 매우 적습니다(예를 들어 4층 정도)이며, 전문가의 총 수를 자체적으로 압축할 수 있습니다. 하나의 노드 내에서 고속의 NVLink 등의 대역폭 내에 전 전문가를 담으면서, 반복 루프를 통해 계산 밀도를 높이는 구성이 가능하기 때문에, 노드를 跨ぐ 무거운 네트워크 통신을 극적으로 줄일 수 있다는 큰 공학적 이점이 있습니다.

### Q2: 사고 과정을 잠재 루프로 내면화(암산화)시켜 버리면, 인간이 AI의 사고 단계를 검증할 수 없게 되고, 안전성 감시가 어려워지지 않습니까?

A: 확실히, 인간이 일상적으로 읽는 자연어 텍스트로서 사고 로그를 직접 시각적으로 확인하는 것은 불가능합니다. 하지만 6장에서 설명한 바와 같이, 텍스트 기반의 CoT는 때때로 “인간을 안심시키기 위한 허위 주장(언행 불일치)”을 출력할 위험을 내포하고 있습니다. 잠재 공간에서의 추론에서는 사고 벡터의 궤적을 고차원 분석(PCA, 특정 개념의 프로빙)을 통해 “모델이 현재 어떤 정보에 주의를 기울이고, 어떤 기하학적 안정성으로 결론을 내렸는지”라는 물리적인 계산 실태를 직접 측정할 수 있습니다. 텍스트의 표현에 현혹되지 않고, 수학적, 기하학적 새로운 안전 감시(메커니즘적 해석 가능성) 방법을 결합함으로써 보다 객관적이고 위변 개작의 여지가 없는 안전 감시 체계를 구축할 수 있습니다.

### Q3: 사이클 심도 모델을 스마트폰과 같은 엣지 디바이스에서 실행할 경우, 배터리 소비 및 발열 측면에서 진정으로 유리하다고 말할 수 있을까요?

A: 매우 유리합니다. 현대 반도체 프로세서에서 가장 많은 전력을 소비하고 열을 발생시키는 것은 “연산기(ALU)가 계산을 수행하는 것” 자체라기보다는 “DRAM(작업용 메모리)에서 데이터를 읽어 프로세서로 운반하는 데이터 전송”입니다. 기존의 거대 모델은 1단어를 생성할 때마다 수십 GB의 가중치를 담은 데이터를 메모리에서 가져와야 했고, 이 메모리 접근이 격렬한 발열과 배터리 소모의 주된 원인이었습니다. 반면, 순환 깊이 모델은 2~3GB의 가중치를 한 번 칩 근처의 캐시에 읽어오면, 동일한 데이터를 프로세서 내부에서 수십 회의 사고 루프를 돌려 사용합니다. 데이터 전송 빈도가 극적으로 줄어들기 때문에 칩 전체의 소비 에너지를 극소 수준으로 낮추고, 스마트폰 배터리에 친숙한 지속적인 추론이 가능해집니다.

### Q4: 앞으로 기존의 Llama나 Mistral과 같은 일반적인 오픈 소스 모델을 사후적 파인튜닝만으로 순환 심도 모델로 변환하는 것이 가능한가요?

A: 이론적으로는 가능하며, 실제로 선행 연구(하오 연구팀, 2024년, 리우 연구팀, 2024a년 등)에서 기존의 고정층 트랜스포머의 중간층을 가상 루프로 재정의하고, 이전 토큰의 사고 벡터를 받을 수 있도록 사후 튜닝하는 접근 방식이 시도되고 있습니다. 그러나 3장에서 검증된 바와 같이, 처음부터 재귀를 전제하지 않고 학습된 가중치는 “동일층의 반복에 따른 수치 발산이나 표현 붕괴”에 매우 취약합니다. 기존 모델을 개조할 경우에는 LoRA 어댑터를 활용하여 각 반복마다 수치를 신중하게 보정하거나, 사전 학습의 최종 단계(쿨다운 페이즈 등)에서 로그 정규 포아송 샘플링을 이용한 지속적 사전 학습(Continued Pre-training)을 수행하는 것이 안정적인 지능을 확보하기 위한 필수 조건이 됩니다.

**출처:** [note 원문](https://note.com/zenkok/n/nf4c3f330b0e5)

*번역: Gemma 3(.44) 초벌 + 교정 553청크*

[원문 보기](https://note.com/zenkok/n/nf4c3f330b0e5) | 출처: note.com