# AI 모델 내부에서 프로그램을 실행할 수 있는 'Qwenputer'가 등장하여 'AI 안에 CPU 를 만드는'이라는 독특한 시도

> https://bookfactory.kr/board/news/24439
> 게시판: 뉴스
> 작성자: tachikoma43
> 작성일: 2026-11-03T05:21:06.288Z

---

알리바바의 Qwen3.5-4B 를 기반으로 개발된 실험적인 AI 모델 'Qwenputer'가 공개되었습니다. Qwenputer 는 AI 모델 내부에 32 비트 RISC-V CPU 를 통합하여 외부 도구를 사용하지 않고도 계산 및 프로그램 실행을 가능하게 합니다. Qwenputer 는 신경망 내부에서 CPU 와 메모리의 기능을 재현하고 있습니다. Qwenputer 는 개발자 디비얀시 아그라와이 (Divyansh Agrawal) 가 2026 년 10 월 22 일에 발표한 AI 모델입니다. Qwenputer 는 언어 모델의 가중치에 컴파일된 컴퓨터로, Qwen3.5-4B 의 내부에 정확한 CPU 가 있으며 Gated DeltaNet 상태가 RAM 입니다. 이를 통해 일반적인 AI 모델에서는 잘못될 수 있는 복잡한 계산을 정확하게 실행할 수 있도록 하고 있습니다. 관련 정보는 Qwenputer: Qwen3.5 의 완전히 작동하는 결정론적 RISC-V CPU (https://divagr.com/blog/qwenputerdivagr1925/Qwen3.5-4B-Qwenputer), Hugging Face (https://huggingface.co/divagr1925/Qwen3.5-4B-Qwenputerdivagr18), 그리고 GitHub (https://github.com/divagr18/qwenputer) 에서 확인할 수 있습니다.

일반적으로 대규모 언어 모델 (LLM) 은 입력된 문장에 대해 다음에 이어질 단어나 문자를 예측하여 답변을 생성하는 방식으로 작동합니다. 따라서 큰 숫자의 곱셈과 같이 정확한 계산이 필요한 경우 잘못된 답을 제시할 수 있습니다. 이를 해결하는 일반적인 방법은 AI 에게 Python 과 같은 외부 도구를 호출하여 계산 결과를 얻게 하는 방식입니다. 반면 Qwenputer 는 외부 계산 도구를 활용하지 않고 AI 모델 자체에 CPU 기능을 통합한 것이 특징입니다. CPU 는 오픈 소스 명령 집합 아키텍처인 RISC-V 를 채택했으며, 32bit 의 'RV32IM'에 일부 확장 명령 등을 포함하여 구현하고 있습니다. 이를 통해 사칙연산뿐만 아니라 C 언어나 MicroPython 으로 작성된 프로그램을 AI 모델 내부에서 실행할 수 있습니다.

그러나 CPU 를 작동시키려면 계산 중인 데이터나 프로그램을 저장할 메모리도 필요합니다. 따라서 Agrawal氏は Qwen3.5 에 채택된 'Gated DeltaNet'이라는 메커니즘에 주목했습니다. Gated DeltaNet 은 AI 가 텍스트를 처리할 때 내부 상태를 유지하고 업데이트하는 메커니즘으로, 설정을 적절히 구성하면 지정된 위치에 데이터를 기록하거나 저장된 데이터를 정확하게 읽을 수 있습니다. Agrawal氏は 이 메커니즘을 RAM 으로 활용하고, 계산 및 조건 분기 등을 실행하는 회로를 신경망으로 재현함으로써 AI 모델 내부에 CPU 를 구축했습니다. 아래 도표는 메모리로의 데이터 기록 (a), 읽기 (b), CPU 로의 활용 (c) 을 보여줍니다. Agrawal氏は CPU 회로를 설계하고, 그 동작에 필요한 수치를 컴파일러로 계산한 뒤 신경망의 가중치로 직접 통합했습니다. 또한 기본 모델인 Qwen3.5-4B 의 가중치는 변경하지 않았습니다.

Qwenputer 에서 계산을 수행할 때 AI 는 일반적인 도구 호출과 유사한 형식으로 명령을 생성합니다. 그러나 실제로 외부 프로그램이 호출되는 것이 아니라, 추가된 신경망 계층이 명령을 처리하고 결과를 AI 에게 반환합니다. Agrawal 씨에 따르면 CPU 는 RISC-V 공식 테스트를 통과했으며, 약 1,800 만 개의 명령을 연속 실행할 때에도 오류가 발생하지 않았습니다. 실제 계산 능력을 비교한 결과, 큰 정수의 곱셈 테스트에서 일반적인 Qwen3.5-4B(회색) 의 정답률은 55% 였으나, Qwenputer(보라색) 은 97.5% 를 기록했습니다. 또한 큰 정수의 나눗셈에서는 72.5% 에서 97.5% 로 개선되었으며, 여러 곱셈과 나눗셈을 결합한 테스트에서는 90% 에서 100% 로 개선되었습니다.

또한 긴 정수를 사용한 사칙연산 테스트 'NUPA'에서는 일반적인 Qwen3.5-4B 의 정답률이 48.6% 였으나, Qwenputer 는 100% 를 달성했습니다. 또한 일반적인 Qwen3.5-4B 에 Python 도구를 활용시킨 경우와 비교해도 Qwenputer 는 5 가지 모든 테스트에서 동등하거나 더 높은 정답률을 기록했습니다.

Agrawal氏は CPU 뿐만 아니라, AI 모델 내부에 파일을 저장하는 구조도 실험적으로 구현하고 있습니다. 이는 Gated DeltaNet 의 내부 상태에 텍스트를 기록하는 것으로, 최대 512 개 파일, 총 약 5 만 3 천 토큰을 저장할 수 있습니다. 대화 종료 시 내부 상태를 저장하고 다음 대화에서 로드함으로써 이전 대화에서 기록된 정보를 계승할 수도 있습니다. 이 파일 저장 기능을 활용한 검증에서는 과거 대화에서 변경된 정보를 올바르게 답변할 수 있는 비율이 90% 에 달했다고 보고되었습니다. 반면, 과거 대화를 그대로 입력했을 때 정답률은 30% 였습니다. 또한, Qwenputer 에서는 몇 가지 제약 사항이 있습니다. CPU 기능을 추가함으로써 모델 용량은 18.8GB 로 증가하여, 일반적인 Qwen3.5-4B 의 약 2 배가 되었습니다. 또한 CPU 명령을 실행할 때마다 여러 토큰을 생성해야 하므로, 일반적인 CPU 는 밀리초 단위로 완료되는 계산에도 수 초가 걸릴 수 있습니다. 동작에는 전용 드라이버가 필요하며, 일반적인 AI 모델과 같은 방법으로 로드하면 사용할 수 없습니다.

Qwenputer 모델과 소스 코드는 Hugging Face 및 GitHub 에서 공개되었으며, 24GB 메모리를 탑재한 GPU 1 기로 실행 가능하다고 합니다. Agrawal氏は今後, AI 가 스스로 Python 코드를 생성하여 모델 내부의 MicroPython 으로 실행할 수 있는 구조나 CPU 처리 속도 향상을 위한 계획을 제시하고 있습니다.

[원문 보기](https://gigazine.net/news/20261030-qwenputer/) | 출처: Gigazine