매사추세츠공과대학교 (MIT) 연구팀이 AI 모델 'GPT-6 Astra' 를 사용하여 다른 AI 모델 'Qwen3.5-0.8B' 의 내부 파라미터를 수정하여 수학 문제 정답률을 7.9% 에서 48.1% 로 개선했다고 보고했습니다. 추가 학습 없이 전체 파라미터의わずか 0.016% 만 변경한 것으로, 연구 설명이 오해를 불러일으킬 수 있다는 비판도 제기되고 있습니다. 'Sparks of Weight-Space Programming: LLMs can natively read & write neural network weights' https://rikiyat.github.io/blog/weight-space-programming/
MIT 컴퓨터과학·인공지능연구소 (CSAIL) 소속 우후리카자씨 연구팀은 2026 년 11 월 2 일 'Sparks of Weight-Space Programming: LLMs can natively read & write neural network weights' 라는 제목의 연구 보고서를 공개했습니다.
GPT-6 Astra 에 "수학에 강하게 하도록 Qwen3.5-0.8B 의 가중치를 재조정해 달라"고 요청했을 때, 전체 가중치의 0.016% 만 변경되어 수학 벤치마크에서는 6 배, 다른 벤치마크에서는 최대 3 배 정도 성능이 향상되었습니다. MIT 에 오신 후의 첫 번째 성과입니다! https://t.co/xk5uOn6aGO https://t.co/W86SJSVKB1
AI 의 신경망은 정보 처리를 위해 '가중치'라고 불리는 방대한 수치를 사용합니다. 일반적으로 AI 모델의 성능을 개선하려면 추가 데이터를 사용하여 학습을 반복하고 가중치를 조정해야 합니다. 연구팀은 대규모 언어 모델 (LLM) 에 가중치를 직접 분석하고 편집하는 'Weight-Space Programming(가중치 공간 프로그래밍)'이라는 방법을 제안했습니다. 연구팀은 GPT-6 Astra 를 사용하여 신경망의 가중치에서 학습 내용을 추측하거나 가중치를 변경하여 동작을 개선하는 실험을 수행했습니다. 첫 번째 실험에서는 '블록 붕괴', '푹', '팩맨', '프라이웨이'라는 4 가지 게임을 학습시킨 신경망을 준비했습니다. 모두 동일한 구조를 가지며 17253 개의 가중치를 가지고 있습니다. Astra 에 가중치 값과 네트워크의 입력/출력 정보에 대한 정보를 제공했을 때, 게임 이름을 알려주지 않았음에도 불구하고 4 가지 게임을 모두 정확하게 식별할 수 있었습니다.
다른 실험에서는 차를 조작하여 언덕을 넘는 게임을 준비했습니다. 기존 강화학습으로 훈련된 AI 는 언덕을 향해만 진전되다가 중간에 멈추며 과제를 달성하지 못했습니다. 이에 Astra 에는 신경망의 가중치와 실패 시의 동작을 보여 수정을 요청했고, 전체 가중치의 3.5% 를 수정하여 차를 일단 후퇴시킨 후 가속하는 동작으로 변경했습니다. 수정된 AI 는 1,024 회 시도 모두에서 과제를 달성했다는 것입니다.
연구팀은 게임 규칙을 기반으로 Astra 에게 신경망의 가중치를 0 에서부터 생성하도록 하는 실험도 진행했습니다. 그 결과, Astra 가 생성한 네트워크는 3 가지 게임 모두에서 1 억 단계의 강화학습을 수행한 네트워크보다 높은 점수를 기록했습니다. 연구팀은 실험 규모를 확대하여 Alibaba 의 AI 모델 'Qwen3.5-0.8B'의 성능 개선에도 도전하고 있습니다. 약 8 억 개의 파라미터를 가진 Qwen3.5-0.8B 는 추론 과정에서 동일한 내용을 반복하여 답변을 완료하지 못하는 문제가 있었습니다. Astra 에는 Qwen3.5-0.8B 의 가중치를 조작할 수 있는 Python 환경이 제공되었고, 수학 연습 문제를 통해 모델의 동작을 확인하는 것이 허용되었습니다. Astra 는 최대 50 회 평가 기회를 활용하여 문제를 조사하고, 특정 신경망의 층이 특정 방향으로 반복을 기록하는 원인을 판단했습니다.
그리고 약 8 억 개의 파라미터 중 0.016%에 해당하는 13 만 1072 개의 가중치를 수정했습니다. 수정 전 Qwen3.5-0.8B 는 수학 문제 벤치마크 'MATH-500'에서 7.9% 의 정답률을 기록했으나, 수정 후에는 48.1% 로 개선되었습니다. 다른 수학 벤치마크 'GSM8K'에서도 13.8% 에서 67.1% 로 향상되었으며, 지시사항 추종 능력을 측정하는 'IFEval' 점수도 21.0% 에서 62.3% 로 개선되었습니다.
한편, 추론 반복이 거의 발생하지 않는 'Gemma 3 270M'에 대해 동일한 방법을 적용한 실험에서는 명확한 성능 향상을 확인할 수 없었기 때문에, 연구 팀은 가중치 편집이 모델의 능력을 가리는 장애물을 제거할 수는 있지만, 모델이 원래 가지고 있지 않은 능력을 추가할 수는 없다고 결론지었습니다. 연구 팀은 Weight-Space Programming 을 통해 AI 모델의 추가 학습에 필요한 계산 자원을 줄일 수 있을 것이라고 지적했습니다. 또한, 미래에는 AI 가 자신의 가중치를 분석하고 수정함으로써 AI 의 자기 개선에도 적용될 수 있을 것이라고 기대를 표명했습니다. 그러나 자연어 처리 라이브러리 'spaCy'의 개발자인 마シュー 호니발 (Matthew Honnibal) 은 2026 년 11 월 3 일에 공개한 블로그 포스트에서 연구 팀의 성과 설명이 '오해를 불러일으킨다'고 비판했습니다. 'Astra 가 가중치를 읽어서 Qwen 을 개선할 수 있다'는 게시물은 오해의 소지가 있다 - honnibal.dev https://honnibal.dev/blog/astra-read-write-misleading
호니발 박사는 연구팀이 소개한 여러 실험에서 실제로는 다른 방법이 사용되고 있음을 문제시하고 있습니다. 예를 들어, 게임 종류를 식별하는 실험에서는 Astra 가 단순히 가중치 수치를 직접 읽기만 해도 정답을 도출할 수 있었습니다. 차량 동작을 수정하는 실험에서도 외부 도구인 Python 등을 사용하지 않고 가중치를 직접 수정했습니다. 이에 반해, Qwen3.5-0.8B 의 성능을 개선한 실험에서는 Astra 가 Python 프로그램을 작성하여 가중치를 분석하고 편집하고 있었습니다. 또한 최대 50 회에 걸쳐 연습 문제를 풀게 하고 그 결과를 확인하는 과정도 인정되었습니다. 호니발 박사는 "가중치 수치를 직접 읽는 실험"과 "프로그램을 사용하여 대규모 AI 모델을 개선하는 실험"을 동일한 능력의 증거로 다루는 것에 의문을 제기했습니다. 호니발 박사는 "Qwen 의 실험 결과가 실제로 보여준 것은 Astra 가 인간 기계학습 엔지니어와 유사한 작업을 고안하고 실행할 수 있다는 점"이라고 지적했습니다. 인간 기계학습 엔지니어가 프로그램을 작성하여 신경망의 가중치를 직접 분석하고 수정하는 것은 일상적으로 이루어지는 일이며, Astra 가 완전히 새로운 방법을 발견한 것은 아니라고 설명했습니다. 호니발 박사는 Astra 가 Qwen 의 성능을 개선한 성과 자체는 평가하지만, 가중치를 분석하고 수정하는 능력과 가중치 수치를 직접 읽어서 그 의미를 이해하는 능력은 서로 다른 것이며, 두 가지를 혼동하는 듯한 연구 결과 설명에는 문제가 있다고 지적했습니다. 한편으로 호니발 박사는 "이러한 작업을 효과적으로 수행하는 방법을 찾았다는 점은 결코 무의미하지 않습니다. 1~2 년 전의 AI 모델이라면 이러한 작업은 모두 실패했을 것입니다"라고도 언급하며 Astra 의 능력 향상은 평가했습니다. 또한 연구팀 자체도, 기고 당시 Weight-Space Programming 은 처리 가능한 정보량과 도구의 제약이 있으며 실용화를 위한 과제가 남아있음을 인정하고 있습니다.
원문 보기 | 출처: Gigazine