# AI는 자신을 개선했다. 과연 이것이 “인간이 만든 마지막 AI”일까?

> https://bookfactory.kr/board/ai-tech/17620
> 게시판: AI·머신러닝
> 작성자: admin
> 작성일: 2026-09-18T08:05:07.986Z

---

![見出し画像](https://assets.st-note.com/production/uploads/images/314827940/rectangle_large_type_2_5ff4a7ac7fcdcda8b172878f24bf0fb7.png?width=1280)

인간이 창조하는 마지막 AI

9월 10일, 그러한 제목의 논문이 발표되었다. 인간이 AI를 만들고, 그 AI가 더욱 뛰어난 AI를 만드는 것이다. 개선 능력까지 향상되면 인간이 다음 모델을 개발하기만을 기다리는 대신, 발전이 가속화될 것이다. 논문은 그 실현을 위한 길잡이를 정리한 것이다.

그 4일 후, 구글과 구글 딥마인드, 메릴랜드 대학교 등 연구진들이 AI의 자가 개선을 다루는 “드림-RSI”를 발표했다.

드림-RSI의 RSI는 “재귀적 자기 개선”의 약자입니다.

이번 AI는 스스로 어떤 부분을 개선했는지.

## AI가 바꿔놓은 것은 다음에 무엇을 시도할지라는 절차였다.

드림-RSI 연구팀은 프로그램의 속도 향상 및 수학 등 8가지 과제에서 실험을 진행했다. 그 중 하나는 데이터 분석에 활용되는 “Lasso” 계산을 정확성을 유지하면서 빠르게 하는 것이었다.

AI에 프로그램의 제안을 작성하게 하고, 실행하여 정확성과 속도를 확인한다. 그 결과를 전달하고 다시 수정하도록 지시한다. 이러한 시도와 오류를 반복하여 좋은 아이디어를 찾는 과정이 논문에서 말하는 “탐색”이다.

선행 기법인 SimpleTES는 여러 방침을 병행하여 시도하고, 후보를 비교하면서 개선을 진행한다. 과거의 결과나 실패도 다음 지시로 이관한다. 단순한 코딩 작업만을 수행하는 메커니즘이 아니다.

드림-RSI는 시행착오의 진행 방식 자체를 핵심으로 삼아 이를 개선했습니다. 아이디어를 더욱 발전시킬지, 다른 아이디어로 전환할지, 중단 시점을 결정하는 등 이러한 선택 단계를 AI에 반영했습니다.

그렇기 때문에 과거에 제작한 코드와 실행 결과 기록을 활용하는 것입니다. “다른 순서로 아이디어를 선택했다면, 더 적은 시도에서 좋은 결과에 도달했을까”를 기록을 토대로 비교하며 확인하고, 이미 결과가 있는 경우 동일한 실험을 반복할 필요는 없습니다.

그러한 좋은 결과를 바탕으로 다음 실험에 그 방법을 활용하고, 새로운 기록을 추가하여 절차를 개선한다. 연구자들이 “dreaming”이라고 부르는 것은 이러한 기록을 활용한 검토를 의미한다. 아직 시도해 보지 않은 아이디어의 결과까지는 알 수 없으므로, 새로운 아이디어를 실제로 작동시켜 확인한다.

기반이 되는 Gemini 모델 역시 아이디어를 평가하는 기준이 고정되어 있다. 바뀌는 것은 탐색 과정이며, Gemini 모델 자체를 재학습하여 차세대 모델로 만드는 실험은 아니다.

연구팀은 프로그램 개선에 사용할 데이터와 완성된 코드의 속도를 측정하는 데이터까지 분리했다.

![画像](https://assets.st-note.com/img/1789692583-ePv0Wyo5pjI8akrQ9StiBDqY.png?width=1200)

## 162배 비교인데, 사용 중인 AI까지도 다르게 나타난다.

공식 웹사이트에 크게 게시된 숫자는 AI 호출 횟수가 기존 방식의 약 162분의 1로 감소했다는 것이다. SimpleTES에서는 5만 1,200회, Dream-RSI에서는 317회였다.

그러나 비교표를 살펴보면 SimpleTES가 gpt-oss-120b를, Dream-RSI가 Gemini-3.1-Pro를 사용한 것으로 나타났다.

시행착오의 절차뿐만 아니라, 아이디어를 구상하고 코드를 작성하는 AI까지 변화시키고 있다.

이대로는 어떤 부분이 절차 개선인지, 어떤 부분이 모델의 차이로 인한 효과인지 알 수 없다. 시스템 전체의 성적을 비교하는 것은 가능하다. 하지만 ‘드림-알-எஸ்아이’라는 기술의 위력을 전달하는 홍보 자료로 이 숫자를 사용하는 것은 비교가 정확하지 않으며, 마치 연구 논문처럼 훌륭하게 만들어졌지만, 결국에는 단순한 마케팅 자료일 뿐이다.

연구팀은 동일한 모델을 사용한 비교도 진행하고 있다. 상대 모델은 SimpleTES가 아닌, 연구팀 스스로가 준비한 고정 절차로 여러 가지 대안을 병렬적으로 개선하며 지속적으로 발전시킨다.

같은 Gemini-3.1-Pro와 비교했을 때, 고정 절차가 550회, 드림-RSI가 317회입니다. 호출 횟수는 약 42% 감소했습니다. 이것이 원래의 효과입니다.

![画像](https://assets.st-note.com/img/1789693343-UHkCa3Xe1bQv2g4GBNlOzID8.png?width=1200)

이 모델 비교에서는 완성된 코드를 다른 6가지 종류의 데이터로 실행했을 때 평균 실행 시간이 약 18% 단축되었다. 호출 횟수가 줄어들면서 평균적으로 빠른 코드에 도달한 결과이다. 이는 긍정적인 성과다.

## 빠른 코드를 작성하는 것과 훌륭한 제품을 만드는 것은 다릅니다.

만약 비교 조건을 완벽하게 맞춰 더 큰 성능 향상을 달성한다 하더라도, 인간에 의한 제품 설계나 개발이 불필요해지는 것은 아니다.

이번 Lasso 과제에서는 먼저 어떤 것을 계산할지가 정해져 있다. 정답을 유지하면서 실행 시간을 단축하는 것이다. 후보를 평가할 수 있기 때문에, AI는 그 결과를 활용하여 지속적으로 개선을 반복할 수 있다.

이는 사용자가 사용하는 제품을 하나 만들어내는 일과는 전혀 다른 영역이다.

예를 들어, 젬마이 데스크톱 앱을 만들어보자.

대화를 나누면서 생각을 정리하는 사람들을 위한 기능, 여러 자료를 비교하여 보고서를 작성하게 하고, 예상되는 업무에 따라 사용자에게 어떤 모습으로 보여줄지, 어떤 경험을 제공할지 고려해야 한다.

보고서 제작 기능은 원본 자료와 답변을 함께 비교 검토하고 싶을 수도 있습니다. AI가 수정했던 부분을 보여줘야 할 수도 있습니다. 생각을 빠르게 정리하고 싶을 경우에는 이러한 기능은 낭비일 수 있습니다. 그렇다면 언제 분기하여 처리를 변경해야 할까요? 코드 실행 시간을 측정한다고 해서 결정되는 것은 아닙니다. 사용자 피드백을 개선의 자동 사이클에 활용하는 방법도 있을 것입니다. 하지만 최대공약수의 니즈를 충족시키는 방식으로 진행하면 평범한 제품만 만들어질 것입니다. 일반 사용자의 평균을 보고 있기에, 이는 당연한 일입니다. 획기적인 돌파구는 있을 수 없습니다.

![画像](https://assets.st-note.com/img/1789693852-L5pao7l4RexrVqFkcyY2znXK.png?width=1200)

드림-RSI 실험에서는 제품 개발의 전반적인 업무를 맡겼지만, 사용자 평가까지 확인한 것은 아니다. 숙련된 사람이 동일한 AI에 지시하면서 제품을 만드는 경우와의 비교도 이루어지지 않았다. 채점 기준을 고정된 과제에서 얻은 결과를, 사람을 대신하여 뛰어난 제품을 만드는 능력의 증명으로 확대하는 것은 무리다.

현재 시점에서는 실력 있는 사람이 이용자의 반응을 보고 방향을 정하고, AI에 구체적인 지시를 내리는 방식이 더 좋은 제품을 만들 수 있다고 생각합니다. Dream-RSI는 그 사람이 사용하는 개발 방법의 후보가 될 수 있습니다. 제품의 방향성을 결정하는 업무까지 이 시스템에 맡길 계획은 없습니다.

## 마음이 좋지 않았던 시절이었지만, 그때는 내가 아직 어리고, 무엇이 옳고 그른지 몰랐다. 하지만 지금 생각해보면, 그 경험이 나를 성장하게 해준 소중한 밑거름이 되었다고 오히려 감사하고 있다. 물론, 그때는 정말 힘들었다. 하지만 그것을 극복했기에 지금의 내가 있는 것이다. 그때의 일을 생각하면, 역시나, 그때를 이겨낸 것이 정말 좋았다고 진심으로 생각한다. 또한, 그때 만났던 사람들도 지금도 내 인생에 있어서 소중한 존재이다. 그들과의 만남이 없었다면, 지금의 나는 분명 이 인터뷰조차 할 수 없었을 것이다. 정말 감사하다. 그때 나를 믿어주고, 지지해준 것에 정말 감사한다.

- Tong Zheng 외 기타 연구진의 “드림-RSI: 진화하는 세계를 통한 재귀적 자기 개선” (2026년 9월 14일 출판)
- 드림-알파 공식 연구 소개 및 실험 결과
- 평가 기반 확장을 통한 과학적 발견 (SimpleTES, 2026년 4월 예정)
- 하오톈 예(Haotian Ye)의 “새로운 확장 축을 통한 개방형 탐색”(A New Scaling Axis for Open-ended Discovery, 2026년 6월)
- 간단한 TES 공식 구현 및 방법 설명

본격적인 TES 공식 구현 및 방법에 대해 설명합니다.

먼저, TES(The Extra Story)의 공식 구현이란 공식이 제공하는 규칙과 데이터를 기반으로 게임을 플레이 가능한 상태로 구축하는 것을 의미합니다. 이는 모드 제작의 기초가 되며, 공식 게임 밸런스를 존중하면서 더욱 풍부한 게임 경험을 제공하는 것을 목표로 합니다.

구체적인 방법은 다음과 같습니다.

1.  **공식 데이터 다운로드:** TES의 공식 웹사이트에서 필요한 데이터(캐릭터 데이터, 아이템 데이터, 맵 데이터, 이벤트 데이터 등)를 다운로드합니다. 공식 데이터는 zip 형식으로 제공되며, 압축하여 사용합니다.

2.  **데이터 구조 이해:** 다운로드한 공식 데이터를 분석하여 데이터 구조를 파악합니다. 각 데이터는 특정 형식으로 저장되어 있으며, 해당 형식을 이해하면 데이터 읽기 및 쓰기가 가능합니다.

3.  **게임 엔진과의 연동:** 다운로드한 공식 데이터를 게임 엔진(Unity 등)에 읽어와 게임 내에서 활용할 수 있도록 합니다. 이 과정에서 공식 데이터와 게임 엔진 간 데이터 형식 변환이 필요할 수 있습니다.

4.  **게임 밸런스 조정:** 공식 구현 후 게임 밸런스를 조정합니다. 이는 플레이어 피드백을 참고하여 게임 난이도나 보상 등을 조정하는 것입니다.

5.  **테스트 플레이:** 조정된 게임 밸런스를 테스트 플레이로 확인하고, 문제점이 있다면 수정합니다.

이러한 단계를 따르면 공식 TES를 원활하게 구현하고 더욱 깊이 있는 게임 경험을 제공할 수 있습니다.

공식 구현에 대한 궁금한 점이 있다면 TES 공식 포럼이나 커뮤니티에서 질문하거나 전문가의 도움을 받는 것을 추천합니다.
- 인간이 만든 마지막 AI: 진정한 재귀적 자기 개선으로
- Google PAIR「People + AI Guidebook：User Needs + Defining Success」는 AI 시스템 개발 및 활용 과정에서 인간 중심의 접근 방식을 강조하며, 사용자 경험을 최적화하고 AI의 효과를 극대화하는 데 필요한 핵심 내용을 담고 있습니다. 특히, 사용자의 요구사항을 정확하게 파악하고 이를 바탕으로 AI 시스템의 성공을 정의하는 방법을 제시하여, AI 기술이 실제 사용자에게 실질적인 가치를 제공하도록 돕습니다.
- Fireship의 “The Code Report”, 드림-RSI를 다룬 영상 (2026년 9월 17일, 제공된 실시간 스트리밍 텍스트)

생성형 AI의 발전은 더 이상 단순한 기술 혁신이 아닌, 사회 전체에 큰 변화를 가져올 잠재력을 내포하고 있습니다. 특히, 구글의 젬마이(Gemini)나 드림러시(DreamRSI)와 같은 자가 개선 AI의 등장으로 인해 제품 개발 및 UI/UX 디자인 분야에서 이전에는 상상하기 어려웠던 수준의 영향을 미이기 시작했습니다. 오픈AI의 코드(Codex), 앤트로픽(Anthropic)의 클로드(Claude)와 같은 경쟁 AI 모델과의 경쟁 또한 더욱 격화되고 있으며, 각자의 강점을 활용한 전략이 향후 AI 기술 발전의 중요한 요소가 될 것입니다. 이러한 AI 기술은 단순한 도구로서 뿐만 아니라, 인간의 사고 과정 자체를 변화시킬 가능성도 가지고 있습니다. 따라서 우리는 AI 기술의 윤리적 측면과 사회에 미치는 영향에 대해 지속적으로 고찰해야 하며, AI 기술을 최대한 활용하여 더 나은 미래를 창조하기 위한 방안을 모색해야 합니다.

**출처:** [note 원문](https://note.com/2tm/n/nb420ecffce79)

*번역: Gemma 3(.44) 초벌 + 교정 27청크*

[원문 보기](https://note.com/2tm/n/nb420ecffce79) | 출처: note.com