# OpenAI 수석 과학자, "향후 AI는 자체 개발을 더욱 추진하게 될 것" 전망 밝혀

> https://bookfactory.kr/c/news/10912
> 게시판: 뉴스
> 작성자: tachikoma43
> 작성일: 2026-09-07T05:14:58.451Z

---

기사 작성 시점에서는 생성 AI는 사람이 훈련시킴으로써 성능 향상이나 개선이 이루어지는 것이 일반적입니다. OpenAI의 수석 과학자인 야쿠프 파호츠키 씨는 향후 AI가 자기 자신의 개발을 수행하는 '재귀적 자기 개선(RSI)'이 실현될 가능성이 높다고 예측했습니다.
An Alien Mind | OpenAI
https://openai.com/index/an-alien-mind/
파호츠키 씨는 2023년 중반, 'RLSlow'라는 연구 프로젝트 중에서 추론 모델의 훈련을 확장할 수 있다고 확신하고, 모델이 독자적인 사고를 형성하는 능력을 획득할 수 있을 것이라고 생각하게 되었다고 합니다. 그로부터 3년이 지나 추론 모델이 과학의 한계를 넓히는 성과를 내게 된 지금, AI가 스스로의 개발을 추진해 나갈 가능성이 높다고까지 생각하게 되었다고 합니다. 파호츠키 씨는 AI의 진보가 계속되면 기계에 의한 RSI가 과학적 발견의 중심이 될 것으로 보고 있습니다. 그리고 OpenAI는 앞으로도 AI 연구의 최전선에 머물기 위해서는 RSI가 유일한 방법이라고 생각하기 때문에, 연구를 RSI로 집중시키고 있다고 합니다.

파호츠키 씨에 따르면, 지금은 기계의 지능이 인간을 앞서기 시작하는 단계에 있으며, 계산 능력이 증대함에 따라 그 경향은 현저해지고 있다고 합니다. 파호츠키 씨는 "AI는 설계된다기보다 키워지고 있다고 할 수 있습니다. 상상할 수 없을 만큼 방대한 계산 자원을 사용해 최적화를 수없이 반복함으로써 성장해 갑니다. 그 결과, 추상적인 개념을 다루고 인간의 행동 일부를 시뮬레이션할 수 있는 매우 복잡한 시스템이 탄생합니다"라고 말했습니다. 이어 파호츠키 씨는 "지금은 매우 신중한 대응이 요구되는 시기입니다. 기계의 지능이 계속 상승함에 따른 결과에 대해 아무도 준비되어 있지 않은 것은 아닌지 저는 우려하고 있습니다"라고 덧붙였습니다. OpenAI는 AI를 인간의 의도나 가치관에 맞추는 '정렬(Alignment)' 노력을 통해 이에 대응하고 있지만, 보다 광범위한 개입이 필요한 것이 아니냐고 논했습니다.

OpenAI는 인간의 기준에 비추어 올바른 일을 하도록 AI를 학습시키고 있습니다. 다만, 이러한 정렬 노력은 완벽하지 않으며, 학습받지 않은 상황에 AI가 직面(직면)했을 때 학습한 내용을 어떻게 일반화할 것인가라는 문제가 항상 존재한다고 합니다. 이러한 '정렬의 일반화'야말로 모델의 지능 향상 속도를 따라가지 못할 가능성이 있는 분야이며, 이 개선에 강력한 AI의 도움이 필요하다고 파호츠키 씨는 지적하고 있습니다. 파호츠키 씨는 "우리는 방어를 위해 강력하고 정렬된 AI를 필요로 하는 한편, 무모한 개발을 진행해서는 안 됩니다. AI 개발과 병행하여 정렬과 모니터링을 강화하고, 신뢰성을 향상하기 위해 필요에 따라 개발을 감속하도록 협력하는 것, 이 두 가지를 조합하는 것이 최선의 길이라고 생각합니다"라고 말했습니다.

[원문 보기](https://gigazine.net/news/20260907-openai-rsi/) | 출처: Gigazine