OpenAI는 2026년 9월 8일(현지 시간), 사내의 미공개 AI 시스템이 수학의 미해결 문제인 '나비에-스토크스 방정식의 존재성과 평활성'을 해결하는 증명을 생성했다고 발표했다. 해석적인 증명 외에도 정리 증명 지원 시스템 'Lean'으로 형식화한 증명도 공개하고 있다.
이 문제는 클레이 수학연구소(Clay Mathematics Institute, CMI)가 2000년에 선정한 7개의 '밀레니엄 현상 문제' 중 하나로, 각각의 해결에 100만 달러의 상금이 걸려 있다. OpenAI에 따르면 증명을 생성한 것은 현재도 훈련 중인 미공개 모델로, 9월 3일에 발표한 'GPT-6 Astra'보다 대폭 높은 성능을 자랑한다고 한다. 약 1만 개의 AI 에이전트를 병렬로 작동시켜 문제 해결에 나섰다고 밝혔다.
'매끄러운 흐름'은 도중에 깨지는가
나비에-스토크스 방정식은 물이나 공기 등 유체의 움직임을 기술하는 방정식이다. 항공기 설계, 일기 예보, 혈류 연구 등 광범위한 분야에서 이용되고 있다.
실제 물이나 공기는 분자의 집합체이지만, 나비에-스토크스 방정식에서는 분자 하나하나를 추적하지 않고 유체를 매끄럽게 연결된 '연속체'로 다룬다.
오랫동안 문제가 되어 온 것은 3차원 유체가 처음에는 매끄럽게 움직이더라도 그 상태가 언제까지나 유지될 것인가 하는 점이다.
수학적으로는 유체의 속도가 유한한 시간 안에 끝없이 커지는 '특이점'이 발생할 가능성이 있다. 점성에는 흐름을 매끄럽게 만드는 작용이 있음에도 불구하고, 그럼에도 특이점이 발생할 수 있는지는 1930년대부터 약 90년 동안 해결되지 않은 채 남아 있었다.
OpenAI의 시스템이 이번에 생성한 것은, 처음에는 정지하여 매끄러운 상태에 있는 유체에 매끄러운 외력을 가하면 에너지를 유한하게 유지한 채 유한한 시간 내에 특이점이 발생하는 사례의 증명이다.
즉, "어떤 유체든 반드시 도중에 특이점이 생긴다"라고 증명한 것은 아니다. 매끄러운 상태에서 시작하더라도 조건에 따라서는 속도가 끝없이 커져 매끄러움이 상실되는 케이스가 존재함을 보여주었다.
OpenAI는 이 결과로 인해 CMI의 공식 문제 설정에 있는 명제 'C'와 'D'가 성립하여 밀레니엄 현상 문제를 해결하게 된다고 밝혔다.
증명에서 구성된 것은 안쪽으로 나선형을 그리며 말려 들어가면서 가늘고 길게 늘어나는 소용돌이다. 중심 부분은 작아지면서 속도를 더해, 전체 에너지는 유한한 상태를 유지한 채 최종적으로 속도가 끝없이 커지는 특이점을 형성한다고 한다.
GPT-6 Astra를 뛰어넘는 미공개 모델, 약 1만 에이전트 투입
이번 성과는 수학적 결과뿐만 아니라 OpenAI가 사용한 AI 시스템의 규모 면에서도 주목받고 있다.
OpenAI는 8월 28일부터 수학을 포함한 사내 벤치마크에서 높은 성능을 보이는 새로운 미공개 모델의 훈련을 시작했다. 9월 1일, 이 모델을 사용해 미해결 밀레니엄 현상 문제 등에 도전하는 실험을 시작했다.
OpenAI에 따르면 이 미공개 모델은 9월 3일에 발표한 GPT-6 Astra보다 대폭 높은 성능을 자랑한다고 한다. 공개된 그래프에서는 수학 문제 세트에서 다양한 테스트 시 계산량 조건에 걸쳐 내부 모델의 정답률이 GPT-6 Astra를 상회하고 있다.
복수의 AI 에이전트를 그룹으로 나누어 서로 다른 접근 방식을 병행하여 탐색하도록 했다. 나비에-스토크스 문제 해결로 이어진 그룹에서는 약 1만 개의 에이전트가 동시에 작동했다고 한다.
첫 에이전트를 투입한 지 약 88시간 후인 9월 5일에 해결책에 도달했다. 이후 GPT-6 Astra를 사용한 Lean 기반 형식화와 검증에 추가로 17시간이 소요되었다.
나비에-스토크스 문제에 대한 노력만으로 에이전트 간에 약 270만 건의 메시지가 오갔으며, 약 1,300억 개의 출력 토큰이 사용되었다고 밝혔다.
OpenAI는 이번 성과에 대해 AI 모델의 능력 향상 속도를 보여주는 것이라고 설명했다. 또한 밀레니엄 현상 문제의 상금을 청구할 의도는 없다고 분명히 했다.
수학자가 발표까지의 경위를 문제 삼아
이번 발표를 둘러싸고 뉴욕대학교(NYU)의 수학자 트리스탄 백마스터(Tristan Buckmaster) 씨가 OpenAI가 연구에 착수한 경위 등을 문제 삼고 있다.
백마스터 씨는 수학자 레벤트 알푀게(Levent Alpöge) 씨와 공동으로 AI를 활용하면서 유체 방정식의 특이점에 관한 연구를 진행하고 있었다. 공개한 성명에 따르면, 두 사람은 8월 중순까지 매끄러운 외력을 가한 경우의 부시네스크 방정식이나 오일러 방정식에서 유한 시간에 특이점이 발생하는 결과를 얻었다고 한다.
백마스터 씨는 9월 3일, 자신들의 연구 진전에 관한 정보가 OpenAI로 전달되었을 가능성이 있음을 알고 OpenAI 소속 수학자에게 연락했다. 이후 주고받은 대화에서 OpenAI의 미공개 모델이 '외력 있음'의 나비에-스토크스 방정식에서 유한 시간에 특이점이 발생하는 증명을 생성했음을 알게 되었다고 밝혔다.
그는 매끄러운 외력을 사용해 밀레니엄 현상 문제의 해결을 목표로 하는 수법은 디에고 코르도바(Diego Córdoba) 씨와 루이스 마르티네스-조로아(Luis Martínez-Zoroa) 씨가 개척하고 자신들도 다루고 있던 방향성이었다고 설명했다. OpenAI가 이 방향에 단기간에 도달한 것에 대해 의문을 표했다. 또한 OpenAI 측으로부터 공동 발표에 관한 여러 제안을 받았을 때의 대화 내용에 대해서도 자세히 기록하고 있다.
한편 백마스터 씨는 "OpenAI의 증명을 보지 못했고, 모델이 무엇을 어떻게 수행했는지 알 수 없다", "우리들의 데이터가 사용되었는지 여부도 알 수 없다"라며 OpenAI가 연구 성과를 부정하게 이용했다고 단정 짓는 것은 아니다.
OpenAI도 공식 발표에서 이 경위를 언급했다. OpenAI에 따르면 밀레니엄 현상 문제에 대한 연구는 9월 1일에 들은 소문을 계기로 시작했으며, 나중에 그 정보가 알푀게 씨와 백마스터 씨의 연구에 관한 것이었음이 밝혀졌다고 한다.
OpenAI는 두 사람의 연구를 공개 전에 열람한 적이 없으며, 문제를 풀기 위해 특정 사용자 데이터에 접근한 적도 없다고 설명하고 있다. 한편 두 사람의 OpenAI 제품 이용에서 얻은 익명화 데이터가 모델 개선에 사용되었을 가능성에 대해서는 "가능성은 낮지만 배제할 수는 없다"고 밝혔다.
CMI는 현재도 '미해결'로 분류
한편 CMI의 나비에-스토크스 방정식 공식 페이지에서는 9월 9일 시점으로 해당 문제가 여전히 'Unsolved(미해결)'로 되어 있다.
CMI의 밀레니엄 현상 문제 규칙에서는 제안된 해답을 심사하는 전제 조건으로 적격한 매체에 공표되어 있을 것, 공표 후 적어도 2년이 지났을 것, 세계 수학계에서 널리 받아들여졌을 것의 3가지 조건을 규정하고 있다.
이 때문에 현 단계에서는 나비에-스토크스 문제가 정식으로 해결되었다고 확정된 것은 아니다. OpenAI가 공개한 증명이 향후 수학자들에 의한 검증을 거쳐 어떻게 평가받을지가 다음 관건이 된다.
원문 보기 | 출처: Ledge.ai