2026년 8월 1일, OpenAI는 차기 모델 ‘Astra’의 내부 버전으로 수학 및 이론 계산 기계 과학 분야의 미해결 문제 10건을 해결하거나 진전을 이룬 사실을 발표했습니다. 1978년부터 48년간 움직이지 않았던 구 충전의 상한이 개선되었으며, 10건 모두에 기계 검증 가능한 증명서가 첨부되었습니다. 토큰 비용은 API 요금 환산으로 약 2,000달러였습니다. 그해 8월 3일, 인공지능 지원으로 제작된 “코라츠 예측의 반증”이 실제로는 검증 소프트웨어의 오류를 이용한 결과로 무효가 되었다고 발표되었습니다. 같은 주입니다. 이 두 가지를 함께 고려하는 과정에서, 제가 알고 싶었던 것은 “AI가 얼마나 놀라운가”인지 여 아니라 “왜 수학이었을까”인지 되었습니다. 왜, 수많은 지적 작업 중에서 수학이 먼저 꼽힌 까닭은, AI 에이전트 도입을 업무에 활용하는 사람에게서 바로 **다음으로 무엇이 꼽힐지 예측하는 공식**과 같습니다. 결론을 먼저 밝히겠습니다. 수학은 “채점 가능한” 영역이었다. 그래서 시행 횟수로 이를 해결했다. 그 결과 인간이 들어갈 수 없는 영역과 조합의 맹점이 생겨났지만, 채점기의 자체적인 정확성은 아무도 보장하지 않는다. 이 부분부터 4까지 순서대로 따라가겠습니다. 수식은 등장하지 않습니다. 지난 10개월 동안 무슨 일이 있었을까요. 먼저 시간 순서부터 정리하겠습니다. 2025년 10월, OpenAI 관계자가 “ChatGPT가 엘데슈의 미해결 문제를 여러 개 해결했다”고 SNS에 게시했습니다. 그러나 이는 기존 논문을 인터넷에서 검색해 온 것일 뿐이라고 밝혀져 철회됩니다. DeepMind의 데미스 하사비스가 “당혹스러운” 사건이라고 평가했습니다. 그때 분위기는 “결국 고성능 검색 엔진이 아니었을까”라는 생각이 있었습니다. 그 이후 10개월이 지났습니다. 2026년 1월 GPT-5.2 Pro가 엘데슈 문제 No.728을 해결했다. 테렌스 타오 교수는 “기존 문헌으로는 재현되지 않는 거의 자율적인 해결 방식”이라고 평가했다. 5월 20일 OpenAI 내부 모델이 1946년 제기된 “단위 거리 예측”을 반증했다. 5월 21일 구글 딥마인드의 “알파프루프 네이직스”가 엘데르슈 문제 9건을 해결했다. 7월 10일, 50년 동안 해결되지 않았던 ‘사이클 이중 덮개 예측’의 증명을 생성 7월 20일, 클로드 페이블 5가 1987년 미해결 문제인 ‘야코비안 예측’에 반례를 제시했다. 8월 1일 “아스트라”가 10건으로 신 성과를 달성 이 가속의 원인은 ①입니다. 수학은 “정답이 결정되는” 영역이었다. 머신러닝 측에서 보면 2026년에 일어난 일은 놀라울 정도로 단순했습니다. “정답 레이블이 있는 데이터로 학습하는 것”에서 “정답 레이블은 없지만, 기계가 정답 여부를 판단할 수 있는 문제로 학습하는 것”으로의 전환입니다. 수학의 증명은 이 조건을 교과서적으로 충족합니다. 증거를 찾는 것은 절망적으로 어렵습니다. 증명이 정확한지 확인하는 것은 기계에 맡겨질 수 있다 (Lean 4라는 소프트웨어가 추론의 각 단계가 규칙을 준수하는지 타입 검사하는 것뿐이다). 계산량 이론을 공부한 분이라면 NP 문제의 본질 자체가 그렇다고 직감하게 될 것입니다. 탐색은 어렵지만, 검산은 빠릅니다. 이러한 불균형성을 가진 영역에서는 시도 횟수가 그대로 무기가 됩니다. 10만 번 틀려도 1번 맞으면 검증기가 픽업하여 처리해 줍니다. 대규모 언어 모델 최대의 약점인 “더욱 그럴듯한 거짓말”은 구조적으로 무해화됩니다. 이것은 “AI가 수학에 강해진”의 핵심 내용입니다. 모델의 추론 능력이 향상된 것은 분명하지만, 그 이상으로, 향상된 능력을 보상에 연결하는 메커니즘이 작동한 결과입니다. 요컨대, 다음과 같습니다. 2026년에는 수학이 가장 먼저 포기된 이유는 수학이 ‘평가 가능’했기 때문입니다. 이 경영 판단이 타당한지, 이 분석의 해석이 적절한지에 대해서는 이 기구는 쓸모가 없습니다. 판단 기준이 정의되지 않기 때문입니다. 결국 이 선이 결정적인 영향을 미치겠죠. 그래서 시도 횟수를 늘려 망가뜨렸다. 채점기가 있으면 싸움의 방식이 바뀝니다. 7월의 사이클 이중 덮개 예상 증명은 64개의 서브 에이전트가 병렬로 탐색하여 1시간 미만으로 완료되었다고 합니다. DeepMind의 AlphaProof Nexus는 더욱 명백하며, 반증된 경로를 즉시 공유 데이터베이스에 기록하여 다른 병렬 에이전트가 동일한 잘못된 경로에 계산 자원을 낭비하지 않도록 합니다. 이는 단순한 추론이라기보다는 분산 탐색 알고리즘입니다. 또한 비용이 공개되고 있다는 점이 이번의 특징입니다. 아스트라 10개 세트 가격은 약 2,000달러(약 31만 원)이며, DeepMind 측에서도 1문제당 수천 달러 규모로 보도되고 있습니다. 半세기 동안 풀리지 않았던 문제가 출장비 정도의 금액으로 해결된 것입니다. 비용 제약이 확대되면 “질”보다 “시행 횟수”가 중요한 문제 설정에서는, 싸움 방식 자체가 달라집니다. 무엇이 떨어졌는지—난이도는 3가지 유형으로 나뉜다. 제가 가장 오해받는 부분이라고 생각합니다. AI가 풀어낸 문제는 수학자들이 진지하게 접근해도 해결이 불가능했고, 가치가 없으니 무시당하고 있었다는 의문이 드는 것은 당연합니다. 저 또한 처음에는 그렇게 생각했습니다. 조사를 통해 얻은 결론으로는, 그 비유는 절반은 맞고 절반은 틀립니다. 난이도는 일정하지 않으며, 최소 3가지 유형으로 분류할 수 있습니다. 타입 A: 재료는 오래전부터 확보된 “맹점형” 사이클 이중 피복 예상(1973년 제기, 50년간 해결되지 않음)이 대표적인 사례입니다. 그래프 이론 전문가 상일 엄 씨가 증거를 검증하고 있으며, 9페이지 분량의 해설 논문(arXiv:2607.16356)을 수정하고 있습니다. 그 내용을 살펴보면, 사용된 도구는 나무 꽉 채움 정리, 8-flow 정리, F₂ 위의 선형대수만 사용되었으며, 모두 1979년까지 확보된 내용입니다. 마지막 결정적인 요소는 “행렬 공간은 좌영공간의 직교 보간 공간”이라는 선형대수 교과서 수준의 사실입니다. 수학자 토마스 브루머는 “매우 아름답고 기본적인 내용”이며 “원리적으로 1980년대 수학자에게도 발견 가능한 내용이었다”라고 평가했습니다. 즉, 인간도 풀 수 있는 문제입니다. 다만——50년간 아무도 해결하지 못했습니다. 또한 이 예측에는 “증명했다”는 잘못된 주장이 반복적으로 나타나는 역사가 있습니다. 체스처럼 같은 구조입니다. 수가 짧아도 탐색 경로에 포함되지 않으면 영원히 찾을 수 없습니다. “풀린다”와 “풀리지 않는다”는 완전히 다른 것입니다. 유형 B: 인간이 두려움 때문에 발을 들여놓지 못했던 “위험 지역형” 단위 거리 예상(1946년 제기, 80년 미해결)은 타입 A와 정반대입니다. 반증에 사용된 것은 Golod–Shafarevich의 류체탑, Ellenenberg–Venkatesh의 류군 평가와 같은 수론의 무기였습니다. 평면 기하 문제를 대수적 정수론으로 해결했습니다. 필즈상 수상자인 티모시 가워즈는 이 증명의 본질을 “타 영역과의 아이디어 통합”이라고 평가했습니다. 검토자 중 한 명인 야코브·치마만(Jacob Chimerman)의 코멘트가 핵심을 짚고 있습니다. 변수가 변동하는 대수체 족을 다루는 것은 인간에게 있어 “매우 위험한 영역”이며, AI는 그 영역에 인간보다 더 오래 머무를 수 있다는 강점이 있습니다. 인간의 수학자들은 본능적으로 3개월이라는 시간 동안 끈기를 발휘하는 것을 피합니다. 이는 커리어가 유한하기 때문입니다. AI에는 그러한 손실 회피가 없으며, 능력의 차이보다 제약의 차이입니다. 유형 C: 수십 년 동안 움직이지 않았던 벽을 실제로 움직였다. 8월의 Astra에서 10건이 집중되고 있다. 결과적으로 벽의 전진, 구체 충진 밀도 상위 지표 개선, 1978년부터 48년 동안 멈추지 않고 2값 부호 및 구면 부호 상위 지표 개선(1977년, 1978년 이후), 영구 산술식 크기 하위 지표(1980년대 수준 이후), 비소픽 그룹 최초 명시적 구성(1999년 이후 분야 중심 문제), 콘누 강성 예상에 대한 반례, 작용소 환론의 근간 재검토 시간이 걸려도 풀렸다’는 결론은 나오지 않습니다. 전 세계의 전문가들이 총력을 다해 수십 년간 풀지 못했던 숫자입니다. 비소픽 군의 경우에는 ‘인류가 구체적으로 알게 된 군은 모두 소픽 군이었다’는 상태가 27년 지속되었습니다. 그러면 AI의 ‘탁월함’의 정체는 무엇인가 유형 A와 유형 B는 정반대로 보이지만, 뿌리는 같습니다. 유형 A는 조합의 맹점을 포괄적으로 해결했다. 타입 B = 인간이 들어가지 못하는 영역에, 지구력을 유지했다. 둘 다 “폭”의 승리입니다. 가우저스가 사용한 “전문가를 법으로 하는 콜모고로프 복잡성”이라는 표현이 적절했습니다. 전문가 상대라면 짧은 힌트 목록으로 설명할 수 있는데, 아무도 그 ‘말이 딱 들어맞는’ 것에 도달하지 못했습니다. 가치 없는 문제인가 – 이곳은 절반 정도 맞습니다. 難易度は本物です。ヤコビアン予想はスメイルの「21世紀の18の数学問題」の一つですし、コンヌ剛性予想は作用素環論の根幹です。価値がない、は明確に誤りです。 하지만 문제의 “선발 방식”에는 강렬한 편향이 있습니다. 이곳은 의심해 볼 부분이 적습니다. 편향 1: 나열된 문제들뿐이다. 엘데슈 문제(1200건 이상, 그 중 353건이 린 형식화 완료됨), OEIS의 미해결 예상 문제 492건은 그대로 점수판처럼 작동한다. 반면 리만 가설이나 나비에-스토크스 문제와 같이 “문제의 정식화 및 장기 프로그램 구축이 필요한 문제”에는 전혀 진전이 없다. 편견 2: 반례가 지나치게 많다. 단위 거리, 외적, 야코비안, 맥스웰 예상 – 무너진 예측의 대부분은 “증명”이 아닌 “반례”였다. 이유는 토마스 브루ーム이 지적했듯이, 수학자 공동체에는 **“유명한 예시는 정답에 베팅하는” 분위기**가 있었고, 진심으로 반증을 시도하는 자체가 드물었다. 모두가 정답이라고 믿고 증거를 찾던 광맥을, 반대쪽에서 파는 채굴자가 갑자기 나타난 것과 같은 상황이다. 편향 3: 획득 폭이 희박하다. 단위 거리에 대한 반증으로 얻은 ε는 약 6.24×10⁻³⁸이다. 소수점 아래에 0이 37자리 겹쳐 있다. 예상에 반하는 한쪽 면만을 뚫은 반증이다. 하지만 — 얇은 피부가 찢어지면 널리 퍼집니다. 수 주 동안 인간 수학자들이 하층 세계를 개선했으며, 이 방법론에 영감을 얻은 인간 팀이 인접한 와일트너 추측(1983년 제기)을 해결했습니다. AI가 처음 한 발을 내딛으면 인간이 순식간에 따라 나옵니다. 다만, 채점기를 아무도 보장하지 않습니다. 여기서 다시 8월 3일로 돌아갑니다. 7월 25일, 형식 검증을 전문으로 하는 연구자가 “AI 지원으로 콜라츠 추측을 반증했다”는 프로젝트를 공개했습니다. 외관상으로는 완전히 공식적인 증명으로 Lean이 승인되었습니다. 미완성 부분에 대한 임시 대체 설명이나 추가적인 공리도 사용되지 않았습니다. 그러나 조사 결과, 그 코드는 콜라츠 추측과 무관하게 “거짓”이라는 명제를 증명할 수 있는 상태를 만들어내고 있었으며, 이는 Lean의 커널(최종 검사를 수행하는 핵심 부분)의 타입 검사 오류로 인한 것이었습니다. 더욱이, 이 프로젝트는 Lean과는 별개로 Rust로 작성된 독립 검사기가 통과를 통해 확인된 점입니다. 그쪽에도 다른 종류의 버그가 있었고, 두 개의 독립적인 구현에서 동시에 무관한 두 개의 버그가 발생했습니다. 이 사건을 어떻게 해석할지에 대한 형식 검증도 신뢰할 수 없는 것은 지나친 비판입니다. 발견, 보고, 수정이 1주일 이내에 회람된 사실은 이 시스템이 정상적으로 작동하고 있음을 증명합니다. 정확한 발음은 소프트웨어에서 사용하는 TCB(신뢰의 기반)는 완전히 없앨 수 없다고 생각합니다. 증명이 타당하다는 것은 검증기가 이를 보증한다는 뜻이다. 그러면 검증기가 옳은지 누가 보증하는 걸까요? 이 질문은 무한히 되돌아갑니다. 어디에서든 “신뢰할 대상”이라는 근거를 마련해야만 합니다. 진행된 형식 검증은 “AI의 출력”에서 “검증기 구현”으로 대상 범위를 크게 축소하고, 그 규모를 줄인 것입니다. 0으로 만든 것은 아닙니다. 또한, ①에서 본 “점수가 나왔기 때문에 이길 수 있었다”라는 설정은 그대로 “점점기의 정확성에 전체 중량이 실려 있다”는 위험의 반전입니다. 이는 표면과 내면이 하나로 연결되어 있으며, 분리될 수 없습니다. 덧붙여서, 간과할 수 없는 사실이 하나 더 있습니다. 단위 거리 예측의 반증은 약 120만 줄의 Lean 코드로 형식화되었다고 합니다. 인간이 읽을 수 있는 양조차 아닙니다. AI는 증거를 생성하고, AI가 형식화하며, 기계가 검증한다. 현재는 이 폐쇄적인 루프 안에서 인간은 전혀 관여하지 않는다. 수학계 역시 이를 경계하고 있습니다. 2026년 6월 2일, 15개 대학 연구진 16명이 참여한 “라이덴 선언”이 발표되었으며, 국제수학연맹(IMU)이 공식적으로 지지했습니다. 선언에서 언급된 5가지 위협 중 가장 와닿았던 것은 4번째입니다. “논문 심사 대신 보도자료나 블로그를 통해 성과가 크게 홍보되는 것”입니다. 지금까지 소개된 결과물은 거의 모두 기업 블로그나 SNS 게시물이 초기에 발표된 정보이며, 심사를 거치지 않았습니다. 그래서 이 파도는 제 일에 언제 덮쳐올까요 길어졌으니 실무에 대한 이야기를 본격적으로 하겠습니다. ①에서 본 구조를 그대로 적용하면, 선이 놀라울 정도로 깔끔하게 그려집니다. 채점기가 있는 것 (AI가 곧 가져갈 것입니다). 코드의 단위 테스트, 타입 검사, 정적 분석 데이터 스키마 검증, 집계값 일치 SQL 실행 결과 일치 여부 확인 수치 계산 재현성 검토 형식 규격이 정해진 문서의 요구사항 충족 여부 검사 공통점은 “정답을 모르지만, 정답 여부는 기계가 판단할 수 있다”는 것입니다. AI는 무한히 시도와 오류를 반복하며, 성공한 경우에만 결과를 제출할 수 있습니다. 수학과 완전히 동일한 구조입니다. 채점기가 없는 것(사람이 남는) 이 정책을 시행해야 할까요? 이 분석 결과를 어떻게 해석할지에 대한 무엇을 분석해야 하는지부터 시작해야 하는 것일까. 이해관계자들이 만족할 수 있는 설명은 무엇인가요? AI 에이전트 도입으로 “예상만큼 성과가 나오지 않는” 현장은 대체로 뒤늦게 도입하는 경우가 많습니다. 그리고 중요한 것은 이 경계선이 고정적이지 않다는 것입니다. 수학은 원래 채점 가능하지 않았었고, Lean이라는 판정기를 수학계가 수십 년 동안 정비한 결과, 채점 가능하게 되었습니다. 즉, 실무적으로 해야 할 일은 AI 도입이 아닌 것입니다. 자신의 업무의 어느 부분에 판단 기준을 만들 수 있을지 고민하는 것입니다. 겉으로 드러나는 것은 아니지만, 투자 대비 효과를 명확히 할 수 있는 부분입니다. 저 자신은 이 선을 명확히 한 이후로, 어디에 인력을 투입할지 결정하는 것이 훨씬 쉬워졌습니다. まとめ 수학이 처음으로 어려움 없이도 낙제된 것은 “채점 가능”했기 때문이 아니라, 탐구는 어려웠지만 검증은 기계로 할 수 있는 비대칭성이 결정적이었기 때문이다. 떨어진 문제의 난이도는 3가지 유형으로 나뉩니다. 인간에게도 가능했던 맹점형, 인간이 두려워서 들어가지 못했던 위험지대형, 수십 년 동안 움직이지 못했던 벽형입니다. “가치 없는 문제”는 아니지만, 목록화되어 점수판에 오르는 문제들로부터 선택받고 있는 것은 사실입니다. 승리한 것은 “깊이”가 아닌 “넓이”였다. 포괄성과 지구력으로 인간의 탐구의 허점을 파고든다. 채점기의 자체적인 정확성은 보장되지 않습니다. 현재 생성, 형식화, 검증 등은 모두 기계적으로 완료되고 있습니다. 자신의 일에 끌리는 건 질문이 하나뿐입니다. 그 업무에 판단 장치가 있나요? 만약이라면, AI는 가까운 시일 내에 올 것이다. 만약 없다면, 우선 판정기 개발을 시작해야 한다. 출처: note 원문 번역: Gemma 3(.44) 초벌 + 교정 91청크 원문 보기 | 출처: note.com