2026년 10월에 OpenAI가 사내 AI를 이용하여 얻은 700점 이상의 “수학적 성과”를 발표한 건은 수학계 내에서 논쟁을 불러일으키고 있습니다. 수학 문제의 증명에 컴퓨터가 사용된 사례는 이번이 처음은 아니며, 기술 전문 작가 루이스 ランス로우 씨가 1976년 처음 “컴퓨터에 의한 수학 정Theory의 증명”이 발표되었을 당시 수학자들의 반응을 정리했습니다. Celebratio Mathematica — Appel — Haken and 4Chttps://celebratio.org/Appel_KI/article/796/#sender
1st Time Machines Mogged Mathematicianshttps://newsletter.pessimistsarchive.org/p/the-1st-time-machines-mogged-mathematicians
최근에는 최첨단 인공지능 모델을 활용하여 인간 수학자들이 오랫동안 고민해 온 미해결 문제를 해결시키려는 움직임이 활발해지고 있으며, OpenAI가 한 번에 700건 이상의 성과를 공개한 것은 전 세계적인 화제가 되었습니다. 이에 대해 인간을 위한 수학 협회는 “학문적인 성과를 보여주는 것일 뿐 권력을 과시하는 데 불과하다”고 비판하고 있습니다. 또한, 유명 수학자 테렌스 타오 씨는 수학자에게 미해결 문제는 단순히 답을 내는 것뿐만 아니라, 답을 찾기 위한 노력과 시행착오 과정에서 새로운 이론이나 방법이 탄생하는 경우도 많고, 그 결과는 최종적인 답보다 더 큰 가치를 지닐 수 있다고 주장합니다. 인공지능이 단기간에 미해결 문제의 답만을 생성하도록 된다면, 이러한 발견의 기회가 사라질 수 있다고 우려합니다. 그러한 상황을 고려하여 타오 씨는 인공지능 시대의 수학 연구 방향으로, 인공지능을 단순히 미해결 문제를 푸는 도구로 사용하는 것이 아니라, 수학적인 이해를 심화시키거나 수학 지식을 현실 세계에 적용하는 “Math 2.0”을 제시했습니다. 인공지능이 수학의 미해결 문제를 해결해 나가면서 수학자 테렌스 타오 씨가 제안하는 “Math 2.0”은 무엇일까요? - GIGAZINE
억 이상의 “수학적 성과”를 OpenAI가 2026년 10월에 자체 AI를 사용하여 얻은 것은 수학계에서 논쟁을 불러일으키고 있습니다. 수학 문제의 증명에 컴퓨터가 사용된 사례는 이번이 처음이 아니며, 기술계 작가 루이스 ランス로 씨는 1976년에 처음 “컴퓨터에 의한 수학 정설의 증명”이 발표되었을 당시 수학자들의 반응을 정리했습니다. Celebration Mathematica — Appel — Haken and 4Chttps://celebratio.org/Appel_KI/article/796/#sender
1등 시간 기계들이 수학자들을 훔쳐갔다https://newsletter.pessimistsarchive.org/p/the-1st-time-machines-mogged-mathematicians
최근에는 최첨단 AI 모델을 이용하여 인간 수학자들이 오랫동안 고민해 온 미해결 문제를 해결하려는 움직임이 진행되고 있으며, OpenAI가 한 번에 700건에 달하는 성과를 공개한 것은 세계적인 화제가 되었습니다. 이에 대해 인간을 위한 수학 협회는 “학술적인 성과를 보여주는 것일 뿐 권력 과시일 뿐”이라고 비판했습니다. 또한, 유명 수학자 테렌스·타오 씨는 수학자에게 있어 미해결 문제는 단순히 해결하는 것뿐만 아니라, 해결을 위한 시도와 오류 과정을 통해 새로운 이론이나 방법이 생겨나는 경우도 많으며, 그 결과는 최종적인 답보다 더 큰 가치를 가질 수 있다고 주장했습니다. AI가 단기간에 미해결 문제의 답만 생성하는 방식으로 나아가면, 이러한 발견의 기회가 사라질 수 있다고 우려했습니다. 이에 타오 씨는 AI 시대의 수학 연구 방향으로, AI를 단순히 미해결 문제를 푸는 도구로 사용하는 것이 아니라, 수학적 이해를 깊게 하거나 수학 지식을 현실 세계에 활용하는 “Math 2.0”을 제안했습니다. AI가 수학의 미해결 문제를 해결하는 데 몰두하는 현대에 수학자 테렌스·타오 씨가 제언하는 “Math 2.0”이란 무엇인가? - GIGAZINE
수학계가 기술 발전의 수반하는 과제를 직면하게 된 것은 이번이 처음은 아닙니다. 1976년에는 “사색정리”의 증명에 컴퓨터가 사용된 것을 계기로 수학계 내에서도 의견이 분열되는 일이 발생했습니다. 사색정리는 “평면상의 어떠한 지도도 인접한 영역이 서로 다른 색으로 칠해지도록 칠하려면 4색이면 충분하다”는 정리입니다. 1852년 영국 수학자 프랜시스 가스리가 잉글랜드의 주를 지도상으로 칠판으로 나누는 과정에서 처음 발견되었으며, 이후 수십 년간 수학자들의 연구가 진행되었습니다.
1976년, 수학자 케ネス·아ppel과 ヴォルフガング·ハー켄이 컴퓨터를 사용한 증명을 발표했다. 이 증명은 지도를 “그래프(グラフ)”라는 형태로 대체한 후, 그래프 내에 존재하는 특정 해결 가능한 패턴을 제거하는 방식이다. 아ppel과 하켄은 이 증명을 수행하는 데 컴퓨터를 활용했으며, 약 1200시간에 걸친 계산과 100억 회에 달하는 결정 실행을 수행했다. 아ppel과 하켄의 발표에 대한 수학자들의 반응은 다양했다. 펜실베이니아 대학교의 수학자였던 하버트·윌프는 “신이 그런 끔찍한 방법으로 정리를 증명하게 할 이유가 없다!”라며 반발했고, 에딘버러 대학교의 수학자 프랭크·본솔은 “만약 그 해결책이 특수한 경우의 컴퓨터를 이용한 검증을 수반한다면, 그러한 해결책은 수학과학에는 전혀 속하지 않는다”고 부정했다. 또한, ケン브리지 대학교의 수학자 G·스펜서=브라운은 컴퓨터를 사용한 증명은 증거가 되지 못하며, 수학의 역사를 더럽히는 것이라고 주장했다. 아ppel과 하켄의 증명은 “부정행위(不正行為)”로 간주하는 수학자도 존재했으며, 어느 대학의 수학과 학장은 대학원생의 의욕을 꺾는다고 판단하여 아ppel과 하켄을 만나게 하지 않았다고 한다. 이 시기에 컴퓨터를 이용한 수학적 증명은 수학계 내에서 큰 논쟁을 불러일으켰으며, 일부 수학자들은 이러한 접근 방식을 심각하게 비판했다.
물론 수학자들 사이에서도 아펠과 하켄의 증명을 받아들이는 사람들이 존재했습니다. 전설적인 수학자였던 윌리엄 토마스 타트는 발표 이전에는 학술지에서 컴퓨터를 사용한 아펠과 하켄의 방법에 의문을 제기했지만, 발표를 통해 2명을 축하했다고 합니다. 또한 독일의 유명한 수학자 하인리히 헤슈 역시 자신 스스로가 아펠과 하켄이 사용한 알고리즘적인 방법을 구상했기 때문에 증명을 받아들였습니다. 아펠과 하켄 외에도 유사한 컴퓨터를 사용한 증명에 참여했던 수학자들도 있었다고 합니다. 사색정의 증명 작성에 도움을 주었던 하켄의 아들에 따르면, 증명을 발표했을 당시 반응은 주로 두 그룹으로 나뉘어졌다고 합니다. 40세 이상의 사람들은 컴퓨터를 이용한 증명이 정당한 것이라고 납득하지 못했으며, 반대로 40세 미만의 사람들은 700페이지에 달하는 수동적인 계산이 더 신뢰할 수 있다고 느꼈다고 아들은 증언했습니다. 참고로 사색정의에 대해서는 2026년에도 일본과 덴마크에서 구성된 연구팀에 의해 새로운 증명이 발표되었고, 그래프를 4색으로 칠하는 알고리즘 또한 크게 고속화되었습니다. 사색정의에 약 30년 만의 신 증명, 지도를 4색으로 칠하는 알고리즘이 크게 고속화 - GIGAZINE
원문 보기 | 출처: Gigazine