인공지능(AI)이 수학계의 대표적 난제로 꼽혀온 '단위 거리 문제(unit distance problem)'를 해결하면서 학계에 파장을 일으키고 있다고 월스트리트저널(WSJ)이 30일 보도했다.
1946년 수학자 폴 에르되시(Paul Erdős)가 제기한 이 문제는 약 80년 동안 인간 수학자들이 풀지 못했던 고전적 난제였지만, 오픈AI(OpenAI)의 내부 모델이 인간의 직접적인 개입 없이 새로운 반례를 찾아내면서 기존 추측을 뒤집었다.
"인간 연구자들이 실패한 일을 AI가 해냈다"
이번 결과는 단순한 계산 성과가 아니라, AI가 자율적으로 의미 있는 수학적 발견을 했다는 점에서 주목받고 있다. 프린스턴대의 노가 알론(Noga Alon) 교수는 "AI가 여기서 해낸 일은 수많은 뛰어난 인간 연구자들이 시도하고 실패했던 것"이라고 평가했다.
필즈상 수상자인 티머시 가워스(Timothy Gowers) 교수도 이 증명이 인간 수학자가 작성해 주요 학술지에 제출했다면 "주저 없이 게재를 추천했을 것"이라고 밝혔다.
문제는 무엇이었나
단위 거리 문제는 평면 위에 n개의 점을 놓았을 때, 정확히 한 단위 거리만큼 떨어진 점의 쌍을 최대 몇 개까지 만들 수 있는지를 묻는 문제다. 에르되시는 격자 형태의 배열이 매우 좋은 해법이라고 보았고, 그보다 훨씬 나은 배치는 없을 것이라고 추측했다.
그러나 오픈AI 모델은 이 추측을 깨는 배열을 찾아냈다. 즉, 이번 성과는 기존 명제를 증명한 것이 아니라 반례를 통해 '반증'한 것이다.
왜 인간은 놓쳤고 AI는 찾았나
오픈AI 연구진은 AI가 성공한 이유로 세 가지를 꼽았다. 첫째, 이번 해법이 인간 직관과 어긋나는 방식이었다는 점이다. 많은 수학자들은 에르되시의 추측을 증명하려 했지만, AI는 이를 뒤집는 가능성을 탐색했다.
둘째, AI는 특정 분야에 갇히지 않고 대수적 수론과 이산기하학을 결합하는 식으로 서로 먼 영역의 지식을 연결했다. 셋째, AI는 인간이 포기했을 법한 방향도 끈질기게 밀고 나갔다.
수학 연구의 새 시대 신호탄
이번 결과는 AI가 계산 보조 도구를 넘어, 인간이 풀지 못한 이론적 문제를 스스로 해결할 수 있음을 보여준 사례로 받아들여지고 있다.
오픈AI 연구진은 AI가 수학자를 대체하기보다는 새로운 방법을 제시하고 인간 연구의 범위를 넓히는 도구가 될 수 있다고 보고 있다. 실제로 이번 해법의 방법론을 바탕으로 인간 수학자들이 다른 오래된 문제에 접근하기 시작했다는 설명도 나왔다.
"증명인가, 반증인가"... AI 과학 발견의 분기점
이번 성과가 곧바로 AI가 초인적 지능에 도달했다는 뜻은 아니다. 연구진 역시 인류 역사상 가장 위대한 증명들에 나타나는 '천재성의 불꽃'까지 확인된 것은 아니라고 선을 그었다.
그럼에도 AI가 인간 수학자들이 수십 년간 풀지 못한 문제에서 독창적 해법을 제시했다는 점은 분명한 전환점으로 평가된다. 수학계는 이제 AI가 단순한 도구를 넘어 과학적 발견의 주체가 될 수 있는지를 본격적으로 마주하게 됐다.
