AI가 수학을 할 때 수학자라는 것의 의미

2000년대 중반, 킬러스와 프란츠 퍼디난드의 음악이 내가 지나치는 모든 펍과 나이트클럽에서 울려 퍼질 때, 나는 응용수학 박사 학위를 위해 밤낮으로 고군분투하고 있었습니다. 내 연구는 특수 광파가 액정에서 어떻게 상호작용하는지 시뮬레이션하고 간단한 방정식을 사용하여 그 상호작용을 근사하고 이해하는 데 초점을 맞추었습니다. 지금 내 논문을 되돌아보면 액정 기술은 구식이며, 내 작업은 AI의 도움으로 며칠, 어쩌면 몇 시간 만에 완료될 수 있었을 것이라고 상상합니다.

그러나 에든버러 대학교에서 비좁은 사무실을 함께 썼던 순수수학 박사 과정 학생들의 작업에 대해서는 같은 말을 할 수 없습니다. 당시 나는 이 동료들이 매일 책상에 앉아 머리카락을 뽑고 진전을 보이지 않는 것처럼 보여 안타까웠습니다. (나도 고군분투했지만 적어도 항상 약간의 진전을 이루고 있었습니다.) 우리가 끝나고 각자의 길을 갔을 때, 어떤 이들은 논문 한 편도 발표하지 못했습니다. 이제 뒤돌아보면, 나는 왜 그들이 세상에서 소수만 관심을 가지는 추상적인 수학 문제에 수년을 매달렸는지 마침내 이해합니다. 그것은 내가 당시 생각했던 것처럼 오만함이 아니었습니다. 그들은 겉보기에 풀기 어려운 수학 문제를 최초로 해결함으로써 자신의 뛰어난 지능을 증명하려는 것이 아니었습니다. 그것은 가학증의 한 형태조차 아니었습니다—상상된 부적절함에 대한 속죄. 나는 그들이 이해를 향한 긴 여정에서 기쁨, 만족, 의미를 얻는다는 것을 깨달았습니다.

"때때로 이해는 단지 매우 아름다운 것으로 당신을 강타합니다."라고 카네기 멜론 대학교의 수학자 제레미 아비가드는 생각에 잠깁니다. "때로는 마라톤을 완주하는 것 같은 성취감입니다. 하지만 그것들 중 어느 것도 정확히 아닙니다: 그것은 단지 복잡하고 어려운 것에 대해 오랫동안 열심히 생각하다가 갑자기 모든 것이 맞아떨어질 때의 멋진 느낌입니다." 이 느낌은 역사를 통해 수학자들을 움직여 왔습니다. 마찬가지로, 수학자들이 그 느낌을 추구하는 방식은 수세기 동안 거의 변하지 않았습니다. 그들은 숫자, 모양 또는 논리적 구조에서 연결, 패턴 또는 속성을 알아차리거나 상상합니다. 이것으로부터 그들은 추측—그들의 추측에 대한 입증되지 않은 진술—을 씁니다. 그들 또는 다른 수학자들은 종종 창의적인 방식으로 논리적 추론과 수학 도구를 사용하여 그 추측을 증명하거나 반증합니다. 마지막으로, 다른 수학자들이 증명을 검증(또는 도전)합니다.

이 과정은 필연적으로 많은 생각 시간을 필요로 합니다. "저는 순수수학 캠프에 갔는데, 수업에서 우리는 어려운 수학 문제를 30분 동안 앉아 있었고 아무도 말하지 않았습니다—모두가 그냥 생각하고 있었습니다."라고 버몬트 대학교에서 박사 학위를 앞둔 수학자이자 컴퓨터 과학자인 크리스탈 모건은 말합니다. "하지만 우리는 함께 작업하고 문제를 풀어내곤 했습니다." 이것은 오래된 수학의 즐거움입니다. 그러나 오늘날의 AI 시스템은 이 느리고 숙고하는 과정을 우회하기 시작하고 있습니다. 이 추세를 논리적 결론으로 이끌면, AI가 수학자의 투쟁을 완전히 불필요하게 만든다면 어떻게 될까요? AI가 인류를 완전히 주변화시킬 수도 있을까요?

수십 년 동안 계산은 수학적 진보를 가속화해 왔습니다. 이것은 50년 전, 수학자들이 컴퓨터를 사용하여 4색 정리를 증명하면서 시작되었습니다. 이 정리는 어떤 지도든 인접한 지역이 같은 색을 공유하지 않으면서 4가지 이하의 색으로 칠할 수 있는지 묻습니다. 답은 '예'이며, 컴퓨터는 논란의 여지가 있게도 인간이 현실적으로 검증할 수 없는 방식으로 1,936개의 경우를 확인함으로써 이를 증명했습니다. 그러나 이 계산 시대 내내, 심지어 막대한 계산 자원에 의존하는 증명에서도 인간 수학자의 역할은 중심적이었습니다. 인간은 직관에 따라 추측을 제안합니다. 그들은 창의성과 경험에 따라 그것을 증명할 전략을 고안합니다. 그리고 인간은 그 증명이 올바른지 검증합니다. 이제 AI가 현상 유지에 도전하고 있습니다. 불과 몇 년 만에 대규모 언어 모델(LLM)은 인터넷에서 긁어모은 기초 수학을 되풀이하는 것 외에는 거의 할 수 없었던 '확률적 앵무새'에서 고급 수학적 추론 기계로 진화했습니다. 지난 여름, Google DeepMind와 OpenAI의 시스템은 세계에서 가장 수학적으로 재능 있는 고등학생 수준에 도달하여 국제 수학 올림피아드에서 금메달을 획득했습니다. 올해 초, Google DeepMind의 실험적 AI 시스템 Aletheia는 자율적으로 박사 수준의 출판 가능한 연구 결과를 생산함으로써 더 중요한 이정표를 달성했습니다. 그리고 최근 OpenAI의 새로운 범용 AI 시스템은 조합 기하학의 중요한 추측을 반증했습니다. 또 다른 변화는 LLM과 증명 보조 도구로 알려진 수학 도구의 결합에서 비롯되었습니다. 이러한 시스템(Isabelle, Lean, Rocq 등)은 수학적 증명을 단계별로 확인하고 논리적 정확성을 검증하는 특수 프로그래밍 언어입니다. 전통적으로 수학자들은 정리와 증명을 손으로 이 기계가 읽을 수 있는 형식으로 번역해야 했으며, 이는 형식화로 알려진 힘든 과정입니다. 이제 LLM이 이 병목 현상을 제거하기 시작하여 비공식 증명의 번역을 자동화하고 있습니다.