[이규화의 글로벌AI] AI모델이 수학 난제를 풀기 시작했다

수학 난제들 잇따라 해답풀이 15분 추론후 완결된 증명 내놔 '에르되슈의 목록' 새 시험장 AI가 수학 난제 해결에 본격적으로 발을 들여놓기 시작했다. 챗GPT 등 대규모언어모델(LLM)이 오랫동안 미해결 상태로 남아 있던 수학 문제들에 해답을 제시하면서, 인공지능이 지식의 경계를 넓힐 수 있는지에 대한 논의가 다시 불붙고 있다고 테크크런치가 14일(현지시간) 전했다. 계기는 소프트웨어 엔지니어이자 전직 퀀트 연구원인 닐 소마니의 실험이었다. 그는 오픈AI의 최신 모델에 미해결 수학 문제를 입력한 뒤 약 15분간 추론을 맡겼고, 그 결과 완결된 증명을 얻었다. 해당 증명은 수학적 형식화 도구로 검증한 결과 오류 없이 성립하는 것으로 확인됐다. 소마니는 "LLM이 어디까지 수학적 추론을 할 수 있는지, 또 어떤 지점에서 한계에 부딪히는지를 확인하고 싶었다"며 "최신 모델에서는 그 경계가 분명히 앞으로 나아가고 있음을 느꼈다"고 말했다. 챗GPT가 보여준 추론 과정도 주목을 받았다. 모델은 르장드르 공식, 베르트랑의 공리 등 여러 수학적 정리를 조합해 논리를 전개했고, 과거 하버드대 수학자 노엄 엘키스가 유사 문제를 다뤘던 '매스 오버플로우'(Math Overflow) 게시물까지 찾아냈다. 그러나 최종 증명은 기존 해법과 동일하지 않았고, 전설적인 수학자 폴 에르되슈 제시한 문제에 대해 보다 완전한 해답을 제시했다는 평가를 받았다. 이 같은 사례는 에르되슈가 남긴 방대한 미해결 문제 목록이 AI의 새로운 시험장이 되고 있음을 보여준다. 최근 몇 달 사이 에르되슈 문제 웹사이트에서는 15개 문제가 '미해결'에서 '해결'로 상태가 바뀌었고, 이 가운데 상당수는 AI 모델이 해결 과정에 관여했음을 명시하고 있다. 2006년 필즈상을 수상한 세계적인 수학자 테렌스 타오 역시 AI가 자율적으로 의미 있는 진전을 이룬 사례와, 기존 연구를 확장한 사례들을 공개하며 이러한 흐름을 인정했다. 전문가들은 AI가 완전히 독립적으로 수학을 수행하는 단계에 이르렀다고 보기는 어렵지만, 대형 언어 모델이 점점 더 중요한 조력자가 되고 있다는 점에는 이견이 없다. 특히 명확한 해답이 존재하지만 인간이 손대지 못했던 수많은 '롱테일' 문제에서 AI의 효용성이 커질 것이라는 전망이 나온다. 여기에 최근 수학 증명을 컴퓨터가 검증할 수 있도록 형식화하는 흐름과 편승해 변화는 더욱 가속화되고 있다. 린(Lean) 같은 증명 어시스턴트와 AI 기반 자동화 도구들은 인간과 AI의 협업을 한층 쉽게 만들고 있다. 하모닉스(Harmonic, 주기성을 갖는 함수) 창립자 튜더 아힘은 "저명한 수학자들이 공개적으로 AI 도구 사용을 인정하기 시작했다는 사실 자체가 중요한 신호"라며 "이는 AI가 단순한 실험 단계를 넘어 학문의 실제 도구로 받아들여지고 있음을 보여준다"고 말했다. 이규화 대기자 david@dt.co.kr