"살아 있는 아인슈타인, AI와 손잡았다"…테런스 타오, 딥마인드와 '수학 난제' 도전

'알파이볼브' 활용해 고차원 구조 탐색…딥마인드, 펀서치 넘어선 범용 알고리즘 실험

세계적 수학자 테런스 타오가 고차원 수학 문제 해결을 위해 구글 딥마인드의 인공지능(AI)을 활용하고 있다.

17일 테런스 타오 UCLA 교수의 공식 블로그에 따르면 그는 수학자 하비에르 고메스 세라노와 함께 구글 딥마인드의 AI 시스템 '알파이볼브'를 활용한 공동 연구를 진행 중이다. '알파이볼브'는 복잡하고 구조가 불분명한 수학 문제를 기존 최적화 방식보다 효율적으로 탐색할 수 있도록 설계된 범용 알고리즘 생성 도구다.

타오 교수는 전 세계에서 가장 뛰어난 수학자로 손꼽히는 인물이다. 만 9세에 대학 과정을 수료하고 21세에 박사학위를 받은 뒤 31세에 필즈상을 수상했다. 수학, 물리학, 컴퓨터과학을 넘나드는 연구로 '살아 있는 아인슈타인'이라 불리며 그가 직접 참여한 연구는 AI 도구의 학술적 신뢰성을 판단하는 강력한 기준이 된다.

테런스 타오 UCLA 교수(왼쪽에서 두번째)와 학생들 사진 위키 커먼스

타오 교수는 '알파이볼브'를 활용해 조화해석 부등식, 가법 조합론, 패킹 문제 등 복잡하고 수학적으로 난해한 문제들을 대상으로 초기 실험을 진행하고 있으며 이 중 일부는 딥마인드의 공식 발표에도 사례로 포함됐다. 현재는 정답이 거의 존재하지 않거나 찾기 매우 어려운 문제들로 적용 범위를 넓혀가는 중이다.

알파이볼브는 수식에서 가장 좋은 결과를 내는 조건을 찾아주는 AI다. 특히 변수가 너무 많거나 어떤 조건이 좋은 건지조차 감이 안 잡히는 문제일수록 기존 방식보다 더 잘 작동한다. 말 그대로 '답이 어딨는지도 모르는 문제'를 풀기 위해 탐색 능력을 극대화한 AI인 셈이다.

더불어 이전 모델인 '펀서치'보다 강화된 자동 피드백 루프를 탑재해 성능 개선 방향을 스스로 도출하는 구조다. 단순한 코드 생성에서 벗어나 수학적 구조 자체를 새롭게 제안하는 방식으로 진화하고 있다.

이 시스템은 현재 수십 개의 수학 미해결 문제에 적용됐으며 이 중 75%는 기존 최고 해법을 재현하거나 능가한 것으로 나타났다. 특히 일부 문제에서는 수십 년간 경신되지 않은 수학 기록을 경신해 학계의 관심을 모았다.

타오 교수는 "현재 우리는 좋은 해가 매우 드문 희소한 매개변수 공간을 갖는 난제들로 연구를 확장 중"이라며 "이 작업은 아직 진행 중으로, 완성에 가까워지는 몇 달 뒤쯤에는 더 많은 내용을 보고할 수 있을 것"이라고 말했다.