"AI가 과학계 숙제 해결?"…오픈AI 성과 검증에 노벨상 수상자도 나선다

수학·컴퓨터과학·물리학 오랜 난제 해결 주장…가설 제안자 등 외부 전문가 검증 참여

오픈AI가 인공지능(AI)이 과학계 오랜 난제를 풀었다고 주장하며 학계 검증을 요청했다. 수학·컴퓨터과학·물리학에서 AI가 만든 풀이를 전문가 검토에 맡겨 과학 연구 도구로서 성능을 입증하겠다는 취지다.

오픈AI는 26일(현지시간) 자사 홈페이지를 통해 AI로 수학·컴퓨터과학·물리학 분야 오랜 난제를 풀었다고 밝혔다. 파동이 한곳에 얼마나 강하게 모일 수 있는지, 어려운 계산을 얼마나 빠르게 처리할 수 있는지, 입자와 힘을 설명하는 이론이 수학적으로 성립하는지에 관한 문제다.

회사는 일부 풀이를 증명 검증 도구 '린'으로 점검했다고 설명했다. 린은 컴퓨터가 읽을 수 있게 작성한 증명 논리 단계를 확인한다. 외부 전문가는 이 자료를 바탕으로 AI가 원래 문제를 정확하게 다뤘는지와 풀이가 학문적으로 어떤 의미를 갖는지 살펴볼 예정이다. 학계 검토 결과에 따라 성과 인정 여부가 결정된다.

오픈AI는 AI로 수학·컴퓨터과학·물리학 분야 오랜 난제를 풀었다고 밝혔다. 사진은 샘 알트먼 오픈AI CEO. (사진=오픈AI 유튜브 캡처)

검토 방식은 분야마다 달리했다. 수학 자료는 누구나 살펴보도록 공개했다. 컴퓨터과학은 자료 공개와 외부 연구단 구성을 병행한다. 물리학은 연구단이 AI 자료를 검토한 뒤 직접 논문으로 정리하기로 했다.

수학 난제 증명 주장…계산 시간 한계 가설에도 반론

수학 분야에서 다룬 문제는 '국소 평활화 추측'이다. 파동이 한순간 특정 지점에 강하게 몰리더라도 그런 상태는 짧게 지속되며 일정 시간 동안 평균을 내면 집중 정도가 줄어든다는 내용이다. 1991년 제안됐으며 2019년 공간 2차원에서 증명됐다.

오픈AI는 AI가 이 추측을 모든 차원에서 증명했다고 주장했다. 이 결과가 맞으면 연결된 난제인 '가케야 추측'과 '스타인의 제한 추측'도 해결된다고 설명했다.

가케야 추측은 길이가 같은 선분을 모든 방향으로 하나씩 포함한 집합이 얼마나 작은 공간을 차지할 수 있는지에 관한 문제다. 여기서 크기는 넓이나 부피보다 '차원'으로 따진다. 3차원 공간에서 모든 방향 선분을 포함했다면 그 집합도 3차원이어야 한다는 주장이다. 스타인의 제한 추측은 파동을 여러 진동 성분으로 나눠 분석할 때 성립하는 수학적 한계를 다룬다.

컴퓨터과학에서는 '지수 시간 가설(ETH)'에 도전했다. 여러 조건을 한꺼번에 만족하는 답을 찾는 계산에서 문제가 커질수록 필요한 시간이 얼마나 빠르게 늘어나는지에 관한 가설이다. 예를 들어 여러 사람의 일정 조건을 모두 맞추는 문제처럼 선택지를 조합해 답을 찾아야 하는 계산과 관련된다.

ETH는 특정 논리 문제에서 변수가 늘어날수록 계산 시간이 지수적으로 증가하는 장벽을 근본적으로 낮추기 어렵다고 본다. 많은 연구자가 이를 전제로 다른 문제도 일정 수준보다 빠르게 풀기 어렵다는 결론을 내렸다. 오픈AI는 AI가 이 가설이 틀렸음을 증명했다고 밝혔다.

주장이 확인되면 기존 가설에 의존한 계산 시간 한계를 다시 살펴보고 더 빠른 알고리즘을 찾을 여지가 생긴다. 실제 프로그램 속도를 높이는 방법은 후속 연구 과제다. 러셀 임팔리아초와 라마모한 파투리 UC샌디에이고 교수, 라이언 윌리엄스 MIT 교수가 이끄는 연구단이 검토를 맡는다. 임팔리아초와 파투리는 ETH를 처음 제안한 연구자다.

입자와 힘을 설명하는 이론…수학적 토대 검토

물리학에서는 '양자장론'을 다뤘다. 전자나 쿼크 같은 작은 입자가 어떻게 움직이고 힘을 주고받는지 설명하는 이론 체계다. 오픈AI는 이 가운데 양자색역학(QCD)을 포함한 특정 이론을 엄밀한 수학으로 구성하는 증명을 만들었다고 주장했다.

QCD는 쿼크와 글루온 사이에 작용하는 강한 힘을 설명한다. 이번 연구는 물리학자가 사용하는 이론을 수학적으로 빈틈없이 정의하고 그 성질을 연구할 토대를 마련하는 작업에 해당한다.

연구 범위에는 '순수 양–밀스 이론'의 존재 증명도 포함됐다. 이는 쿼크 같은 물질 입자를 제외하고 힘을 전달하는 장의 상호작용을 다룬다. 클레이 수학연구소가 선정한 밀레니엄 난제는 이 이론의 존재와 함께 가장 낮은 들뜬 상태를 만드는 데 일정한 에너지가 필요하다는 '질량 간극'까지 증명하도록 요구한다. 오픈AI가 이번에 제시한 성과는 이 가운데 존재 증명에 해당한다.

물리학 연구단은 2004년 노벨 물리학상 공동 수상자인 데이비드 그로스가 이끈다. 마이클 더글러스와 아서 재피, 이고르 클레바노프, 니키타 네크라소프도 참여해 AI가 만든 자료를 검토하고 연구 내용을 정리한다.

연구단은 오픈AI와 독립적으로 결론을 내리며 중간 결과와 의견을 자유롭게 공개할 수 있다. 오픈AI는 최근 발표한 사이먼스 재단 기부금 500만 달러(약 67억원)를 통해 연구자가 결과를 검토하고 후속 연구를 진행할 워크숍과 학술대회도 지원한다.

오픈AI는 "이 원고들은 연구 원시 데이터로 보는 것이 가장 적절하다"며 "연구자들이 결과를 독립적으로 검토하고 설명하며 후속 연구를 발전시키는 데 필요한 자금 지원을 보장하고자 한다"고 밝혔다.