SKT, 수학 난제에 AI 투입...국내 연구진과 'A.X K2' 고도화

서울대·KAIST·고등과학원 전문가 참여, 논리검증 능력 강화해 AI 에이전트에 적용

SK텔레콤이 자체 개발 중인 AI 모델을 수학자들의 연구에 활용한다. 어려운 문제를 푸는 과정에서 모델의 논리적 사고력을 끌어올리고, 그 성과를 스스로 작업을 계획하고 실행하는 AI 에이전트에 접목한다는 구상이다.

22일 SK텔레콤은 서울 을지로 사옥에서 서울대학교와 한국과학기술원(KAIST) 소속 교수·연구원들과 기술 교류회를 개최한다. 논의의 중심은 독자 파운데이션 모델 'A.X K2'를 전문 수학 연구에 투입하는 방법과 학습 체계 개선이다.

참여 분야는 확률론과 통계물리, 그래프 이론, 위상수학 등으로 다양하다. 서울대 서인석 교수, 고등과학원 이준경·김상현 교수 등이 각자 다루는 수학 문제와 전문 지식을 제공한다. 서울대 홍영준·이다빈·오병권·변성수 교수와 KAIST 박노성 교수는 LLM 학습과 연구 활용 방식을 함께 살핀다.

SK텔레콤 'A.X K2'

연구의 핵심은 범용 AI가 상대적으로 취약한 고난도 수학 영역을 보강하는 데 있다. 전문가가 쌓아온 지식을 모델에 반영하고, 이를 토대로 아직 풀리지 않은 문제의 해법을 탐색할 예정이다. 다만 난제 해결에 성공했다는 발표는 아니다.

이 같은 시도는 해외 AI 개발사들의 움직임과도 맞닿아 있다. 오픈AI는 이달 초 자체 모델로 얻은 수학 연구 결과를 발표했고, 앤트로픽도 지난 8월 클로드를 활용해 리만 가설 관련 기존 성과를 개선했다고 설명했다.

SK텔레콤이 기대하는 효과는 수학 분야에만 국한되지 않는다. 여러 작업을 순차적으로 처리하는 에이전틱 AI는 계획과 중간 판단, 최종 답변이 적절한지 확인해야 한다. 정교한 수학적 추론은 이러한 검증 능력을 뒷받침할 수 있다.

장기적으로는 AI가 자신의 결과를 평가하고 개선을 거듭하는 '재귀적 자기개선(RSI)' 연구까지 염두에 두고 있다. 이를 위해 모델이 스스로 만든 실험이나 판단 절차의 타당성을 가려낼 역량을 확보하겠다는 목표다.

김태윤 SK텔레콤 파운데이션 모델 담당은 “독자 파운데이션 모델의 실제 문제 해결 능력을 높이기 위해 수학 분야 산학협력을 활발하게 추진하고 있다”며 “전문 연구자들과의 공동 연구를 통해 에이전틱 AI 역량을 고도화해 나가겠다”고 말했다.