SKT, 슈퍼컴퓨터 연산성능 두배 늘렸다

에이닷 두뇌 타이탄에 엔비디아 A100 GPU 1040개로 증설

방송/통신입력 :2023/02/12 09:55    수정: 2023/02/12 10:09

SK텔레콤이 초거대 AI모델 ‘에이닷’의 브레인 역할을 맡은 슈퍼컴퓨터 ‘타이탄’을 기존 대비 2배로 확대 구축했다고 12일 밝혔다.

수십억 개 이상의 매개변수를 다루는 초거대AI를 구동하기 위해서는 방대한 양의 데이터를 빠르고 정확하게 처리할 수 있는 슈퍼컴퓨터 인프라가 필수적이다.

SK텔레콤은 2021년부터 슈퍼컴퓨터를 구축해 자체 운영하고 있으며 이번에 엔비디아 A100 GPU 1천40개로 증설했다. 기존 대비 약 2배 이상 규모다.

SK텔레콤 슈퍼컴퓨터는 17.1 페타플롭 이상의 성능을 지원한다. 이는 초당 1경7천100조 번의 연산처리가 가능한 수치다.

SK텔레콤은 슈퍼컴퓨터 확대 구축을 통해 ‘에이닷’이 기존보다 더 정교한 학습이 가능해질 것으로 보고 있다.

‘에이닷’은 상용 서비스에 수백억개 이상의 파라미터 모델을 이미 적용하고 있고 이번 컴퓨팅 성능 확대를 통해 현재보다 2배 이상 규모의 모델로 고도화 할 예정이다.

관련기사

SK텔레콤은 수년간 내재화한 초거대 AI R&D 기술력과 슈퍼컴퓨팅 고도화 등을 기반으로 초거대 AI 범용성을 무한 확장할 계획이다. 이미 에이닷을 통해 FLO, TMAP, 웨이브 등 한국의 대표 미디어 플랫폼과 연동되어 서비스를 제공중이다.

김영준 SK텔레콤 A.추진단 담당은 “슈퍼컴퓨터 확대 구축을 통해 에이닷이 기존보다 더 정교한 학습이 가능해져 사람과의 대화 흐름과 답변 완성도가 사람 수준에 가깝도록 개선하는데 큰 역할을 할 것으로 기대된다”며 “앞으로도 공격적인 R&D 투자, 인프라 확대, 인재영입 등 통해 AI 기술 리더십을 선도하기 위해 지속 노력할 것”이라고 말했다.