콕스웨이브, 이기민 교수 영입…"AI 안전성 앞장"

이 교수, RLHF 지속 연구…'얼라인 AI' 개발 협력

콕스웨이브가 인공지능(AI) 안전성과 AI 생태계 활성화를 위해 인재를 영입했다.

콕스웨이브는 카이스트 이기민 교수를 어드바이저로 영입했다고 10일 밝혔다. 

이기만 교수는 AI 안전성·AI 정렬 분야 연구 선두주자로 알려졌다. 카이스트 신진우 석좌교수의 지도 아래 박사 학위 취득 후, AI 강화학습 분야의 권위자인 UC 버클리의 피터 아빌(Pieter Abbeel) 교수 연구실에서 박사후 과정을 수료했다. 

이후 이 교수는 구글 리서치 소속 리서치 사이언티스트를 거쳐 현재 카이스트 김재철 AI 대학원에서 부교수로 재직 중이다. 최근 국제머신러닝학회(ICML)를 비롯한 신경정보처리시스템학회(NeurIPS), 국제표현학습학회(ICLR) 등 글로벌 AI 분야 학회에서 논문을 게재했다. 

콕스웨이브, 카이스트 이기민 교수 영입. (사진=콕스웨이브)

그는 AI 모델이 잘못된 결과물을 냈을 때 인간이 피드백을 주며 강화 학습을 시키는 RLHF를 지속 연구해왔다. 이런 연구 방식을 '얼라인 AI'에 적용함으로써 AI 시스템이 겪을 수 있는 주요 위험 및 악용 사례를 식별하고, AI 모델 취약점을 보완해 잠재 위협 예방을 강화할 예정이다.

이기민 어드바이저는 "AI 안전성에 대한 논의가 활발해지는 가운데 연구 및 논의에 그치지 않고 이를 적용해 더 나은 제품을 제공하고자 하는 콕스웨이브 사업 방향성과 가치관에 공감해 합류를 결정했다"며 "모든 기업과 소비자가 안심하고 AI 제품을 이용할 수 있도록 연구 및 제품 개발에 기여하겠다"고 말했다.

김기정 콕스웨이브 대표는 "얼라인 AI는 누구나 생성형 AI 기술을 쉽고 편리하게 활용할 수 있도록 돕고자 만들어진 AI-네이티브 제품이다"며 "이번 이기민 교수 영입으로 기업 고객들이 더 안전한 AI 서비스를 제공할 수 있도록 얼라인 AI의 분석 및 평가 기술을 고도화해나겠다"고 밝혔다.