셀렉트스타, AI 안전성 평가 기술력 국제 학계서 입증

ICML 2026 워크숍 논문 3편 채택…ACL·ICLR 이어 3연속

셀렉트스타의 인공지능(AI) 안전성 연구 논문들이 세계적 권위의 머신러닝 학회 워크숍에 채택되며 신뢰성·안전성 평가 기술력을 입증했다.

셀렉트스타는 자사 AI 세이프티팀의 연구 논문 3편이 '국제머신러닝학회(ICML) 2026' 워크숍에 게재된다고 6일 밝혔다. ICML은 ICLR·NeurIPS와 함께 세계 최고 권위의 AI 학회로, 이날부터 11일까지 서울 코엑스에서 열린다. 

채택된 논문은 실사용 환경에 배포된 에이전트형 AI의 안전·보안·신뢰성을 다루는 'AIWILD 워크숍' 1편, 생성형 AI의 문화적 가치를 평가·설계하는 방법을 다루는 '컬처 x AI 워크숍' 2편이다.

(사진=셀렉트스타)

'신뢰성에서 표현력까지: 루브릭 기반 안전성 평가 모델을 위한 커리큘럼(Reliable to Expressive: A Curriculum for Rubric-Following Safety Judges)' 논문은 안전성 평가 기준(루브릭)에 맞춰 AI 답변의 위험성을 검증·채점하는 평가 모델을 제안했다. '커리큘럼 러닝'을 도입해 범용 평가 모델이 금융권 데이터 등 새로운 도메인에서도 우수한 성능을 발휘함을 입증했다.

'동아시아·동남아시아 맥락에서의 문화 적응형 레드티밍(Culturally-Adapted Red-Teaming Across East and Southeast Asian Contexts)'을 주제로 한 논문은 문화 맞춤형 레드티밍 벤치마크 생성 프레임워크 'CAGE'를 아시아권으로 확장 적용해 영어권 벤치마크 직역만으로는 국가·문화권별 위험을 포착하기 어렵다는 점을 분석했다.

'한국 문화의 LLM 정렬 반영: 문화적 일관성을 향하여(Korean Culture into LLM Alignment: Toward Cultural Coherence)' 경우, 대규모언어모델(LLM)에 한국의 사회규범·법제도·언어적 맥락을 반영한 안전 정렬 데이터셋 구축 파이프라인을 제시했다. 답변 근거를 스스로 추론하도록 학습시켜 성능 저하 한계를 극복한 것이 특징이다. 이는 정부 주도의 '독자 AI 파운데이션 모델' 프로젝트에도 활용되고 있다.

김세엽 셀렉트스타 대표는 "이번 논문 채택은 AI 안전성 분야에서 요구되는 핵심 기술 역량을 입증했음을 보여준다"며 "ACL 2026, ICLR 2026 메인 컨퍼런스 채택에 이어 ICML 2026 워크숍에서도 연구 성과를 인정받은 만큼 신뢰할 수 있는 AI 생태계 구축을 위한 기술 개발에 힘쓰겠다"고 말했다.