"MWC25, AI 검증의 장 열린다"…셀렉트스타, 글로벌 레드팀 챌린지 개최

GSMA와 함께 다국적 AI 모델 대상 신뢰성 검증…LG유플러스 등 글로벌 AI 기업 참여

셀렉트스타가 글로벌 인공지능(AI) 시장에서 신뢰성 검증 역량을 강화하기 위한 경쟁의 장을 연다. AI 모델의 안전성과 공정성을 평가하는 새로운 표준을 마련하고 글로벌 AI 기업들과 협력 범위를 확대하려는 전략이다.

셀렉트스타는 세계이동통신사업자연합회(GSMA)와 공동으로 다음달 5일 스페인 바르셀로나 피라 그란 비아(Fira Gran Via) 전시관 6홀에서 '글로벌 AI 레드팀 챌린지'를 진행한다고 25일 밝혔다. 이번 챌린지는 다국적 AI 모델을 대상으로 한 첫 오프라인 레드팀 챌린지로, 전 세계 참가자들이 AI 모델의 신뢰성과 한계를 점검하는 방식으로 진행된다.

'AI 레드팀 챌린지'는 AI가 생성하는 응답의 신뢰성과 안정성을 검증하는 실험이다. 참가자들은 특정 AI 모델에 대해 의도적으로 다양한 질문을 던지고 그 과정에서 유해한 응답, 차별적 발언, 시스템 오작동을 유도하는 시도를 한다. 이를 통해 AI 모델이 얼마나 안전하고 신뢰할 수 있는지를 평가하고 문제점을 찾아내 개선 방향을 모색하는 것이 목적이다.

셀렉트스타가 세계 이동통신사업자연합회(GSMA)와 함께 'MWC25'에서 글로벌 인공지능(AI) 레드팀 챌린지를 개최한다. (사진=셀렉트스타)

이번 대회에는 LG유플러스가 자체 개발한 소형 언어모델 '익시젠(ixi-GEN)', 아랍에미리트의 '텔레콤GPT', 말레이시아의 'AI엔지니어' 등 글로벌 AI 기업들이 출제 모델로 참여한다. 셀렉트스타는 대회 운영 전반을 담당하며 레드팀 플랫폼 운영, 문제 출제, 응답 검수 등의 역할을 수행한다.

셀렉트스타는 지난해 4월 처음 열린 '생성형 AI 레드팀 챌린지'에서도 주관사로 참여하며 700여 명의 참가자를 유치한 바 있다. 이번 글로벌 행사 개최를 통해 AI 평가 및 신뢰성 검증 기술력을 세계 시장에서 입증한다는 계획이다.

이번 행사에는 GSMA 외에도 아랍에미리트 국영 통신사 이앤(E&)과 대한민국 과학기술정보통신부, 대한민국 AI 안전연구소 등 글로벌 AI 및 통신 업계를 대표하는 기관들이 후원사로 참여한다. 글로벌 AI 서비스의 신뢰성 강화와 기술 발전을 위한 협업이 더욱 활발해질 것으로 기대된다.

또 셀렉트스타는 'MWC25'에서 AI 신뢰성 검증 자동화 솔루션 '다투모 이밸(DATUMO eval)'을 공개할 예정이다. 이 솔루션은 AI 서비스 운영 중 발생할 수 있는 다양한 문제를 사전 식별하고 개선할 수 있도록 설계됐다. 평가용 질문을 대량으로 생성하고 AI의 응답을 수치화해 분석하는 자동화 기능을 제공하는 것이 특징이다.

황민영 셀렉트스타 부대표는 "GSMA와 함께 글로벌 AI 레드팀 챌린지를 개최하며 AI 평가 기술력을 세계적으로 인정받았다"며 "이번 행사를 계기로 글로벌 AI 기업들과 협력을 강화하고 AI 기술 평가 시장을 선도하는 기업으로 자리매김할 것"이라고 밝혔다.