셀렉트스타, 'AI 레드팀 챌린지' 성료…MWC서 글로벌 시장 본격 '공략'

생성형 AI 보안 검증 경쟁…100여 명 참가해 치열한 경합

셀렉트스타가 세계 최초로 국제적인 수준의 인공지능(AI) 레드팀 대회를 열어 생성형 AI 보안 검증 시장 공략에 나섰다. AI 보안 이슈가 부각되는 가운데 누구나 참여할 수 있는 챌린지를 통해 AI 보안에 대한 인식을 확산하는데 성공했다.

셀렉트스타는 지난 3일부터 닷새간 스페인 바르셀로나에서 열린 'MWC25'에서 세계이동통신사업자연합회(GSMA)와 함께 'AI 레드팀 챌린지'를 성공적으로 마쳤다고 7일 밝혔다. 총 335명이 사전 신청했으며 이 중 중국, 일본, 미국, 독일, 영국 등 다양한 국적의 100여 명이 현장에서 AI 모델의 취약점을 탐색하는 경쟁을 펼쳤다.

이 대회는 AI 모델을 대상으로 프롬프트 공격을 수행해 유해하거나 차별적 결과, 시스템 오용 가능성을 검증하는 방식으로 진행됐다. 참가자들은 셀렉트스타가 운영하는 레드팀 플랫폼에서 거대언어모델(LLM)을 분석하며 보안 취약점을 찾아내는 데 집중했다.

셀렉트스타가 세계 최초로 국제적인 수준의 인공지능(AI) 레드팀 챌린지를 통해 생성형 AI 보안 검증 시장 공략에 나섰다. (사진=셀렉트스타)

이번 챌린지에서는 LG유플러스의 '엑사원' 기반 소형 언어모델 '익시젠', 아랍에미리트의 '텔레콤GPT', 말레이시아의 'AI엔지니어' 등 여러 국가의 AI 모델이 문제 출제 모델로 활용됐다. 최종 우승자는 싱가포르의 투자 전문가 투 무젠 토미시로, 그는 가장 많은 AI 오류를 찾아내며 글로벌 AI 보안 역량을 입증했다.

셀렉트스타는 이번 행사를 계기로 GSMA 및 후원사 e앤과 내년 MWC에서 더 큰 규모의 'AI 레드팀 챌린지'를 개최하기로 합의했다. 글로벌 AI 신뢰성 검증 시장을 확대하는 기반을 마련한 셈이다.

이와 함께 셀렉트스타는 생성형 AI 신뢰성 검증 자동화 솔루션 '다투모 이밸(DATUMO eval)'을 현장에서 처음 공개했다. 이 솔루션은 AI 모델의 신뢰도를 자동 분석·검증하는 기술로, 생성형 AI의 안전성을 높이는 데 기여할 것으로 기대된다. 현장에서 글로벌 기업들의 문의가 잇따르며 해외 시장 진출 가능성도 확인됐다.

황민영 셀렉트스타 부대표는 "이번 MWC25에서 글로벌 AI 레드팀 챌린지를 성공적으로 마치고 '다투모 이밸'을 처음 공개하며 AI 신뢰성 검증의 중요성이 더욱 강조되고 있음을 확인했다"며 "우리 기술력을 지속적으로 고도화해 글로벌 시장 확장에 박차를 가할 것"이라고 밝혔다.