AI 신뢰성 검증한다…셀렉트스타, MWC 레드팀 챌린지 지휘

GSMA와 2년 연속 공동 주최…전 세계 100여명 참가해 국내외 LLM 보안 취약점 점검

셀렉트스타가 세계 최대 모바일 전시회에서 글로벌 인공지능(AI) 안전성 기준 마련을 위한 행보를 이어간다. 작년에 이어 올해도 글로벌 레드팀 챌린지를 주관하며 AI 검증 분야에서의 기술적 리더십을 공고히 한다는 전략이다.

셀렉트스타는 다음 달 2일부터 5일까지 스페인 바르셀로나에서 열리는 MWC26에서 '글로벌 AI 레드팀 챌린지'를 개최한다고 10일 밝혔다.

셀렉트스타가 세계이동통신사업자연합회(GSMA)와 2년 연속 공동 주최하는 이번 행사는 국내외 대표 통신 기업들이 자체 개발한 거대언어모델(LLM)이 대상 모델로 참여한다.

(사진=셀렉트스타)

전 세계에서 모인 100여명 참가자가 해당 모델을 대상으로 모의 프롬프트 공격을 수행해 유해·차별적 결과, 보안 취약점, 시스템 오용 가능성 등을 찾아내는 '레드티밍' 미션을 수행할 예정이다.

레드팀은 AI 의사결정 구조가 복잡해진 데 따라 발생할 잠재적 위험을 사전에 식별하고 대응하는 필수 과정으로 꼽힌다. 셀렉트스타는 이번 행사를 통해 레드팀 운영 노하우를 글로벌 무대에 선보이고, 실제 AI 서비스 환경에서 활용 가능한 검증 방식과 인사이트를 제시할 계획이다.

셀렉트스타는 최근 과학기술정보통신부 주관 '독자 AI 파운데이션 모델' 프로젝트 1차 평가를 통과한 SK텔레콤 컨소시엄에 참여하는 등 데이터 분야 'K-AI' 기업으로 보폭을 넓히고 있다.

김세엽 셀렉트스타 대표는 "전 세계 참가자들과 함께 AI 취약점을 점검하고 신뢰성 평가 기준을 한 단계 끌어올리는 계기가 되길 기대한다"고 말했다.