셀렉트스타, 아시아 첫 '의료 레드팀' 운영…'AI 신뢰성' 시장 선점

식약처 주최 챌린지 후원 및 총괄…국내외 경험 바탕 전문성 입증

셀렉트스타가 인공지능(AI) 의료기기의 안전성을 검증하는 대규모 공개 시험 운영을 총괄했다. 아시아 최초로 시도된 '레드팀 챌린지'를 통해 국내 의료 AI의 신뢰성 확보 기반을 다지는 데 기여한 것이다.

셀렉트스타는 지난 4일부터 이틀간 서울 노보텔 동대문 호텔에서 열린 '첨단 AI 디지털 의료제품 레드팀 챌린지·기술 워크숍'에 후원사로 참여했다고 8일 밝혔다. 회사는 식품의약품안전처가 주최한 이번 행사에서 레드팀 챌린지 플랫폼 구축과 현장 운영을 총괄했다.

아시아 최초로 열린 이번 챌린지는 생성형 AI 기반 의료기기의 보안을 시험하는 자리로 마련됐다. 47개 팀에서 100여 명이 참가해 업스테이지, KT, LG, 네이버 등 국내외 빅테크 거대언어모델(LLM) 8종 이상을 대상으로 보안 취약점을 찾는 모의 공격을 수행했다.

김세엽 셀렉트스타 대표 (사진=셀렉트스타)

행사 첫날인 지난 4일에는 황민영 셀렉트스타 부대표가 직접 레드팀 챌린지 운영 방식을 설명했다. 이튿날인 지난 5일 기술 워크숍에서는 김세엽 대표가 연사로 나서 'AI 상용화의 핵심 신뢰성 평가 및 레드팀'을 주제로 발표했다.

셀렉트스타는 국내외에서 레드팀 운영 경험을 꾸준히 쌓아왔다. 앞서 지난 2024년 4월 과학기술정보통신부 주최 국내 첫 '생성형 AI 레드팀 챌린지'에서 대표 파트너사로 참여했다. 지난 3월에는 엠더블유씨(MWC)에서 지에스엠에이(GSMA)와 '글로벌 AI 레드팀 챌린지'를 공동 주최하기도 했다.

회사는 최근 글로벌 성장 가능성을 입증하며 사업 기반을 다지고 있다. 글로벌 경제지 포브스의 '아시아 100대 유망 기업'에 이름을 올렸다. 자체 개발한 AI 신뢰성 검증 솔루션 '다투모 이밸'을 기반으로 205억원 규모의 시리즈B 투자 유치도 성료했다.

김세엽 셀렉트스타 대표는 "AI가 실제 산업과 의료 현장에 적용되기 위해서는 안전성 검증이 필수로 고민돼야 한다"며 "특히 의료처럼 특화된 영역에서는 맞춤형 평가 체계가 필요하다"고 밝혔다.