KISA, AI 시스템 전 영역 아우르는 '레드팀' 테스트베드 공개

한국인터넷진흥원(KISA)이 서울 코엑스 C홀에서 열린 'AI페스타 26' 정부 특별관에 참가해 기업 대상 AI 보안 종합 지원 체계와 'AI 레드팀' 테스트베드를 선보였다.

8일 방문한 부스에서는 AI 서비스 기업과 활용 기업의 보안 위협 대응을 돕는 3대 지원 사업이 중점적으로 다뤄졌다. KISA는 현장에서 실무에 활용 가능한 AI 보안 가이드를 제공하며, 취약점을 사전에 식별하고 개선하는 기업 대상 AI 보안 레드팀 및 모의해킹 지원 사업을 소개했다.

전시된 AI 레드팀 테스트베드는 상용 도구와 오픈소스를 연계해 자동화된 공격 및 평가 시나리오를 제공하는 플랫폼이다. 데이터, 에이전트, 고성능 모델, 모델, 공급망 등 5개 영역에서 발생할 수 있는 21개 보안 위협을 체계적으로 분류해 상시 진단할 수 있는 환경을 제공한다.

서울 코엑스에서 열리고 잇는 'AI페스타 26'에 참가한 한국인터넷진흥원 부스(사진=지디넷코리아)

향후 AI 보안 위협 정보를 지속해서 나누는 생태계 구축 계획도 공개했다. KISA 현장 관계자는 "올해 연말까지 AI와 관련된 보안 위협 정보들을 모아서 공유하는 특화 플랫폼인 'AI 아이삭(AI-ISAC)'을 새롭게 출범할 예정"이라고 밝혔다.

관련기사

부스에는 행사가 진행된 지난 이틀간 200명 이상의 방문객이 다녀가며 AI 보안에 대한 높은 관심을 입증했다. KISA 관계자는 "최근 금융권 등에서 보안 사고가 지속해서 발생하는 만큼, 현장을 찾은 방문객들이 대응 방안을 집중적으로 문의하는 등 현장 수요가 매우 컸다"고 설명했다.