한국정보통신기술협회(TTA)는 국내 AI 개발 제품의 보안성 확보를 지원하고, 국가 AI 대전환(AX)을 지원하기 위해 국내 최초로 AI 모델의 생명주기 전반에 걸친 보안성을 검증하는 ‘AI 보안 시험서비스’를 오는 제공한다고 1일 밝혔다.
AI 보안 시험서비스는 AI 모델의 설계부터 데이터 수집과 처리, 모델 개발, 시스템 구현, 배포 및 운영에 이르는 모든 단계에서의 보안 요구사항을 시험하고 그 결과를 공신력 있는 성적서와 결과서로 발급하는 서비스다.
기존의 보안 솔루션으로는 AI 모델의 특수성을 반영한 보안 위협에 효과적으로 대응하기 어려운 점을 고려해 AI 모델에 특화된 보안 요구사항 만족 여부를 시험한다. 예컨대 ▲데이터 수집 및 전처리 단계에서의 개인정보 및 민감정보 비식별화, 데이터 오염 방지 ▲학습 단계에서의 적대적 공격 방어, 모델 위변조 방지 ▲배포 및 운영 단계에서의 API 보안, 모델 접근 제어, 무결성 검증 등을 살핀다.
TTA는 시험절차의 적합성을 검증하기 위해 올해 5월부터 6월까지 국내 AI 제품 3종(비전·음성·언어 을 대상으로 파일럿 시험을 진행하여 시험절차를 개선 및 확정하였고, 올해 4월 TTA 단체표준 과제를 제안해 표준화가 진행 중이다.
관련기사
- 3GPP, 'AI 신경망' 6G 통신 네트워크 설계 시동2025.06.17
- TTA, LLM 유해성 공격전략 실증분석 보고서 공개2025.06.16
- TTA, 인구문제 인식개선 릴레이 캠페인 참여2025.06.13
- TTA, 민간부문 CCTV 보안 인증서비스 개시2025.06.12
아울러 향후 더 높은 수준의 보안성을 보장하는 시험서비스 제공을 위해 시험 영역 확대 및 AI 보안 영향도 수준에 따른 등급 설계를 통해 기업 맞춤형 검증 기준 개발 및 시험서비스 고도화를 추진할 계획이다.
손승현 TTA 회장은 “AI 기술의 안전한 확산을 위해서는 기술 발전과 더불어 보안에 대한 신뢰 확보가 필수적”이라며 “AI 보안 시험 서비스를 통해 국내 AI 산업 전반의 보안 수준을 한 단계 끌어올리고, 궁극적으로는 우리나라의 AI 3대 강국 실현 및 신뢰할 수 있는 AI 혁신 생태계 조성에 기여하겠다”고 말했다.
