TTA, AI 보안 표준화 프로젝트그룹 신설

AI 시스템 정보보호 기술 등 개발

한국정보통신기술협회(TTA)는 AI 모델 신뢰성 확보와 데이터 보호를 위한 보안 AI 표준화 전담 프로젝트그룹을 신설하였다고 30일 밝혔다.

프로젝트그룹은 AI 시스템 정보보호 기술, AI 개인정보 보호 기술, AI 보안성 평가 기술, 생성형 AI 보안 기술, 에이전틱 AI 보안 기술 등을 중심으로 국내외 표준 개발을 선도할 방침이다.

최근 AI는 단순 자동화 수준을 넘어 생성형 AI를 중심으로 빠르게 고도화되고 있다. AI 기술의 접근성이 높아짐에 따라 이를 악용한 사이버 범죄와 개인정보 침해 등 보안 위협도 증가하고 있다.

AI 보안 프로젝트그룹 회의 (사진=한국정보통신기술협회)

이에 따라 프로젝트그룹은 모델 탈취(Model stealing), 프롬프트 인젝션(Prompt injection), 적대적 공격(Adversarial attack) 등 보안 위협과 각국 AI 관련 법, 규제를 고려한 보안 표준을 개발할 계획이다.

손승현 TTA 회장은 “프로젝트그룹 신설은 AI 산업 육성과 기술 신뢰성 확보를 위한 표준 생태계 조성에 기여할 것”이라며 “국내외 AI 표준화 기구와의 협력을 통해 우수 기술을 국제 표준으로 반영하는 기반이 될 것으로 기대한다”고 말했다.