TTA, 국제표준 기반‘AI 신뢰성 검인증’ 제도 고도화

한국정보통신기술협회(TTA)는 국내 AI 기술의 글로벌 신뢰도 제고와 함께 산업 현장의 수요에 부합하는 실효적 인증 제도 운영을 위해 인공지능 신뢰성 검인증 제도(CAT)를 국제표준 기반으로 고도화해 운영한다고 밝혔다.

CAT는 민간 주도로 AI 신뢰성 확보에 대한 글로벌 요구에 선제적으로 대응하기 위해, 2023년 국내 최초로 제정된 ‘인공지능 시스템 신뢰성 제고를 위한 요구사항(TTAK.KO-10.1497)’ 단체 표준을 기반으로 설계됐으며 지난해 정식 운영 이후 현재까지 7건의 인증부여와 39건의 검증 서비스를 제공했다.

지난 9일 이뤄진 CAT 제도 고도화는 국내 AI 산업 실정을 반영한 맞춤형 검·인증 서비스 제공을 위해 기업 규모와 기술의 위험도에 따라 심사 시험 기준을 차등 적용해 기업의 과도한 부담을 완화하고 실효적인 신뢰성 확보를 지원케 한 것이 핵심이다. 또한 글로벌 호환성 확보를 위해 국제표준을 기반으로 시험 기준을 분류 및 고도화했다.

세부적으로는 인증 대상을 인공지능 시스템, AI 사업자, AI 이용자로 세분화하고 각 대상에 따라 ▲AI 시스템의 위험관리 체계 ▲인공지능 경영시스템 ▲AI 거버넌스 요소에 대해 표준 적합성을 평가한다.

아울러 기존 문서와 절차 심사 위주의 평가에서 나아가 AI 시스템이 내포한 위험요소 평가를 위한 실 운영 환경에서의 시스템 대응 능력을 평가하는 기능·성능 시험이 강화됐다.

이를 통해 기업은 자사의 기술 수준과 운영 여건에 맞춰 AI 신뢰성을 확보할 수 있으며, 이를 기반으로 AI 시스템 및 기업의 신뢰성을 대외적으로 입증할 수 있을 것으로 전망된다.

특히 기술, 조직 운영 및 책임 체계에 걸쳐 AI 안전·신뢰성 확보를 위한 핵심 사항 위주의 점검을 통해 기업 내외부의 기술 경영 거버넌스 체계를 강화할 수 있다.

이밖에 TTA는 2021년부터 과학기술정보통신부와 함께 ‘신뢰할 수 있는 인공지능 개발 안내서’ 개발과 배포, 국내 최초 생성형 AI 레드팀 챌린지 운영 등 국내 AI 안전 신뢰성 기반 조성을 위한 다양한 활동을 수행해왔다. 최근에는 AI 기본법 하위법령 정비 TF에 참여해 실효성 있는 제도 설계를 지원하고 있으며 AI안전연구소, 국가인공지능위원회 등과도 협력 체계를 지속 확대하고 있다.

손승현 TTA 회장은 “CAT 제도는 국내외 AI 산업과 기술 발전에 따라 지속적으로 평가 기준을 고도화하며, 민간의 자율적인 신뢰성 확보 노력을 적극 뒷받침하는 등 시장 변화에 선제적으로 대응해 온 인증 제도”라며 “앞으로도 TTA가 보유한 시험 인증 분야의 전문성을 바탕으로 시장 요구에 맞춰 품질, 보안 등 AI 전 분야를 통합적으로 지원하는 국내 대표 AI 검인증 브랜드로 만들어 나가겠다”고 말했다.