TTA, 교육분야 첫 AI 신뢰성인증 CAT 부여

맞춤형 콘텐츠 제공 단감소프트 'CareerRecommender v1.0'이 주인공...안전, 국방, 채용 분야 이어 네 번째

교육 분야에서도 인공지능 신뢰성 인증(CAT)을 받은 제품(모델)이 나왔다. 안전, 국방, 채용 분야에 이어 분야로도 네 번째이자 CAT 인증을 받은 제품 전체로도 네 번째 인증이다.   

한국정보통신기술협회(TTA, 회장 손승현)는 단감소프트(대표 임성웅) 인공지능 모델 'CareerRecommender v1.0'에 대해 교육 분야 최초 ‘인공지능 신뢰성 인증(CAT, Certification of Artificial Intelligence)’을 부여했다고 2일 밝혔다.

'CareerRecommender v1.0'은 온라인 학습 플랫폼을 사용하는 학습자의 직무 성향을 분석해 맞춤형 교육 콘텐츠를 추천하는 시스템이다. 직무 성향 추천 결과와 LMS(학습관리시스템)의 학습자 수강 이력을 기반으로 학습자에게 최적화한 개인 맞춤형 교육 콘텐츠를 추천하는 AI 모델이다.

TTA는 "이번에 인증을 부여받은 ‘CareerRecommender v1.0’은 직무 성향 및 맞춤형 교육 콘텐츠 추천 시 발생 가능한 특정 콘텐츠 중심의 추천 방지, 추천에 대한 설명가능성 확보 등과 관련한 11개 인증 요구사항을 모두 충족했다"면서 "요구사항에는 AI 거버넌스 구축, 데이터 사용 적절성, AI 모델 및 사고 발생 시 추적 가능성 등이 포함됐고, 단감소프트는 이에 대한 기술·절차적 시험 기준을 모두 충족해 자사의 AI 모델이 안전하고 신뢰할 수 있음을 입증했다"고 설명했다.

.

'인공지능 신뢰성 인증(CAT)'은 국내 기업들의 AI 제품 신뢰성 향상과 동시에 글로벌 경쟁력 강화를 목적으로 운영 중인 민간 자율 인증 제도다. ISO/IEC AI 신뢰성 관련 국제 표준, UNESCO, NIST, EU AI법 등 국제 사회가 정의한 AI 신뢰성 요구 조건에 따라 위험 기반 평가를 수행하며, 기업들이 신뢰할 수 있는 AI 제품을 개발할 수 있게 지원하고 있다.

교육 분야 최초로 부여한 이번 인증은 이미 부여한 3개 분야(안전, 국방, 채용)와 더불어 신뢰할 수 있는 AI에 대한 인식 확산을 가속화 할 것으로 기대된다. 또 TTA는 인증제도 운영과 함께 과학기술정보통신부와 협력해 다양한 AI 신뢰성 관련 활동을 지속적으로 추진하고 있다.

특히 올해는 국내 생성형 AI를 대상으로 레드팀 챌린지 행사를 열어, AI 시스템의 취약점을 탐지하고 개선하는 기회를 제공했다. 이와 함께, 매년 신뢰성을 검증한 AI 제품을 대상으로 '인공지능 신뢰성·품질 대상'을 운영하는 등 다양한 AI 신뢰성 관련 활동을 지속적으로 전개하고 있다.

손승현 TTA 회장은 "최근 다양한 분야에서 AI기술 적용이 활발해지고 있으며, 특히 교육 분야의 경우 AI를 통한 교육 혁신에 대한 관심이 높은 상황"이라면서 "이번 인증을 계기로 학습·교수자가 AI 기술을 믿고 사용할 수 있도록 교육 분야에서도 AI 신뢰성 전문기관 역할을 다하겠다"고 밝혔다.