TTA "가짜판례·딥페이크...'AI신뢰성 인증' 중요해졌다”

“인공지능이 사회, 산업 전 분야에 걸쳐 빠르게 도입되면서 혁신과 변화를 이루고 있지만 알고리즘 문제, 데이터 편향 등에 따른 사고 발생이나 공정성 문제, 인종차별 문제가 발생하고 있다.”

배동석 한국정보통신기술협회(TTA) 팀장은 10일 서울 삼성동 코엑스에서 과학기술정보통신부가 주최한 디지털혁신페스타2024 퓨처테크컨퍼런스에 연사로 참여해 이같이 말했다.

인공지능(AI)으로 많은 이로움을 얻고 있지만 미국의 한 변호사가 챗GPT가 알려준 가짜 판례를 법원에 제출하거나, 최근 국내서 논란이 커진 딥페이크 성적 영상 등으로 AI의 신뢰성을 확보하는 게 중요한 과제가 됐다.

배동석 팀장은 “각국의 정부와 국제기구는 신뢰할 수 있는 AI를 명시하고 규범과 기술기준을 마련하고 있다”며 “AI에 내포된 위험과 기술적 한계를 해결하고 활용 과정에서 위험과 부작용을 방지하기 위한 가치가 중요해진 것”이라고 설명했다.

신뢰할 수 있는 AI를 갖추기 위한 노력으로 유럽연합의 AI법, 미국의 행정명령이 대표적인 사례고 IBM, 마이크로소프트, 구글, 스탠포드대 등 민간과 연구계에서도 활발한 논의가 이어지고 있다.

국내에서는 TTA가 이같은 일을 맡고 있다. 지난 2021년부터 시작된 AI 신뢰성 기반조성 사업으로 ▲AI 일상화 지원 ▲신뢰성 확보 기술 정립 ▲글로벌 규범 표준화 선도 등에 집중했다.

TF 단위로 시작한 AI 신뢰성 사업은 센터로 격상됐고 지난해 말에는 AI 신뢰성 민간자율인증을 시범적으로 수행하게 됐다.

배 팀장은 “산업의 혁신과 진흥, 시장 활성화를 통한 경쟁력 확보를 위해 기업의 자발적인 신뢰성 확보 지원을 위한 민간 자율 방식의 인증을 시행하게 됐다”며 “대한민국 AI 윤리 기준에 기반한 기술 체계와 신뢰성 프레임워크를 마련했다”고 밝혔다.

이어, “실무자와 개발자, 연구자가 활용할 수 있는 개발 안내서도 내놨다”면서 “AI 시스템과 모델의 신뢰성 제고를 위한 요구사항 15가지를 도출했고 별도로 프라이버시 준수 요건을 더했다”고 덧붙였다.

그러면서 “최신 글로벌 논의와 규범을 반영해 국제 표준 등에 부합하도록 다듬었고 공신력을 갖춘 제3자 검증도 이어가고 있다”면서 “2021년에 발표된 개인정보보호위원회의 AI 개인정보보호 자율점검표를 따르고 있는데 올 연말에 갱신을 거치면 최신 자료에 맞게 검증을 반영할 것”이라고 말했다.