KT, UN·ITU 주관 행사서 책임감 있는 AI 논의

AI 관련 안전성 확보와 글로벌 거버넌스 협력 확대 추진

KT가 UN과 ITU가 주관하는 글로벌 행사에 참여해 책임감 있는 AI와 글로벌 AI 표준 협력 방안 등을 논의했다고 9일 밝혔다.

ITU 주최로 스위스 제네바에서 열린 ‘AI 포 굿 글로벌 서밋’에 참여한 KT는 에이전트 AI 시대의 신뢰 기본 요소 확보 방안을 논의했다. 신뢰 기본 요소는 누구의 에이전트인지를 말하는 ‘신원’과 허가 범위를 뜻하는 ‘동의’, 증명 여부를 뜻하는 ‘검증 가능성’을 말한다.

KT는 기존에는 트래픽 중심이 사람과 시스템이었지만 현재는 에이전트로 이동하고 있다면서 이런 변화 속에서 에이전트가 안전하게 행동하기 위해서는 신뢰 기본 요소 체계가 필요하다고 강조했다.

아울러 이와 같은 체계가 특정 플랫폼에 종속된 폐쇄형이 아닌 기업과 국경을 넘어 작동하는 개방형 상호운용 표준과 중립적인 신뢰 인프라 위에서 구축돼야 한다는 점을 강조했다.

KT는 같은 날 UN에서 개최한 '글로벌 AI 거버넌스 대화'에도 참여해 AI 거버넌스 모범 사례와 협력 방안을 논의했다. 지난해 출범한 글로벌 AI 거버넌스 대화는 각국 정부와 이해관계자들이 안전하고 포용적인 AI를 위한 국제 협력을 논의하는 자리다. 올해 행사에는 안토니오 구테레스 유엔 사무총장을 비롯하여 튜링상 수상자이자 유엔 독립 국제 AI 과학패널 공동의장인 요슈아 벤지오 교수, 브래드 스미스 마이크로소프트 사장 등 각국 정부, 산업계 및 시민사회 주요 인사가 참여했다.

KT는 세부 세션인 ‘인권 존중·보호·증진: 투명성, 책임성 및 인간 개입'에서 향후 AI의 발전에도 UN이 정립해온 인권 원칙이 동일하게 보장되고 유지되어야 한다는 원칙을 강조했다. KT가 개발한 AI의 안전성 확보를 위해 정책 및 거버넌스 체계를 갖추고 있음을 소개하고, 이를 지니TV AI 에이전트 등 실제 자사 서비스를 대상으로 적용하고 있음을 설명했다. KT는 AI 안전성과 관련한 예방·보호·감시 체계를 UN과 함께 만들어 나가겠다는 뜻도 밝혔다.

박완진 KT AX미래기술원 테크전략담당 상무는 “에이전트가 사람을 대신하는 시대에는 기술 혁신의 속도와 함께, 인간의 권리를 보장하고 상호 운용 가능한 디지털 신뢰를 구축하는 것이 무엇보다 중요하다”며 “KT는 AI 모델을 직접 개발하면서도 중립적인 신뢰 인프라를 함께 제공할 수 있는 사업자로서 글로벌 표준 논의에 책임 있게 기여하겠다”고 말했다.