"AI 에이전트 확산 대응"…카카오, 윤리 원칙·이행 가이드 공개

안전·프라이버시 등 6개 원칙 담아…AI 체크리스트, 연내 적용

카카오는 자율 에이전트 확산에 대응하기 위해 인공지능(AI) 서비스의 기획부터 운영까지 적용할 AI 윤리 원칙 '스피릿'과 이행 가이드 '노르마'를 마련했다고 15일 밝혔다.

카카오는 지난 13일 카카오 AI 캠퍼스에서 개최한 개발자 컨퍼런스 '이프카카오 26(if(kakao)26)'에서 새 윤리 체계를 소개했다. 

이날 하진화 카카오 AI 커뮤니케이션 수석은 '윤리를 깨는 자율 에이전트, 어떻게 대응할까?'를 주제로 발표하며 AI가 독자적으로 계획을 수립하고 행동하는 상황에서 인간의 역할과 책임을 명확히 해야 한다고 강조했다. 윤리 기준을 실제 서비스 개발과 운영 과정에 적용할 수 있는 체계도 필요하다고 설명했다.

새롭게 마련한 '스피릿'은 ▲안전 ▲프라이버시 ▲포용 ▲책임 ▲이용자 주체성 ▲투명성과 신뢰성 등 6개 원칙을 담았다. 카카오는 '대한민국 인공지능 윤리원칙'에 제시된 3대 가치와 7대 원칙을 토대로 자사 서비스 환경에 필요한 세부 기준을 추가했다.

(왼쪽부터) 김경훈 카카오 AI 세이프티 리더, 하진화 카카오 AI 커뮤니케이션 수석, 정병수 유니세프 L&D센터장, 이상욱 한양대학교 철학과 교수, 김세웅 카카오 부사장, 김명주 AI안전연구소 소장, 이원태 국민대학교 특임교수, 유재연 한양대학교 사회혁신융합전공 겸임교수, 변순용 서울교육대학교 윤리교육과 교수, 이민석 국민대학교 소프트웨어융합대학 교수. (사진=카카오)

이 같은 원칙을 현장에서 실행하기 위한 가이드는 '노르마'로 명명했다. 노르마는 윤리적 문제를 조직이 공동으로 책임지고 관리와 실행이 가능한 구체적인 과제로 전환한다는 의미를 가진다.

카카오는 지난 7월 출범한 AI&기술윤리소위원회 외부 자문단과 협력해 이달 초 원칙과 가이드 마련을 마쳤다. 외부 전문가 7명이 국내외 규범과의 부합 여부를 독립적으로 살폈으며 회사 내부에서는 ▲AI 세이프티 ▲개인정보 ▲정보보안 ▲서비스 담당 부서가 실무 적용 가능성을 검토했다.

자율 에이전트의 위험을 관리하기 위한 기준도 구체화했다. 카카오는 위험 요소를 ▲통제 주도권 ▲목표 ▲권한 ▲참조 자원 ▲상호작용 등 5개 영역으로 구분했다. 각 영역에는 ▲사람의 감독 ▲긴급 제어 ▲접근 권한 관리 ▲데이터 보호 등에 관한 통제 방안을 연계했다.

이를 토대로 개발한 'AI 윤리 이행 체크리스트'는 연내 적용할 예정이다. 점검 과정은 서비스 특성을 확인하는 단계에서 시작해 사전 위험 검토를 거친 뒤 필요한 통제 조치의 적용 여부를 판단하는 방식으로 구성됐다.

아동과 청소년을 대상으로 하는 AI 서비스의 위험 요소도 별도로 살핀다. 카카오는 지난해부터 사용해 온 '디지털 아동·청소년 보호 체크리스트'에 더해 경제협력개발기구(OECD)와 유니세프의 아동 온라인 위험 분류 체계인 '5Cs'를 참고한 항목을 새 체크리스트에 포함할 계획이다. AI 기술의 특성에서 비롯되는 아동 관련 위험을 점검하기 위해서다.

카카오는 2018년 국내 기업 최초로 '알고리즘 윤리헌장'을 발표한 이후 관련 제도를 확대해 왔다. 2022년에는 카카오와 주요 계열사가 참여하는 AI&기술윤리소위원회를 구성했다.

이후 그룹 차원의 '책임 있는 AI를 위한 가이드라인'을 마련하고 이용자 주체성 원칙을 추가했다. '안전한 AI를 위한 핵심 체크리스트'도 그룹 내 의무 적용 대상으로 지정했다.

AI&기술윤리소위원회는 인공지능기본법 제28조에 규정된 인공지능윤리위원회의 역할을 자율적으로 수행하기 위해 외부 자문위원단도 운영하고 있다.

김세웅 카카오 AI&기술윤리소위원회 위원장은 "외부 자문단과 내부 조직의 관점을 함께 담아 AI 서비스 전 주기에서 작동하는 리스크 검토 체계를 갖추게 됐다"며 "AI의 자율성이 커지는 만큼 사람의 판단과 책임을 분명히 하고, 이용자가 안심하고 사용할 수 있는 AI 서비스를 만들어 가겠다"고 말했다.