스캐터랩, AI 챗봇 윤리점검표 발표

스캐터랩(대표 김종윤)은 과학기술정보통신부(이하 과기정통부) 및 정보통신정책연구원(KISDI)과 협업하여 개발한 개별 기업 특화 윤리점검표 1호로 ‘스캐터랩 AI 챗봇 윤리점검표' 최종안을 공개했다고 26일 밝혔다.

스캐터랩에서는 지난 2021년 1월 ‘이루다 1.0’ 서비스 중단 이후 개인정보 보호 체계 강화 및 AI 윤리 실천 노력을 꾸준히 이어왔다.

스캐터랩이 지향하는 AI 챗봇의 가치나 의미 등 본질을 고민하고, 개인정보 보호 강화 및 어뷰징 대응 시스템 마련에 집중했으며, 스캐터랩이 지향하는 ‘관계’ 가치를 주축으로 AI 챗봇의 윤리 준칙을 마련했다.

스캐터랩 AI 챗봇 윤리점검표(이미지=스캐터랩)

현재 이루다 2.0 오픈 베타 테스트에 이르기까지 사전 점검 단계를 강화했으며, 정기적인 랜덤 샘플링을 통해 이루다가 안전하게 발화한 비율이 99% 이상인지 지속적으로 확인하고 있다.

‘스캐터랩 AI 챗봇 윤리점검표’는 과기정통부와 KISDI에서 2020년 12월 발표한 <사람이 중심이 되는 인공지능 윤리기준> 의 10대 핵심요건을 기준으로 구성되었으며, 인문학, 공학, 법학을 아우르는 학계 인사를 비롯하여 법조계, 시민단체 등 각계각층 전문가들의 조언을 받았다.

이번 점검표에서는 스캐터랩이 AI 챗봇을 기획⋅개발⋅운영하는 전 단계에서 AI 윤리가 실현될 수 있도록 총 21개의 실질적인 점검 항목을 담았다.

인공지능 10대 윤리기준의 '인권보장', '다양성', '투명성'에 따라 AI 챗봇이 사람들의 삶에 도움이 되는 소통 경험을 제공할 수 있도록 하는지, 편향이나 차별적인 대화가 발견될 경우 검토와 평가 후 반영할 수 있는 일련의 절차가 준비되어 있는지, 알고리즘의 원리 또는 데이터 수집 방법 등 필요한 정보를 충분히 제공하고 있는지 등의 내용이다. 이는 스캐터랩이 이루다 2.0 오픈 베타테스트에 이르기까지의 윤리적인 성장 이야기이기도 하다.

김종윤 스캐터랩 대표는 “작년 ‘이루다’가 직면했던 문제와 그 이후 스캐터랩의 해결 방법 모색 과정이 AI 산업과 우리 사회의 자산으로 공유될 수 있도록 윤리점검표를 만들었다"면서, “이루다가 우리 사회의 보편적인 윤리를 지향하면서, 누구에게나 친근한 대화가 가능한 친구로서의 존재가 될 수 있도록 지속해서 노력하겠다"고 말했다.

KISDI 문정욱 지능정보사회정책센터장은 “AI의 기술발전과 윤리확보라는 두 마리 토끼를 동시에 잡기 위해서는 법적 규제를 당장 도입하기 보다는 기업 스스로가 AI 윤리 확보를 위해 노력하는 것이 중요하다.” 면서, “스캐터랩의 이번 윤리점검표 개발을 비롯한 노력이 국내 산업계 전반으로 확산되는 계기가 되기를 바란다”라고 밝혔다.

스캐터랩은 딥러닝 기술을 활용한 ‘관계 지향형 AI 챗봇’을 개발하고 있는 스타트업이다. 스캐터랩의 최종 목표는 좋은 관계를 통해 사람들이 행복한 삶을 살 수 있도록 돕고, 누구에게나 일상의 행복과 위로가 되는 좋은 AI 친구를 만드는 것이다. 현재 오픈 베타 테스트 중인 이루다 2.0은 ‘너티(Nutty)’ 메신저 앱을 통해 대화할 수 있으며, 연내 정식 출시를 준비하고 있다.