개인정보보호위, AI봇 '이루다' 개인정보 유출 조사 착수

서면조사 내부 판단 후 본조사 계획

개인정보보호위원회가 최근 개인정보 유출 논란이 일고 있는 인공지능(AI) 챗봇 ‘이루다’의 개발사 스캐터랩을 조사한다.

스캐터랩은 지난달 22일 정식 출시한 챗봇 이루다를 약 2주간 운영하던 과정에서, 이루다가 말하는 대화에 개인정보로 의심되는 정보들이 섞여있어 논란을 촉발했다.

스캐터랩은 11일 입장문을 통해 회사가 운영하는 또다른 서비스인 '연애의 과학'을 통해 수집된 이용자들의 카카오톡 대화를 챗봇 개발에 활용한 것이 맞으며, 이용자에게 따로 고지하지 않은 점에 대해 사과했다. 회사는 이루다 서비스를 12일 중 전면 중단한다.

이루다 서비스 중단

이에 조사당국도 문제를 인지했으며 사전 조사에 착수할 예정이다. 12일 개인정보보호위 대변인실 관계자는 "언론보도를 통해 스캐터랩에서 발생한 논란에 인지했으며, 본격적인 조사에 들어가려면 사전에 자료를 파악해야 한다“며 ”서면조사를 통해 기초 자료를 보고 문제가 있다고 내부적으로 판단하면 실제 조사에 들어갈 예정“이라고 밝혔다.

연애의 과학은 연인간 카카오톡 대화 내용을 기반으로 애정도를 분석해주는 유료 서비스를 제공 중이다. 이때 이용자로부터 개인정보 수집 및 활용에 대한 동의를 받으면서, AI 챗봇 개발에 활용할 것이란 점은 따로 표시하지 않았다. 연애의과학 개인정보취급방침 상 메시지 텍스트 파일을 제공받으며 정보 활용 목적에 '신규 서비스 개발 및 맞춤 서비스 제공'이라고만 명시했다.

스캐터랩 개인정보취급방침

개인정보 수집 및 활용 목적에 대해 구체적으로 명시하지 않은 점 외에도 스캐터랩이 이들 데이터를 제대로 정제하지 않은 채 사용한 정황이 의심되는 점이 추가로 문제 제기됐다. 타 매체 보도에 따르면 주소 동, 호수 등 개인정보가 그대로 노출된 사례도 발견됐다.

이에 대해 사측은 구체적인 주소가 포함될 수 있었던 경위에 대해 뚜렷이 답하지 못했다. 숫자 정보와 이메일에 포함될 수 있는 영문 데이터는 사전에 삭제했다는 입장이다. 즉 이루다 대화 노출에 앞서 사전에 비식별화가 진행된 것이 분명하고 강조했다.

만약 해당 주소가 실제 카카오톡 대화에서 제대로 필터링 되지 않은 정보라면 개인정보 유출에 해당할 가능성이 높다.

가천대 최경진 법과대학 교수는 “개인정보보호법 17조에 따라 정보 제공에는 동의 하면서도 주소에 대해선 동의하지 않았던 케이스라면 법 위반”이라며 “만일 카카오톡 대화가 아닌 다른 곳에서 정보를 수집하다 실제 있는 주소가 포함된 경우라면 개인정보보호법 15조 위반”이라고 설명했다.

애초에 연애의 과학 카카오톡 대화 제공자로부터 개인정보 수집 및 활용 동의를 받았고, 납득 가능한 범주 내에서 이뤄진 서비스였다 하더라도 비식별화 과정에서 실수가 발생한다면 이는 개인정보 유출에 해당한다. 개인정보보호책임자는 법적 책임을 질 수밖에 없다. 스캐터랩의 경우 김종윤 대표다.

최 교수는 "인공지능이란 것이 처음부터 완벽할 순 없고 고쳐가면서 해야 한다"면서도 "AI 챗봇을 대중에 서비스 하면서 철저히 비식별화와 마스킹 작업을 했어야 하는 것이 맞다"고 강조했다.

연애의 과학 이용자 카카오톡 대화 제공자들은 이번 사건에 반발해 카카오톡 오픈채팅방을 통해 개인정보 유출 사례를 공유하며 소송을 준비 중인 것으로 알려졌다.