올해 AI 대약진..."네이버·카카오 개인정보 유출 방지 정조준"

올해 전 세계 산업의 화두는 단연 인공지능(AI)이다. 생성형 AI를 이용한 챗봇부터 통역, 이미지 생성, 영상 생성 등 산업 전반에서 AI가 활용되고 있다. 특히 글로벌 빅테크 기업인 구글과 애플은 물론 국내 네이버와 카카오에 이르기까지 AI는 전방위로 확산하는 추세다.

하지만 역설적으로 AI를 활용한 기업정보 탈취, 저작권 침해, 개인정보 유출 등 역기능도 속속 나타나고 있다. 실제 지난 6월 미국의 한 단체는 오픈AI가 챗GPT의 기반인 초거대 AI 언어모델(LLM)을 학습시키면서 인터넷에 게시된 책·기사·웹사이트 게시물과 개인정보 등 약 3천억개 단어를 동의 없이 사용해 개인정보보호법을 위반했다고 소송을 제기하기도 했다.

국내에서조차 AI 기술이 미래 인류 생태계를 바꿀 획기적인 기회라는 의견과 동시에 기업들의 보안 대책 마련도 분주하다.

■네이버·카카오, AI 이용 개인정보 유출 근본부터 막는다

국내 대표 빅테크 양대산맥인 네이버와 카카오는 AI를 이용한 개인정보 침해에 우선적으로 대응한다는 방침을 세웠다. 네이버와 카카오는 각각 클로바X, 카카오i 등 AI를 활용한 사업을 대거 운영 중이다. 카카오는 전 계열사 별로 AI 보안 정책을 수립하는 등 개인정보 유출 방지와 저작권에 대한 계획을 마련했다.

우선 카카오엔터테인먼트는 AI 보안 정책을 수립했다. 특히 최근 오픈AI의 챗 GPT를 활용한 저작권 침해 사례가 늘어나는 만큼 '인공지능 사용보안 가이드'와 'OpenAI 정책 가이드'를 수립했다. AI 서비스 활용 시 정보 재가공과 학습 정보 활용 등 데이터 유출 방지를 위한 사전 보안성 검토 진행도 병행한다. 카카오페이도 AI 체크리스트를 수립하고 'Daily IT 통제 모니터링' 등을 마련했다. 해당 모니터링은 알고리즘을 상시 점검하고 통제 범위를 강화해 인가되지 않은 알고리즘 변경에 대한 탐지를 강화하는 식이다.

네이버는 대표적으로 24시간 연중무휴인 프라이버시 센터를 운영한다. 해당 센터를 통해 ▲정책 및 법률 ▲보호활동 ▲PER 제도 ▲투명성 보고서 ▲글로벌 지원 등을 지원하고 있다. 회사는 인터넷 이용자가 게시물 작성 과정에서 직접 기재한 개인정보도 시스템에서 이를 자동으로 인식해 차폐 처리 후 게시되도록 시스템을 운영 중이다. 더불어 AI를 이용한 개인정보 유출을 방지하기 위해 '개인정보 암호화 솔루션'을 구동하고 있다.

해당 솔루션은 암호화 조치를 하지 않고 임직원의 업무용 PC에 개인정보를 저장하는 경우 자동으로 개인정보를 포함하는 파일을 찾아내어 암호화 조치가 되도록 하는 방식이다. 또 분기 별로 네이버 개인정보보호위원회를 개최하고 AI를 포함한 보안 전반에 대한 인식·정책을 점검하고 있다.

■ AI 산업 확대 속 정부도 규제 손질 '분주'

개인정보의 주무 기관인 개인정보위원회는 빠른 AI시대에 걸맞게 세세한 '규정'이 아닌 '원칙' 중심의 정책방향을 설정했다. AI를 악용한 개인정보 유출을 사전에 차단하면서도 AI 산업을 개화하겠다는 두 가지 전략이다.

관련기사

지난해 개정된 개인정보 보호법을 적용해 원칙과 기준을 구체화한 AI 단계별 '6대 가이드라인'을 오는 12월까지 우선 마련한다. 세부적으로 ▲공개된 정보 ▲비정형데이터 ▲생체인식정보 ▲합성데이터 ▲이동형 영상기기 ▲투명성 확보로 구성된다. 더불어 기업이 AI 산업을 확대하는데 걸림돌이 되는 규제 불확실성을 해소하겠다는 전략도 함께다.

올해부터는 AI 기술로 인해 과거 개인정보 유출 이력이 있는 회사나 기관은 개인정보 처리방침에 대한 평가도 받게 된다. 개인정보위는 지난 19일 이같은 '개인정보 처리 방침 평가제'를 앞두고 '개인정보 처리 방침 평가에 관한 고시'를 마련했다. 지난해 7월 챗 GPT에서 한국인 687명의 개인정보가 유출됐음에도 오픈 AI는 당국에 신고하지 않아 과태료를 부과받은 바 있는데 이같은 경우 사전 평가를 받아야 한다.