"급변하는 AI시대, 범국가 개인정보 보호체계 필수"

“클라우드와 인공지능(AI) 시대가 되면서 수많은 국가의 데이터를 활용하는 시대가 됐다. 이제 한 국가의 규제만으로 개인정보를 보호하는 것은 한계가 있다. 국가들이 힘을 합쳐 공통된 보호체계를 갖춰야 한다,”

고학수 개인정보보호위원회(이하 개인정보위) 위원장은 23일 서울 중구 더 플라자 호텔에서 열린 ‘인공지능(AI)과 데이터 프라이버시 국제 컨퍼런스’에서 위와 같이 말하며 개인정보 보호를 위한 국가간 협력을 강조했다.

고학수 개인정보위 위원장은 “AI는 자율주행, 의료 등 다양한 분야에서 역동적으로 성장하면서 사회 전반에 막대한 변화를 일으키고 있지만, 부작용과 리스크에 대한 우려가 공존한다”며 “기존 개인정보 보호 법률 원칙을 AI 영역에 어떻게 적용할 것인지에 대한 공동의 고민이 필요한 시점”이라며 컨퍼런스를 개최한 이유를 밝혔다.

인공지능(AI)과 데이터 프라이버시 국제 컨퍼런스(이미지=개인정보보호위원회)

이어서 “초국가적으로 데이터가 처리되고 서비스가 제공되는 AI 환경에서 개별 국가의 규제만으로는 개인정보나 민감데이터를 보호하는 것은 한계가 있다”며 “국가간 AI 관련 이슈를 공유할 수 있는 정보공유 체계를 구축하고 개인정보 문제를 담당하는 소통 채널을 마련해야 한다”고 제안했다.

개인정보위와 디지털플랫폼정부위원회(이하 디지털플랫폼정부위)가 개최한 이번 행사는 한국을 비롯해 영국, 독일, 일본 등 주요 국가 개인정보 감독기관과 국제기구의 담당자, AI 전문가 및 업계 임원 등 약 300여 명의 산학연 관계자가 참석해 AI 규제에 대해 의견을 나눴다.

컨퍼런스 참여한 글로벌 관계자들도 AI를 중심으로 급변하는 환경에서 개인정보 보호를 위해 각국의 힘을 모아 합리적인 AI 규제를 마련하는 것이 필요하다는 데 공감했다.

또한 이번 행사는 국내에서 개인정보위가 AI 관련 규율 체계 논의를 주도하고 있는 영국, 독일, 프랑스 등 유럽 핵심국의 개인정보 감독기관과 함께 논의를 시작했다는 점에서 많은 의미를 갖는다.

고학수 위원장은 급변하는 AI 환경에서도 목적 범위에서 적합하게 개인정보를 수집·처리하고 안전하게 관리하며, 개인정보 처리 목적과 내용 등을 투명하게 공개하여 설명 가능한 AI을 구현할 수 있도록 해야 한다는 원칙은 준수되어야 한다고 강조했다.

이에 따라 AI 관련 개인정보 이슈에 대응하기 위해 ▲AI 서비스 제공자에 대한 안전장치 제공과 ▲규정 중심에서 원칙 중심으로 규제 패러다임 전환 ▲AI의 리스크 기준으로 차등적인 규제 도입 등 세 가지 주요 정책 방향을 제시하였다.

이어진 세션에서는 국내외 주요 AI 전문가들의 실제 AI 규제 관련 사례와 AI 규제 개선을 위해 필요한 노력들이 제시됐다.

영국 존 에드워즈 개인정보 감독기구위원장은 AI 활용 과정에서 투명성 확보와 정보에 입각한 동의 및 보호장치 마련이 중요하다며 이를 위한 협력 필요성을 강조했다. 특히 생성 AI 사용 과정에서 개인정보를 보호하고 윤리적인 사용을 보호하기 위해 규제기관 간의 협력할 수 있는 시스템 구축 마련을 제시했다.

독일 연방데이터보호정보자유위원회 울리히 켈버 위원장은 기본권 준수가 전제된 상황에서 AI 시스템 개발과 활용이 이뤄져야 하며 시스템으로 인해 부정적인 영향을 받는 사람들이 스스로 보호하고 침해신고를 할 수 있는 적절한 매커니즘이 이뤄져야 한다고 강조했다.

일본 개인정보보호위원회 유지 아사이 의원 역시, 생성형 인공지능(AI) 사용 맥락에서 데이터 보호 및 프라이버시 문제에 대한 더 많은 논의와 협력이 필요하며, 금번 컨퍼런스가 논의를 지속하기 위한 좋은 계기가 될 것이라고 말했다.

또한 삼성전자 김현종 개인정보 담당 상무는 AI 개발에 필요한 학습 데이터의 수집과 이용에 있어 야기될 수 있는 개인정보 위협요인을 최소화하기 위해, 민관 협업을 통해 AI의 개인정보 보호에 관한 합리적이고 균형 있는 제도적 장치가 마련되길 바란다고 밝혔다.

구글 안젤라 쉬 개인정보 보호 법률팀 책임자는 “구글은 프라이버시와 보안을 최우선으로 생각하고 제품과 서비스를 생산하고 있다”며 “AI 기술 개발과 사용에 있어 프라이버시 원칙 및 책임성 있는 AI 활용을 포함해 왔다며 앞으로도 지속할 것”이라고 말했다.

유럽연합 개인정보보호 이사회(EDPB), 유럽연합 개인정보보호 감독기구(EDPS), 경제개발협력기구(OECD) 데이터 보호 조직의 대표자들도 인공지능(AI) 규제를 위한 일관된 체계를 구축하기 위해 계속 협력할 의지를 표명했으며, 보다 효과적이고 적절하게 규제를 집행할 수 있는 구체적인 방안을 마련해 나가는 데 동의하였다.