구글 딥마인드 '의료AI' 야심, 프라이버시에 '발목'

영국 ICO, 데이터보호법 위반 결론

구글 딥마인드가 꿈꾸는 의료용 인공지능(AI) 서비스가 프라이버시 문제로 발목 잡히게 됐다. 영국 정부가 본격적으로 프라이버시 보호 문제를 걸고 넘어진 탓이다.

3일(현지시간) 영국 정보보호 전문기관인 정보위원회(ICO)는 딥마인드가 자국 내 공공 의료 서비스를 제공해 온 의료보험기구(NHS) 신탁재단과 진행한 환자 의료 정보 공유 협약이 데이터보호법을 위반했다고 결론내렸다. 지난해 5월부터 1년여 간 조사 끝에 나온 결론이다.

다만 ICO는 딥마인드나 NHS 신탁재단을 직접 처분할 권한은 없다. 이에 따라 영국 규제 당국이 손을 댈 경우 최대 50만 파운드 벌금이 부과될 가능성이 있다. 지난해 10월 영국 통신사인 토크토크는 사용자 데이터들을 사이버 공격에 쉽게 노출될 수 있게 했다는 이유로 40만파운드 벌금 처분을 받았다.

ICO가 딥마인드와 로열프리 트러스트 간 환자 의료 정보 공유를 불법이라고 규정하면서 관련 연구에 제동이 걸리게 됐다.

영국 매체 뉴사이언티스트에 따르면 구글의 AI 자회사인 딥마인드는 지난 2015년 9월 NHS신탁재단과 협업해 북런던 소재 3개 병원인 로열프리, 바넷, 체이스팜 병원으로 구성된 로열프리 트러스트로부터 환자 동의 없이 160만명의 의료정보에 접근할 수 있는 권한을 얻게 됐다. 지난 6월 딥마인드는 무스그로브파크라는 병원과도 이런 협약을 맺었다.

ICO는 딥마인드와 NHS신탁재단이 어떻게 이러한 의료 데이터가 처리되는지에 대해 환자들에게 충분히 알리지 않았다고 지적했다.

ICO 엘리자베스 데넘 위원장은 "데이터를 창조적으로 사용하는 일이 환자를 치료하거나 임상진료를 개선할만한 큰 잠재력을 가졌다는 점은 의심할 여지가 없으나 혁신의 가치가 기본적인 프라이버시권을 훼손시켜서는 안 된다"고 지적했다.

이어 "환자들은 그들의 정보가 이런 식으로 사용된다는 것을 합리적으로 예상하지 못했으며, NHS신탁재단은 무슨 일이 일어나고 있는지에 대해 더 투명했어야한다"고 덧붙였다.

■ AI 알고리즘으로 예방…낙태 이력까지 파악 '논란'

딥마인드는 NHS 트러스트와 협약을 통해 얻은 의료 데이터를 AI 알고리즘을 통해 분석해 실시간으로 환자들의 상황을 모니터링해 환자에게 급성 신부전증 같은 위험한 순간이 오기 전에 빠르게 미리 대처할 수 있는 의료진용 앱 '스트림스(Streams)'를 개발해 왔다.

문제는 딥마인드가 심지어 환자의 에이즈 양성반응 여부, 약물 과다 복용이나 낙태 수술 이력 등 정보까지 파악할 수 있었다는 점이다.

이에 대해 딥마인드 측은 "스트림스는 환자에 대한 직접적인 치료(direct patient care)를 제공하기 때문에 환자에게 암묵적인 동의를 받은 것이나 다름없다"고 주장해왔다.

환자의 의료 데이터를 제공하는 과정에서 환자의 동의를 받을지 말지를 결정하는 것은 병원의 몫이고, 이 병원들이 동의를 받기를 요청하지 않았기 때문에 문제가 없다는 설명이다. 또한 이런 정보를 모회사인 "구글에 공유하지 않는다"고 강조했다.

그러나 ICO가 자국 내 데이터보호법을 어겼다는 결정을 내리면서 딥마인드와 로열프리 트러스트가 더 적극적으로 대응해야하는 처지에 놓이게 됐다.

로열프리 병원은 공지를 통해 "우리는 ICO의 결정을 수용하며 그들이 우려하는 부분을 해결하는데 이미 진전을 이뤘다"고 설명했다.

딥마인드 역시 공식 블로그를 통해 "스트림스를 위해 쓰인 환자 데이터를 안전하고 합법적으로 다룰 수 있도록 보장할 것"이라며 "이 결정은 로열프리 병원에 대한 것이지만 우리 내부 지침에도 반영할 필요가 있다"고 밝혔다.

이와 함께 "2015년에 빠른 성과를 내기위한 결정을 내리다보니 NHS와 환자 데이터를 둘러싼 규제의 복잡성을 과소평가했었다"고 덧붙였다.

구글이 의료 데이터를 가져갈 수도 있지 않냐는 우려에 대해서는 "우리는 의사와 간호사가 원하는 툴을 만드는데 거의 모든 역량을 집중시켰다"며 "의료진을 위한 기술이다보니 환자나 공공기관 NHS 등의 입장을 전체적으로 고려하지 못했다"고 평가했다.

딥마인드는 지난해 데이터 공유와 관련된 프라이버시, 보안 문제, 스트림스에 대한 로드맵을 검토하기 위해 9명의 외부자문을 두기도 했다.

이 기업은 ICO의 판결을 존중한다는 뜻을 밝히면서도 그동안 프라이버시 보호를 위한 노력을 지속해왔으며, "스트림스가 로열프리 병원에 근무하는 간호사의 업무일과 중 2시간을 절약할 수 있었다"며 환자를 돕는 선의의 목적이었다는 점을 거듭 강조했다.

현재 딥마인드는 로열프리 트러스트 외에도 임페리얼 대학 트러스트, 타운튼 및 서머셋 트러스트 소속 병원들과도 의료 데이터 공유 협약을 맺은 만큼 앞으로 영국 정부의 판단이 이들에게도 영향을 미치게 될 것으로 예상된다.