AI의사 의료사고, 누가 책임질까

[김익현의 미디어 읽기] 알고리즘 투명성과 신뢰

인공지능(AI)이 우리 사회에 던지는 이슈는 많습니다. 가장 관심의 대상이 되는 건 역시 일자리 문제입니다. AI가 인간의 일자리를 빼앗아버릴 것이란 우려가 대표적입니다.

공상과학(SF) 영화를 많이 본 사람들은 ‘AI의 인간 지배’를 걱정하기도 합니다. 물론 그런 걱정은 영화적 상상력을 너무 많이 발휘한 때문입니다.

그런데 AI는 이런 거대 담론만 제기하는 건 아닙니다. 분쟁 상황이 생길 때 어디까지 책임을 물려야 할 것이냐는 것 역시 중요한 쟁점입니다.

이런 상황을 한번 가정해봅시다.

AI 의사 권고대로 인간 의사가 진료를 했습니다. 그런데 환자의 상태가 극도로 악화됐습니다. 이 땐 누가 책임을 져야 할까요? 직접 진료한 의사일까요? 아니면 진료 방법을 제시한 AI일까요? (☞ ATS 2018 바로가기)

IBM 왓슨[사진=ZDNet]

■ 법인격 인정 안되는 AI, 책임 한계는

말도 안되는 질문처럼 생각될 지도 모르겠습니다. AI가 시키는대로 진료하는 의사가 어디 있느냐고 반문할 지도 모릅니다.

하지만 현실은 그렇진 않습니다. IBM 왓슨을 도입한 병원들이 꽤 늘고 있지요. 왓슨은 1천500만 쪽에 달하는 방대한 전문 자료를 소화했습니다. 인간 의사의 공부 범위를 넘어선 존재죠. 이런 방대한 지식을 바탕으로 가장 성공 가능성이 높은 치료법을 제시해줍니다.

왓슨의 처방은 인간 의사와 80% 이상 일치한다고 합니다. 오히려 의견이 다를 경우 왓슨의 진단을 따를 만큼 의사들 사이에서도 신뢰를 얻고 있다는 얘기도 들립니다.

이런 상황에서 왓슨의 처방을 수용했다가 의료 사고가 발생할 경우 책임 소재가 발생하게 됩니다.

장연화 인하대 법학전문대학원(로스쿨) 교수는 “인간 의사에게 책임이 있다”는 입장입니다. 지난 해 발표한 ‘왓슨의 진단 조력에 대한 현행법상 형사책임에 관한 소고’에서 이렇게 주장했습니다.

왜 그럴까요? AI는 법인격이 인정되지 않기 때문입니다. 법인격이 없는 주체에게 법적 책임을 요구할 순 없으니까요. (유럽연합(EU)이 지난 해 로봇에 ‘전자인간’이란 법적인 지위를 부여하기로 한 건 이런 점을 고려한 조치입니다. 로봇과 함께 살아가기 위한 첫 발을 내디딘 겁니다.)

이런 쟁점은 의료 분야에서만 제기되는 건 아닙니다. 자율주행차에서도 민형사상 책임 문제는 중요한 쟁점입니다. 운전행위를 한 AI와 탑승한 인간 중 누가 사고 책임을 져야 하느냐는 부분입니다. 현행법상으론 AI는 권리 능력이 없습니다.

■ 그래서 더 중요한 '알고리즘 설명' 능력

그래서 중요한 것이 AI 알고리즘의 신뢰성과 투명성입니다. AI가 왜 그런 결정을 내렸는지 잘 설명할 수 있어야 한다는 겁니다. 최근 들어 ‘설명할 수 있는 AI(XAI)’에 대한 관심이 높아지는 건 그 때문입니다.

의료 사고 얘기로 다시 돌아가볼까요?

의사들에겐 ‘주의의무’와 함께 ‘설명의무’가 있습니다. 환자를 진료할 때 기본적으로 지켜야 할 의무입니다. 이런 의무를 태만하게 했을 경우 법적 책임을 질 수도 있습니다.

특히 중요한 게 설명 의무입니다. 환자들에게 질병의 증상과 예상되는 위험 등을 미리 알려줘야 합니다.

따라서 AI 의사에게도 이런 능력이 요구됩니다. 하지만 말처럼 쉬운 건 아닙니다. 알파고를 한번 떠올려 보시면 쉽게 이해할 수 있습니다. 알파고는 ‘신기의 묘수’를 연속해서 두면서 이세돌 9단을 이겼지만, 정작 그 수를 왜 두게 됐는지는 제대로 설명하지 못했습니다.

의료 분야에선 이런 부분이 더 중요합니다. AI를 활용하는 의사나, AI의 진단을 토대로 진료를 받는 환자 모두에게 확신을 심어주기 위해서도 ‘복잡한 결정 알고리즘’을 쉽게 설명할 수 있어야 합니다.

이런 쟁점을 찬찬히 짚어볼 의미 있는 'ATS 2018' 컨퍼런스가 오는 12월12일 서울 포시즌스 호텔에서 열립니다.

'AI, 이제는 플랫폼이다'는 주제로 열릴 이번 컨퍼런스에선 체탄 쿠마르 크리슈나무르티 IBM 왓슨 아시아 태평양 총괄이 ‘믿을 수 있고 투명한 기업을 위한 인공지능 플랫폼’이란 주제로 발표할 예정입니다.

스티브 크라운 마이크로소프트(MS) 부사장이 ‘AI를 위한 윤리’에 대해, 서정식 현대기아자동차 ICT 본부장은 ‘차량과 고객간 지속적인 상호작용을 가능하게 하는 초연결 지능형 자동차’란 주제로 키노트 발표합니다.

이 세분들과 함께 할 라운드테이블에선 AI 시대의 책임과 윤리 문제를 비롯한 다양한 쟁점들을 놓고 열띤 토론이 오갈 예정입니다. (☞ ATS2018 등록 바로가기)