'고위험 AI' 개발 사업자, 손해배상보험 가입 의무화 전망

"AI가 문제 야기하면 개발 사업자가 책임질 경우 생길 수 있어"

보험연구계에서 고위험 인공지능(AI) 기술 개발 사업자의 보험상품 가입 의무화를 전망하는 제언이 나왔다.

8일 보험연구원은 ‘인공지능 활용 확대와 보험산업의 과제’를 주제로 세미나를 개최하고 고위험 AI에 대해 논의했다.

‘고위험 AI’란 채용·신용등급평가·대출 심사 등 개인에게 큰 영향을 미치는 분야에 사용되는 AI를 말한다. 

(사진=픽사베이)

보험연구원 황현아 연구위원은 “고위험 AI 개발 사업자가 고객과 사용자에게 부담하는 손해배상 책임에 대해선 보험가입이 의무화될 가능성이 있다”고 덧붙였다.

황 연구위원은 “예를 들어 의료계의 AI 기술 등이 서비스 대상자인 환자에게 나쁜 결과를 야기할 경우, 미리 가입한 보험 등을 통해 이를 보상해야 할 것”이라고 말했다. 

현재 의료계에선 설명가능한 AI 기술을 활용한 사례가 늘어나고 있다. 대표적인 의료분야 AI 기술로 ▲쉐플리 가법 설명(SHAP) ▲그라디언트 가중 클래스 활성화 매핑(GradCAM) ▲로컬 해석이 가능한 진단 설명 모형(LIME) 등이 있다.

법학계에선 “의료계의 AI 활용 사례가 늘어나며 리스크 발생시 이를 분담할 수 있는 보험상품이 필요하다”는 목소리가 있다.

한양대학교 법학전문대학원 박혜진 교수(왼쪽)

한양대학교 법학전문대학원 박혜진 교수는 “의료계에서 AI를 활용함으로써 이전에 없던 유형의 리스크가 발생할 수 있다”며 “의료 분야에서 AI 기기가 고도화될 수록 설계상 결함에 대한 책임을 제조업자에게 따지는 경우가 많아질 것”이라고 말했다.

박 교수는 “이러한 리스크가 발생할 때 부담금을 분산하도록 보험상품을 개발할 필요가 있다”고 덧붙였다.