EU, AI 피해소송 때 '입증책임' 대폭 완화

'AI책임 지침' 공개…'인과관계→기준 준수 실패'로 낮춰

유럽연합(EU)이 인공지능(AI) 소프트웨어와 제품으로 피해가 발생할 경우 해당 제조업체에 좀 더 수월하게 책임을 묻는 방안을 추진하고 있다.

유럽연합집행위원회(EC)가 28일(현지시간) ‘AI 책임 지침(The AI Liability Directive)’을 제안했다고 폴리티코를 비롯한 주요 외신들이 일제히 보도했다.

이번에 제안된 ‘AI 책임 지침’은 드론, 로봇을 비롯한 AI로 구동되는 제품으로 피해가 발생했을 경우 해당 제조업체를 상대로 손해배상 소송을 좀 더 수월하게 진행할 수 있도록 하는 데 초점을 맞추고 있다. 제조물품 뿐 아니라 자동 채용 알고리즘 같은 소프트웨어도 대상에 포함돼 있다.

(사진=픽사베이)

이번 지침에선 '과실책임주의'를 적용, 제조사의 작위, 또는 부작위 과실로 발생한 손실에 대해 민사상 손해배상 책임을 규정하고 있다.

■ 법원에도 AI 알고리즘·데이터 활용 관행 공개 요구 권한 부여 

새로운 지침은 AI 피해 관련 소송 때 소비자들의 입증 책임을 대폭 완화한 것이 특징이다. 이와 함께 법원에 대해서도 AI 알고리즘을 비롯한 기밀 정보 공개를 요구할 권한을 좀 더 광범위하게 부여했다.

이에 따라 피해를 입은 소비자들은 AI 제조업체나 서비스 제공자가 특정 기준을 준수하지 않았기 때문에 피해가 발생했다는 점만 보여주면 된다.

새 지침이 적용될 경우 법원은 AI 알고리즘 같은 비밀 정보를 공개하도록 요구하는 좀 더 강력한 권한을 갖게 된다. 또 해당 알고리즘을 위해 사용된 각종 데이터와 관련된 좀 더 상세한 정보를 요구할 수도 있게 된다.

‘AI 책임 지침’이 적용될 경우 AI 기술이나 서비스로 인해 피해를 입은 사람들은 좀 더 수월하게 해당 서비스 제공자나 개발자들에게 손해 배상을 요구할 수 있게 될 전망이다.

EC가 이같은 지침을 추진하는 것은 복잡한 AI 시스템 특성상 피해자들이 제품 사용과 손해 발생 사이의 인과 관계를 입증하기 어려운 점을 해소하기 위한 것이라고 외신들이 전했다.

이에 대해 EC는 AI 시스템 때문에 피해를 입은 사람들이 공정한 재판을 받고, 상황을 교정할 수 있는 기회를 제공하기 위한 것이라고 설명했다.

(사진=씨넷)

그 동안 EU는 AI 기술을 통제하기 위한 글로벌 표준을 마련하는 작업에 많은 공을 들여 왔다.

그 대표적인 것이 EU가 추진하고 있는 AI법이다. 이 법은 AI 기술을 사용할 때 발생하는 위험을 제어하는 데 초점을 맞추고 있다. 

이를테면 얼굴인식 같은 기술 사용을 엄격하게 제한하고, 이민이나 사회복지 평가 때 AI 소프트웨어로 사회적 점수를 매기는 등의 작업이 야기할 수 있는 위험을 제어하는 규정을 담고 있다.

■ 제조물 책임지침도 개정…소프트웨어 업데이트 등도 포함 

EC는 또 1985년 제정된 '제조물 책임지침’도 일부 개정했다.

지침 개정에 따라 무선랜이나 4G, 5G 통신으로 연결된 기기들도 제조물 책임 지침을 적용받게 됐다. 이에 따라 소프트웨어 업데이트나 업그레이드 등으로 인해 피해를 입은 경우에도 ‘제조물 책임지침’에 따란 피해 보상을 요구할 수 있게 됐다.

이와 함께 온라인 마켓플레이스들이 판매자의 이름을 공개하지 않아서 피해가 발생할 경우에도 보상을 요구할 수 있게 된다.

EC가 이번에 제안한 ‘AI 책임 지침’이 최종 확정되기까지는 상당한 시일이 걸릴 전망이다. 새로운 지침이 발효되기 위해서는 EU 이사회내 각국 정부와 유럽 의회의 승인을 받아야 한다.