UN 사무총장 "킬러로봇 금지해야"

포르투갈 기술컨퍼런스 '웹서밋' 발표

인공지능(AI)을 사용해 인간을 식별하고 살해하는 무기는 국제법으로 금지해야 한다는 입장을 국제연합(UN)의 안토니우 구테흐스(Antonio Guterres) 사무총장이 밝혔다. 소위 '킬러로봇(killer robot)'을 금지해야 한다는 얘기다.

미국 지디넷은 6일(현지시간) 구테흐스 사무총장이 "스스로 표적을 선택하고 파괴하는 능력을 갖춘 기계는 분쟁 확대를 피하고 전장에서 존중되는 인도법(humanitarian law)과 인권법(human rights law)을 보장하는 것에 막대한 어려움을 초래할 거라 본다"고 말했다고 보도했다.

AI 발전으로 조만간 인간을 표적으로 인식하고 공격할 수 있는 자동화 무기가 나올 거란 관측이 짙다. 하지만 이런 무기가 군인과 민간인을 구별하거나 전쟁의 비례성(proportionality in warfare)같은 개념을 이해하는 등 기본적인 전쟁규칙을 준수하지 못할 것이란 비판이 제기된다.

안토니우 구테흐스(Antonio Guterres) 유엔 사무총장. 포르투갈 리스본 웹서밋에서 국제법으로 AI 기반 살상무기, 즉 킬러로봇을 는 금지해야 한다는 견해를 제시했다. [사진=유튜브 영상 캡처]

전장에서 자동화 무기가 오작동하거나 해킹됐을 때 그걸 누가 책임질 것인지도 불분명하다. 수많은 국가가 '자동화 살상무기체계(lethal autonomous weapons systems)' 금지를 촉구하고 있지만 모든 국가가 이를 지지하는 상황은 아니다.

살상무기를 금지해야 한다는 구테흐스 사무총장의 발언은 지난 5일 포르투갈 리스본에서 열린 기술컨퍼런스 '웹서밋(Web Summit)'에서 나왔다. 그는 "인명을 취할 힘과 판정기능(discretion)을 가진 기계는 정치적, 도덕적으로 용납될 수 없으며, 국제법으로 금지돼야 한다"고 말했다.

구테흐스 총장은 같은 자리에서 일자리와 사회에 끼칠 AI의 영향에 대해서도 경고했다.

그는 "수많은 일자리가 만들어지고 수많은 오래된 일자리가 파괴될 것"이라며 "어느 쪽의 수가 더 클지 알기 어렵지만 그런 일자리는 너무나 제각각이라 우리는 거대한 실업(unemployment) 상황을 마주할 것"이라고 말했다.

또 "우리가 그런 상황에 준비되지 않았는지, 충분히 빨리 준비되지 않았는지는 불분명하다"며 "AI 혁명으로 남게될 상황에 대비해 새로운 안전망(a new generation of safety nets)이 필요할 것"이라고 덧붙였다.