UN 인권수장 "AI, 인류 존립 위협할 수도…철통같은 안전장치 필요"

인프라·민주주의 제도 마비 가능성 경고…국가·기업에 안전·보안 대책 요구

인공지능(AI)이 인류 존립을 위협할 수 있어 국제사회가 강력한 안전장치를 마련해야 한다는 주장이 나왔다. AI 시스템 오류가 핵심 인프라와 민주주의 체계 붕괴로 이어지지 않도록 국가와 기업이 공동 대응해야 한다는 제언이다.

7일(현지시간) 로이터통신에 따르면 폴커 튀르크 유엔(UN) 인권최고대표는 이날 스위스 제네바에서 열린 유엔 인권이사회에서 첨단 AI 위험을 경고하면서 안전과 보안을 위한 국제적 대응을 이같이 요구했다.

유엔 인권사무소는 강력한 AI 시스템이 제대로 통제되지 않을 경우 핵심 서비스와 통신 인프라뿐 아니라 민주주의 제도까지 혼란에 빠질 수 있다고 봤다. AI 기술 발전 속도에 비해 안전장치 마련이 뒤처지고 있다는 판단이다.

폴커 튀르크 유엔(UN) 인권최고대표. (사진=폴커 튀르크 X 계정 캡처)

해당 사무소는 지난 7월 발생한 '허깅페이스 사건'을 대표 사례로 들었다. 당시 오픈AI 에이전트가 오픈소스 플랫폼을 해킹한 사건에서 위험한 에이전트 학습 행태가 나타났다는 설명이다.

튀르크 대표는 AI 산업 권력이 소수에게 집중된 점도 문제로 지적했다. 메타와 앤트로픽, 오픈AI, 구글 등 주요 AI 기업이 첨단 모델 개발을 주도하는 가운데 이를 견제할 제도적 장치가 충분하지 않다고 봤다.

그는 AI 기업을 보유한 국가와 반도체·컴퓨팅 인프라 등 AI 공급망에 참여하는 국가들이 공동으로 규제 원칙을 마련해야 한다고 강조했다. AI가 넘어서는 안 될 금지선을 국제사회가 합의해야 한다는 주장이다.

튀르크 대표는 자율무기 확산에도 우려를 표했다. 러시아가 지난 8월 우크라이나에서 완전 자율형 드론을 사용해 3명을 숨지게 했다는 보도를 언급하며 인간 개입 없이 생명을 빼앗는 무기를 시급히 금지해야 한다고 촉구했다.

이번 연설은 튀르크 대표가 지난 7월 미국과 러시아 반대에도 4년 임기 연임에 성공한 뒤 유엔 인권이사회에서 처음으로 한 연설이다. 이날 그는 미국 이민자 구금시설 사망 사건 책임 규명과 러시아의 우크라이나 공격 중단도 요구했다.

튀르크 대표는 "첨단 AI가 인류에 실존적 위험을 초래할 수 있다는 업계 우려에 공감한다"며 "너무 늦기 전에 AI 안전과 보안을 위한 철통같은 보장책을 마련하는 데 총력을 기울여야 한다"고 밝혔다.