"AI가 내린 결정, 핵폭탄급 재앙 가져올 수도"...스탠퍼드 연구 보고서

"AGI 시대 우려...AI 개발 속도만 집중해선 안 돼"

인공지능(AI) 의사 결정이 매우 심각한 결과를 초래할 수 있다는 보고서가 나왔다.

미국 비즈니스 월간지 포춘은 스탠퍼드대 인간중심 AI 연구소가 "AI에 의한 결정은 '핵 수준의 대재앙'과 같은 심각한 결과를 낳을 수 있다"는 내용을 담은 보고서 'AI 인덱스 리포트'를 이달 초 내놨다고 11일 보도했다. AI로 인한 결정이 향후 큰 문제로 이어질 수 있다는 내용이다.

보고서 설문에 참여한 자연어 처리 개발자 4분의 3은 "AI 기술이 사회에 긍정적인 영향을 미칠 것이지만, 그만큼 위험한 능력을 갖췄다는 점도 잊어선 안 된다"고 주장했다.

보고서 표지 (사진=스탠퍼드대)

연구자들은 "AI 관리와 규제가 예전처럼 강력하지 않다"고 답했다. AI에 대한 시스템 개발, 배포에 대한 기술적 진입 장벽이 크게 낮아진 점을 이유로 들었다. 연구자들은 "현재 일반 사람들은 AI와 관련한 윤리적 문제에 노출됐다"며 "기업은 AI 제품을 빠르게 선보이기 위한 경쟁에만 집중해선 안 된다"고 강조했다. 향후 기업이나 정부가 AI를 통제할 수 없다는 전망도 언급했다.

연구자 58%는 "AGI시대에 대해 크게 우려한다"고 답했다. AGI 시대에서 인간은 기술을 제어할 수 없을 것이라며 인간보다 높은 지능을 가진 AI에 대해 우려한다고 말했다. 해당 전문가들은 "현재 AI 연구가 규모 확장, 목표 달성에만 너무 치중돼 있다"며 "다양한 연구 분야 통찰력을 포함하지 못한다"고 지적했다.

해당 연구자들은 일반인공지능(AGI) 시대가 언제 나타날지에 대해서 여러 의견을 갖고 있었다. 전문가들은 AGI 시대가 50년~수백 년 뒤 올 것이라 주장했다. 다른 연구자들은 AGI 시대 가능성 자체에 의문을 제기했다. AGI 시대가 인류 역사와 발전에 중요할 것이라는 의견엔 모두 동의했다.

해당 내용은 AI 인덱스 리포트 제 3장 'AI의 기술적 윤리'에서 확인할 수 있다.