"AI 기술 발전, 인류 멸종 등 극단적 상황 초래 가능성"

미래 인공지능(AI) 기술 발전이 인류 멸종 등 극단적 상황을 초래할 가능성도 있다는 분석이 제기됐다.

김병필 한국과학기술원(KAIST) 기술경영학부 교수는 17일 서울 중구 포스트타워에서 열린 제2차 개인정보미래포럼에서 이같은 연구 결과를 공개했다.

해외 AI 연구자들을 대상으로 위험도를 조사한 결과 전체 응답자 중 38% 이상이 미래 AI 기술 발전이 인류 멸종을 초래할 가능성이 10%를 넘는다고 답했다고 김 교수가 소개했다.

AI 연구자들은 가장 우려할 미래 AI 시나리오로 ▲딥페이크 등 거짓정보의 확산 ▲대규모 여론 동향 조작 ▲권위주의 통치자 AI 통제 수단 활용 ▲ 위험 집단 AI 도구 활용 ▲특정인에게 불균형 혜택을 줘 경제적 불평등 악화 등을 꼽았다.

김 교수는 미래 개인정보 양상도 크게 달라질 것이라고 짚었다. 그는 "과거 개개인의 전화번호가 기재된 전화번호부 책자가 존재했던 게 2008년까지였다"며 "전화번호 공개하는 거에 대해서 거리낌 없어하던 게 고작 20년 전"이라고 설명했다.

이어 "미래에는 우리가 지금 인터넷에 업로드하는 개인정보에 대한 태도도 달라질 수 있다"며 "미국에서는 딥페이크 기술을 사용해 한 10대 소녀의 얼굴에 포르노그라피를 합성했다. 이런 사례를 방지하기 위해 미래엔 자신의 얼굴 등 개인정보를 웹 상에 업로드하는 행태 역시 크게 달라질 것"이라고 전망했다.

이날 개최된 제2차 개인정보미래포럼은 개인정보 분야 미래 의제를 선제적으로 논의하고, 산업계·시민사회 등 현장의 의견을 수렴하는 '개인정보 정책 토론의 장'이다. 학계·법조계·산업계·시민사회 등의 전문가 42명으로 구성된 위원들이 참석했다.