'AI 안전성' 논쟁 갈수록 확대…英 찰스 3세도 가세

영국 왕실, 오는 17일 'AI 안전성' 비공개 회담 개최

최근 앤트로픽 등 주요 인공지능(AI) 업체 수장들에 도널드 트럼프 미국 대통령까지 가세하면서 AI 위험성 관련 논쟁이 뜨겁게 달아오르고 있다. 이런 가운데 영국 왕실이 AI 안전성과 사회적 영향에 대해 논의하는 자리를 마련해 주목받고 있다.

CNN 등 외신은 16일(이하 현지시간) 찰스 3세 영국 국왕이 오는 17일 AI 기업과 정부, 자선단체 고위 인사들을 초청해 AI 기술 활용 방안을 논의할 예정이라고 보도했다. 찰스 3세는 이날 회담에 직접 참여하는 대신 중재자 역할을 맡을 전망이다. 

찰스 3세 영국 국왕이 미국 워싱턴DC에 있는 국회의사당 하원 회의장에서 연설을 하기 위해 도착한 모습 (사진=로이터_뉴스1)

참석자들은 AI 기술이 미래에 인류와 지구 모두에 이익이 되는 방향으로 발전할 수 있도록 공통의 원칙을 마련할 수 있을지 논의할 예정이다.

회담에는 카니슈카 나라얀 영국 AI 담당 장관을 비롯해 엔비디아, 구글 딥마인드, 오픈AI, 앤트로픽 등 주요 AI 기업 관계자들이 참석할 예정이다. 다만 각 기업에서 누가 참석할지는 아직 확정되지 않은 것으로 알려졌다. 찰스 3세 국왕은 약 20분간 회담에 참석할 예정이다.

외신에 따르면 젠슨 황 엔비디아 최고경영자(CEO), 데미스 허사비스 구글 딥마인드 공동창업자, 바티칸 AI 자문위원인 파올로 베난티 신부 등도 초청 명단에 포함됐다.

그 동안 찰스 3세 국왕은 AI에 대해 공개적으로 언급하는 경우가 많지 않았지만, 관련 발언을 할 때마다 위험성을 경고하는 취지의 메시지를 내놓았다고 CNN은 분석했다.

찰스 3세는 2023년 영국에서 열린 AI 안전 정상회의 당시 녹화 연설을 통해 AI 기술이 "심각한 도전 과제를 제시한다"고 지적했다. 이어 "개인의 사생활과 생계를 보호하고 민주주의를 위협으로부터 지키며, 신기술의 혜택이 모두에게 공평하게 돌아가도록 해야 한다"고 강조했다.

2024년 영연방 정상회의 연설에서도 AI를 사회에 해를 끼치는 기술이 아니라 도움이 되는 방향으로 활용하는 것이 중요하다고 언급했다.

한편 영국은 AI 안전성 분야에서 다소 모호한 위치에 있다고 CNN은 평가했다. 세계 최고 수준의 대학과 AI 안전 연구기관을 보유하고 있지만, 최첨단 AI 모델의 개발은 주로 미국과 중국 기업들이 주도하고 있어 영국의 영향력에는 한계가 있다는 분석이다.