[유미's 픽] "주도권 잡는다고?"…AI 서울 서밋, 尹 노력에도 반쪽짜리 행사로 그쳤나

"인공지능(AI)은 우리 삶과 일하는 방식, 세상과 소통하는 방식을 근본적으로 바꾸고 있습니다. 안전하고 혁신적이며 포용적인 AI를 만들기 위한 국제사회의 노력에 동참하겠습니다."

이재용 삼성전자 회장은 지난 21일 저녁 청와대 영빈관에서 개최된 'AI 서울 정상회의'에 참석해 이처럼 밝혔다. 이 자리에는 이해진 네이버 글로벌투자책임자(GIO) 등 국내 주요 정보통신기술(ICT) 수장들과 슈미트재단, 구글 딥마인드, 앤트로픽, xAI, 미스트랄AI, 오픈AI, 마이크로소프트, 아마존 웹서비스, 메타 등 글로벌 빅테크 관계자들도 참여해 '안전·혁신·포용'을 AI 거버넌스(규범가치)의 3대 우선 목표로 삼았다.

22일 업계에 따르면 정부는 'AI 서울 정상회의'를 통해 삼성전자, SK텔레콤, KT, LG AI 연구원, 네이버, 카카오 등 국내 기업과 오픈AI, 구글, 마이크로소프트, 앤스로픽, IBM, 세일즈포스, 코히어 등 해외 기업 총 14곳이 '서울 AI 기업 서약'을 했다는 점을 가장 큰 성과로 내세웠다.

윤석열 대통령이 21일 청와대 영빈관에서 화상으로 참석한 'AI 서울 정상회의'에서 이재용 삼성전자 회장의 발언을 듣고 있다. (사진=대통령실)

서약에는 AI의 책임 있는 개발과 활용을 위해 AI 안전기관과의 협력을 강화하고, 워터마크 등 AI가 생성하는 콘텐츠 식별을 위한 조치와 국제표준 개발을 위한 협력을 강화하는 내용이 포함됐다. AI의 지속 가능한 발전과 혁신을 위해 첨단 AI 모델과 시스템 개발에 투자하는 것은 물론 공동 프로젝트와 펀드 조성 등을 통해 중소기업 및 스타트업과 협력하고 인턴십과 교육 프로그램 등 전문 인재를 양성하는 방안도 담겼다. AI의 공평한 혜택 보장을 위해 사회적 약자를 위한 AI 서비스를 출시하고, 글로벌 난제 해결을 위한 AI 솔루션을 개발해 다양성과 포용성을 높일 것도 약속했다.

정부는 지난해 11월 영국 블레츨리파크에서 열린 AI 안전성 정상회의에서 다뤘던 '안전'에 새롭게 '혁신'과 '포용'을 더한 'AI 거버넌스 3원칙'을 이번에 제시했다는 점에서 의미를 부여했다.

윤석열 대통령은 "각국 정상들은 ▲AI 안전 ▲AI 혁신 ▲AI 포용이라는 3대 목표에 공감대를 이뤘고, AI의 위험과 기회를 균형있게 다뤄야 한다는 기본 방향을 공유하게 됐다"며 "(지난해 영국 정상회의 당시) 블레츨리 파크에서 이룬 각료간 합의를 보다 격상시켰다는 점에서 의미가 크다"고 강조했다.

이번 회의의 성과를 두고 업계는 일단 환영의 뜻을 표했다. AI 모델 개발 단계에서부터 기업들이 스스로 위험 수위를 조절해 나가기로 합의했다는 점에서다. 기업들은 위험을 충분히 완화할 수 없는 경우 AI모델을 개발하거나 배포하지 않겠다는 뜻과 함께 AI가 초래할 위험의 임계값을 설정키로 했다. 임계값은 각국 정부를 포함해 신뢰할 수 있는 기관의 의견을 수렴해 정할 예정이다.

또 내·외부 레드팀을 통한 AI 모델에 대한 위협을 평가하고 사이버 보안과 내부 위협 방지를 위해 투자하겠다는 내용도 포함됐다. 제3자를 통한 문제점 점검과 보고 장려, AI 생성 콘텐츠를 식별하는 메커니즘 개발 등도 서약 내용에 담겼다.

이에 업계에선 'AI 서울 선언'이 장관급 합의에 그쳤던 영국 블레츨리 선언보다는 확실히 한 발 더 나아간 것이라고 평가했다.

구글 딥마인드 법률 고문이자 거버넌스 책임자인 톰 루는 "이번 약속은 주요 개발자들 사이에서 최첨단 AI 안전에 관한 중요한 모범 사례를 확립하는 데 도움이 될 것"이라며 "이 협약은 과학적 근거에 기반을 둔 대화를 나눌 수 있는 집중적인 국제 안전 서밋의 가치를 보여준다"고 밝혔다.

업계 관계자는 "빅테크들이 AI 기술과 관련된 사후 규제를 하기에는 기준이 애매한 게 많았다"며 "AI 모델 개발 단계부터 안전성 가드레일을 설정하겠다는 것 자체로는 굉장히 의미 있는 일"이라고 평가했다.

또 다른 관계자는 "AI 윤리와 법제화, 규범 등을 두고 각국의 주도권 경쟁이 치열해진 상황에서 이번 정상회의는 국내 AI 기업들이 글로벌로 진출하는 데 마중물이 될 것으로 기대한다"면서도 "다만 이번 국회에서 AI 기본법이 폐기가 될 예정인 만큼, 향후 국내 AI 기본법 제정 등에 속도를 내 글로벌 AI 규범 국가로서 위상을 지킬 필요가 있다"고 밝혔다.

일각에선 구체적인 기준이 제시되지 못하고 여전히 형이상학적인 선언에만 그쳤다는 점에서 아쉬움을 드러냈다. 기업들이 선언 이후 AI 모델 개발 과정에서 어떻게 '안전성'을 고려할 지에 대해 구체적인 계획을 드러내지 않았다는 점도 'AI 서울 선언'에 큰 의미를 부여하기엔 미흡하다고 지적했다.

업계 관계자는 "현재 거대언어모델(LLM)로 사실상 돈을 버는 기업들이 없고 기준을 삼을 만한 케이스가 나온 것이 없다 보니 구체적으로 AI 개발에 대한 방향성을 내놓기에는 애매한 부분이 있는 것 같다"며 "모델 개발 과정에서 안전성을 염두에 둔다고 해도 어떻게 활용하는 지에 따라 문제가 발생할 수 있다는 점에서 '사후 규제'도 좀 더 명확히 논의할 필요가 있을 것 같다"고 지적했다.

그러면서 "지난해 영국 '블레츨리 선언'에서 '서울 AI 선언'이 더 의미있게 진전된 모습을 보였다고 보기에는 아쉬운 점이 많다"며 "빅테크들이 기술 개발 중심에서 'AI 윤리' 측면을 좀 더 고려하는 모습을 이번에 보였다고 볼 수 있겠지만, '블레츨리 선언'을 재확인 하는 수준에 그쳤다"고 덧붙였다.

정부가 'AI 서울 정상회의'를 운영하는 것과 관련해서도 미숙했다는 평가도 나왔다. 내년 초 프랑스에서 열리는 3차 회의가 정식 대면행사로 열리는 것과 달리 화상 정상회의로 진행된다는 점에서 전 세계적인 주목을 크게 받지 못했다는 평가도 이어졌다. 차기 회의는 내년에 프랑스에서 'AI 행동 정상회의'라는 명칭으로 개최될 예정이다.