미국, 영국 등 주요국 정상과 국제기구 수장, 국내외 빅테크 대표들이 참여하는 'AI 서울 정상회의'가 21~22일 국내서 온오프라인으로 열린다. 'AI 서울 정상회의'의 첫 스타트이자 주요국 정상이 참여하는 회의는 오프라인으로 열리지 않고 온라인(영상회의)으로 21일 오후 8시 30분부터 10시까지 1시간 30분간 비공개로 이뤄진다. 행사 개막에 앞서 환영 리셉션이 21일 오후 5시~6시25분까지 더 플라자서울호텔 다이아몬드홀 22층에서 열린다.
이번 'AI 서울 정상회의'는 작년 11월 영국 블레츨리 파크에서 처음 세계 정상이 모여 AI 안전을 논의한 'AI 안전성 정상회의'에 이은 두번째 AI정상회의다. 한국과 영국 정부가 공동으로 주최한다. 행사는 '정상세션’과 ‘장관세션’으로 나눠 열린다. '정상 세션'은 21일 온라인으로, '장관 세션'은 22일 한국과학기술연구원(KIST)에서 오전 9시~오후6시 오프라인으로 진행된다.
정부는 작년 영국 정상회의와 차별화했다. 작년 영국 회의와 달리 국내외 빅테크들이 참여하는 'AI 글로벌 포럼'도 함께(22일) 개최한다. 이 행사는 우리 정부가 단독으로 만들었다. 특히 이번 'AI 서울 정상회의'는 '안전(Safety)'에만 초점을 둔 작년 영국행사와 달리 안전을 포함해 혁신, 포용까지 키워드를 3개로 늘렸다.
과기정통부는 송상훈 정보통신정책실장, 엄열 정보통신정책관, 김경만 AI기반정책관이 참석한 가운데 17일 입기자들에게 'AI 서울정상회의' 백브리핑을 실시했다.
■ 작년 영국선 'AI 안전'만 다뤄...이번엔 안전과 혁신, 포용도 함께 논의
정상 세션은 'AI 안전성 정상회의를 토대로, 혁신적이고 포용적인 미래로'를 주제로 열린다. 한-영 양국 정상이 회의를 공동 주재한다. 과기정통부는 "작년 영국에서 개최한 'AI 안전성 정상회의'가 AI 위기 대응에 집중했다면, 이번 'AI 서울 정상회의'는 '안전'에만 국한하지 않고 혁신, 포용을 아우르는 것으로 확대했다.
과기정통부는 "안전, 혁신, 포용을 AI 거버넌스 3대 목표로 삼아 국제사회에 제시할 계획"이라면서 "AI 3대 거버넌스는 뉴욕 구상('22.9), 파리 이니셔티브('23.6), 디지털 권리장전('23.9) 등을 통해 펼쳐왔던 우리 A와･디지털 비전을 글로벌 이니셔티브와 규범을 새로 정립하는데 의의가 있다"고 설명했다.
‘장관 세션’은 22일 오후 2시 20분부터 5시 40분까지 KIST에서 대면으로 열린다. KIST는 역사적인 곳이다. 우리나라 최초 정부출연 종합 연구기관(1966년)이자, 슈퍼컴퓨터를 도입(1988년)한 곳으로 우리나라 과학･디지털 기술 발전에서 중추 역할을 하고 있다.
‘장관 세션’은 이종호 과학기술정보통신부 장관과, 영국 과학혁신기술부 미셸 더넬란 장관이 공동 의장을 맡는다. 19개국 이상 정부, 산업계, 학계 및 시민사회 주요 인사들이 한다. 2개 세션으로 나눠 열린다. 세션1은 'AI 안전성 확립 역량 강화'를, 세션2는 '지속가능한 AI 발전 촉진'을 다룬다.
첫 번째 세션에서는 ▲주요국 'AI 안전 연구소' 설립 현황 공유와 글로벌 공조 방안 논의(세션 1-1) ▲ 1차 정상회의 후속 조치인 'AI 안전 국제 과학 보고서'를 토대로 현재와 가까운 미래의 AI 위험 요인을 진단하고 안전성 강화 방안(1-2)이 다뤄진다.
두 번째 세션에서는 에너지, 환경, 일자리 등 AI가 초래하는 부작용에 대해 회복 탄력성을 확보하기 위한 방안을 논의한다. AI 개발과 운영에 따른 막대한 전력이 소모하면서 이에 대응할 필요성이 높아졌고, 저전력 반도체 등 우리나라의 AI･반도체 비전을 중심으로 새로운 글로벌 아젠다를 마련한 것이라고 과기정통부는 설명했다.
■ 고위급 라운드테이블 1~3과 전문가 세션 두 개 선보여...국내외서 총 42명 참여
민간 전문가들이 참여하는 'AI 글로벌 포럼'은 22일 오전 9시 개회식을 시작으로 오후 6시까지 진행한다. 다수가 비공개다. 이날 오전 비공개 행사로 ▲고위급 라운드 테이블 1~3 (오전 10시~12시20분)이, 오후에는 공개행사로 ▲전문가 세션1(오후 2시20분~3시 50분) ▲전문가 세션2(오후 4시~17시40분)가 각각 진행된다. 오후에 열리는 전문가 세션은 일반 국민도 청취하실 수 있게 유튜브로 생중계한다.
▲고위급 라운드테이블1(AI혁신 미래 탐색: 개방적이고 협력적인 모델이 핵심인가?): AI개발을 적극적으로 촉진할 수 있는 메커니즘을 탐구하기 위한 세션으로, 특히 두가지 혁신 가능성 있는 엔진인 오픈소스 AI와 공개 접근 데이터베이스를 중점 살핀다.
오픈소스 AI는 발전한 도구와 알고리즘을 대규모 기업부터 개별 개발자까지 다양한 이해 관계자에게 접근 가능하게 함으로써 AI 혁신을 대중화할 것으로 기대된다. 이러한 접근 방식은 협력적인 기여를 통해 기술 발전을 가속화할 뿐만 아니라, 오늘날의 디지털 시대에서 필수적인 투명성 수준도 보장한다.
하지만 오픈 소스, 고성능, 일반적인 목적의 AI 모델이 국가 및 공공 안전을 위협할 수 있다는 우려도 있는 상황이다.
혁신 논의에서 중요한 것은 데이터 거버넌스 체계의 중추적 역할인데, 특히 정부는 AI 혁신을 촉진하기 위한 공개 접근 데이터베이스 필요성과 개인 프라이버시 보호 및 데이터 보안을 보장하는 필수적인 사항을 균형있게 고려해야 한다.
이에 '고위라운데테이블1'에서는 규제 접근 방식과 산업 현황이 다른 국가들의 연사들을 초청해 안전과 개인정보보호 우려를 해결하면서 혁신의 공개 및 협력적 모델을 촉진하는 경험을 공유하고 비교한다. 좌장은 프랑스 개발&국제파트너십 장관 Chrysoula Zacharopoulou이 맡는다.
■고위급 라운드테이블 2(포괄적인 안전 거버넌스-AI 위험의 전 범위 식별 및 대응): AI 개발과 배포와 관련한 잠재 위험은 세계적인 우려다. 이런 위험은 개인정보 침해부터 취업 시장 혼란, 고급 AI시스템이 일으킬 수 있는 잠재적인 재난 위험까지 다양하다. AI 관련 위험의 전 범위에 대한 대응은 국경을 넘어 세계적으로 협력적이고 종합적인 접근을 통해 이뤄져야 한다. 또 포괄적인 AI 위험 관리에는 각 지역의 일관된 접근 방식을 보장하기 위해 더 포용적인 대화가 필요한 상황이다. 이 세션에서는 AI 위험의 주요 범주를 식별하고 거버넌스 간의 잠재적인 충돌 또는 분열을 논의한다. 좌장은 싱가포르 정부기술&헬스케어 장관 Janil Puthucheary가 맡는다.
▲고위급 라운드테이블 3(AI 혜택 공유 및 거버넌스 체계 포용성 강화): AI는 모든 영역에서 지식과 정보에 대한 접근을 변화시켜 전 세계적으로 더 큰 번영을 가져올 수 있는 큰 잠재력을 제시한다. 하지만 만약 AI가 소수 이익만을 가져온다면, 이는 전 세계적인 불평등과 격차를 더욱 심화시킬 수 있다. 우리나라는 기술 공유 및 역량 강화를 위한 노력을 시작했다.
예컨대, 올해부터 한국은 한-아세안 주요 디지털 혁신 프로젝트 일환으로 아세안 국가들의 포괄적인 디지털 전환을 지원하고 있다. 이 프로젝트는 데이터 생태계 구축, 고성능 컴퓨팅 시스템 구축, 교육 및 훈련, 그리고 탄소 중립과 의료에 AI 적용을 지원한다. 한국의 AI 기업들도 AI 격차를 줄이는 데 중요한 역할을 하고 있다. 이 중 많은 기업이 보다 다양한 언어와 문화를 수용하기 위해 AI 서비스를 개발하고 있다. 이 세션에서는 세계의 주요 기관이 무엇을 하고 있는지 특히, AI의 긍정적인 사용 사례에 초점을 맞춰 더 포괄적인 거버넌스 체계를 개발할 가능성을 모색한다. 좌장은 영국 과학·혁신·기술 장관 Michelle Donelan가 맡는다.
■ 어떤 인물들이 참여?...앤드류 응과 오픈AI 한국인 실세 제이슨 권도 방한
고위 라운드테이블 1~3에 참여하는 연사는 국내외 통틀어 총 42명이다. 이중 한국에서는 강도현 과학기술정보통신부 제 2차관과 고학수 개인정보보호위원회위원장을 비롯해 ▲오혜연 KAIST 교수 ▲배순민 KT 책임감 있는 AI센터장 ▲최경진 가천대학교 인공지능 빅데이터 정책연구센터장 ▲하정우 네이버클라우드 AI이노베이션터장 ▲이경전 경희대학교 교수 ▲이홍락 LG AI연구원 CSAI(최고 AI 과학자) ▲이상호 카카오 최고AI책임자 등 민관서 9명이 참여한다.
외국에서는 ▲사우디아라비아 데이터&AI 총괄(President) 압둘라 빈 샤라프 알감디(Abdullah bin Sharaf Alghamdi) ▲한국주재 이스라엘 대사 아키바 토르(Akiva Tor) ▲UN 기술사무총장 엔보이 아맨딥 싱 길(Amandeep Singh Gill) ▲AI펀드 매니징디렉퍼 파트너 앤드류 응(Andrew Ng) ▲인터내셔널피스 기술 부문 부디렉터 아서 넬슨(Arthur Nelson) ▲스위스 디지털 부문 헤드 겸 외무 장관 베네딕트 웨슬러(Benedikt Wechsler) ▲IBM 최고신뢰임원 크리스티나 몽고메리(Christina Montgomery) ▲웨스트인디대학 컨트롤시스템그룹 대표 겸 UN AI자문관 크레이그 람랄(Craig Ramlal) ▲미국 AI안전기구 디렉터 엘리자베스 켈리(Elizabeth Kelly) ▲캐나다 혁신·과학·기술 부장관 프판시스 빌로듀(Francis Bilodeau) ▲CSIS 산하 AI와 첨단기술을 위한 와드와니센터 디렉터 그레고리 C. 애런(Gregory C. Allen) ▲필리핀 정보기술장관 이반 존 유이(Ivan John E. Uy) ▲앤스로픽 공동창업자 잭 클락(Jack Clark) ▲오픈AI 최고전략임원 제이슨 권(Jason Kwon)▲OECD 혁신·과학·기술 부문 디렉터 제리 시한(Jerry Sheehan)가 참여한다.
또 ▲유럽위원회 AI&디지털산업 디렉터 루실리아 시올리(Lucila Sioli) ▲보스턴 다이나믹스 설립자 겸 AI연구소 대표디렉터 마크 라이버트(Marc Raibert) ▲스페인 디지털전환&공공기능 장관 메이트 레도(Mayte Ledo) ▲카타르 ICT장관 모함메드 AI 매나이(Mohammed Al Mannai) ▲일본AI연구소 총괄 무라카미 아키코 ▲마이크로소프트 최고책임AI임원 나타샤 크램튼(Natasha Crampton) ▲인도네시아 ICT 부장관 네자르 파트리아(Nezar Patria) ▲옥스퍼드대 마틴AI거버넌스 디렉터 로버트 F 트래거(Robert F. Trager) ▲메타 부사장 겸 파이버시임원 로브 셔먼(Rob Sherman) ▲세일즈포스 사장 겸 최고법률임원 세바스쳔 닐스(Sabastian Niles) ▲ 미 국무부 크리티컬&이머징기술 부대표 세스 센터(Seth Center) ▲독일 디지털&수송 연방장관 스테펀 쉬노르(Stefan Schnorr) ▲구글 딥마인드 부사장 톰 루(Tom Lue) ▲ 이스라엘민주연구기관 시니어 펠로 테힐라 슈와츠 알슐러(Tehilla Shwarts Shwarts Altshuler) ▲벡터인스터튜트 CO 토니 개프니(Tony Gaffney) ▲스위스 에꼴폴리텍연방 Touradj Ebrahimi,
▲공간경쟁력연구프로젝트 CEO 일리 바르크타리(Ylli Bajraktari)가 패널 토의 등에 참여한다.
■ 전문가 세션엔 어떤 내용이?...저작권과 디지털 권리 보장 등 다뤄
▲전문가 세션 1(디지털 공동번영 사회를 위한 디지털 권리 보장): 22일 오후 2시20분~3시50분 한국과학기술연구원(KIST) 대회의실에서 열린다.
좌장은 태재대학교 총장이 맡았다. 강도현 과기정통부 2차관이 기조연설을 한다. 연사는 아만다 매냠 오드리 디지털법&권리 고문, 제리 쉬한 OECD DSTI, 조준희 한국소프트웨어산업협회장, 이성웅 아마존웹서비스코리아 AI&ML 정책책임자, 마커스 앤더리룽 거버넌스AI 정책센터 총괄, 파멜라크리립코우스카 폴란드 디지털부문 총괄, 윤동욱 브리티시컬럼비아대학교(UBC) 부교수 등이 참여한다.
행사 초록에 따르면, 세계는 디지털 변혁과 함께 거대한 문명적 변화에 직면하고 있으며, 디지털 기술은 경제적 및 사회적 혁신의 기반으로 자리 잡았다. 우리는 인공지능 서비스를 사용해 원하는 것을 만들어낼 수 있으며, 스마트폰과 인터넷을 통해 언제 어디서든 세계의 뉴스를 찾고 전파할 수 있다.
AI와디지털 기술을 효과적으로 습득하고 활용하는 것은 개인에게 경쟁 우위를 제공할 뿐만 아니라, 국가 산업, 경제 및 사회 전반에 거쳐 원동력이 된다. 하지만 AI와 디지털 기술 발전과 함께, 발전된 AI 모델 속에서 개발도상국과 문명사회의 디지털 격차와 과소평가와 같은 새로운 도전들에 직면하고 있다. 디지털 기술에 접근할 수 없는 미래 세대는 교육 기회를 상실할 수 있으며, 이는 사회적 격차를 야기할 수 있는 디지털 배제로 이어질 수 있다. 아래 이번 세션의 주요 토픽들
▲디지털 권리 소개: 다양한 국가들이 디지털 권리를 강화하고 디지털 격차를 줄이기 위한 정책 및 이니셔티브를 소개하며, 특히 디지털 자원에 대한 평등한 접근과 디지털 신원 보호를 보장하는 데 특별한 주안점을 둡니다.
▲디지털 시대 기본 가치 보장: 디지털 시대에서 유지해야 할 핵심 가치를 논의한다. 개인정보보호, 표현의 자유, 정보 접근 등과 같은 가치를 유지하기 위해 필요한 전략을 모색한다.
▲ 디지털 시대의 지속 가능한 혁신: 생성 인공지능이 제기한 문제 (예: 저작권 문제 및 데이터 자산 보호 범위 등)를 탐구한다. 이러한 변화를 수용하고 성공적인 디지털 변혁을 이끌어내기 위해 필요한 노력도 논의한다.
· 디지털 시대 대비하기:심화한 디지털 사회의 우려사항 및 부장용(예: 딥 페이크로 생성된 가짜 뉴스 및 AI 안전 문제 등)을 확인하고 대책을 논의한다. 이런 우려사항에 대응하고 개인과 사회를 보호하기 위한 효과적인 대응 방안을 모색한다.
▲국제 협력 방안: 모든 이에게 디지털 기술의 명백한 혜택을 가져다 주기 위해 정부, 국제기구, 기업 및 시민간 국제 협력 중요성을 논의한다. 각 정부, 국제 기구, 기업 및 시민이 공동 번영을 실현하기 위해 해야 할 역할을에 대해 아이디어를 공유한다.
■ 전문가 세션 2(AI 기회 및 혜택 세계 확산): 22일 오후 4시부터 5시40분까지 한국과학기술연구원(KIST) 대회의실에서 열린다. 주제는'디지털 권리, AI 기회·혜택'이다.
행사 초록에 따르면, 생성AI 등장으로 AI는 점점 더 정교하고 다재다능한 도구로 발전해 기술 진보의 새 시대를 열었다. 더불어 스마트폰, 로봇, 차량 등과 같은 하드웨어와 AI간 결합은 인간 능력을 전례 없는 방식으로 향상시키고 있다. 이제는 세계와 AI 기술 발전을 공유하기 위한 노력을 기울일 때다. 이에, 국제 기구, 고위 정부 관료, 글로벌 빅테크 기업, 학계 학자들과 함께 아래의 네가지 주제를 자세히 논의한다.
▲공공 부문의 AI 적용: 공공 및 행정 부문 내에서 최근 AI 사용 사례를 강조한다. 첫째, 공공 서비스 개선 둘째, 정부 행정 프로세스 자동화 셋째, 재난 및 비상 상황에서 시민 안전 강화에 중점을 둔다
▲글로벌 도전 과제 해결: AI가 기후 변화, 공중 보건 위험, 에너지 및 식량 문제와 같은 글로벌 도전 과제를 극복하는 데 어떻게 기여할 수 있는지, 각 국, 기업, 학계가 어떤 역할을 해야 하는지에 대해 논의한다.
▲인간의 삶의 질 향상: AI 채택을 통한 공공의 이익 증진을 상상하며, 특히 장애인 및 노인과 같은 취약 계층을 위한 의료, 교육 및 보호 서비스 개선에 초점을 맞춘다. 또 AI 발전에 대한 공정한 접근과 혜택을 보장하기 위한 국제 협력 촉진에 대해 논의한다.
이 행사 좌장은 가브리엘라 라모스 유네스코 소셜&휴면과학 부총괄이다. 기조 연설은 고진 디지털플랫폼정부위원회 위원장이 한다. 행사 연사는 배순민 KT 책임감 있는 AI 센터장, 첸다 통 캄보디아 통신당국총괄, 크리스티나 몽고메리 IBM 최고신뢰임원, 댄 핸드릭스 xAI 안전고문, 멜라니 나카가와 마이크로소프트 최고지속성임원, 세바스티안 닐스 세일즈포스 최고법률임원, 서범석 루닛 대표, 스테파노 폴리도리 ITU-T 스터디그룹 기술장관 자문, 토리 가프니 벡터연구소 CEO, 라첼 로버트 시스코 최고매출임원 부사장 등이다.
