AI 안전 평가 선도하는 영국…한국도 국제무대 나설 수 있을까

영국, 글로벌 AI 기업 최신 모델 검증…한국은 프런티어 기술력·평가 역량 확보 과제

마이크로소프트(MS)가 국제 인공지능(AI) 안전 기준 마련을 이끌 국가로 영국을 지목하면서 한국의 AI 안전 평가 역량을 강화해야 한다는 목소리도 나오고 있다.

12일(현지시간) BBC에 따르면 브래드 스미스 MS 부회장은 '빅 보스 인터뷰' 팟캐스트에서 영국이 국제 AI 안전 기준을 주도하기에 적합한 국가라고 평가했다. 영국이 첨단 AI 모델의 위험성을 직접 시험할 전문기관을 갖춘 데다 미국 정부와의 협력 관계도 유리하게 작용할 수 있다고 봤다.

영국 AI 보안연구소는 글로벌 AI 기업으로부터 최신 모델을 출시 전에 제공받아 위험성을 검증하고 있다. 사이버 공격에 악용될 수 있는지, 생화학적 위험 정보를 제공하는지, 안전장치를 우회할 수 있는지 등을 직접 시험한다.

영국과 한국이 AI 안전 평가 역량을 강화하는 가운데 국제 AI 안전 기준 마련을 위한 기술 경쟁과 협력이 확대되고 있다. (사진=챗GPT 활용)

같은 날 로이터통신에 따르면 카니슈카 나라얀 영국 AI 담당 장관은 미국 정부와 구글 등 주요 AI 개발사와의 협력을 통해 최신 모델을 평가하고 있다고 밝혔다. 영국 연구진은 구글의 '제미나이 4 아르곤' 등을 대상으로 위험성과 안전조치를 시험하고 있다.

MS도 영국 AI 보안연구소와 협력하고 있다. 지난 5월 미국 AI표준혁신센터(CAISI)와 영국 AI 보안연구소(AISI) 각각과 협약을 맺고 자사 프런티어 AI 모델의 위험한 능력과 안전장치를 평가하는 연구를 추진하기로 했다.

스미스 부회장은 영국의 기술력뿐 아니라 미국과의 관계에도 주목했다. 미국 정부가 유럽연합(EU)이 주도하는 규제보다 영국이 마련하는 안전 기준에 상대적으로 우호적일 수 있다고 예상했다.

한국도 국제 평가 참여…제3자 역할 모색

한국도 국제 AI 안전 평가 협력망에 참여하고 있다. 국내 AI안전연구소는 미국과 영국, 일본, 싱가포르 등 각국 연구기관과 첨단 AI의 위험성을 공동으로 평가하는 방법과 기준을 논의 중이다.

국제 협력 과정에서 한국이 검토하는 역할 중 하나는 제3자 평가다. 미국과 중국이 프런티어 AI 개발을 주도하는 가운데 양국이 서로의 핵심 AI 모델을 직접 검증하기 어려울 경우 제3국의 독립적인 평가가 대안이 될 수 있다는 분석이다.

김명주 AI안전연구소장은 지디넷코리아와의 통화에서 "미국과 중국 사이에서 제3국의 평가가 필요해지는 상황이 온다면 한국이 나서겠다는 생각을 갖고 있다"며 "지난 8월 영국 측에도 각국 AI안전연구소가 공동으로 참여하는 국제 평가 체계에 적극 협력하겠다는 뜻을 전달했다"고 말했다.

다만 제3자 평가국은 아직 구상 단계다. 실제로 역할을 맡으려면 최첨단 AI 모델의 능력과 위험성을 직접 시험할 기술력은 물론 평가 결과에 대한 국제적 신뢰도 확보해야 한다.

김 소장은 이를 위해 프런티어 AI 개발 역량과 안전 평가 기술을 함께 갖춰야 한다고 강조했다. 현재 정부는 현재 독자 AI 파운데이션 모델 개발 사업과 프런티어 AI 사업을 추진하고 있다.

영국은 평가 역량 축적…한국은 인력·조직 한계

한국이 국제 AI 안전 평가에서 역할을 확대하기까지는 풀어야 할 과제도 있다. 전문인력과 컴퓨팅 자원, 연구소의 조직적 기반에서 영국과 격차가 크다.

지난달 이정헌 더불어민주당 의원이 과학기술정보통신부와 AI안전연구소에서 제출받은 자료에 따르면 국내 연구소의 기술 평가 인력은 6명에 불과하다. 활용 가능한 그래픽처리장치(GPU) 서버도 5대에 그친다.

반면 영국 AI 보안연구소는 기술 인력만 100명을 넘고 국가 차원의 컴퓨팅 자원을 활용한다. 올해 예산도 약 1216억원으로 한국(89억원)의 14배에 달한다.

김명주 AI안전연구소장은 "한국이 국제 AI 거버넌스 논의에 참여하려면 프런티어 AI 기술력과 평가 역량을 빠르게 확보해야 한다"고 말했다. (사진=지디넷코리아)

조직 운영에서도 차이가 있다. 영국은 정부 소속 전문기관을 중심으로 글로벌 AI 기업과 협력하고 있지만 국내 AI안전연구소는 한국전자통신연구원(ETRI) 직할 조직으로 운영되고 있다. 독립적인 인사권과 예산 확보에 한계가 있다는 지적도 나온다.

이정헌 의원은 "AI안전연구소에 법적 독립성을 부여하고 자체적인 인사·예산 권한을 보장하도록 AI 기본법을 개정해야 한다"고 밝혔다.

영국은 전문인력과 컴퓨팅 자원을 확보하고 글로벌 AI 개발사와 협력하며 최첨단 모델에 대한 평가 경험을 축적해 왔다. 한국도 국제 평가에 참여하는 데서 나아가 실제 검증을 수행할 연구 역량과 조직적 기반을 갖추는 문제가 남아 있다.

김 소장은 "한국이 국제 AI 거버넌스 논의에 참여하려면 프런티어 AI 기술력과 평가 역량을 빠르게 확보해야 한다"며 "한국은 제재국이 되지 말고 제재를 논의하는 나라가 돼야 한다"고 말했다.