中 화웨이·바이두·바이트댄스 등 'AI 보안 그룹' 결성

AI 발전에 동반되는 보안 위협 연구

중국에서 대기업과 주요 연구소 등이 머리를 맞대고 인공지능(AI) 보안 기술을 본격 연구한다. 생성형 AI 시대 보안 기술에 대한 연구도 함께 이뤄진다. 

7일 중국 상하이에서 열린 '2023인클루션·와이탄대회에서 '클라우드보안연맹(CSA)'의 중국 지역 'AI 보안 워킹그룹'이 결성됐다.

이 워킹그룹에는 차이나텔레콤, 앤트그룹, 화웨이, 바이두, 바이트댄스, 시안전자과기대학, 국가금융평가센터 등 30여 개 기업 및 기관이 참여했다. 이들 기업 및 기관은 향후 AI 기술의 고속 발전이 가져오는 보안 난제를 해결하는 데 힘을 합하게 된다.

워킹그룹장은 차이나텔레콤 연구원 보안기술연구소의 황레이 부총괄 엔지니어다.'

CSA 홈페이지의 워킹그룹 소개 (사진=CSA 홈페이지)

CSA 홈페이지에 따르면 향후 이 워킹그룹은 AI 위협 및 리스크, AI 내생적 보안, AI 보조 보안, AI 파생 보안, AI 윤리에 대한 연구에 집중한다. 특히 중국 업계의 AI 보안 개발 현황, 제조 업체의 구현 계획, 기업 사례를 스터디해 기업들의 보안 기능 확보와 AI 보안 기술 발전을 촉진하는 역할을 맡게 된다.

이를 통해 AI 보안 위험에 집중해 AI 분야 백서, 산업 지식 맵, 그룹 표준, 시스템 프레임 워크, 솔루션 등을 결과물로 내놓게 된다. 생성형 AI 빅모델에 대한 보안 연구 보고서와 AI 데이터 보안 평가 규범 등 연구 성과도 내놓을 예정이다.

보안 관점에서 봤을 때 AI 기술은 일종의 '양날의 검'이다. 데이터와 비즈니스 및 시스템 수준에 위협을 줄 뿐 아니라 보안 기술 개발에 힘을 실어주기도 한다.

바로 이 점이 중국에서 AI 보안 기술 개발을 촉진하기 위한 워킹그룹을 결성한 배경이다.