中 텐센트, 구글 AI 보안 허점 캐냈다

AI 플랫폼 '텐서플로우' 악성공격 취약...구글 "고맙다"

중국 인터넷 기업 텐센트가 구글의 인공지능(AI) 학습 시스템에 존재하는 중대한 보안 결함을 찾아냈다. 문제를 지적한 텐센트에 대한 구글의 답은 '고맙다' 였다.

최근 텐센트 보안 플랫폼 블레이드(Blade)팀은 구글의 AI 학습 시스템 텐서플로우(TensorFlow)에 대한 코드 심의를 진행하면서 이 시스템에 존재하는 중대한 보안 결함을 발견했다고 발표했다. 이 시스템을 이용해 AI 응용 프로그래밍을 짜다보면 악성 공격을 당할 가능성이 존재한다는 것이다.

텐서플로우는 최근 구글이 무료로 AI 개발자에 제공하는 프로그래밍 플랫폼이다. 프로그래머가 이 플랫폼에서 AI 모듈을 설계할 수 있다.

중국 인터넷 기업 텐센트가 구글의 인공지능(AI) 학습 시스템에 존재하는 중대한 보안 결함을 찾아냈다. (사진=구글)

텐센트 보안 플랫폼의 양융(Yang yong) 부책임자는 "현재 보안 위험이 있는 채로 프로그래밍된 코드가 안면인식 혹은 로봇학습 등 AI 애플리케이션에 사용되면서 공격자들이 이 허점을 통해 시스템의 몸체에 완전히 접근 및 관제할 수 있다"고 말했다.

만약 개발자가 로봇 프로그래밍을 할 때 이 허점이 있는 모듈을 사용하면, 공격자들이 허점을 통해 로봇을 컨트롤할 수 있다는 말이다. 그 결과는 상상하기 어려울 정도라고 언급했다. 공격자가 PC로 악의적인 제어를 할 수 있으며 AI 모듈 자체가 악의적으로 개조될 수 있다. 공격 성공률도 매우 높다.

텐서플로우는 최근 가장 광범위하게 응용되고 있는 로봇학습 프레임으로 꼽히는 만큼, 많은 AI 애플리케이션에 응용되고 있다. 음성인식, 자연어 이해, 비주얼 컴퓨팅, 광고, 자율주행 등 애플리케이션에 있어 개발 효율을 높이기 위해 한국의 카카오를 비롯해 구글·이베이·에어비앤비·트위터·우버·샤오미·ZTE·징둥·레노버 등 다수 기업이 모두 사용하고 있다.

최근 텐센트의 블레이드팀은 이미 이 허점에 대한 내용을 구글 측에 전달하고 구글의 시정이 필요하다고 전한 것으로 알려졌다. 이에 대해 구글이 내용을 확인했으며 감사의 표시를 했다고 중국 언론은 보도했다.