세계 최대 AI 플랫폼, 악성코드 숨긴 AI모델 100개 발견

AI 학습 도중 시스템 제어권 탈취 우려, 사전 보안 검토 필수

세계 최대 인공지능(AI) 개발 플랫폼 허깅페이스에서 악성 코드가 숨겨진 AI와 기계학습(ML) 모델이 100개 이상 발견됐다.

자체 AI개발을 위해 해당 AI 모델을 사용할 경우 시스템 제어권을 모두 빼앗길 수 있는 만큼 주의가 요구된다.

4일(현지시간) 해커뉴스 등 외신에 따르면 소프트웨어 공급망 보안 기업 J프로그 아티팩토리는 허깅페이스 오픈소스 저장소 모니터링 리포트를 발표했다.

J프로그아티팩토리는 허깅페이스 플랫폼에서 100개 이상의 악성코드가 포함된 AI모델을 발견했다고 밝혔다(이미지=J프로그아티팩토리)

이번 조사결과 악성코드가 포함된 AI 모델 즉, 악성모델이 약 100개 이상 발견됐다.

악성코드를 숨기기 위해 주로 사용된 모델은 파이토치가 95%로 대다수를 차지했으며 나머지 5%는 텐서플로였다.

악성모델의 절반은 시스템 제어권 탈취를 목표로 했으며, 20%는 외부에서 몰래 접근할 수 있는 백도어를 설치하는 것으로 나타났다. 이 밖에도 특정 파일을 설치거나 파일을 실행하고, 임의코드를 실행하는 등의 기능이 숨겨진 것으로 확인됐다.

이런 기능은 추가적인 데이터 탈취 및 시스템 장악 등을 통해 개인을 넘어 기업이나 조직을 공격하기 위한 기반 작업에 쓰인다.

최근 AI 열풍으로 개인을 비롯해 기업과 조직에서 오픈소스를 활용한 자체 AI구축 등이 활발하게 이뤄지고 있는 추세다.

J프로그 아티팩토리 측은 “허깅페이스 등 유명 AI 커뮤니티에도 기업을 노리는 해커들의 위협이 도사리고 있다”며 “AI를 활용하려는 조직은 악성 모델을 사전에 차단하고  AI 생태계의 무결성을 보장하기 위한 보안환경을 구축할 필요가 있다”고 조언했다.