구글, 생성형AI 위협 대비 버그 바운티 프로그램 확대

구글 AI서비스 중 환각·편견 등 오류 제보 보상제공

구글이 생성형 인공지능(AI)이 야기할 위험에 대비한 보안 포상금 프로그램을 확대한다.

28일(현지시간) 미국 지디넷 등 외신에 따르면 구글은 취약성 보상 프로그램(VRP)에 AI 공격 시나리오 관련 보상을 포함한다고 발표했다.

취약점 보상 프로그램은 해킹에 악용될 가능성이 높은 소프트웨어 보안 취약점을 빠르게 파악하고 대응할 수 있도록 사용자의 신고를 활성화하기 위한 포상금 제도다.

구글 취약성 보상 프로그램 (이미지=구글)

이번 보상 지원 확대는 모든 산업에 걸쳐 사용량이 급증한 AI와 관련해 안전과 보안을 강화하기 위함이다. 특히, 기존과 다른 사이버 위협에 대한 대응이 요구되면서 선제적인 대안을 모색하는 것을 목표로 한다.

주요 AI공격 시나리오로는 교육용 데이터 세트의 데이터 유출 또는 오염, 부정확한 학습으로 인해 잘못된 정보를 제공하는 환각과 편견, AI 모델 조작 및 도용 등이 언급됐다.

신고 범위는 구글과 알파벳에서 민감한 사용자 데이터를 처리하는 모든 웹서비스를 대상으로 하며, 보상은 위험성과 영향을 받는 서비스의 범위 등에 따라 제공된다.

구글은 취약성 보상 프로그램을 통해 지난해 안드로이드, 크롬, 유튜브 등에 신고된 2천900개 이상의 보안 문제를 식별 및 수정하고, 약 1천200만 달러(약 160억원)의 보상금을 제공했다.

이 밖에도 구글은 책임감 있고 안전한 AI 앱 생성을 지원하기 위해 보안 AI 프레임워크를 도입했으며, AI 공급망의 무결성을 보장하기 위해 오픈 소스 보안 재단과 협력한다.