"손쉽게 거르자"…딥브레인AI, 딥페이크 탐지 API 공개

영상·음성·이미지 진위 검증용…문체부·콘진원 사업 일환

딥브레인AI가 추가 시스템 구축 없이 딥페이크를 탐지할 수 있는 서비스를 내놨다. 

딥브레인AI는 딥페이크 탐지 솔루션 'AI 디텍터'를 API 형태로 공개했다고 11일 밝혔다. 

이 API는 문화체육관광부와 한국콘텐츠진흥원이 주관한 '문화기술 연구개발' 사업 결과물이다. 자체 딥페이크 탐지 기능을 외부 기업과 기관에서도 손쉽게 활용할 수 있도록 확장했다.

딥브레인AI, 딥페이크 탐지 솔루션 API 출시. (사진=딥브레인AI)

AI 디텍터 API는 영상·음성·이미지 등 여러 형태의 콘텐츠를 분석해 진위 여부를 판단한다. 페이스 제너레이션, 페이스 스왑, 립싱크 합성 등 합성 콘텐츠를 탐지하며 픽셀 단위 분석 기술을 적용해 조작 여부를 구분한다. 

AI 디텍터는 콘텐츠 업로드 단계에서 영상과 이미지를 자동 검증해 불법 합성물의 확산을 사전에 차단한다. 게시 후에도 모니터링을 통해 의심되는 콘텐츠를 실시간 탐지하며 빠르게 대응한다. 또 불법 성인물 등 유해 콘텐츠의 경우 자동 블러 처리 기능을 적용해 2차 피해를 예방한다.

딥브레인AI는 이 기술을 통해 다양한 플랫폼에서 안전하고 윤리적인 콘텐츠 유통 환경을 구축하는 것을 목표로 하고 있다. 영상 편집, 미디어 제작, 공공 정보 검증 등 다양한 분야에서 활용 범위가 확장될 것으로 기대된다.

장세영 딥브레인AI 대표는 "딥페이크 기술이 빠르게 확산하면서 AI가 만든 콘텐츠의 진위를 구분하는 일은 더 중요해지고 있다"며 "이번 API 출시는 기업·기관이 별도의 시스템 구축 없이 딥페이크 탐지 기능을 손쉽게 적용할 수 있도록 한 데 의미가 있다"고 강조했다.