AI 영상, 겉만 봐선 모른다…내용까지 읽는 AI 각광

AI 생성 여부 넘어 영상 안전성까지…파일러, 누적 10억개 영상 분석

인공지능(AI)으로 생성한 영상이 빠르게 확산되면서 콘텐츠의 제작 여부를 표시하는 것을 넘어 실제 내용과 맥락을 분석하는 기술에 대한 수요가 커지고 있다. AI가 만든 영상이라는 사실만으로는 유해성이나 플랫폼 정책 위반 여부를 판단하기 어려워서다.

12일 영상 이해 AI 기업인 파일러에 따르면 올해 기준 자체 AI 기술을 통해 하루 약 200만개의 영상을 처리하고 있다. 누적 처리량은 약 10억개에 달한다. 파일러는 엔비디아 기술 파트너로서 시각·음성·텍스트·메타데이터를 통합해 영상의 의미와 맥락을 분석하는 기술을 상용화하고 있다.

영상 분석이 중요해지는 배경에는 방대한 콘텐츠 유통 규모가 있다. 유튜브가 지난해 창립 20주년을 맞아 공개한 자료에 따르면 하루 평균 2000만개 이상의 영상이 새롭게 게재된다. 사람이 일일이 검토하기 어려운 분량인 만큼 AI를 활용한 자동 분석의 필요성도 높아지고 있다.

(사진=생성형 AI 제작)

AI 콘텐츠의 출처를 알리는 제도적 장치도 확대되는 추세다. 국내에서는 AI기본법 제31조에 따라 인공지능사업자가 생성형 AI 결과물에 생성 사실을 표시해야 한다. 유튜브도 지난 5월부터 AI로 생성하거나 의미 있게 변형한 영상의 표시 위치를 강화해 쇼츠에는 영상 위에 직접, 일반 영상에는 플레이어 아래에 관련 정보를 표시하도록 했다.

다만 AI 생성 여부와 콘텐츠의 안전성은 별개의 문제다. AI로 제작한 영상이라도 교육이나 엔터테인먼트 등 정상적인 콘텐츠일 수 있는 반면, 사람이 만든 영상도 유해하거나 플랫폼 정책을 위반할 수 있다. 유튜브 역시 AI 생성 여부 표시와 별개로 모든 콘텐츠에 커뮤니티 가이드라인을 적용하고 있다.

콘텐츠와 이용자의 안전을 관리하는 '트러스트 앤드 세이프티(T&S)' 분야에서도 AI 기반 영상 분석 기술이 주목받고 있다. 영상은 화면과 음성, 자막 등 여러 정보가 시간의 흐름에 따라 복합적으로 나타나 단순 키워드 탐지만으로 전체 맥락을 파악하기 어렵다. 같은 표현이나 장면도 전후 상황에 따라 의미가 달라질 수 있어 종합적인 분석이 요구된다.

국내에서도 관련 기술의 상용화가 이뤄지고 있다. 파일러는 자체 영상 이해 AI인 '옴니' 모델을 기반으로 영상 속 시각·청각 정보와 텍스트를 분석한다. 이를 통해 광고가 게재되는 콘텐츠의 유해성을 판단하는 브랜드 안전성과 개별 광고주의 기준에 부합하는지를 평가하는 브랜드 적합성 영역을 지원하고 있다.

글로벌 시장에서도 콘텐츠 자체를 분석하는 역량을 강조하는 추세다. 미국 미디어등급위원회(MRC)는 지난해 10월 사이트·도메인 단위 광고 검증만 인증받은 사업자가 별도의 콘텐츠 단위 인증 없이 해당 서비스를 브랜드 안전성 검증으로 표방하지 못하도록 하는 정책을 발표했다. 해당 정책은 6개월의 유예기간을 거쳐 지난 4월부터 적용되고 있다.

업계 관계자는 "AI 라벨과 워터마크가 콘텐츠의 제작 방식을 알려준다면 T&S 정책과 콘텐츠 분석 기술은 실제 내용과 맥락을 바탕으로 안전성을 판단하는 역할을 한다"며 "누가 어떤 근거로 콘텐츠의 안전성을 판단하느냐가 중요하다"고 말했다.