"美 대선 토론서 활약"…팩티버스, 허위 정보 AI로 거른다

가짜뉴스·딥페이크 등 온라인 허위 정보가 급속도로 퍼진 가운데 이를 생성형 인공지능(AI)으로 차단하는 기술이 나왔다.

18일 테크크런치 등 외신에 따르면 노르웨이 스타트업 팩티버스가 허위 정보를 걸러낼 수 있는 AI 모델을 공개했다.

이 AI 모델은 텍스트부터 비디오·오디오 기반 콘텐츠 사실 여부를 실시간으로 걸러주는 서비스다. 주로 뉴스 기사나 공공데이터 등 검증받은 정보로 학습한 모델이다.

사실을 확인하는 방식은 간단하다. 예를 들어 한 발언자가 어떤 주장을 펼치면 이 AI 모델은 구글이나 빙 같은 일반 검색엔진과 학술 논문 사이트에 들어가 사실 여부를 확인·출처 수집을 진행한다. 이후 결과와 출처를 사용자에게 보여준다.

마리아 아밀리에 팩티버스 CEO는 "AI는 주제에 대해 신뢰할 만한 정보부터 출처로 제시한다"며 "믿을만한 뉴스 기사나 논문을 우선시한다"고 설명했다.

이어 "AI는 검색 결과·출처가 얼마나 주제와 관련 있는지 확인한다"며 "기사에 인용된 사람이나 논문 저자가 신뢰할 만한지도 평가한다"고 덧붙였다.

팩티버스는 자사 모델이 사실 진위여부 식별 능력 부문에서 오픈AI의 GPT-4o와 미스트랄AI의 미스트랄(70억) 등 114개 모델을 능가했다고 강조했다. 또 최근 미디어·금융 파트너사와 협력도 시작했다.

실제 미국 미디어 기업들은 팩티버스 솔루션으로 지난 2020년 열린 미국 대선 토론에서 후보 주장 진위 판단을 진행한 것으로 전해졌다. 현재 노르웨이 주요 금융 파트너사들도 해당 모델을 이용하기 시작했다.

관련기사