AI 생성 이미지 '워터마크' 붙인다…국내 플랫폼도 '시동'

허위 정보 유포·위변조 방지책...구글·인스타그램·틱톡·제페토 등 선도

인공지능(AI)이 만든 사진이나 이미지를 식별할 수 있도록 워터마크(라벨)를 넣는 움직임이 해외 플랫폼을 중심으로 나타나고 있다. 허위 정보 유포나 위변조를 막기 위해서인데, 국내에서는 제페토가 이런 트렌드에 맞춰 워터마크 도입 정책 마련에 분주한 모습이다.

31일 관련업계에 따르면 AI로 생성한 콘텐츠 식별 문제가 쟁점으로 떠오른 가운데 구글 딥마인드가 생성 AI로 만든 이미지에 디지털 워터마크를 자동으로 붙여주는 기술을 공개해 주목을 받았다.

'딥마인드 신스ID'로 명명된 이 기술은 '구글클라우드 넥스트23' 컨퍼런스에서 공개됐다. 

■ 구글 딥마인드, 이미지 손상 없는 디지털 워터마크 기술 선보여

이 서비스는 텍스트-이미지 모델인 이메진(Imagen)으로 생성하는 이미지를 식별할 수 있게 한다. 현재 사용되는 메타데이터 기반 이미지 식별 방식과 달리 원본 품질에 영향을 주지 않는다. 눈으로 식별할 수 없는 변조 방지 워터마크를 생성해 이미지를 덧입히기 때문이다. 디지털 워터마크를 픽셀 이미지에 직접 삽입하고 이미지 손상없이 변조할 수 없게 하는 것이다.

기존 워터마크는 이미지에 스탬프를 찍는 방식이어서 쉽게 편집이 가능하지만, 신스ID는 워터마크를 잘라낼 수 없다. 다양한 손실압축이나 수정에도 신스ID의 워터마크는 원 상태를 유지한다.

제페토 생성 AI 이벤트

인스타그램, 틱톡 같은 SNS 플랫폼도 AI가 만든 콘텐츠에 워터마크를 넣으며 안전장치를 도입하고 있다.

인스타그램은 메타 AI로 만들어진 게시물에 워터마크를 붙일 예정이다. 최근 외신을 통해 보도됐으며, 인스타그램이 AI가 만들거나 수정한 콘텐츠를 식별하기 위해 라벨 작업중이라는 소식이다.

틱톡 또한 AI가 만든 콘텐츠가 포함된 동영상을 업로드할 때 워터마크를 추가하는 기능을 만들었다. 커뮤니티 지침을 위반하면, 플랫폼 내에서 콘텐츠가 제거될 수 있다.

■ 국내선 제페도 등이 AI 생성 콘텐츠에 워터마크 적용 추진

국내에서는 제페토가 AI 기술 부작용을 막기 위해 노력중이다. 제페토는 공식 블로그를 통해 "생성 AI는 큰 잠재력을 갖고 있지만, 우려의 목소리도 적지 않다"며 "어떤 데이터를 사용해 AI 모델을 학습시키는지, AI가 생성한 콘텐츠를 인간의 창작물과 어떻게 구별할 수 있는지에 대한 우려가 있다"고 지적했다.

그러면서 AI 기술을 책임감 있게 활용하기 위한 조치와 노력에 대해 공유했다.

먼저 제페토는 내부 제작 콘텐츠 중에서 생성 AI 기술 활용으로 제작된 콘텐츠는 구분할 수 있도록 워터마크를 도입하기로 했다.

크리에이터 제작 콘텐츠도 마찬가지로 제작 과정에 AI 활용 여부를 공개하는 것을 의무화할 예정이다. 이를 위해 크리에이터들을 위한 생성 AI 활용 가이드라인도 구축했다. 또 창작자 권리 보호를 위해 AI 콘텐츠 공지 영역에 지적 재산권 정책 링크를 추가해 사용자가 저작권 위반 사례를 신고할 수 있도록 별도 신고 채널을 제공할 예정이다.

노준영 글로벌 어페어 총괄 리드는  "커뮤니티 가이드라인을 위반하는 콘텐츠를 식별하고 제거하기 위해 AI 기술 활용뿐 아니라 휴먼 모더레이션을를 결합해 리스크를 선제적으로 관리하며 발빠르게 대응하고 있다"며 "지속적인 기술 개발 및 도구 제공하는 것 뿐 아니라 여러 이해관계자와 긴밀히 협력해 AI 리스크 대응과 책임 있는 AI 활용 원칙을 지속적으로 실천해 나가며 이를 투명하게 소통해 나가겠다"고 말했다.

카카오브레인은 자사 이미지 생성 AI 모델 칼로를 기반으로 한 이미지 생성 및 공유 플랫폼 '비 디스커버'에 워터마크를 넣는 기능을 제공하고 있다. 예컨대 이용자들이 비 디스커버에서 AI 프로필을 만든다고 하면 여기에 워터마크가 붙는 형식이다. 다만 칼로 웹서비스에는 워터마크 기능이 들어가 있지 않다. 회사 관계자는 "웹서비스 특성상 현재 워터마크 기능은 없다"고 말했다.

■ 구글-오픈AI등 7개 업체, 미국 정부와 자율규제 합의 

생성AI 기술이 발전하면서 허위정보 무차별 유포 문제가 전 세계적인 관심사로 떠올랐다. 특히 AI가 생성한 허위 조작 이미지를 구분해주는 가려내는 것이 중요한 과제로 대두되고 있다.

국내외 주요 기업들의 행보는 이런 필요에 따른 것으로 풀이된다.

미국에서는 지난 달 백악관 주도 모임에서 구글, 메타, 오픈AI를 비롯한 7개 업체들이 AI 기술로 작성한 콘텐츠에는 워터마크를 넣고 보안기술 개발에도 투자하는 등 이용자 안전 조치를 취하기로 합의했다. 

백악관 회동에는 구글, 메타, 마이크로소프트, 아마존, 오픈AI, 인플렉션, 앤스로픽 등 생성AI 기술 경쟁을 주도하는 7개 기업이 참여했다.