앤트로픽, AI 생성물에 '투명' 워터마크 심는다

앤트로픽이 자사 인공지능(AI) 모델 클로드가 만든 텍스트와 파일에 사람 눈에 보이지 않는 표식을 심는다. 복사하거나 일부 고쳐도 흔적이 남도록 설계해 AI 생성물의 출처를 가늠할 수 있는 장치를 늘리겠다는 구상이다.

앤트로픽은 11일(현지시간) 공식 홈페이지를 통해 클로드 산출물에 기계 판독이 가능한 투명성 표시를 적용한다고 밝혔다. 지난 2일 발효한 유럽연합(EU) AI법 제50조 'AI 생성 콘텐츠 투명성 실천 강령'에 서명한 데 따른 후속 조치다.

표시 기능은 클로드 웹·앱은 물론 응용 프로그램 인터페이스(API)인 클로드 플랫폼, 클로드 코드, 클로드 코워크, 클로드 태그 등 앤트로픽 전 제품군에 걸쳐 적용된다. 아마존웹서비스(AWS)·구글 클라우드·마이크로소프트 파운드리를 거쳐 지원되는 클로드 모델에도 동일한 표시가 붙는다. 2일 이후 출시된 신규 모델은 출시 시점부터 표시 기능을 지원하며 이전 모델에도 순차적으로 기능을 추가하고 있다.

표시 방식은 텍스트와 파일에 각기 다른 형태로 적용된다. 텍스트에는 워터마크가 심어진다. 문장을 생성하는 순간 텍스트 자체에 감지 불가능한 표식이 삽입되는 방식으로, 답변의 의미나 품질, 가독성에는 영향을 주지 않는다. 다른 곳으로 복사해 붙여 넣거나 일부를 고쳐도 표식은 텍스트에 융합돼 있어 그대로 남는다.

파일에는 서명된 출처 메타데이터가 붙는다. 업계 표준인 콘텐츠출처연합(C2PA) 방식을 따라 파일이 클로드를 거쳤는지와 이후 변조 여부까지 함께 확인할 수 있게 했다. 앞서 구글도 이미지·영상에 워터마크 기술 '신스ID'를 적용해왔다.

다만 표식이 곧 원작자 증명은 아니라고 앤트로픽은 선을 그었다. 이용자가 직접 쓴 글을 클로드로 교정·번역·요약만 해도 표식이 남을 수 있고 반대로 문장이 짧거나 대폭 재작성·번역되면 표식이 감지되지 않을 수 있어서다. 표식을 확인하는 탐지 도구는 아직 공개되지 않았다.