인공지능(AI) 클로드 개발사 앤트로픽이 AI로 작성한 글과 파일에 기계가 읽을 수 있는 워터마크를 도입한다. 유럽연합(EU)의 엄격한 AI 규제법 시행에 맞춰 투명성을 높이려는 조치다.
12일(현지시간) 미국 IT 전문 매체 액시오스는 앤트로픽이 신형 클로드 모델이 생성하거나 수정한 모든 결과물에 AI 워터마크를 적용하기 시작했다고 보도했다. 사람이 쓴 글을 클로드로 단순히 교정하거나 번역, 서식 정리만 거쳐도 해당 문서에는 AI가 개입했다는 흔적이 남는다.
앤트로픽은 이번 워터마크 기술을 전 세계 사용자를 대상으로 동일하게 적용한다. 텍스트에는 눈으로 확인하기 힘든 특수 패턴을 삽입하고, 파일 메타데이터에는 클로드를 거쳤음을 입증하는 디지털 서명을 암호화해 넣는 방식이다.
다만 기술적 한계도 명확히 밝혔다. 단순 오탈자 교정이나 윤문 작업만 거쳐도 문단 전체가 AI 생성물로 오인될 수 있는 반면, AI가 쓴 글을 사람이 대폭 수정하거나 다른 글과 섞을 경우 워터마크 추적이 불가능해질 수 있다.
이번 조치는 오는 12월 본격 시행을 앞둔 EU AI법 제50조를 준수하기 위한 행보다. 해당 법안은 AI가 생성하거나 조작한 콘텐츠에 반드시 식별 표시를 하도록 의무화했다.
오픈AI 역시 이미지와 오디오 중심으로 워터마크 도입 방안을 마련 중이다. 빅테크 플랫폼 전반에서도 AI 콘텐츠 식별을 위한 장치가 발 빠르게 도입되는 추세다.