생성형 인공지능(AI) 기술을 악용해 유명 성우의 목소리를 무단 복제한 뒤 성적 대사를 읊게 하거나 음성 사기 및 종교 권유에 활용하는 사례가 급증하고 있다.
최근 마이니치신문에 따르면 '신세기 에반게리온'의 이카리 신지 역으로 유명한 성우 오가타 메구미는 약 2년 전 자신의 목소리가 생성형 AI로 무단 복제됐다는 사실을 알게 됐다.
자신이 말한 적 없는 성적 대사를 읽게 하거나 출연작 영상과 목소리를 임의로 변형한 동영상 인터넷에 유통되고 있었다.
오가타 메구미 인스타그램
그는 "매우 불쾌하고 용서할 수 없다"며 "내가 맡은 캐릭터는 내 일부를 온전히 쏟아부어 만든 분신과 같다"며 분노했다.
피해 사례가 연이어 보고되고 있지만 법적 대응은 쉽지 않은 실정이다. 매일 수백 건에 달하는 불법 합성 영상이 온라인에 유포되는 데다, 게시물 삭제 요청과 소송 절차에 막대한 시간과 비용이 소요되기 때문이다.
해외 플랫폼이나 익명 계정을 통한 유포가 많아 게시자를 특정하기 어려운 점도 한계로 꼽힌다. 애니메이션 캐릭터 음성은 성우 개인뿐만 아니라 제작위원회, 원작자 등 다수의 권리가 얽혀 있어 퍼블리시티권만으로 전면 대응하기 어렵다.
이처럼 무단 도용 피해가 확산하자 AI 기술을 정면으로 받아들여 공식 음성 상품으로 개발하는 성우들이 늘고 있다.
TV만화 '신세기 에반게리온'
애니메이션 '루팡 3세'의 성우 나미카와 다이스케는 IT기업과 제휴를 맺고 호흡과 말투, 감정 표현까지 구현한 공식 AI 음성 모델을 선보였다.
발생한 수익을 성우와 소속사, 기술기업이 정당하게 배분받는 구조다. '진격의 거인'의 카지 유우키 역시 자신의 목소리를 기반으로 한 AI 캐릭터 사업을 추진하며 공식 음성을 통한 정당한 수익 배분 시장 형성을 주장하고 나섰다.
성우 단체와 기업 간 공동 대응도 시작됐다. 일본배우연합은 이토추상사와 협력해 성우와 배우의 음성을 등록하는 데이터베이스를 구축 중이다. 전자 워터마크와 성문 인증 기술을 도입해 정식 음성과 불법 합성 음성을 식별하고 무단 도용 경로를 추적할 계획이다.
일본 정부 역시 법적 제도 마련을 추진하고 있다. 법무성은 전문가 회의를 구성해 음성과 목소리의 무단 이용에 대한 법률적 책임 기준을 검토 중이다. 현지 업계에서는 유명인뿐만 아니라 일반인 역시 보이스피싱이나 성인물에 자신의 목소리가 악용되지 않도록 법률상 거부권을 인정해야 한다는 목소리가 커지고 있다.