강력범죄자들을 대상으로 한 AI 조작 콘텐츠가 각종 온라인 플랫폼에서 급속도로 확산되면서 피해자와 유족들의 2차 피해 우려가 커지고 있다.
최근 유튜브, 틱톡, 인스타그램 등 주요 동영상 플랫폼과 SNS에서는 신상이 공개된 흉악범들의 얼굴과 음성을 인공지능 기술로 조작한 영상과 이미지가 빠른 속도로 퍼지고 있는 상황이다.
가장 대표적인 사례로는 'n번방' 사건 주범 조주빈을 등장시킨 AI 영상이 꼽힌다. 해당 영상에서는 죄수복을 입은 조주빈이 카메라를 바라보며 "오늘은 제가 제일 좋아하는 치즈돈가스가 나왔다", "이러니 제가 살을 뺄 수가 없다"라며 교도소 식단에 대해 농담하는 모습이 담겨 있다.
온라인커뮤니티
계곡 살인 사건으로 유죄 판결을 받은 이은해가 교도소 식사에 대해 불만을 토로하는 내용의 영상도 동일한 방식으로 제작돼 유포되고 있다.
이러한 영상들은 실제 촬영된 것이 아닌 범죄자들의 얼굴과 음성 데이터를 AI가 학습해 만든 가짜 영상으로, 일부 콘텐츠는 수백만 회의 조회수를 기록한 것으로 알려졌다.
범죄자를 조롱하거나 희화화하는 콘텐츠는 이전부터 존재해왔다. 올해 초 '강북 모텔 연쇄살인' 사건 이후에는 여성 흉악범들을 모은 '청주여자교도소 5인방' AI 이미지가 온라인에 널리 퍼졌다.
해당 이미지에는 이은해, 정유정, 전 남편을 살해 후 시신을 유기한 고유정, 약물이 든 음료로 남성 2명을 살해한 김소영, 남편과 내연남을 약물로 살해한 뒤 사고사로 위장해 보험금을 챙긴 '엄 여인 사건'의 엄인숙이 나란히 정면을 응시하는 모습으로 구현됐다.
또한 이은해 사진에 "계곡 갈래?"라는 문구를 합성하거나 고유정 사진에 "카레 먹고 갈래?"라는 문구를 덧붙인 게시물들도 온라인상에서 확산된 바 있다.
온라인커뮤니티
이런 콘텐츠가 단순한 오락거리로 소비되는 동안 실제 피해자와 유족들은 재차 상처를 받을 수 있다는 우려가 제기되고 있다. 범죄 장면이나 가해자의 모습을 연상시키는 영상이 지속적으로 노출될 경우 피해자들이 2차 피해에 노출될 가능성이 높다는 지적이다.
현재 범죄자를 희화화하거나 범죄를 오락화하는 AI 콘텐츠를 직접 규제할 수 있는 명확한 규정은 부재한 상황이다. 방송미디어통신심의위원회가 플랫폼 사업자에게 삭제나 접속차단 조치를 요청하는 수준의 대응만 가능한 실정이다.