온라인 플랫폼에서 AI 기술로 제작된 허위 경찰 출동 영상이 확산되면서 사회적 논란이 커지고 있습니다.
해당 영상들은 실제 경찰 활동으로 오인될 정도로 정교하게 제작되어 시청자들의 혼란을 야기하고 있습니다.
문제가 된 영상들은 경찰이 문신을 한 학생들을 지도하거나, 교복 차림으로 흡연하는 학생을 계도하는 장면 등을 담고 있습니다. 또한 종교인 간 갈등을 중재하는 경찰의 모습이나, 여성 인터넷 방송인의 길거리 방송을 제지하는 과정에서 물리적 제압을 가하는 장면도 포함되어 있어 경찰의 과도한 대응이라는 비판을 받기도 했습니다.
지난 10월 개설된 특정 유튜브 채널은 현재 구독자 4천 명을 돌파했습니다. 채널 소개란에는 "경찰의 시선으로 사건 현장을 본다. 경찰 보디캠, 출동 영상, 체포 현장, 음주 단속, 신고 대응 등 대한민국 경찰의 현장을 AI로 생생히 기록한다"는 설명이 기재되어 있습니다.
해당 채널은 설명란 하단에 "실제 경찰이 아닌 실화를 기반으로 한 픽션"이라고 명시했지만, 영상 자체는 실제 경찰 보디캠 영상과 구별하기 어려울 정도로 제작되었습니다.
6일 전 업로드된 '홈플러스 시식코너 갑질영상'에서는 자녀의 지속적인 시식을 제지한 직원에게 "왜 남의 자식에게 뭐라고 하냐"며 항의하는 여성의 모습이 담겨 있습니다. 영상은 경찰 보디캠 특유의 시점으로 촬영된 것처럼 보이며, 경찰관의 손과 상체가 화면에 포착되고, 갈등 당사자의 얼굴에는 모자이크 처리가 되어 있습니다. 화면 좌측 상단에는 촬영 날짜로 추정되는 숫자가 표시되어 있어 실제성을 높이고 있습니다.
이러한 AI 제작 영상들은 유튜브를 넘어 인스타그램, 틱톡 등 다양한 소셜미디어로 확산되고 있습니다.
인기 영상의 경우 조회수가 1천만 회를 넘어서고 있으며, 틱톡 채널 팔로워 수는 9천 명을 초과했습니다.
문제는 다수의 누리꾼들이 해당 영상이 AI로 제작된 것임을 인지하지 못하거나, 실제 발생한 사건으로 착각하며 댓글을 작성하고 있다는 점입니다.
경찰청은 이러한 상황의 심각성을 인식하고 AI 영상으로 인한 피해 확산 방지를 위해 내사에 착수한 것으로 알려졌습니다.
경찰은 채널 운영자에 대해 전기통신기본법 위반 혐의 적용을 우선적으로 검토하고 있으며, 동시에 관련 게시물의 삭제 및 차단 조치도 병행할 예정입니다.