네팔을 강타한 대규모 돌발 홍수 피해 현장을 담았다며 SNS를 통해 퍼지고 있는 이미지와 영상 상당수가 AI 생성물이거나 과거 타국 재난 영상을 도용한 것으로 드러났다.
호주연합통신(AAP)은 페이스북에 올라온 홍수 전후 마을 사진을 분석한 결과, 해당 게시물에 메타가 'AI 콘텐츠' 라벨을 부착했다고 보도했다. 오픈AI의 공식 콘텐츠 검증 도구 역시 이 사진에서 인공지능 생성물을 나타내는 식별 표지 "SynthID"를 감지했다.
가짜 콘텐츠는 다양한 플랫폼으로 빠르게 번졌다. 유튜브에는 AI가 만든 가짜 사진으로 시작해 거센 물살에 다리가 붕괴되는 장면을 담은 영상이 게재됐다.
AI로 생성된 네팔 홍수 사칭 영상 / 온라인커뮤니티
엑스에 게시된 구조대원과 주민들이 범람한 강물을 바라보는 사진도 거짓으로 확인됐다. 이 게시물 하단에는 "Made with AI"라는 문구가 명시됐으며, 오픈AI 검증 도구를 통해서도 기계 생성물임이 입증됐다.
타국 자연재해 영상을 네팔 현장으로 둔갑시킨 사례도 다수 발견됐다. 조회수 36만회를 넘긴 페이스북 영상은 2021년 7월 3일 일본 시즈오카현 아타미시에서 27명의 사망자를 낸 산사태 영상을 좌우반전한 것으로 밝혀졌다. 1년 전 인도에서 촬영된 산사태 영상 역시 네팔 홍수 영상으로 재유포됐다.
재난 원인을 둘러싼 음모론도 온라인에서 확산되고 있다. 한 페이스북 이용자는 실제 산사태 영상을 공유하면서 이번 재난이 "made by HAARP"라고 주장했다.
HAARP는 미국 알래스카 페어뱅크스 대학교가 운영하는 고주파 활성 오로라 연구 프로그램이다. AAP는 과학자들이 HAARP가 기상을 조작할 수 있다는 주장에 대해 전혀 근거 없다고 일축하고 있다고 전했다.
네팔에서 막대한 인명 피해가 발생한 상황에서 AI 생성 이미지와 변조된 영상이 무분별하게 유포되면서 정확한 정보 파악이 어려워지고 있다는 우려가 제기된다.