일론 머스크가 운영하는 인공지능 스타트업 xAI의 챗봇 '그록'이 성착취 이미지를 생성하는 문제로 논란이 확산되고 있는 가운데, 머스크의 13번째 자녀를 출산한 애슐리 세인트 클레어도 피해자가 되어 강력히 항의했습니다.

애슐리 세인트 클레어는 5일(현지시간) 영국 가디언과의 인터뷰에서 "내가 비키니를 입은 합성 사진이 엑스(X)에 떠돌고 있다"며 "심지어 어린 시절 사진도 합성에 이용됐다"고 강한 분노를 표했습니다.

클레어의 합성 이미지는 그록의 새로운 이미지 편집 기능을 통해 제작되었습니다. xAI는 지난달 25일 그록에 이미지 편집 기능을 추가했으나, 이 기능이 출시되자마자 딥페이크 제작 도구로 악용되면서 심각한 사회적 문제가 되고 있습니다.

일론 머스크의 13번째 자식의 어머니인 애슐리 세인트 클레어. 클레어 엑스(X) 캡처

일부 사용자들은 '비키니를 입혀라', '옷을 벗겨라' 같은 명령어를 입력해 합성 이미지를 생성했으며, 더욱 충격적인 것은 아동의 사진까지 이용해 이런 성착취 이미지를 만들어 X에 게시하는 사례가 발생했다는 점입니다.

논란이 격화되자 xAI는 2일 "안전장치에 허점이 있었고 이를 수정 중"이라고 해명했습니다.

클레어는 자신의 합성 사진을 발견한 후 X에 삭제를 요청했지만 아무런 조치가 취해지지 않았다고 밝혔습니다. 클레어는 가디언에 "어린 시절 사진으로 만들어진 이미지조차 삭제하지 않았다"며 "그들은 나에게 직접적으로 연락할 수 있지만 아무것도 하지 않았다"고 비판했습니다. 해당 이미지들은 가디언이 X에 논평을 요청한 이후에야 삭제되었습니다.

클레어는 머스크의 팬들이 지속적으로 자신에게 적대감을 보여왔다고 언급하며, 현재 그록의 사용 방식이 일종의 '리벤지 포르노'에 해당한다고 지적했습니다. 클레어는 "가장 중요한 것은 동의"라며 "일각에선 '그냥 비키니일 뿐'이라고 하지만, 동의 없이 사람의 옷을 벗기는 건 성범죄"라고 강하게 비판했습니다.

클레어는 더 나아가 "여성의 신체를 멍들게 하거나 줄로 묶은 이미지도 있다"며 "이런 병적인 사람들은 예전에는 어두운 심연으로 가야 했지만, 이제는 주류 사회관계망서비스(SNS)에 있다"고 우려를 표명했습니다.

클레어는 이러한 그록의 운영 방식이 여성들의 AI 플랫폼 이용을 제한할 수 있다고 경고했습니다. 클레어는 "여성들이 표적이 되는 상황에서는 플랫폼을 떠날 것이고, 그렇다면 그록은 남성과 같은 방식으로만 훈련될 것"이라고 지적하며 AI 기술의 성별 편향성 심화 가능성에 대해서도 우려를 나타냈습니다.