미국에서 판매된 인공지능(AI) 탑재 곰인형이 어린이에게 성적인 대화를 시도하고 위험한 행동을 조장하는 것으로 드러나 전면 판매 중단됐습니다.
지난 19일(현지시간) CNN 보도에 따르면, 싱가포르 장난감업체 폴로토이(FoloToy)의 래리 왕 CEO는 문제가 된 AI 곰인형 '쿠마(Kumma)'를 포함한 AI 장난감 전체 라인업을 회수한다고 발표했습니다.
그는 "부적절한 콘텐츠에 대한 안전장치가 미흡하다는 비판을 심각하게 받아들이며 내부 안전 감사를 진행 중"이라고 밝혔습니다.
문제가 된 곰인형은 오픈AI의 생성형 AI GPT-4o를 탑재해 99달러(약 14만 원)에 판매된 제품입니다. 회사는 이 제품을 "어린이와 성인 모두에게 완벽한 친구가 된다"고 홍보해왔습니다.
그러나 미국 공익연구그룹(PIRG)이 지난 13일 공개한 보고서에서 충격적인 사실이 드러났습니다.
해당 곰인형이 연구원과의 대화에서 성적 취향, BDSM(가학적 성 행위) 등에 대해 구체적이고 노골적인 설명을 제공하고, 역할극 시나리오까지 제안했습니다.
더욱 심각한 것은 어린이에게 위험한 행동을 조장하는 발언도 확인됐다는 점입니다. 곰인형은 아이들에게 집에서 칼이나 성냥을 어디서 구할 수 있는지 안내하는 등 위험한 정보를 제공했습니다.
PIRG 연구진은 "아이들이 이런 단어를 스스로 언급할 가능성은 낮지만, 장난감이 성적 주제를 장황하게 설명하고 스스로 새로운 개념을 제시하며 대화를 이어간다는 점에 충격을 받았다"고 지적했습니다.
논란이 확산되자 오픈AI는 해당 개발자를 정지 조치했다고 PIRG가 전했습니다.
전문가들은 AI 장난감에 대한 규제 공백을 문제로 지목했습니다. 공동저자 R.J. 크로스는 "AI 장난감은 여전히 제대로 규제받지 않고 있다"며 "문제 제품을 시장에서 제거하는 것만으로는 충분하지 않다"고 비판했습니다.