플로리다주에 거주하던 25세 금융분석가 대런 저우가 인공지능(AI) 챗봇 챗GPT에 전 여자친구 살해 계획을 털어놨다가 오픈AI의 신고로 체포돼 유죄를 인정했다.
지난 14일(현지 시간) 미국 IT 전문매체 퓨처리즘과 현지 신문 팜비치포스트에 따르면 저우는 지난 3월 챗GPT와 대화를 나누며 헤어진 여자친구에 대한 구체적인 살해 계획을 언급했다.
저우는 챗GPT와의 대화에서 전 여자친구의 취미와 자주 가는 장소 등을 세세하게 이야기했다. 그는 다른 남성에 대한 질투심을 드러내는 동시에 여자친구를 살해한 뒤 자신도 스스로 목숨을 끊겠다는 내용까지 언급한 것으로 알려졌다.
저우는 총기를 구입했다는 말과 함께 관련 사진을 여자친구에게 보냈다는 내용도 챗GPT에 털어놨다. 수사당국은 저우의 대화가 단순히 감정을 표현하는 수준을 넘어 실제 범행을 준비하는 단계였다고 판단했다.
오픈AI는 대화에서 유해한 패턴을 감지한 후 관련 내용을 연방수사국(FBI)에 신고했다. FBI는 챗GPT 대화 기록을 바탕으로 수사를 진행했고, 저우를 체포하는 데 성공했다.
저우는 체포 직후 10만달러의 보석금을 내고 풀려났으며, 당시 근무하던 투자은행에서는 해고 조치를 받았다.
그는 이후 재판에서 유죄를 인정했고, 검찰과의 합의를 통해 실형 대신 판결 유예 처분을 받았다. 저우는 8년간 보호관찰 처분을 받게 됐으며, 처음 2년 동안은 전자발찌를 착용해야 한다.
저우의 변호인은 그가 폭력적인 성향의 사람이 아니라며 정신적으로 힘든 시기를 겪었다고 주장했다.
변호인은 현재 저우의 상태가 많이 호전됐다고 밝혔다. 또한 저우가 챗GPT 대화에서 언급한 것과 달리 실제로는 총기를 소유하지 않았다고 해명했다.
이번 사건은 생성형 AI가 사용자의 위험한 대화를 감지하고 대응하는 문제를 둘러싼 논란과 맞물려 있다.
오픈AI는 앞서 캐나다 브리티시컬럼비아주에서 발생한 총기 난사 사건에서도 논란에 휩싸인 바 있다.
범인이 범행 전 챗GPT에 구체적인 범행 시나리오를 반복적으로 언급했던 사실이 알려지면서다. 피해자 가족들은 오픈AI를 상대로 손해배상 소송을 제기했고, 캐나다 정부도 법적 대응을 예고한 상태다.
이번 사례에서는 오픈AI가 위험한 대화를 수사당국에 전달했지만, AI 기업이 이용자의 대화를 어느 범위까지 감지하고 검토해야 하는지, 위험 상황에서 언제 외부에 신고해야 하는지를 둘러싼 논쟁은 계속될 것으로 보인다.