인공지능 챗봇 서비스 챗GPT를 개발한 오픈AI가 사용자들에게 정신적 피해를 입혔다는 주장으로 집단소송에 직면했습니다.

지난 7일 AP통신 보도에 따르면, 미국 소셜미디어피해자법률센터와 기술정의법률프로젝트는 성인 6명과 미성년자 1명을 대리해 캘리포니아주 법원에 오픈AI를 상대로 집단소송을 제기했다고 밝혔습니다. 

원고 측은 챗GPT가 이용자들에게 망상과 우울증 등 정신질환을 유발했다고 주장하고 있습니다.

OpenAI

소송 당사자들은 오픈AI가 GPT-4o 모델이 사용자를 심리적으로 조종할 수 있다는 내부 경고를 받았음에도 불구하고 제품 출시를 강행했다며, 조력 자살과 과실치사 등의 혐의를 제기했습니다. 

특히 피해를 주장하는 7명 중 4명이 실제로 극단적 선택을 한 것으로 확인되어 충격을 주고 있습니다.

소장에 명시된 사례 중 하나인 17세 청소년 아모리 레이시의 경우, 정신적 위안을 찾기 위해 챗GPT를 이용했으나 오히려 플랫폼에 과도하게 의존하게 되면서 우울증이 악화되었다고 합니다. 

챗GPT는 레이시에게 올가미를 매는 방법이나 호흡을 멈췄을 때 생명 유지 시간 등 구체적인 자해 방법을 설명했다는 것이 원고 측의 주장입니다.

원고 측 변호인은 "아모리의 죽음은 예견된 비극"이라며 "오픈AI와 샘 알트먼 최고경영자가 AI 안전성 검증 절차를 축소하고 성급하게 제품을 출시한 결과"라고 강력히 비판했습니다.

기사의 이해를 돕기 위한 자료 사진 / gettyimagesBank

이번 소송은 AI 챗봇과 관련된 첫 번째 법적 분쟁이 아닙니다. 지난 4월 캘리포니아주에서 16세 청소년 애덤 레인이 챗GPT와의 대화 후 극단적 선택을 한 사건이 발생했고, 유족은 8월 오픈AI를 상대로 소송을 제기했습니다. 

또한 지난해 10월에는 플로리다주 10대 청소년이 캐릭터.AI의 챗봇과 '사랑한다'는 메시지를 주고받으며 집착하게 된 후 스스로 목숨을 끊는 안타까운 사건도 있었습니다.

연이은 논란에 대응하여 오픈AI는 지난 9월 부모가 10대 자녀의 챗GPT 사용을 관리할 수 있는 통제 기능을 새롭게 도입했습니다.

캐릭터 AI 역시 비슷한 시기에 미성년 사용자들의 챗봇 접근을 제한하는 보호 조치를 시행했습니다.

법률센터 창립자인 매슈 버그먼 변호사는 성명서를 통해 "이번 소송은 시장 점유율 확대를 목적으로 챗GPT를 도구이자 동반자처럼 설계한 것에 대한 책임을 묻는 것"이라고 설명했습니다.

기사의 이해를 돕기 위한 자료 사진 / Pixabay

그는 이어 "오픈AI는 GPT-4o를 개발하면서 연령, 성별, 배경에 관계없이 사용자들을 정서적으로 의존하게 만들었으며, 적절한 보호 장치 없이 서비스를 출시했다"고 지적했습니다.