인공지능(AI) 챗봇 챗GPT를 개발한 오픈AI가 청소년 사용자를 위한 특화 서비스를 새롭게 선보였다. 청소년들의 정신건강 문제와 관련한 법적 분쟁이 이어지는 가운데 안전 기능을 대폭 강화한 것이다.
18일(현지시간) 오픈AI는 '청소년용 챗GPT'(ChatGPT for Teens) 모드를 공식 출시했다. 이 서비스는 청소년의 학습을 지원하면서도 각종 위험 요소를 차단하는 데 초점을 맞췄다.
이용자가 계정 생성 시 나이를 13∼17세로 입력하거나, AI 시스템이 사용자 연령을 미성년자로 판단하면 자동으로 청소년 전용 모드가 활성화된다.
GettyimagesKorea
새로 출시된 청소년 모드에는 유해 콘텐츠 차단 시스템이 핵심 기능으로 탑재됐다. 자해·폭력·섭식장애·위험 행동·성적 콘텐츠 등 민감한 주제에 대한 청소년의 질문이나 대화 시도를 감지하면 답변 생성을 엄격히 제한한다.
또한 사용자가 사적이거나 민감한 이미지를 업로드할 경우 경고 메시지를 표시하는 기능도 추가됐다.
오픈AI는 챗봇이 인간처럼 행동하며 청소년과 정서적 유대감을 형성하는 것을 원천 차단했다. 로맨틱한 언어 표현이나 정서적 애착을 유도하는 대화는 불가능하도록 설계했으며, 챗봇이 마치 감정과 자의식을 지닌 존재인 것처럼 스스로를 묘사하는 행위도 금지했다.
학부모를 위한 관리 기능도 대폭 확대됐다. 부모는 자녀의 챗GPT 접속을 완전히 차단하는 '방해금지 시간'(Quiet Hours)을 지정할 수 있다. 또한 특정 시간대를 '공부 시간'(Study Hours)으로 설정해 공부 모드를 기본값으로 적용하는 것도 가능하다.
공부 모드는 청소년이 숙제를 할 때 챗GPT의 답변을 그대로 베끼는 부정행위를 방지하기 위한 장치다. 사용자가 문제 해결을 요청하면 즉시 답을 제시하는 대신 역질문을 던지거나 단계별로 문제 해결 과정을 안내하는 방식으로 작동한다.
OpenAI
오픈AI 측은 아동 및 교육 전문가들의 연구 결과를 반영해 공부 모드를 개발했다고 밝혔다.
부모가 별도로 설정하지 않아도 시스템이 청소년의 숙제 관련 질문 패턴을 분석해 자동으로 공부 모드로 전환하는 '책임감 있는 숙제 알리미' 기능도 구현됐다.
오픈AI가 이처럼 보호 기능을 대폭 강화한 청소년 전용 서비스를 출시한 배경에는 법적 부담 완화 의도가 있는 것으로 분석된다. 기업공개(IPO)를 준비 중인 오픈AI는 현재 챗GPT 관련 소송 여러 건에 휘말려 있다.
챗GPT를 사용하던 10대들이 자해하거나 극단적 선택을 한 사례, 챗GPT를 활용해 총기 난사나 살인 등 범죄를 계획한 사건 등이 발생하면서 오픈AI는 법정 공방에 직면한 상태다.