오픈AI가 챗GPT 사용자의 연령을 AI로 자동 판별해 미성년자에게 유해한 콘텐츠를 차단하는 새로운 시스템을 도입했습니다.
지난 20일(현지 시간) 오픈AI는 챗GPT에 AI 기반 연령 예측 기능을 추가한다고 밝혔습니다. 이 시스템은 사용자가 별도로 나이를 입력하지 않아도 접속 패턴과 사용 행태를 분석해 18세 미만 사용자를 자동으로 식별합니다.
오픈AI는 계정 생성 기간, 주요 접속 시간대, 플랫폼 사용 방식, 사용자가 제공한 연령 정보 등 다양한 데이터를 종합적으로 활용한다고 설명했습니다. 회사 측은 어떤 정보가 정확도 향상에 기여하는지 지속적으로 학습하며 시스템을 발전시켜 나갈 예정이라고 밝혔습니다.
미성년자로 판별된 사용자에게는 폭력적이고 잔인한 장면, 청소년에게 위험한 행동을 유도하는 챌린지 콘텐츠, 성적이거나 폭력적인 역할극 시나리오, 자해 관련 내용, 극단적 다이어트나 외모 비하를 부추기는 콘텐츠 등이 자동 차단됩니다.
오픈AI는 이러한 차단 기준을 아동 발달 전문가들의 조언과 관련 학술 연구 결과를 토대로 설정했다고 설명했습니다. 청소년기에는 위험 인식 능력과 충동 조절 능력이 아직 발달 과정에 있다는 점을 반영한 조치입니다.
성인 사용자가 실수로 미성년자로 분류될 경우에는 간단한 해결 방법이 마련되어 있습니다. 페르소나(Persona) 신원 확인 서비스에 셀카 사진을 제출하면 연령 확인을 받아 모든 기능을 정상적으로 이용할 수 있습니다. 이 기능은 설정 메뉴에서 언제든지 확인 가능합니다.
부모들을 위한 세부적인 관리 도구도 함께 제공됩니다. 부모 통제 기능을 활성화하면 자녀의 챗GPT 사용 금지 시간대를 설정하거나, AI의 대화 기억 기능을 비활성화하거나, 자녀가 심각한 스트레스 상황에 처했을 때 알림을 받을 수 있습니다.
이번 업데이트는 오픈AI가 이전에 공개한 '청소년 안전 청사진(Teen Safety Blueprint)'의 구체적인 실행 방안입니다. 회사는 출시 후 결과를 면밀히 모니터링하며 지속적으로 정확도를 개선해 나갈 계획이라고 전했습니다. 유럽연합(EU) 지역에서는 현지 규정 준수를 위해 몇 주 후에 서비스가 시작될 예정입니다.
오픈AI는 이번 조치가 의미 있는 발전이지만 청소년 보호를 위한 노력은 계속될 것이라고 강조했습니다. 미국심리학회(American Psychological Association) 등 전문 기관들과의 협력을 통해 지속적인 개선 사항을 공유하겠다고 덧붙였습니다.