서울시가 온라인에서 아동·청소년을 노리는 성범죄자들을 AI 기술로 실시간 탐지하는 전국 최초의 시스템을 도입합니다. 

1일 서울시는 온라인 그루밍으로부터 아동·청소년을 보호하기 위해 AI 기반 탐지 시스템인 '서울 안심아이'를 개발한다고 발표했습니다. 이는 전국 지방자치단체 중 최초로 도입되는 온라인 그루밍 전용 AI 탐지 기술입니다.

'서울 안심아이(eye)'라는 이름의 이 시스템은 SNS와 오픈채팅방에서 벌어지는 그루밍 시도를 24시간 감시하며, 위험 징후를 포착하는 즉시 관련 기관에 긴급 알림을 보냅니다. 

서울시 온라인그루밍 피해 실태 조사 / 서울시

단순한 단어 감지를 넘어 대화의 맥락까지 분석하는 고도화된 AI 기술이 적용될 예정입니다.

시스템이 위험 징후를 포착하면 즉시 피해지원기관에 긴급 알림을 전송하여 초기 단계에서 피해 확산을 차단하는 방식으로 작동합니다. 

이번 기술 개발은 서울시가 디지털 성범죄 대응 분야에서 쌓아온 AI 기술력의 연장선상에 있습니다.

서울시는 지난 2023년 온라인상 디지털 성범죄 영상의 모니터링과 신속한 삭제 지원을 위해 전국 최초로 AI 기술을 도입했습니다.

지난 2024년에는 아동·청소년 AI 안면인식 나이 예측 기술을 개발하여 성착취물을 선제적으로 삭제 지원하는 성과를 거뒀습니다.

기사의 이해를 돕기 위한 자료 사진 / gettyimagesBank

올해는 이러한 기술적 토대 위에 온라인 그루밍 정황 탐지 기능을 추가하여 아동·청소년 보호 체계를 한층 강화하게 됩니다.

서울시는 서울연구원과 함께 연내 해당 기술을 완성할 계획입니다. 이 기술의 핵심은 성범죄로 이어질 수 있는 특정 표현 패턴을 감지하는 것입니다. 

"사진 보낼래?", "영상통화 할까?", "집이 싫으면 가출해 보심?", "용돈 받고 뭐 원하는 거 해주고 그러는 거야"와 같은 그루밍 과정에서 자주 사용되는 문장들을 AI가 학습하여 인식합니다.

특히 주목할 점은 단순한 단어 감지 수준을 넘어선 고도화된 분석 능력입니다.

멀티모달 지원 경량화된 언어모델을 결합하여 다양한 은어, 축약어, 연속된 대화의 맥락까지 종합적으로 분석하도록 설계됩니다.

이를 통해 성범죄자들이 사용하는 우회적이고 교묘한 표현들도 놓치지 않고 탐지할 수 있을 것으로 기대됩니다.

서울시 '온라인 그루밍 실태 및 대응방안' 토론회 / 서울시

서울시는 AI 기술 개발과 함께 온라인 그루밍에 대한 사회적 인식 확산을 위한 노력도 병행합니다. 오는 2일 서울시청 서소문청사 제1동 13층 대회의실에서 관련 토론회를 개최할 예정입니다.

토론회에서는 서울연구원 김준철 연구위원이 'AI 기반 온라인 그루밍 탐지 및 선제 대응 기술'에 대해 발표합니다.

또한 서울시여성가족재단 김보화 책임연구원이 '서울시 아동·청소년 온라인 그루밍 실태와 정책방향'을 주제로 현황과 대응방안을 제시할 예정입니다.