'한녀' 댓글은 가리고 '한남 유충' 댓글은 그대로 노출시켜 성차별하는 네이버 클린봇

29일 서울 중구 동대문디자인플라자(DDP)에서 열린 한국 전자 IT 산업 융합 전시회. / 사진=인사이트사진=인사이트


[인사이트] 박상우 기자 = "'한녀'는 가리는데 '한남'은 그대로 노출되고 있습니다"


국내 최대 포털사이트 네이버가 때아닌 성(性)차별 논란에 휩싸였다. 네이버의 악성 댓글 차단프로그램인 'AI 클린봇'이 원인으로 지목됐다. 


최근 다수 온라인 커뮤니티에는 네이버 AI 클린봇 기능을 지적하는 글이 올라오고 있다. 


해당 글에 따르면 AI 클린봇은 댓글에 달린 '한녀'(한국 여성을 비하하는 표현)는 필터링하지만, '한남'(한국 남성을 비하하는 표현)은 필터링하지 않는다.


인사이트클린봇 작동 중에도 '한남'은 노출 중인 댓글 창 / 네이버  


인사이트네이버 


작성자가 함께 공개한 한 네이버 뉴스 댓글 캡쳐 사진에서도 이는 명확하게 드러났다. 


클린봇 활성화 상태에서 '한남' 표현이 사용된 댓글은 그대로 노출됐으나 '한녀'가 들어간 댓글은 '클린봇이 부적절한 표현을 감지한 댓글'이라고 나타난다.


작성자는 '한남'과 '한녀' 두 단어 모두 '혐오 표현'이지만, 클린봇의 필터링 대상이 되는 건 '한녀'뿐인 것이다. 


누리꾼들은 믿을 수 없다는 듯 너도 나도 클린봇 기능을 시험해봤다고 후기를 전했다. 


인사이트클린봇을 비활성화하자 '한녀'도 노출된 댓글 창 / 네이버


누리꾼들이 시험해본 결과 클린봇 활성화 여부에 따라 '한녀' 표현이 사용된 댓글은 노출 여부가 달라졌다. 반면 '한남' 표현이 사용된 댓글은 클린봇 활성화와 관계없이 노출된 상태를 유지했다. 


네이버 AI 클린봇은 악성댓글 차단해 이용자의 불쾌감을 덜어주기 위한 목적으로 운영되고 있다. 


욕설 댓글부터 직·간접적인 성적 행위나 특정 부위 등의 표현을 자동 차단해 혐오 없는 댓글 창을 조성하는 기능이다. 


의도와 달리 성차별 논란이 불거지면서 누리꾼들은 "혐오 표현을 막겠다는 의도는 좋지만 양성 모두 같은 기준으로 필터링해야 한다"라고 입을 모았다. 

[저작권자 ⓒ인사이트, 무단전재 및 재배포 금지]
기사제보

여러분의 제보가 세상을 바꿀 수 있습니다.

세상을 건강하게 변화시키는 인사이트의 수많은

기사들은 여러분의 제보로부터 시작됩니다.