'성희롱' 논란 일어난 AI 챗봇 '이루다', 서비스 잠정 중단

Facebook '이루다'

[인사이트] 유진선 기자 = 성희롱부터 혐오발언, 개인정보 유출 등 각종 논란의 중심에 섰던 AI 챗봇 '이루다' 서비스가 결국 잠정 중단됐다.

지난달 22일부터 운영을 시작한 지 20여일 만이다.

11일 스캐터랩은 공식 입장문을 통해 이루다의 운영을 잠정 중단하고 서비스 개선 기간을 갖겠다고 밝혔다.

앞서 불거졌던 이루다의 혐오와 차별에 관한 부적절한 대화와 관련, 스캐터랩은 "저희는 루다의 차별적 발언에 동의하지 않으며, 그러한 발언은 회사의 생각을 반영하고 있지 않다"며 사과했다.

이루다 / 스캐터랩 홈페이지

그러면서 "본사는 해당 이슈를 매우 중요하게 생각하고 있으며, 지난 6개월간 베타테스트를 통해 문제 발생을 미연에 방지하기 위해 여러 조치를 취했다"고 밝혔다.

이어 "기존에 알려진 사례들은 이미 개선을 완료했으며, 새롭게 발견되는 표현과 키워드를 추가해 차별이나 혐오 발언이 발견되지 않도록 지속적으로 개선 중"이라고 덧붙였다.

"이루다는 배워야 할 점이 아직 많다"며 이제 막 사람과의 대화를 시작한 어린아이 같은 AI라는 점도 강조했다.

스캐터랩은 "이루다가 학습자와의 대화를 그대로 습득하는 것이 아니라, 적절한 답변이 무엇인지에 대한 판단도 함께 학습하도록 할 계획"이라고 전했다. 

Facebook '이루다'

개인정보 유출 논란에 대해서는 "연애의 과학으로 수집한 메시지를 데이터로 활용한 바 있다"고 인정하면서도 사전에 동의가 이루어진 개인정보취급방침 범위 내에서 활용한 것이라는 점을 분명히 했다.

하지만 회사 측이 연애의 과학 사용자들이 이 점을 인지할 수 있도록 충분한 소통이 부족했다면서 "책임을 통감하며 진심으로 사과드린다"고 덧붙였다.

스캐터랩은 "데이터 활용 시 사용자의 닉네임, 이름 등 구체적으로 개인을 특정할 수 있는 정보는 이미 제거돼 유출되지 않았다"고 밝혔다.

그러면서 "향후 데이터 사용 동의 절차를 명확히 하고, 식별이 불가한 정보라도 민감해 보일 수 있는 내용에 대해서는 지속적인 알고리즘 개선을 통해 보완할 것"이라고 말했다.