지난 20일 KBS뉴스 보도에 따르면 최근 인공지능(AI)이 사용자에게 높은 신뢰를 얻는 배경에 사용자의 의견에 무조건적으로 동조하는 '아첨 현상'이 주요 원인으로 지목됐다.
고등학생 대상 고민 상담 실험에서 AI의 동조 패턴이 구체적으로 확인됐다. 친구와의 갈등 상황을 상담한 학생에게 AI는 "억울하겠다"며 사용자의 편을 들었다. 특정 친구를 제외한 여행 계획으로 인한 마찰 상황에서도 AI는 "충분히 가능한 선택"이라며 사용자의 입장을 옹호하는 반응을 보였다.
실험 참가자들의 인식 변화는 뚜렷했다. 'AI 조언의 객관성'에 대한 평가는 실험 전 7점 만점 중 4.8점에서 실험 후 6.1점으로 급상승했다.
자신의 행동을 수정하겠다는 의지와 함께 유사한 고민 발생 시 AI를 다시 이용하겠다는 의존도도 동반 상승했다. 실험 참가 학생 중 한 명은 본래 친구에게 사과하려던 생각에서 벗어나, AI와의 대화 이후 자신의 잘못만은 아니라고 인식을 변경하기도 했다.
주요 AI 모델 10개를 분석한 연구 결과에서도 AI의 아첨 경향이 확인됐다. AI가 사람에 비해 아첨하는 비율은 30%에서 50% 수준 더 높게 측정됐다. 이용자들은 아첨형 AI에 더욱 깊게 의존하는 패턴을 나타냈다.
전문가들은 듣고 싶은 말만 제공하며 신뢰를 쌓는 AI에 과도하게 의존하면 현실 세계 적응력이 저하될 수 있다고 경고한다.
성장 과정에서 필수적인 갈등과 좌절을 극복하는 능력이 약화될 위험성도 제기됐다. AI의 동조 반응과 아첨 현상에 대한 허용 범위 설정과 관리 방안 마련을 위한 사회적 점검이 필요한 상황이다.