네이버는 23일부터 인공지능(AI) 기반 악성 댓글 탐지 시스템인 ‘클린봇’이 악성 댓글을 다수 탐지한 기사에 대해 댓글 서비스를 자동으로 비활성화한다고 밝혔다. 이번 정책은 정치·선거 섹션을 포함한 모든 섹션의 뉴스 기사에 적용된다.
댓글 서비스가 중단된 기사에는 “클린봇이 악성 댓글을 다수 탐지하여 댓글 서비스를 제공하지 않습니다”라는 안내 문구가 표시된다. 이용자 보호와 건강한 인터넷 문화 조성을 위한 ‘그린인터넷’ 캠페인 배너도 함께 노출된다.
네이버는 댓글 서비스가 여론 형성과 정보 교류의 장으로 기능하는 동시에 악성 댓글로 인한 피해와 사회적 갈등을 키울 수 있다는 점을 고려해 이번 정책을 마련했다. 특히 정치·선거 등 갈등이 큰 분야뿐 아니라 사회, 경제, 생활, 문화 등 전 섹션에 같은 기준을 적용해 악성 댓글 대응의 사각지대를 줄이겠다는 취지다.
2019년 업계 최초로 도입된 클린봇은 AI를 활용해 부적절한 댓글을 탐지하는 시스템이다. 도입 초기에는 욕설과 선정적·폭력적 표현을 중심으로 대응했지만, 이후 혐오, 비하, 차별 표현까지 탐지 범위를 넓혀왔다. 네이버는 변화하는 악성 댓글 양상에 맞춰 탐지 기준과 모델을 지속해서 개선하고 있다고 설명했다.
네이버는 이달 말 AI 클린봇 모델의 추가 업그레이드도 준비하고 있다. 새 모델은 악성 댓글 표현 방식이 우회적으로 바뀌는 흐름에 대응하는 데 초점을 맞출 것으로 보인다. 악성 댓글은 특정 단어를 변형하거나 초성, 은어, 비유 표현을 활용하는 방식으로 탐지를 피하려는 사례가 적지 않아 기술 고도화가 핵심 과제로 꼽힌다.
김수향 네이버 리더는 “네이버는 지난달 정치·선거 섹션 본문 하단 댓글 미제공 조치와 함께 클린봇을 고도화하며 댓글 영역이 건전한 소통의 장이 될 수 있도록 노력하고 있다”고 말했다. 이어 “앞으로도 다양한 의견을 청취하며 급변하는 악성 댓글 표현에 대응할 수 있도록 서비스를 발전시켜 나가겠다”고 밝혔다.
네이버는 악성 댓글 대응과 별도로 재해·재난·부고 관련 기사에서 고인과 피해자의 2차 피해를 막기 위한 ‘추모 댓글’ 기능도 운영하고 있다. 해당 기능은 지난 2월 도입됐다.
추모 댓글은 이용자가 기사 댓글창에서 버튼을 누르면 ‘삼가 고인의 명복을 빕니다’라는 정형화된 문구로 애도의 뜻을 전할 수 있도록 한 서비스다. 자유 입력 방식의 댓글에서 발생할 수 있는 모욕적 표현이나 근거 없는 비난을 줄이면서도 독자가 추모와 공감의 뜻을 남길 수 있게 한 점이 특징이다.
네이버에 따르면 현재까지 약 23개 언론사가 추모 댓글 기능을 활용했다. 이용자들은 버튼 클릭 방식으로 고인과 피해자에게 애도를 표했고, 일부 기사에서는 일반 댓글보다 활발한 참여가 이뤄졌다.
네이버가 이달 기준 추모 댓글이 가장 많이 작성된 기사의 조회수 대비 댓글 수 비율을 분석한 결과, 같은 언론사 내 다른 기사보다 댓글이 6배 이상 많이 달린 것으로 나타났다. 네이버는 이를 두고 이용자들이 악성 댓글이 아닌 애도와 공감의 방식으로도 적극적으로 뉴스 댓글에 참여할 수 있다는 점을 보여준 사례로 보고 있다.
업계에서는 포털 뉴스 댓글 정책이 표현의 자유와 이용자 보호 사이의 균형을 요구받고 있다고 본다. 댓글창 폐쇄나 제한은 악성 댓글 피해를 줄이는 효과가 있지만, 정상적인 의견 개진까지 위축시킬 수 있다는 우려도 있다. 그만큼 기준의 투명성, 이의제기 절차, 기술적 오류 최소화가 중요하다는 지적이 나온다.
네이버의 이번 조치는 악성 댓글이 많은 기사에 대해 댓글창을 자동 비활성화하는 방식으로 이용자 보호를 강화한 것이다. 다만 댓글 공간이 공론장으로서 기능해 온 만큼, 향후 정책 운용 과정에서 탐지 기준 공개와 이용자 신뢰 확보가 과제로 남을 전망이다.
안혜린 기자 rin7961@naver.com
