[로이슈 심준보 기자] 네이버가 29일부터 악성 댓글 탐지 시스템 'AI 클린봇 3.0' 업그레이드를 완료했다.

네이버에 따르면 이번 업그레이드를 통해 자살·사망·신체 훼손 등 생명 경시를 조장하는 댓글과 사건·사고 피해자 및 유족을 향한 조롱·비하·혐오성 댓글을 집중 차단한다. 기존에는 댓글 내용만 분석했지만 이번 버전부터는 기사 제목과 본문까지 종합해 맥락에 따라 악의적 의도를 보다 정확하게 탐지한다.

2019년 업계 최초로 선보인 AI 클린봇은 초기 악성 키워드 기반 탐지에서 2020년 문장 맥락 기반으로 판단 기준을 확대했으며, 이후 성적 불쾌감 유발·차별 표현·기호 우회 악플 등에 대응하는 업그레이드를 이어왔다. 네이버는 올해 정치·선거 섹션 댓글 미제공, 악성 댓글이 일정 기준을 초과한 기사의 댓글 자동 비활성화 등 정책적 조치도 함께 운영하고 있다.

경찰청에 따르면 정보통신망법상 명예훼손 발생 건수는 2021년부터 매년 1만건 이상이며, 2024년 검거 건수는 1만23건으로 처음으로 1만건을 넘어섰다. 한국리서치 조사(2024년)에서는 국민 89%가 온라인 악성 댓글의 심각성에 공감하는 것으로 나타났다.

김수향 네이버 리더는 "생명 경시 조장, 피해자·유족 조롱·혐오 집중 차단을 비롯해 다양한 의견을 청취하며 클린봇 성능을 고도화할 예정"이라고 밝혔다.

심준보 로이슈(lawissue) 기자 sjb@rawissue.co.kr