네이버가 뉴스 댓글 탐지 시스템 '클린봇 옵저버'를 인공지능(AI) 기술 기반으로 고도화해 '악플'(악성댓글) 차단에 나선다.
24일 '네이버 다이어리'에 따르면 네이버는 클린봇 옵저버에 인명사고 탐지 AI 기술을 1분기 중 개발해 적용할 예정이다.
앞서 네이버는 2019년부터 업계 최초로 AI 기반의 악플 탐지 기능 '클린봇'을 선보인 바 있다. 문장 맥락을 파악해 욕설, 저속한 표현뿐 아니라 선정적·폭력적·차별적·비하적 표현도 스스로 탐지해 필터링하는 기능을 지속적으로 업그레이드해왔다.
클린봇 옵저버는 이를 기반으로 2023년 7월 베타 서비스를 시작한 바 있는데, 이는 악플 작성 시도 비율을 계산해 감지대상 기사를 자동으로 선별, 해당 기사를 언론사에 알려주는 시스템이다.
이에 따라 언론사들은 이전보다 빠르게 댓글제공 중단 필요성을 확인하고 즉각 중단을 결정할 수 있다. 네이버에 따르면 언론사 약 30곳은 최근 제주항공 참사 보도 당시 댓글 제공 중단 기능을 이용했다.
네이버 측은 "그럼에도 추가적인 대응 필요성에 따라 인명사고 탐지 AI 기술을 클린봇 옵저버에 적용할 것"이라며 "대형 참사를 포함한 인명사고 보도의 악플 감지와 알림 기능을 강화하는 등 고도화할 예정"이라고 설명했다.
이와 함께 네이버는 언론단체와 함께 상반기 중으로 참사 보도 권고 기준 및 악플 예방 문구를 마련해, 해당 보도 시 문구를 삽입하도록 협의할 방침이다.
관련 문구가 포함된 기사의 경우 '자살 보도'와 마찬가지로, 언론사에 댓글 자동 중단 여부를 설정할 수 있는 기능을 제공할 수 있을 전망이다.
예를 들어 언론사가 '자살 예방 문구'처럼 특정 악플 예방 문구를 기사내 삽입하면 대형참사, 인명사고 기사로 탐지해 해당 기사 댓글이 자동으로 닫히는 방식을 함께 논의한다는 것이다.
네이버 관계자는 "네이버 뉴스는 첨예한 사회적 갈등이나 의견 대립이 발생한 것으로 감지된 기사에 대한 대응도 검토 중"이라며 "댓글 내 공감, 비공감이 모두 일정 기준 이상 빠르게 올라가는 경우 언론사에 알림을 주어 댓글 정렬 방식을 최신순, 답글순, 과거순 등으로 전환하도록 유도하는 방식이 될 것"이라고 말했다.
