• 검색

네이버, AI로 '악플' 잡았다…"혐오·비하 근절한다"

  • 2023.03.30(목) 16:01

2019년 'AI클린봇' 도입해 악플 노출 급감

AI클린봇 도입과 악플 추이./자료=네이버 제공

네이버가 2019년 '악플'(악성 댓글)을 탐지하기 위해 'AI 클린봇'을 도입한 이후 온라인 혐오 표현이 급감한 것으로 나타났다.

30일 '네이버 다이어리'에 따르면 네이버가 2019년 업계 최초로 AI클린봇을 도입한 이후 악플 생성 비율은 당시 24.8%에서 올해 16.7%로 감소했다. 클린봇의 버전 업그레이드와 고도화를 지속하면서다.

특히 악플 노출 비율의 경우 같은 기간 21.9%에서 8.9%로 급감했다.

네이버 측은 "온라인 공간을 통해 이루어지는 혐오·차별·비하 표현에 대해 심각성을 인지하고, 기술과 정책 강화를 통해 다양한 노력을 해왔다"며 "AI 클릿봇은 이용자의 안전한 서비스 이용과 권리 보호 측면에서 유의미한 결과를 보여주고 있다"고 말했다.

그러나 작년 이태원 참사 이후 합리적 근거 없이 인간 존엄성을 위협하거나 권리를 침해하고 편견을 조장하거나 배척하는 내용이 증가하면서 다시 사회적 문제로 떠오르고 있다고 네이버는 지적했다. 

​이에 따라 네이버는 혐오·비하·차별 표현 근절을 위해 더 많은 기술을 도입하고 관련 정책을 강화할 계획이다.

우선 강화 학습을 통해 클린봇의 탐지 기술을 고도화할 방침이다. 특히 언론사별로 클린봇 탐지 강도를 직접 설정할 수 있도록 할 예정이다.

이태원 참사와 같은 상황에서 악성 댓글이 증가할 경우 별도 알림 등을 통해 빠르게 댓글 'OFF' 여부를 결정할 수 있도록 신규 기능을 지원한다는 설명이다.

또한 상반기 중으로 댓글 작성자의 관심 분야 정보를 노출하고, 작성자의 댓글 이용 제한 상태를 표시하는 등 프로필 영역을 강화한다.

댓글 이용 제한을 해제할 때는 기존과 같이 바로 활동이 재개되는 것이 아니라, 타인의 권리 보호와 이용 규칙은 물론 온라인 공간에서 상호 존중과 배려를 숙지할 수 있는 절차를 마련하기로 했다. 

네이버는 이와 함께 외부 기관인 한국인터넷자율정책기구(KISO)가 올 상반기 발표하는 '혐오표현 자율정책 가이드라인'도 준수할 방침이다.

네이버 관계자는 "이같은 노력과 결과물을 오픈해 이용자 참여를 유도하고, 외부 요청에 따른 처리 현황을 공유하기 위해 '그린인터넷 페이지' 개선도 앞두고 있다"며 "이를 통해 사회적 합의가 필요한 부분은 적극적으로 합의를 구하면서, 안정적이고 투명하고 신뢰할 수 있는 소통 채널로서의 역할을 강화할 것"이라고 말했다.

naver daum
SNS 로그인
naver
facebook
google