• 유튜브
  • 검색

게임 채팅창 속 혐오발언 13개국 언어까지 골라낸다

  • 2022.07.28(목) 14:01

엔씨, 불건전 표현 필터링·AI 윤리엔진 등 기술 활용

전세계 유저들이 이용하는 글로벌 게임을 하다보면 종종 불쾌감을 주는 표현을 마주한다. 

온라인 공간이라는 가림막을 믿어서인지 혐오·차별적 표현을 기분 상할 때도 생긴다. 이에따라 게임사들은 다양한 방법으로 편견이나 혐오 등을 최소화하기 위해 노력한다.

업계에 따르면 엔씨소프트는 고도화된 인지·필터링 기술 통해 불건전 커뮤니케이션을 예방하고 있다. 

우선 엔씨는 건전한 게임 채팅 환경을 위해 실제 게임과 다양한 온라인 채널에서 이용자가 사용하는 언어를 수집한다. 이후 혐오 표현 인지 기술과 필터링·마스킹 기술을 통해 노출을 제재한다. 

마스킹 처리는 세밀하게 진행된다. 등록된 모든 금칙어를 무조건적으로 마스킹하는 것이 아니라, 인공지능 자연어처리기술(NLP)을 바탕으로 문맥에 따라 금칙 처리 여부를 세밀하게 판단한다.

스팸 필터링은 한국어 외 13개국어도 가능하다. 국가 간 이슈가 되는 용어들을 언어별로 구축해 사전으로 관리하고, 번역에 있어 중립을 지키도록 사전에 조치를 취한다. 

AI가 생성하는 문장에 대해서도 섬세한 기술 개발이 이뤄지고 있다. 욕설과 같은 기본적인 발언을 넘어서 사용자가 무례함을 느끼지 않도록 발화 생성을 제어하는 확장된 개념을 반영한다. 

챗봇에서 구동되는 AI 윤리 엔진은 문장이 윤리적이지 못하다고 판단되면, 그 대화에 대한 답변을 하지 않거나 우회하는 방식으로 대응한다.

엔씨 Language AI 랩 홍승희 팀장은 "누구나 편견, 차별, 혐오 없이 동등한 유저로서 순수하게 게임을 즐겨야 한다"면서 "모두가 존중받는 깨끗한 게임 환경을 만들 수 있도록 연구를 지속, 기계번역과 차별 표현을 제어하는 기술들을 고도화시키는 것이 목표다"고 밝혔다.

이밖에도 엔씨는 글로벌 출시 과정에서 필요한 다양성을 보강하고 문화권별 이슈에 대응하기 위해 컬처라이제이션(culturalization) 리뷰를 상시적으로 진행하고 있다. 

세계 각국의 표면적 다양성과 문화적 다양성을 이해하며 공감하는 콘텐츠를 만드는 것이 목표다.

엔씨 컬처라이제이션 팀 박미소 팀장은 "엔씨 게임이 글로벌 서비스를 확대하면서 많은 글로벌 유저들을 만나고 있다"며 "문화, 성별, 인종 등과 관계없이 똑같은 즐거움을 느끼며 하나로 연결시키는 데 기여하고 싶다"고 말했다.

naver
SNS 로그인
naver
facebook
google