카카오가 온라인 댓글 등 디지털 공간에서 차별이나 외모 비하 등의 표현을 걸러내기 위해 전문가들과 머리를 맞대기로 했다. 작년초 국내 기업 가운데 처음으로 '증오발언 대응 원칙'을 제정한 데 따른 후속책이다.
카카오는 증오발언 대응을 위한 코딩북 제작에 나선다고 31일 밝혔다.
코딩북이란 수집된 데이터를 숫자 등으로 바꿀 때 분류 기준으로 참고할 수 있도록 정리한 지침서다. 카카오는 코딩북이 기술·서비스 내에서 증오발언을 판별하는 데 도움이 될 수 있다고 보고 제작에 나섰다.
이번 프로젝트는 지난해 1월 수립한 '증오발언 근절을 위한 카카오의 원칙'의 연장선이다. 당시 카카오는 국내 기업 최초로 명문화된 증오발언 대응 원칙을 제정하고 이모티콘, 광고 등 주요 서비스의 운영에 적용했다. 이모티콘 서비스에서는 차별이나 증오 발언, 외모를 평가하거나 비하하는 표현 등이 이모티콘에 담길 경우 이모티콘샵 입점을 제한하고 있다.
코딩북 제작에는 한국언론법학회를 중심으로 구성된 연구진이 참여한다. 연구 과정의 감수와 검토는 카카오 증오발언 근절 관련 자문단이 진행한다. 전문성을 갖춘 외부 연구진을 구성해 독립적으로 추진되는 점과 별도의 자문 절차를 거친다는 점에서 특별한 의미를 지닌다는 것이 회사 측의 설명이다.
카카오는 내년 상반기 중 코딩북 제작을 마칠 계획이다. 코딩북은 온라인 콘텐츠나 댓글 공간의 건강성을 높이기 위한 인공지능(AI) 기술에 적용할 예정이다. 증오발언을 판별하는 학습 데이터를 구축하고 이를 실제 서비스에 순차적으로 적용한다.
카카오 김대원 인권과 기술윤리팀장은 "디지털 안전은 이용자 인권 보호의 기본적인 요소로, 카카오는 디지털 기업 고유의 인권 존중과 사회적 책임 이행을 위해 앞장서고자 한다"며 "앞으로도 사회·학계·관계기관 등과의 다양한 이해관계자들과의 협력을 통해 디지털 공간과 생태계가 건강성을 견고히 유지할 수 있도록 최선을 다할 것"이라고 말했다.
