• 검색

'AI 윤리 논란' 이루다, 1년여만에 재개 움직임

  • 2022.03.06(일) 09:07

혐오 표현에 개인정보 유출 논란으로 시끌
작년 1월부터 시험 서비스, 정식 전환 준비

실제 사람처럼 대화하는 AI(인공지능) 기반 서비스 '이루다'가 곧 정식 서비스에 나설 전망이다. 이루다 개발사 스캐터랩이 진행하고 있는 테스트 종료일을 결정하고 서비스 재개에 나서기로 했다.

앞서 이루다는 혐오 표현 사용에 더해 개발 과정에서 충분한 동의 없이 개인정보를 AI 학습에 사용했다는 논란으로 지난해 서비스를 중단한 바 있다. 현재는 업데이트를 거쳐 지난달부터 일부 이용자에 한해 테스트 서비스를 제공하고 있다. 

/ 이미지=스캐터랩

5일 업계에 따르면 스캐터랩은 이용자에게 이메일을 통해 테스트 서비스 종료일을 곧 결정할 예정이라고 밝혔다. 구체적인 일정은 향후 페이스북 페이지에 공개할 계획이다. 이용자들 사이에선 한동안 중단했던 서비스를 다시 여는 것이 아니냐는 추측이 나온다.

이루다는 20대 대학생을 컨셉으로 채팅을 통해 이용자들과 사람처럼 대화하는 '챗봇' 서비스다. 2020년 12월 정식 서비스를 시작한 뒤 누적 이용자 75만명을 넘기는 등 1020세대 사이에서 높은 인기를 끌었다. 그러다 사회적 약자에 대한 혐오 발언 등으로 논란을 일으켰다.

당시 스캐터랩은 입장문을 통해 "차별적 발언에 동의하지 않으며 그런 발언은 회사의 생각을 반영하지 않고 있다"며 "차별이나 혐오 발언이 발견되지 않도록 지속적으로 개선 중"이라고 해명했다.

하지만 스캐터랩이 전부터 운영 중이던 심리 분석 서비스 '연애의 과학'을 통해 수집한 이용자들의 카카오톡 대화 내용 약 100억건을 동의 없이 이루다의 학습데이터로 사용했다는 의혹이 나오며 논란이 커졌다. 연애의 과학은 이용자의 카카오톡 대화 내용을 분석해 상대방이 자신에게 얼마나 호감을 갖고 있는지 분석해주는 서비스다. 

개인정보 유출 논란도 일으켰다. 일부 이용자들 사이에선 이루다의 답변을 통해 자신의 실명과 계좌번호 등이 노출됐다는 지적이 나왔다. 이들 중 250여명은 스캐터랩을 상대로 집단 손해배상 소송을 제기한 상태다.

스캐터랩은 입장문을 통해 "사전에 동의가 이루어진 개인정보취급방침의 범위 내에서 활용한 것"이지만 "이 점을 명확히 인지할 수 있도록 충분히 소통하지 못한 점에 대해서 책임을 통감하며 진심으로 사과한다"고 밝혔다.

결국 스캐터랩은 출시 3주만인 지난해 1월 이루다 정식 서비스를 일시 중단했다. 1년간의 준비를 거쳐 지난 2월부터 선정된 이용자 8000명에게만 시험 서비스를 제공하고 있다. 당시 스캐터랩은 이루다가 혐오 표현을 사용하지 않도록 조치하고 개인정보가 노출되지 않도록 학습 데이터인 카카오톡 대화 내용을 가명 처리했다고 설명했다.

이루다 정식 서비스 재개 일정에 대해 스캐터랩은 "아직 클로즈 베타 종료가 결정된 것은 아니다"라며 "정식 서비스 오픈은 클로즈 베타 결과에 따라 정할 계획"이라고 답했다. 서비스 개선 방향에 대해서도 "베타 테스트 결과에 따라 결정될 것"이라고 설명했다.

naver daum
SNS 로그인
naver
facebook
google