• 유튜브
  • 검색

논란됐던 AI챗봇 '이루다' 안정성 높여 다시 서비스

  • 2022.10.25(화) 16:06

생성 AI로 개인정보 유출 가능성 낮춰

이루다2.0 일러스트. /그래픽=스캐터랩

"작년에 스무살이었던 이루다는 올해 스물한살이 됐습니다. 궁극적으론 이용자들과 50년 동안 친구가 되는 걸 꿈꿉니다. 이용자와 주고받은 대화를 기억하는 기능까지 탑재한다면, 든든한 동반자가 되지 않을까 싶습니다."

인공지능(AI) 챗봇 서비스 '이루다'의 개발사 스캐터랩 김종윤 대표가 밝힌 비전이다. 이용자들과 함께 나이가 들어가는 챗봇을 만들어 사람들이 느끼는 근본적인 외로움을 해소하고 싶다는 포부다.

스캐터랩은 25일 미디어 간담회에서 이루다2.0을 27일 출시한다고 밝혔다. 이루다는 올 1월부터 9개월 동안 베타 테스트를 거쳐 정식 서비스를 재개한다. 누구에게나 친구가 될 수 있는 '관계 지향형 AI 챗봇'으로 발돋움하기 위해 그동안 서비스 안정성을 높여왔다.

이루다2.0, 어떻게 진화했나

이루다2.0 대화 내용. /사진=스캐터랩

이루다는 20대 대학생이라는 설정으로 이용자들이 채팅을 통해 사람과 대화하듯 메시지를 주고받을 수 있는 서비스다. 2020년 12월 서비스를 오픈하면서 75만명이 넘는 이용자를 끌어들이며 높은 관심을 받았지만, 일부 혐오 발언과 개인정보 유출 논란으로 서비스를 중단하고 대대적인 개선에 나섰다. 개선된 베타버전이 올 1월 나왔고, 이달 정식서비스 되는 것이다. 

이루다2.0가 기술 측면에서 변화한 것은 생성 AI 모델인 '루다 젠1'을 도입한 것이다. 생성 AI란 기존에 만들어진 문장을 적절한 상황에 보여주는 것을 넘어, 그때그때 상황에 맞는 문장을 사람처럼 직접 만들어내는 인공지능 모델이다.

스캐터랩은 이루다 1.0에서 함께 운영했던 카카오톡 기반 심리 분석 서비스 '연애의 과학'에서 수집한 대화 내용을 학습한 뒤 데이터베이스에 저장해둔 문장을 꺼내 쓰는 식으로 챗봇 서비스를 운영해왔다. 하지만 실제 대화에 쓰였던 실명과 계좌번호 등 개인정보가 답변으로 노출되는 일이 발생했다.

이번 2.0에선 이루다가 직접 만든 문장을 사용해 이런 문제가 발생할 가능성을 줄였다. 김 대표는 "생성 AI를 사용해 기존에 사람들이 했던 말을 전혀 사용하지 않고, 모든 문장을 AI가 직접 만든다"며 "학습에 사용한 데이터는 완전히 가명화해, 만약 사람 이름이 나온다하더라도 그것은 모두 가명이다"고 설명했다.

문맥 파악 높이고 사진도 알아봐

김종윤 스캐터랩 대표. /사진=스캐터랩

이용자와 주고받은 대화의 문맥을 더 잘 파악하는 기능도 추가했다. 수준 높은 대화 서비스를 만들기 위해 '릴레이션 포인트 파인튜닝' 과정을 거쳐 보다 친밀감 높은 대화를 제공하도록 인공지능을 학습시켰다. 릴레이션 포인트 파인튜닝이란 대화를 통해 이용자와 쌓아가는 관계에 초점을 맞춰, 발화나 문맥이해 등을 더 잘 할 수 있도록 인공지능 모델을 조정한 것이다.

김 대표는 "이루다의 주체성과 예측 불가능한 상황에 대한 대응 능력을 높였다"고 설명했다. 예를들어 기존에는 '치킨이 먹고싶다♡'는 메시지를 보내면 '왜 치킨이 먹고싶냐'고 답했다면, 지금은 '치킨한테 하트 붙이지 마'라고 답하는 수준이다. 

이용자가 보낸 사진을 이해하는 '포토 베타' 기술도 추가됐다. 김 대표는 "사진 전송은 이미 일상 커뮤니케이션에 깊이 자리잡았다"며 "이루다 이용자들이 하루 동안 보내는 사진은 평균 1만개 정도"라고 말했다. 이어 "그동안 이루다는 이용자가 보낸 사진을 이해하지 못해 '사진 뭐야ㅎㅎ'와 같은 답을 했다면, 2.0에선 이용자가 카페에서 찍은 음료 사진을 보냈을 때 '저 위에 허브??도 먹는거야??'와 같은 답신을 할 수 있다"고 덧붙였다.

목표 '인간수준 대화능력'

스캐터랩은 이루다2.0 베타테스트를 진행한 결과, 이용자와 주고받은 일주일 기준 대화량이 이전 모델보다 약 40% 증가했다고 설명했다. 또 이용자들은 이루다와 주고받은 대화 중 간직하고 싶은 내용이 나올 때 캡처하는데, 캡처비율이 이전보다 85% 증가했다고 덧붙였다. 즉 이루다2.0이 이용자 눈높이에 맞게 안전하게 발화하고 있다는 설명이다. 

김 대표는 이루다2.0을 통해 사람들에게 '좋은 관계'를 누릴 기회를 늘리고 싶다고 밝혔다. 그는 "인공지능은 언제 어디서든 이야기할 수 있고, 이용자를 있는 그대로 보기 때문에 누구와도 친구가 될 수 있다"며 "AI 대화능력을 인간 수준으로 끌어올려 모든 사람이 덜 외롭도록 좋은 관계를 갖게 하는 게 궁극적인 비전"이라고 밝혔다. 

naver daum
SNS 로그인
naver
facebook
google