카카오가 28일 자체 개발한 인공지능(AI) '카나나'의 경량 언어모델(SLM) 4종을 글로벌 오픈소스 AI 플랫폼인 허깅페이스에 공개했다. 이번에 공개한 모델은 카나나(Kanana)-2 경량 언어모델 시리즈로 △Kanana-2-1.3B-base △Kanana-2-1.3B-instruct △Kanana-2-3B-base △Kanana-2-3B-instruct다. 스마트폰 등과 같은 디바이스에서 구동할 수 있다.
최근 AI 업계에선 대형언어모델(LLM) 성능 경쟁과 함께 스마트폰이나 개인 PC 등에서 직접 구동할 수 있는 경량 언어모델 중요성도 부각되는 추세다. 글로벌 기업들은 온디바이스 AI를 주요 전략으로 내세우거나 경량 오픈소스 모델을 공개하며 경량 AI 생태계 선점에 나서고 있다.
카카오는 크기가 작더라도 실제 서비스에 적용 가능한 수준의 성능을 갖춘 경량 언어모델을 연구해왔다. 현재 '카나나 인 카카오톡'과 '카카오톡 대화요약 및 통화요약', 'AI 국민비서' 등 여러 서비스에서 카카오 경량 모델이 활용되고 있다.
이번에 공개한 모델은 작은 크기에도 한국어와 영어 모두 글로벌 수준의 성능을 구현했다. 유사 크기의 최신 오픈소스 모델 대비 한국어와 영어, 지식과 수학 등 대부분 벤치마크에서 우수한 성능을 기록했다.
또 카카오가 자체 개발한 한국어 특화 토크나이저를 적용해 기존보다 한국어 처리 효율을 30% 이상 개선했다. 토크나이저는 AI 모델이 텍스트를 처리할 때 문장을 잘게 쪼개는 단위를 결정하는 핵심 기술이다. 한국어에 최적화된 토크나이저를 사용하면 같은 문장을 더 작은 단위로 처리할 수 있어 연산 속도가 빨라지고 비용이 줄어든다. 카카오는 지난해 개발을 완료한 한국어 특화 토크나이저를 이번 모델 전반에 적용해 성능과 비용 경쟁력을 확보했다.
스마트폰 등 메모리와 연산 자원이 제한적인 온디바이스 환경에 최적화해 설계했다는 점도 특징이다. 긴 대화를 처리할 때 메모리 사용량이 급격히 늘어나는 것을 해결하기 위해 '슬라이딩 원도우 어텐션' 구조를 도입, 최대 3만2000토큰(약 2만4000 단어) 길이 수준의 대화에서도 메모리를 최대 72.7% 절감하며 성능을 안정적으로 유지할 수 있다.
카카오는 이번 모델을 상업적 활용까지 허용하는 '카나나 오픈 라이선스'로 배포했다. 개발자와 스타트업, 연구기관 등 별도 제약없이 기술을 활용할 수 있다.
노병석 카카오 유니파이드 파운데이션 모델 성과리더는 "에이전틱 AI 시대를 준비하며 클라우드의 대규모 AI와 온디바이스 경량 AI 모두 중요성을 체감하고 있다"며 "이번 오픈소스 공개 모델들이 더 많은 개발자와 기업의 새로운 AI 서비스 개발로 이어져 국내 AI 생태계 활성화에 기여하기를 바란다"고 말했다.
