국산 거대언어모델(LLM), 인공지능(AI) 반도체, 포털 서비스가 하나로 연결된다. 업스테이지·AXZ(포털 다음 운영사)·퓨리오사AI가 협업해 국내 첫 '풀스택 소버린 AI'의 결과물을 선보였다.
주인공은 포털사이트 다음이 이달 1일부터 베타 서비스를 시작한 'AI 요약' 기능이다. AI 요약은 업스테이지의 LLM '솔라'에 기반해 움직인다. 이를 위해 퓨리오사AI의 신경망처리장치(NPU)인 '레니게이드'를 사용했다. AI 모델, 플랫폼, 칩 모두 국내 힘으로 개발·양산·서비스 중인 '토종'이다.
김성훈 업스테이지 대표, 이건수 AXZ 대표, 백준호 퓨리오사AI 대표는 15일 성남시 판교에 위치한 AXZ 사옥에 모여 각사의 계획과 소버린 AI 협력방안 등을 논의했다. 이날 대담내용은 업스테이지 유튜브 채널을 통해 생중계됐다.
대담의 핵심은 AI 요약 기능이다. 그간 다음에서 키워드 검색을 하면 링크를 단순 나열하는 방식으로 결과물을 노출했지만, AI 요약은 솔라가 이용자의 질문의도를 파악해 답변을 정리해준다.
이 대표는 "기존에는 검색 결과로 나온 링크를 이용자가 일일이 클릭해 확인했다면 AI 요약은 이 과정을 AI가 제공하는 것"이고 설명했다.
개발 과정도 공개했다. LLM의 고질적인 환각(할루시네이션)을 제어하기 위해 정확한 최신 정보만 전달할 수 있도록 하네스 엔지니어링을 고도화하는데 주력했다.
AI 요약은 퓨리오사AI의 2세대 NPU인 레니게이드 24개와 3개 노드로 구동된다. 하루에 처리하는 토큰은 약 5억개다.
백 대표는 최적화 작업을 통해 엔비디아의 그래픽처리장치(GPU) 'H200'과 대등한 성능을 내고 있다고 강조했다. 특히 퓨리오사AI NPU를 도입했을 때 추론 과정에서 비용을 50% 이상 줄일 수 있다고 설명했다.
그는 "국산 NPU는 토큰 비용을 획기적으로 줄일 수 있고 GPU보다 전성비(전력대비 성능)와 가성비가 높다"며 "국제 정세를 고려하고 전략적 관점에서 소버린 AI 반도체와 모델, 서비스의 결합이 중요하다"고 말했다.
다음은 AI 요약 서비스를 쇼핑과 맛집 등 버티컬(특화·전문 영역) 영역으로 확장하고, 에이전트 AI 시대에 맞춰 이용자들이 개인화된 에이전트를 이용할 수 있도록 할 계획이다. 퓨리오사AI는 고도화된 에이전틱 AI 서비스를 저렴한 토큰 가격에 지원할 수 있도록 제품을 확장하고 성능과 가성비를 높여 경쟁력을 확보하겠다는 방침이다.
업스테이지는 '독자 AI 파운데이션 모델' 2차 단계평가에 맞춰 솔라의 차세대 모델을 조만간 공개할 예정이다. 김 대표는 "해외 빅테크 모델에 맞설 수 있는 국산 LLM 성능을 더욱 고도화하겠다"고 밝혔다.
