SK텔레콤은 24일 오픈소스 커뮤니티 허깅페이스에 독자 구축 LLM(거대언어모델) 'A.X(에이닷 엑스) 3.1'을 공개했다.
A.X 3.1은 340억개의 매개변수를 기반으로 한다. 구조 설계부터 데이터 수집, 학습까지 모든 과정을 SK텔레콤이 직접 수행한 '프롬 스크래치(From Scratch)' 방식으로 개발했다. 단순한 질의응답을 넘어 사용자 의도와 맥락을 파악해 논리적이고 유용한 대화가 가능하다.
이전 모델인 A.X 3.0은 한국어 대화 성능에 집중했다면 A.X 3.1은 추론모델로 확장 가능성을 고려해 코드와 수학성능을 향상시킨 게 특징이다.
특히 A.X 3.1은 외부 지식 학습을 적용한 A.X 4.0와 비교할 때 절반 이하의 매개변수로 구성됐지만, 같은 한국어 서비스에 적용될 경우 약 90% 수준의 성능을 발휘한다. 사용자들은 A.X 3.1과 4.0 중에서 사용 환경에 더 적합한 성능과 효율을 고려해 선택할 수 있다.
A.X 3.1 모델은 대표적인 한국어 능력 평가 벤치마크인 'KMMLU'에서 A.X 4.0 대비 88% 수준을 확인했고, 한국어 및 한국 문화 벤치마크인 'CLIcK'에서는 90% 수준의 성능을 기록했다.
이로써 SK텔레콤은 프롬 스크래치 방식의 A.X 3.1 모델 2종(표준, 경량)과 대규모 학습(CPT·Continual Pre-Training)에 기반한 A.X 4.0 모델 2종(표준, 경량)까지 총 4개의 모델을 오픈소스로 공개했다. 해당 모델들은 학술 연구나 상업 이용 등에 자유롭게 활용할 수 있다.
SK텔레콤은 독자 기술을 기반으로 한 A.X 3 계열의 프롬 스크래치 모델과 CPT 방식의 외부 지식 학습을 적용한 A.X 4 계열의 대규모 모델을 병행 개발하는 '투 트랙 전략'을 추진하고 있다. 다양한 서비스 환경과 용도에 최적화한 AI 모델을 내놓기 위해서다.
SK텔레콤은 그동안 확보한 LLM 기술 역량을 바탕으로 크래프톤·포티투닷·리벨리온·서울대·카이스트 연구진 등과 컨소시엄을 구성해 과학기술정보통신부가 주관하는 '독자 AI 파운데이션 모델 사업'에 지원한 바 있다.
이 컨소시엄은 반도체, 모델, 데이터, 서비스로 이어지는 독자 기술 기반의 풀스택 AI를 구현하고, 개발하는 모델을 국내 AI 생태계의 다양한 기업들에 오픈소스로 개방할 계획이다.
김태윤 SK텔레콤 파운데이션 모델 담당은 "각 분야 선도기업들과 컨소시엄 구성으로 향후 소버린(자주적) AI 분야에서 새로운 성과를 만들어낼 것"이라며 "국내 AI 생태계를 종합적으로 고려해 혁신적인 인공지능 모델을 선보일 것"이라고 말했다.
