SK텔레콤이 글로벌 반도체 기업인 Arm, 신경망처리장치(NPU) 전문기업 리벨리온과 AI 데이터센터(AIDC) 사업 협력에 나선다. 값비싼 GPU 의존도를 낮추고 추론에 특화된 NPU 중심 구조로 전환에 속도를 낸다.
SKT는 10일 Arm, 리벨리온과 차세대 AI 인프라 혁신을 위한 전략적 파트너십을 체결했다고 밝혔다.
이번 파트너십을 통해 3개사는 Arm의 데이터센터용 프로세서인 'Arm AGI CPU'와 리벨리온이 올해 3분기 출시 예정인 차세대 NPU '리벨카드'를 결합한 통합 솔루션을 공동 개발한다.
그간 AI 시장은 방대한 데이터를 학습시키는 데 필수적인 GPU 확보가 중요 과제였다. 하지만 AI 모델 운영 단계인 추론 영역이 확대되면서 상황이 변하고 있다. 비교적 단순한 연산 과정을 거치는 추론에서는 GPU의 과도한 전력 소모와 비싼 도입 비용이 부담이 됐다. 이에 따라 연산 효율이 높은 NPU가 유력한 대안으로 부상했다.
이번 협력은 시스템 효율을 극대화하는 최적의 조합을 찾는 데 방점이 찍혔다. AI 서비스 운영에는 단순 연산 외에도 데이터 입출력, 네트워크 통신, 메모리 관리 등 범용적인 처리가 필수적이다. 시스템의 관제탑 역할을 하는 CPU와 AI 추론을 전담하는 NPU를 결합해 고성능·저전력 AI 서비스를 제공하겠다는 구상이다.
SKT는 해당 솔루션을 자사 AIDC에 탑재해 기술실증(PoC)을 진행한다. 특히 검증된 서버 인프라를 활용해 독자 개발한 AI 파운데이션 모델 에이닷엑스 케이원(A.X K1)을 운영하는 방안도 검토 중이다.
SKT는 AIDC 경쟁력을 확보하기 위해 협력 전선을 전방위로 넓히고 있다. 지난 3월 MWC에서는 AI 인프라 링크 솔루션 기업 파네시아와 AIDC 내부 설계 구조 공동 개발을 위한 업무협약을 체결한 바 있다.
이재신 SKT AI 사업개발 담당은 "추론에 최적화된 인프라와 독자 파운데이션 모델 A.X K1을 결합한 풀 패키지를 제공해 AI 데이터센터 경쟁력을 더욱 강화해 나가겠다"고 말했다.
