SK텔레콤이 컴퓨팅 자원 연결 분야 스타트업과 손잡고 인공지능(AI) 데이터센터(DC) 구조를 바꾼다. 그래픽처리장치(GPU)를 단순히 늘리는 대신 컴퓨팅 자원 연결 방식을 바꿔 성능과 비용 효율을 동시에 개선한다.
SKT는 'MWC 26'에서 파네시아와 'CXL 기반 차세대 AI DC 구조' 공동 개발을 위한 업무협약(MOU)을 체결했다고 4일 밝혔다.
CXL이란 CPU·GPU·메모리 간 데이터를 유기적으로 연결해 초고속·저지연 처리를 가능하게 하는 데이터 연결 표준이다. 서버 단위로 묶여 있던 컴퓨팅 자원을 유연하게 확장·활용할 수 있게 해준다.
파네시아는 CXL 관련 글로벌 최고 수준의 기술력을 갖춘 국내 스타트업으로 꼽힌다.
기존 AI DC는 CPU·GPU·메모리가 서버 단위로 고정된 구조로 한 서버에서 특정 자원이 남아도 다른 서버에서 활용이 어려워 GPU 활용률을 떨어뜨리고 AI DC 구축·운영 비용을 늘리는 비효율이 반복돼왔다.
양사는 이러한 문제를 해결하기 위해 CXL 기반 기술을 적용해 CPU·GPU·메모리를 서버 단위 고정 구조에서 벗어나 유연하게 연결·조합할 수 있는 구조로 전환한다.
자원 간 연결 방식도 바꾼다. CXL 기반 기술을 활용해 네트워크를 거치지 않고도 자원을 고속으로 연결할 경우 데이터 전송 과정을 단순화해 연산 효율을 높일 수 있다.
양사는 실제 AI 모델을 구동하며 GPU·메모리 활용률, 지연시간, 처리량 등을 종합적으로 검증한 뒤 올 연말까지 차세대 AI DC 구조를 공개할 계획이다.
정석근 SKT AI CIC장은 "AI DC 경쟁력은 GPU 성능 경쟁을 넘어 메모리와 데이터 흐름까지 포함한 시스템 최적화에 달려있다"며 "이번 협력은 연산 성능이 높아져도 데이터 이동·공급이 이를 따라가지 못하는 구조적 병목인 '메모리 월'을 완화해 AI DC 성능과 경제성을 함께 끌어올릴 것”이라고 말했다.
