AI 시대 데이터 용량이 급증으로 기존 D램 용량 한계
확장성·호환성 무기로 시장 개화 기대감…하반기 본격화
![](https://cdn.bizwatch.co.kr/news/photo/2023/11/22/1f50b1a5d40703319c41474f55a7bd5f.jpg)
AI(인공지능)의 발전은 반도체 시장에 많은 변화를 불러왔다. 반도체집적회로의 성능이 24개월마다 2배로 증가한다는 '무어의 법칙'은 AI 반도체 시장에서는 더 이상 통하지 않는 분위기다. 누군가는 외면했던 값비싼 HBM(고대역폭메모리)은 이례적으로 시장의 대세가 됐다. 이에 반도체 업계에서는 '넥스트 HBM' 기술을 선점하기 위한 움직임이 한창이다. 차세대 기술을 우선 확보해 예측하기 어려운 AI 시장에 빠르게 대응하고, 수위를 차지하기 위한 노력이다. HBM 열풍을 이을 미래 대세 기술을 앞서 살펴본다.[편집자]
차세대 메모리 솔루션 'CXL'
AI의 핵심은 데이터다. 수많은 데이터를 학습해, 이를 활용한 결과물을 출력하는 것이 AI의 기본 알고리즘이기 때문이다. 이에 최근 AI 데이터를 보관·처리하는 데이터센터는 AI 구동에 필요한 핵심 인프라로 부상했다.
하지만 기존 인터페이스(환경)로는 폭발적으로 늘어난 데이터를 처리하기에는 한계가 있다. 기존에는 CPU를 중심으로 메모리와 저장 장치 등 각 장치에 별도 인터페이스가 존재했는데, 연산 칩들이 메모리를 안전하게 공유할 방법이 없어 칩 간 통신이 비효율적이다. 각 장치 간 통신을 할 때 다수의 인터페이스를 통과해야 하기에 지연 문제가 발생할 수밖에 없는 구조다.
AI, 머신러닝 등 데이터 처리량이 폭발적으로 증가하며 이러한 지연 문제는 더욱 심화됐다. 데이터센터에서 많은 양의 데이터를 매끄럽게 처리하기 위해서는 더욱 효율적인 인터페이스가 필요해진 것이다.
이에 최근 큰 규모의 서버와 데이터센터를 운영하고 있는 빅테크 기업들은 'CXL(Compute Express Link)'에 대해 높은 관심을 보이고 있다.
CXL이 뭐길래
'빠르게 연결해서 연산한다'는 뜻의 CXL은 AI 반도체 제품이라기보다는 컴퓨터 시스템 내에서 데이터를 더 빠르게 전송하기 위한 인터페이스 기술이다. 기존까지 각각의 인터페이스로 나누어져 있던 CPU, GPU(그래픽 처리장치), 메모리 스토리지 등의 컴퓨팅 시스템들을 효율적으로 묶어주는 역할을 한다.
CXL은 다수의 장치를 하나의 인터페이스로 통합해 여러 장치를 한 번에 연결해 주기 때문에 데이터 처리 속도가 빠른 것이 특징이다. 무수히 많은 양의 데이터가 막힘없이 효율적으로 오갈 수 있는 '고속도로' 역할을 하는 셈이다.
CXL의 장점으로는 '확장성'과 '호환성'이 꼽힌다. AI 연산에는 메모리 용량과 대역폭 확장이 필수다. 하지만 기존 시스템에서는 CPU의 D램 확장 개수가 제한돼 있어 AI 연산에 한계가 있다.
![](https://cdn.bizwatch.co.kr/news/photo/2024/07/03/c946022bd7b0528bcbfc897af07681d3.png)
이에 비해 CXL 기술을 도입하면 여러 장치에서 메모리를 효율적으로 나눠 쓸 수 있다. 이를 가능하게 하는 것이 CXL 2.0의 대표 기술인 '메모리 풀링(Pooling)'이다. 여러 개의 CXL 메모리를 묶어 풀(Pool)을 만들고, 여러 호스트(CPU, GPU 등)가 풀을 공유하며 필요에 따라 메모리를 효과적으로 나눠 쓰는 방식이다.
이를 통해 CXL 메모리의 전 용량을 유휴 영역 없이 사용할 수 있고 속도도 빨라진다. 프로그램이나 작업에 필요한 메모리양에 따라 리소스를 효율적으로 관리하기 때문에, 결과적으로는 데이터센터 서버 운영비 절감에도 기여할 수 있다.
예를 들어 물을 메모리, 사람을 연산 처리 장치로 비유해 보자. CXL 기술은 각각 5명이 각각 1L의 물을 갖는 대신, 5명이 5L의 물을 공유하는 것과 같다. 그렇게 되면 만약 한 사람이 1L 이상의 물이 필요할 때, 옆 사람에게 요청하는 과정 없이 바로 물을 사용할 수 있다. 필요한 사람이 필요한 만큼 빠르게 가져다 쓰기 때문에 버리는 물도 없다.
![](https://cdn.bizwatch.co.kr/news/photo/2024/07/03/645f5962d1855d6930cf46607c92f963.jpg)
업계에 따르면 CXL 시스템으로 구축한 서버는 1대당 메모리 용량을 8∼10배가량 늘릴 수 있다고 알려진다. 연산 가속을 돕는 HBM과 함께, CXL이 AI 서버의 제한된 용량을 극복할 기술로 주목받는 이유다.
시장조사업체 욜 인텔리전스에 따르면 CXL 시장은 지난 2022년 1700만 달러(약 236억원)에서 2026년 21억 달러(약 2조9000억원)로 연평균 약 6배 정도로 급격하게 성장할 전망이다. 그중 CXL D램 시장은 2026년 15억 달러(약 2조원)로 전체 CXL 시장의 70% 이상을 차지할 것으로 예상된다.
호환성 높이기 위한 '표준화' 과제
CXL은 기업들이 모여서 만든 컴퓨터 확장 부품의 표준이라는 점에서 호환성도 뛰어나다. CXL이 표준화되면 일일이 규격을 따질 필요 없이 서로 D램을 공유할 수도 있고 교체, 추가 과정도 간편해지기 때문이다.
현재 CXL 생태계 확장에 팔을 걷고 나선 것은 인텔이다. 지난 2019년 인텔은 기존 컴퓨팅 시스템의 데이터 처리 지연과 속도 저하 등의 문제를 해결하기 위해 'CXL 컨소시엄'을 발족했다. CXL 컨소시엄의 대표적인 역할은 CXL 표준 제정이다. CXL 컨소시엄은 2019년 CXL 1.0·1.1을 표준으로 제정한 데 이어, 2020년에는 CXL 2.0, 작년에는 CXL 3.0·3.1 버전까지 표준으로 정했다.
하지만 아직 최신 CXL 버전을 지원하는 프로세서가 없는 상태다. 현재 인텔의 서버용 CPU는 CXL 1.1까지만 지원한다. CXL 생태계는 인텔의 프로세서 출시 시점에 따라 흥행이 결정된다. 인텔이 현재 글로벌 서버용 CPU의 80% 이상을 차지하고 있어서다. 인텔이 CXL 규격 적용이 가능한 제품을 출시해야 관련 생태계가 커질 수 있는 셈이다.
기대할 만한 점은 인텔이 올 하반기 CXL 2.0을 지원하는 5세대 서버용 제온 프로세서 출시를 앞두고 있다는 것이다.
업계에서는 5세대 제온 프로세서가 CXL 2.0을 지원하는 첫 사례인 만큼, CXL 시장 개화를 이끌 도화선이 될 것이라고 기대하고 있다. 통상 데이터센터를 운영하는 서버 업체들은 최적의 성능을 내기 위해 고성능 CPU와 D램을 함께 교체한다. 5세대 제온 출시와 함께 CXL 2.0 D램에 대한 교체 수요가 늘어날 것이라는 전망이 나오는 까닭이다.
![](https://cdn.bizwatch.co.kr/news/photo/2024/07/03/731172698635b8151217e451cd1dda34.jpg)
누가 선두 잡을까
현재 CXL 시장에서 유리한 고지를 점한 업체는 삼성전자다. 초반 HBM 경쟁에서 SK하이닉스에 밀린 삼성전자는 CXL을 차세대 맞춤형 메모리로 점찍고 투자에 한창이다. 향후 CXL 시장에서는 선두 주자로 확실히 자리 잡겠다는 전략으로 풀이된다.
삼성전자는 2021년 5월 세계 최초로 CXL 기반 D램 기술을 개발했다. CXL D램은 기존 시스템의 메인 D램과 공존이 가능하면서 시스템의 메모리 용량을 테라바이트급까지 확장할 수 있는 것이 특징이다. 이어 2022년 5월 DDR5 기반 512GB CXL D램 제품을 개발했고, 작년 5월에는 업계 최초로 CXL 2.0을 지원하는 128GB CXL D램을 개발하며 차세대 메모리의 상용화 시대를 앞당겼다.
이와 함께 삼성전자는 CXL 컨소시엄에 적극 참여해 CXL 생태계 구축에도 힘쓰고 있다. 특히 삼성전자는 CXL 컨소시엄을 결성한 초기 15개 이사회 멤버사 중 하나다. 메모리 업체 중 유일하게 이사회 멤버로 선정되기도 했다. 현재 CXL 컨소시엄에는 메모리 제조업체인 삼성전자와 SK하이닉스를 비롯해 구글, 메타, 엔비디아, AMD 등 총 240여개 반도체 관련 기업들이 CXL 생태계 확대를 위해 협력하고 있다.
![](https://cdn.bizwatch.co.kr/news/photo/2024/07/03/9c24f80dcfca11b32cd77a0afa2458fb.jpg)
지난달에는 CXL 생태계를 선도하기 위해 업계 최초 인프라를 구축하기도 했다. 삼성전자는 화성캠퍼스에 위치한 삼성 메모리 리서치 센터(SMRC)에 업계 최초로 글로벌 오픈소스 솔루션 기업 레드햇(Red Hat)이 인증한 CXL 인프라를 구축했다. 인프라를 구축할 경우 CXL 제품 인증을 내부에서 자체 완료한 후 레드햇 등록 절차를 즉시 진행할 수 있어 신속한 제품 개발이 가능하다. 레드햇 본사에 제품을 보내 테스트를 반복하는 과정을 단축할 수 있어, 제품 개발을 위한 시간을 충분히 확보할 수 있다.
또 고객들과 개발단계부터 제품 최적화를 진행해 맞춤 솔루션을 제공할 수 있고, 고객이 필요할 때 즉각적인 대응이 가능하다. 인프라를 갖추지 않은 경쟁사 대비 경쟁력이 높은 이유다.
![](https://cdn.bizwatch.co.kr/news/photo/2024/07/03/2f6bf34eb594c6524bf40f5cbef8cc80.jpg)
SK하이닉스도 올 하반기 상용화 시점에 맞춰 CXL 기술 기반 제품을 양산할 전망이다. 최원하 SK하이닉스 GSM TL은 SK하이닉스 뉴스룸을 통해 "96GB와 128GB 제품을 중심으로 올 상반기에는 고객 인증을 마치고, 하반기에 상용화할 예정"이라며 "CXL 2.0 메모리 확장 솔루션을 적용한 고객은 DDR5만 탑재한 기존 시스템 대비 최대 50% 대역폭 향상을 기대할 수 있고, 용량 확장도 최대 50~100%까지 가능하다"고 언급했다.
이밖에 국내 반도체 설계(팹리스) 업체 파두는 자회사 이음(eeum)에 약 63억원(450만 달러)을 추가 투자하는 등 CXL 사업을 강화하고 있다. 이음은 파두가 지난해 10월 미국 실리콘밸리에 설립한 회사로, CXL 기반의 반도체 제품을 연구 개발하고 있다.
파두 관계자는 "국내 대표적인 메모리반도체 기업들은 CXL을 적용한 D램을 개발 중이며, 파두는 CXL SSD(대용량저장장치)와 함께 CXL D램을 CPU 및 GPU와 연결하는 CXL 스위치 반도체를 차세대 주력 제품으로 삼아 데이터센터 반도체 시장을 이끌어가고자 한다"고 설명했다.