AI(인공지능)의 발전은 반도체 시장에 많은 변화를 불러왔다. 반도체집적회로의 성능이 24개월마다 2배로 증가한다는 '무어의 법칙'은 AI 반도체 시장에서는 더 이상 통하지 않는 분위기다. 누군가는 외면했던 값비싼 HBM(고대역폭메모리)은 이례적으로 시장의 대세가 됐다. 이에 반도체 업계에서는 '넥스트 HBM' 기술을 선점하기 위한 움직임이 한창이다. 차세대 기술을 우선 확보해 예측하기 어려운 AI 시장에 빠르게 대응하고, 수위를 차지하기 위한 노력이다. HBM 열풍을 이을 미래 대세 기술을 앞서 살펴본다.[편집자]
그래픽 특화된 D램
기술의 발전으로 CPU(중앙처리장치) 속도가 비약적으로 빨라지면서 메모리도 이에 걸맞게 진화하고 있다. 연산 장치가 제대로 능력을 발휘하기 위해서는 저장 장치가 필수적이어서다. 그중 대표적인 게 'DDR(더블데이터레이트)'이다.
DDR은 데이터를 저장할 수 있는 메모리인 D램 종류 중 하나다. 시계가 시·분·초 단위로 움직이듯 D램은 '클럭' 단위로 동작한다. 클럭은 전압이 왔다 갔다 하는 한 사이클을 뜻한다. DDR은 한 번의 클럭 신호에 데이터 두 개를 처리한다는 의미다.
DDR은 데이터 전송속도와 동작전압에 따라 DDR2-DDR3-DDR4-DDR5로 진화해 왔다. 숫자가 높아질수록 데이터 처리 속도는 빨라지고, 동작전압과 소비전력도 낮아진다. 또 DDR은 사용처에 따라 분류할 수도 있다. 안정성, 저전력, 속도 등 저장장치가 주력하는 분야에 따라 사용처별로 제품을 달리 사용하기 때문이다.
대표적으로 컴퓨터에 들어가는 CPU는 안정성이 높은 DDR이 적합하고, 부피가 작고 발열에 예민한 스마트폰에는 저전력 제품인 LPDDR이 들어간다. GDDR은 GPU(그래픽처리장치)에 주로 사용되는 D램 제품을 말한다.
GDDR은 그래픽을 빠르게 처리하는 데 특화한 그래픽 D램의 표준 규격이다. 데이터를 순차적으로 직렬 처리하는 CPU가 아닌, 병렬 처리하는 GPU를 보조하는 역할이다. GDDR이 병렬 연산에 최적화될 수밖에 없는 이유다. 또 일반 DDR 대비 데이터 전송을 위한 채널이 많고 대역폭도 높다.
HBM보다 빠른 GDDR?
특히 GDDR은 HBM을 제외하고는 현존하는 메모리 중 가장 빠른 제품으로 꼽힌다. HBM은 D램 중간에 '데이터 도로' 역할을 하는 실리콘 관통 전극 'TSV'를 뚫어 데이터 전송 속도를 높인 제품이다. TSV는 여러 개의 D램 칩에 수천 개의 구멍(I/O, 데이터 입출력 통로)을 뚫고 이를 수직 관통 전극으로 연결한 기술이다. D램의 층과 층 사이를 엘리베이터처럼 연결한 셈이다.
HBM은 TSV 공정을 도입해 I/O 수가 1024개에 달한다. 이는 GDDR(64개)에 비하면 16배 많은 수준이다. 데이터가 이동하는 도로가 1024개로 일반 D램 대비 많기 때문에 데이터 병목현상을 최소화할 수 있다. 아울러 HBM은 GPU나 AI 반도체 바로 옆에 배치돼 함께 패키징(포장) 되는 메모리이기 때문에, 연산 장치와 메모리 사이의 물리적 거리가 가깝다는 장점도 있다.
하지만 전송 속도로만 보면 GDDR은 HBM보다도 빠르다. SK하이닉스의 제품으로 예를 들면, 최근 공개한 GDDR7은 초당 1.5TB(테라바이트) 이상의 데이터를 처리할 수 있다. 이에 비해 HBM3E는 초당 최대 1.18TB의 데이터를 처리한다. 삼성전자의 제품 역시 GDDR7은 최대 초당 1.5TB의 데이터를 처리할 수 있고, HBM3E 12단 제품은 초당 1.25TB를 처리할 수 있다. GDDR이 HBM에 비해 GPU와의 물리적인 거리가 멀고 도로 폭이 좁지만, 단순히 전송 속도만 놓고 보면 더 빠른 셈이다.
GDDR은 HBM에 비해 상대적으로 제조 비용도 낮은 편이다. HBM의 경우 TSV 공정을 통해 GPU와 함께 패키징해 탑재돼야 하는 것에 비해, GDDR은 패키징 없이 단품을 넣어도 되기 때문이다. 현재까지 고성능 AI 서버에는 GPU와 HBM이 들어간 AI 가속기를 사용하지만, 모든 AI 가속기에 HBM을 사용하기에는 가격 부담이 큰 게 사실이다. 실제 HBM의 가격은 일반 D램 대비 3배 이상인 것으로 알려져 있다.
차세대 AI 반도체로 떠오를까
이러한 장점 덕에 GDDR은 공급이 부족한 HBM의 일부 수요를 대체할 수 있는 고성능 메모리로 주목받고 있다. AI 시대에 접어들며 GPU가 병렬 컴퓨팅 연산 능력을 인정받아 사용처가 넓어진 것처럼, GDDR 역시 여러 영역에서 관심을 보이는 모양새다.
GDDR의 활용 가능성이 커진 분야는 초고속 대용량 데이터 처리 기술을 요구하는 고성능 컴퓨팅(HPC), AI, 딥러닝, 가상현실, 메타버스 등이다. 또 차량 영역에서의 수요도 있을 것으로 보인다. 차량 내 고해상도 지도, 동영상 스트리밍, 고사양 게임 등 인포테인먼트 시스템이 고도화되는 한편, 자율 주행 시스템의 확대로 대량의 자율주행 데이터를 빠르게 처리해야 하는 기술이 요구되고 있어서다.
이에 최근 반도체 업계에서는 GDDR 시장을 선점하기 위한 기술 패권 경쟁이 한창이다. 이전까지 GDDR의 시장 대세는 마이크론이었다. AI 반도체 '큰 손'인 엔비디아에 GDDR을 주로 공급하는 곳도 마이크론인 것으로 알려져 있다.
국내 반도체 업체들은 기술력을 앞세워 시장 지배력을 넓히고 있다. GDDR은 GDDR3-GDDR5-GDDR5X-GDDR6-GDDR7로 세대가 바뀌고 있는데, 가장 최신 세대인 GDDR7의 시대를 연 것은 삼성전자다.
삼성전자는 지난해 7월 업계 최초로 32Gbps(초당 32기가비트) GDDR7 D램을 개발했다고 밝혔다. 이 제품은 기존 NRZ(1주기마다 1비트 데이터를 전송) 방식보다 동일 신호 주기에 1.5배 더 많은 데이터를 전송할 수 있는 'PAM3 신호 방식(1주기마다 1.5비트 데이터를 전송)'을 적용한 게 특징이다. 데이터 입출력 핀 1개당 최대 32Gbps 속도로 당시 업계 최고치를 구현했다.
SK하이닉스는 최근 세계 최고 수준 성능을 구현한 GDDR7을 공개했다. SK하이닉스의 GDDR7은 이전 세대보다 60% 이상 빠른 32Gbps의 동작 속도를 구현하고, 사용 환경에 따라 최대 40Gbps까지 속도가 높아진다. SK하이닉스는 3분기 중 GDDR7의 양산을 시작할 계획이다.
이에 따라 그래픽 D램 시장에서 국내 업체들의 입지는 점차 커지고 있다. 시장조사기관 옴디아에 따르면 올 1분기 글로벌 그래픽 D램 시장에서 SK하이닉스의 시장 점유율은 44.6%, 삼성전자는 40.9%로 마이크론(14.5%)을 압도했다. 지난 2022년 마이크론의 그래픽 D램 시장 점유율이 36.8%로 메모리 3사 중 가장 높았던 것과 비교하면, 국내 업체들의 성장이 두드러졌다.
다만 옴디아의 글로벌 그래픽 D램 시장 기준에는 HBM 등이 포함돼 있어 이를 GDDR만의 점유율이라고 볼 수는 없다. 그럼에도 국내 업체들의 점유율이 상당히 높아, 업계에서는 GDDR만 봐도 마이크론을 크게 따라잡았을 것으로 보고 있다. 나아가 GDDR7부터는 국내 업체들이 기술력을 앞세워 압도적 수위를 차지할 것으로 관측한다.
업계 관계자는 "이전까지 GDDR은 한정적 영역에서만 쓰였는데, 시장이 점차 넓어지면서 예전보다 중요성이 커졌다"며 "국내 업체들도 예전보다 GDDR에 관심을 기울이면서 점유율이 확대되고 있다"고 설명했다.
