SK하이닉스가 HBM(고대역폭 메모리) 5세대 제품인 HBM3E 16단 제품 출시를 공식화하며, HBM 시장 장악에 속도를 낸다. HBM4부터 대세가 될 16단을 성숙 공정인 HBM3E에서 선구현해 완성도를 높이겠다는 계획이다. 이를 통해 AI(인공지능) 반도체 시장의 '큰손'인 엔비디아와의 협력 관계도 더욱 공고해질 것으로 예상된다.
최고용량·최고층 HBM3E 개발
4일 서울 코엑스에서 열린 'SK AI 서밋'에서 곽노정 SK하이닉스 대표이사 사장은 "HBM4부터 16단 시장이 본격적으로 열릴 것으로 보인다"며 "SK하이닉스는 기술 안정성을 확보하고자 48GB(기가바이트) 16단 HBM3E를 개발 중이며, 내년 초 고객에게 샘플을 제공할 예정"이라고 말했다.
HBM은 여러 개의 D램을 수직으로 연결해 기존 D램보다 데이터 처리 속도를 끌어올린 고부가가치, 고성능 제품이다. 챗GPT와 같은 AI 분야 데이터 처리에 쓰이는 그래픽처리장치(GPU)에 필수적이다. 1세대 HBM, 2세대 HBM2, 3세대 HBM2E, 4세대 HBM3, 5세대(HBM3E) 순으로 개발됐고 HBM3E는 HBM3의 확장 버전이다.
SK하이닉스가 개발 중인 신제품은 기존 제품 대비 가장 용량이 크고, 높게 쌓은 제품이다. 용량은 현존 HBM 중 최대인 48GB(기가바이트)다. 이전까지 HBM3E의 최고 사양은 36GB HBM3E 12단이었다.
SK하이닉스는 16단 HBM3E를 생산하기 위해 12단 제품에서 양산 경쟁력이 입증된 '어드밴스드(Advanced) MR-MUF(Mass Reflow-Molded UnderFill)' 공정을 활용할 계획이다. HBM은 여러 개의 D램 칩을 수직으로 쌓고, 적층된 칩 사이에 수천 개의 구멍(I/O)을 뚫는 방식으로 만들어진다. 이후 마이크로 범프(Micro Bump)를 붙여 열을 가하면 납 소재를 녹으면서 위아래 칩의 통로가 연결된다. 이를 매스 리플로우(MR) 작업이라고 한다. 그다음 칩 사이와 외부에 보호재를 씌우는 작업이 몰디드 언더필(MUF)이다.
SK하이닉스는 어드밴스드 MR-MUF 공정과 함께 하이브리드 본딩(Hybrid bonding) 기술도 백업 공정으로 함께 개발 중이다. 하이브리드 본딩은 칩을 붙일 때 매개체인 범프를 없애고, 각 칩 표면에 드러난 구리를 직접 연결하는 방식이다. 범프 없이 칩과 칩을 접착하고, 데이터 통로를 곧바로 연결하는 것이다. 하이브리드 본딩 기술은 맞춤형 HBM으로 진화하기 위한 필수 기술로 꼽힌다.
곽 사장은 "내부 분석 결과 HBM3E 16단은 12단 제품 대비 학습 분야에서 18%, 추론 분야에서는 32% 성능이 향상됐다"며 "향후 추론을 위한 AI 가속기 시장이 커질 것으로 예상되는 가운데, 16단 HBM3E는 향후 당사의 AI 메모리 넘버원 위상을 더욱 공고히 해줄 것으로 기대된다"고 자신했다.
엔비디아 "더 많이, 빨리 필요하다"
특히 이는 엔비디아 측 요구에 따른 것으로 예상돼, 향후 SK하이닉스와 엔비디아의 공생 관계는 더욱 공고해질 것으로 전망된다. 이날 행사에서는 젠슨 황 엔비디아 최고경영자(CEO)가 데이비드 패터슨 교수와의 대담 영상에 등장해 SK하이닉스에 HBM을 빠르게 출시할 것을 독촉하기도 했다.
젠슨 황 CEO는 "HBM 메모리의 기술 개발 및 제품 출시 속도가 매우 훌륭하지만, 솔직히 말하자면 더 많이 필요하다"고 강조했다. 이어 "지금보다 더 많은 메모리 대역폭을 이용할 수 있었으면 좋겠고, 동시에 더 적은 에너지로 더 많은 대역폭을 얻을 수 있기를 바라고 있다"며 "SK하이닉스의 공격적인 제품 출시 계획이 빠르게 실현되는 것이 필요하다"고 말했다.
이에 대해 최태원 SK 회장은 "젠슨 황 CEO는 항상 스피드를 강조하고 빨리 해내길 요구한다"며 "일정을 더 당기라고 할까봐 미팅을 하기가 두렵다"고 웃으며 말했다. 이어 "(젠슨 황 CEO)가 HBM4의 공급 일정을 6개월 앞당겨달라고 요청했다"며 "곽 사장에게 할 수 있냐고 물어봤더니 '최대한 해보겠다'고 말했다"고 언급했다.
SK하이닉스는 엔비디아에 지난 3월 HBM3E 8단을 업계 최초로 납품하기 시작했다. 지난달에는 세계 최초로 HBM3E 12단 제품 양산을 시작, 올해 4분기 출하하는 것이 목표다. HBM4의 경우 내년 하반기 양산할 예정이었는데, 엔비디아 요구대로 일정이 앞당겨지면 내년 상반기부터 양산을 시작할 가능성도 점쳐진다.
최 회장은 이날 행사 이후 기자들과 만나 "고객이 원하면 우리도 더 빨리 생각해야 되는 것이고, 가능하다고 얘기는 했는데 정말로 공급 가능할 지는 내년에 가서 봐야 되는 일"이라며 "기술이라는 게 뭐 내가 당긴다고 마음먹었다고 되는 것은 아니다"라고 말했다.
이어 "칩 레벨이 갖고 있는 품질 기준에 전부 다 맞춰져야 하는 것이고 그것을 양산하는 문제까지 해결해야 하는 것이니, 양산 일정을 당겨보자는 서로 간의 의지로 합을 맞췄다 정도로 보면 이해해달라"고 부연했다.
SK-엔비디아-TSMC AI 동맹 '견고'
이날 SK는 엔비디아, TSMC와의 강력한 파트너십도 드러냈다. 최 회장은 "아무리 좋은 칩을 디자인해도 실제로 만들어낼 수 없다면 의미가 없다"며 "SK는 엔비디아와 함께 TSMC와 긴밀히 협력해 전 세계 AI 칩의 공급 부족 현상을 해결하기 위해 노력 중"이라고 말했다.
젠슨 황 CEO도 SK하이닉스와의 파트너십에 대해 강조했다. 그는 "엔비디아는 플랫폼 회사로서 우리는 생태계의 도움이 필요하다"며 "중요한 파트너인 SK하이닉스와는 고대역폭 메모리에서의 혁신이 이뤄질 수 있도록 여러 세대의 컴퓨팅 아키텍처에 대해 협력하고 있다"고 말했다.
이어 "SK하이닉스와 엔비디아가 함께한 HBM 메모리 덕분에 '무어의 법칙'을 뛰어넘는 진보를 지속할 수 있었다"고 강조했다. 무어의 법칙은 인텔의 공동 설립자인 고든 무어가 언급한 개념으로, 반도체 집적회로 성능이 24개월마다 2배로 증가한다는 법칙이다.
파운드리(반도체 위탁생산) 업계 1위 업체인 대만 TSMC의 웨이저자 CEO도 영상으로 등장해 "HBM에 대한 SK하이닉스와의 파트너십에 대해 진심으로 감사하는 마음을 갖고 있다"며 "SK하이닉스의 HBM이 오늘날의 데이터 집약적인 환경에서 AI 가속화의 중추 역할을 수행하고 있기 때문"이라고 말했다.
또 "우리가 함께 노력한다면 AI 혁명을 더욱 가속화해 지속 가능하고 확장 가능한 솔루션을 만들고, 이를 통해 우리의 세상을 더 나은 곳으로 만들어 갈 수 있을 것"이라고 제언했다.