지난 20일 경계현 삼성전자 디바이스솔루션(DS) 부문장(사장)이 주주총회에서 AI 추론칩 '마하1'을 개발 중이라고 밝히며 업계의 관심이 쏠렸는데요. AI 반도체 시장에서 경쟁사에 밀린 삼성전자가 1위 자리를 되찾겠다며 일종의 '비밀병기'를 공개한 것이기 때문이죠.
이날 경 사장은 "AI 시대에는 컴퓨터와 메모리가 대규모로 결집할 수밖에 없는데 현존하는 AI 시스템은 메모리 병목으로 인해 성능 저하와 파워 문제를 안고 있다"며 "DS는 이 문제를 개선하기 위해 AGI 컴퓨팅 랩을 신설하고 AI 아키텍처의 근본적인 혁신을 추진하겠다"고 말했습니다. 그러면서 "현재 개발 중인 마하1 AI 인퍼런스 칩은 그 혁신의 시작이 될 것"이라고 강조했죠.
앞서 경 사장은 링크드인을 통해 미국과 한국에서 '삼성전자 반도체 AGI(범용인공지능) 컴퓨팅 랩'을 신설했다고 밝힌 바 있는데요. 그는 AGI 컴퓨팅 랩의 설립 이유에 대해 "미래 AGI의 엄청난 처리 수요를 충족할 수 있는 완전히 새로운 유형의 반도체를 만들기 위함"이라고 설명했죠.
마하1은 AGI 컴퓨팅 랩에서 개발하는 칩 중 가장 처음 공개된 제품입니다. 삼성전자는 올해 연말 마하1 생산에 돌입할 계획인데요. 현재 기술 검증이 완료됐고, 시스템온칩(SoC) 디자인이 진행하고 있다고 합니다. 연말 생산에 들어가면 내년 초 삼성전자 칩으로 구성된 AI 시스템이 완성된다는 게 경 사장의 설명이죠.
마하1, 무슨 역할할까
아직 마하1이 정확히 어떤 역할을 하고, 어느 정도 수준의 성능을 낼 지 정확히 알려진 건 없습니다. 현재까지의 정보는 이날 경 사장이 주총에서 언급한 것이 전부인데요. 이에 따르면 마하1은 FPGA(프로그래밍이 가능한 시스템 반도체) 형태의 'AI 추론칩'입니다.
현재 많은 기업이 AI 데이터 처리를 위해 사용하는 것은 GPU(그래픽처리장치)인데요. GPU가 AI에 적합한 것은 데이터를 순차적으로 직렬 처리하는 CPU(중앙처리장치)와 달리 데이터를 병렬 처리하기 때문입니다. AI 연산을 잘하려면 인공신경망에 특화된 병렬 컴퓨팅 연산 능력이 뛰어나야 하죠. AI 시장에서 CPU보다 GPU가 각광받는 이유입니다.
다만 GPU는 AI를 처리할 수 있는 성능은 갖췄지만, 애초에 3D 게임 같은 고사양의 그래픽 처리를 위한 제품입니다. AI용으로 개발된 것이 아니라는 뜻이죠. 그래서 AI 연산 외의 부분에서 성능이 낭비되고, 비용이나 전력 소모 등 비효율적인 부분이 발생할 수밖에 없습니다. 무엇보다 가격이 비싸기도 하고요.
그래서 개발된 것이 FPGA입니다. FPGA는 칩 내부의 하드웨어를 목적에 따라 프로그래밍할 수 있어 유연성이 높은 것이 특징인데요. 주문형반도체(ASIC)인 GPU는 용도가 정해져 있지만, FPGA는 칩 내부 회로를 용도에 따라 바꿀 수 있어 AI 알고리즘에 최적화할 수 있다는 장점이 있죠.
커지는 AI 추론칩 시장, 승자는
마하1은 SK텔레콤이 지난 2020년 출시한 FPGA칩인 '사피온 X220'과 유사한 형태가 될 것으로 예상됩니다. SK텔레콤에 따르면 사피온 X220은 AI 데이터 처리 성능을 높이는 AI 반도체입니다. AI 반도체는 학습·추론용으로 나뉘는데요. 학습용은 방대한 데이터를 학습하는 데 쓰고, 추론용은 학습 데이터를 기반으로 AI 서비스를 구현하는 데 사용합니다. 사피온 X220은 AI 추론칩입니다. 마하1과 같죠.
사피온 X220은 상용화된 AI 추론용 GPU 중 가장 뛰어난 제품과 비교해도 성능이 50% 뛰어나고 전력 효율이 20~30% 정도 낮다고 하는데요. 그러면서 가격이 합리적이라 경쟁력을 갖췄다는 게 SK텔레콤의 설명입니다. 이어 작년 11월에는 X220 대비 속도가 4배 빠른 'X330'을 내놓으며 성능 향상을 지속하고 있죠.
결국 마하1의 성능이 이보다 얼만큼 혁신적인 경쟁력을 확보할지가 성공의 관건일 것으로 보입니다. 삼성전자가 준비 중인 마하-1은 메모리와 GPU 사이 병목 현상을 기존보다 8분의 1가량 줄였다고 합니다.
또 경 사장은 "고대역폭메모리(HBM) 대신 LP(저전력) 메모리를 사용해 대규모언어모델(LLM) 추론이 가능하도록 개발 중"이라고 언급했습니다. 현재 AI 반도체에 쓰이는 고가의 HBM을 사용하지 않아도 될 수준의 경량화도 기대되죠.
삼성전자는 마하1을 통해 현재 SK하이닉스가 주도하고 있는 HBM 위주의 AI 반도체 메모리 시장에 지각변동을 일으킬 것으로 기대됩니다. 일단 시장 전망은 좋습니다. KB증권이 시장조사기관 옴디아를 인용한 자료를 보면 2030년 AI 추론칩 시장은 1430억 달러(약 192조원)로 작년 60억 달러(약 8조원) 대비 7년 만에 24배 성장할 것으로 예상됩니다.
특히 이날 경 사장은 AI 시대의 반도체 1등으로 살아남기 위해 마하1을 비롯한 여러 신사업을 시도하며 혁신을 추진하겠다는 의지를 밝혔는데요. 향후 2~3년 내 1위의 아성을 되찾겠다는 그의 포부가 담긴 발언으로 이번 주 [테크따라잡기]의 문을 닫겠습니다.
"특정 제품 하나로 50년 1등을 한 기업은 없습니다. 삼성 반도체는 메모리 등 기존 사업만으로는 장기적으로 반도체 1등을 유지할 수 없습니다. 따라서 미래를 위해 다양한 신사업을 준비해야 합니다.
2024년은 삼성이 반도체 사업을 시작한 지 50년이 되는 해입니다. 올해는 본격 회복을 알리는 재도약과 DS의 미래 반세기를 개막하는 성장의 해가 될 것입니다. DS부문은 앞으로 2~3년 안에 반드시 세계 1위의 위치를 되찾겠습니다. 많은 관심과 격려를 해주시길 바랍니다."
[테크따라잡기]는 한 주간 산업계 뉴스 속에 숨어 있는 기술을 쉽게 풀어드리는 비즈워치 산업부의 주말 뉴스 코너입니다. 빠르게 변하는 기술, 빠르게 잡아 드리겠습니다. [편집자]
