KT클라우드가 국산 인공지능(AI) 반도체 스타트업 리벨리온이 개발한 전용 칩을 이르면 내달말 인프라에 적용할 계획이다. 기존 대비 전력 사용량을 5분의 1 수준으로 줄여 '전성비(전력 대비 성능)'가 뛰어난 서비스를 선보이겠다는 취지다.
윤동식 KT클라우드 대표는 18일 서울 강남구 그랜드 인터컨티넨탈 서울 파르나스에서 열린 'KT클라우드 서밋 2023' 행사 기조연설에서 "엔비디아의 에이백 대비 5분의 1 이하의 전력을 사용하고 그 이상의 성능을 낼 수 있는 NPU(Neural Processing Unit·신경망 처리 장치) 칩을 개발하고 있다"며 "5월 말쯤 KT클라우드에서 리벨리온의 아톰칩 인프라를 선보일 수 있을 것 같다"고 말했다.
KT클라우드가 '전성비'를 강조하고 나선 것은 AI가 그만큼 많은 양의 전기를 사용하기 때문이다. 블룸버그는 최근 하나의 AI 모델을 학습시키기 위해서는 미국의 일반 가정 100가구가 사용하는 것보다 더 많은 전력이 소모된다고 보도하기도 했다.
윤 대표는 이날 행사에 앞서 기자들과 만난 자리에서 "이런식으로 전력을 잡아먹는 AI를 하다가는 전 세계가 망할 것 같다"며 "누구나, 어느 기업이든 AI를 활용할 수 있고 가성비 있게 AI를 할 수 있으려면 전성비가 뛰어난 NPU가 필수적"이라고 설명했다.
KT클라우드는 NPU에서 더 나아가 PIM(Processing In Memory·지능형 반도체) 개발에도 나설 계획이다. '미래형 반도체'로 불리는 PIM은 데이터를 임시 저장하기만 하던 메모리에서 연산까지 수행해 효율을 높이는 혁신적인 기술이다.
윤 대표는 "시작은 NPU였지만 NPU에서 만족하지 않고 PIM을 계획하고 있다"며 "PIM에 대한 계획은 국가가 진행하는 K-클라우드 계획과 맞닿아 있다"고 말했다. 정부는 지난 2월 세계 최고 수준의 초고속·저전력 국산 AI 반도체 개발을 위해 2030년까지 총 8262억원을 투자하겠다는 내용의 'K-클라우드' 프로젝트를 발표한 바 있다.
윤 대표는 "GPU(Graphic Processing Unit·그래픽 처리장치) 보드에 있는 메모리 양에 따라 얼마나 많은 작업량을 소화할 수 있는지가 정해진다"며 "GPU에 있는 게 아니라 NPU 바로 앞이나 옆에 있다면 훨씬 더 빠르게 학습을 할 수 있다. 그런 점에서 PIM을 준비하고 있고 (관련 계획을) 곧 발표하도록 하겠다"고 말했다.
이어 기조연설에 나선 배순민 KT 융합기술원 AI2XL연구소장은 현재의 AI 수준이 막 걸음마를 뗀 단계라고 진단했다. 배 소장은 KT의 초거대 AI 모델 '믿:음' 개발을 총괄하고 있는 인물이다.
배 소장은 "초거대 AI는 아직 범용 AI가 아니다. 모든 것을 처리할 수는 없다"면서도 "앞으로 한 10년, 짧게는 5년, 2~3년 안에 많은 변화가 있을 것으로 보인다"고 말했다.
배 소장은 또 "KT는 초거대 AI 모델 '믿:음'을 통해 고객의 삶의 변화에 기여하고 있다"며 "고객 누구나 쉽게 초거대 AI 기술을 활용할 수 있도록 클라우드 기반 AI 풀스택(Full-Stack·운영시스템과 소프트웨어 전반)을 제공할 것"이라고 강조했다.
KT클라우드 서밋 2023은 국내외 AI·클라우드·IDC(인터넷데이터센터) 업계 관계자들이 한자리에 모여 DX(디지털전환) 산업의 현재와 미래를 공유하고 생태계 동반성장과 비전을 확인하는 행사다. 이날 행사에는 대기업·정보기술(IT) 전문기업·스타트업·공공기관·DX(디지털전환) 추진 기업의 주요 인사 1000여명이 참석했다.
