최근 산업계에서 AI(인공지능)는 최고의 화두죠. 특히 그중에서 '온디바이스(On-device) AI'에 대한 관심이 상당합니다. 대표적으로 삼성전자가 최근 출시한 상반기 전략 스마트폰 '갤럭시S24' 시리즈는 온디바이스 AI를 탑재한 '최초 AI폰'임을 소구하며 판매를 늘리고 있죠. 

LG전자도 예외는 아닌데요. 지난 6일 LG전자는 AI 노트북 시장 선도를 위해 온디바이스 AI 기술 개발에 속도를 낸다고 밝혔습니다. 이를 위해 AI 기술 개발 및 서비스 기업인 업스테이지와 '온디바이스 AI 기술 개발 협력'을 위한 업무협약(MOU)을 체결했는데요.

양사는 이번 업무협약을 통해 온디바이스 AI 기반의 '경량화 언어 모델(SLM, Small Language Models)'과 노트북에 적용하는 AI 기능 및 서비스 개발 협업 등을 단계적으로 진행할 계획입니다. 정보 보안과 분야별 특화 기능 개발 등 강점을 가진 업스테이지의 '솔라(Solar)' 모델을 활용할 예정이죠.

같은 날 AI 반도체 원천기술 기업인 딥엑스도 LLM(초거대 언어 모델)과 생성형 AI를 실용화시킬 초저전력 온디바이스 AI 반도체를 개발하겠다고 밝힌 바 있습니다. 개인화 기기에서 지능은 초거대 AI의 수준으로, 전력은 최저 수준으로 구동할 수 있는 온디바이스 AI용 반도체를 내년 하반기 선보일 것이라고 하네요.눈과 귀가 '뇌' 속으로?

이토록 온디바이스 AI에 열광하는 이유는 뭘까요? 그간 AI 기술은 모바일 등 스마트 기기에서 수집한 정보를 중앙 클라우드 서버로 전송해 분석하고, 다시 기기에 보내는 방식으로 진행됐습니다. 대량의 데이터를 클라우드에 저장하기 때문에 거대한 GPU(그래픽저장장치)가 필요한 구조였죠. 최근 GPU 가격이 폭등하며 품귀현상까지 생긴 것도 이 때문이었습니다. 

온디바이스 AI는 모델을 개발해 학습시키는 것은 클라우드 AI와 비슷합니다. 하지만 온디바이스 AI는 온디바이스 AI는 사용자와 직접 접촉하는 하드웨어인 '엣지 디바이스'에 AI가 결부된 형태입니다. 이름 그대로 멀리 떨어진 클라우드 서버를 거치지 않고 스마트 기기 자체적으로 정보를 수집하고 연산하는 방식인 거죠.

삼성전자 반도체 뉴스룸에 올라온 정보를 토대로, 온디바이스 AI를 인체와 비교해 볼게요. 기존에 클라우드 서버가 정보를 처리하는 뇌라면, 정보를 수집하는 스마트폰이나 태블릿 PC는 눈과 귀라고 볼 수 있겠죠. 뇌는 눈과 귀가 보고 듣는 정보를 토대로 현장을 이해하게 됩니다. 이처럼 멀리 떨어져 있는 클라우드는 실제 정보가 발생하는 현장을 본질적으로 이해하기 어렵죠. 이에 비해 온디바이스 AI는 환경을 직접 경험하고 정보를 처리합니다. 덕분에 실제 사용하는 사람에게 더 적합한 결정을 내릴 수 있죠. 

장점은 이뿐이 아닙니다. 단말 기기 내부에서 정보를 처리하기 때문에 지연 없이 빠른 작업이 가능하고요. 중앙 서버를 통하지 않기 때문에 기존 클라우드 기반 AI의 단점이었던 보안 문제도 없습니다. 또 별도의 네트워크가 필요 없어 인터넷 연결이 어려운 상황에서도 실시간 번역 등의 작업이 가능해지죠.

금값 'GPU' 대체 가능할까

온디바이스 AI는 작은 크기의 AI 모델뿐만 아니라 거대언어모델(LLM) 및 생성형 AI와 같은 초거대 AI를 널리 보편화할 수 있는 근본적인 솔루션으로 손꼽히고 있는데요. AI를 위해 필요한 전력은 많아지는데, GPU에만 기댈 수 있는 상황은 아니기 때문이죠. 

딥엑스에 따르면, 거대 AI 모델이 상용화될 경우 전 세계에서 소모되는 GPU 에너지는 한 나라의 전력 에너지를 넘어서는 수준에 이르게 된다고 합니다. 마이크로소프트, 구글, 메타 등 글로벌 기업들이 GPU를 대체하고 자사의 AI 알고리즘 수행에 최적화된 자체 칩을 제작하는 이유도 여기에 있죠.

딥엑스 관계자는 "이 서비스가 일상화 된다면 전력 요구량과 비용은 인류가 감당할 수 없는 치명적인 수준에 이르게 될 것"이라고 설명했습니다.

장동인 카이스트 AI대학원 책임교수는 MIT 테크놀로지 리뷰에 올린 칼럼에서 "이번 CES 2024의 핵심 키워드로 온디바이스 AI를 꼽고 "온디바이스 AI는 새롭게 탄생하는 시장이기 때문에 이를 주도하는 기업이 누구인지가 매우 중요하다"고 말했습니다. 새롭게 태동한 온디바이스 AI 시장의 글로벌 주도권은 누가 잡게 될지 기대되시죠?

[테크따라잡기]는 한 주간 산업계 뉴스 속에 숨어 있는 기술을 쉽게 풀어드리는 비즈워치 산업부의 주말 뉴스 코너입니다. 빠르게 변하는 기술, 빠르게 잡아 드리겠습니다. [편집자]