단순히 질문에 답하는 챗봇 형태를 넘어 스스로 업무를 수행하는 인공지능(AI) 에이전트 시대가 본격화하면서 검색증강생성(RAG) 기술의 중요도가 높아지고 있다.
RAG(Retrieval-Augmented Generation)는 AI가 답변을 내놓기 전 기업 내부 문서나 데이터베이스, 웹 문서 등에서 관련 정보를 실시간으로 검색한 뒤 이를 기반으로 답변을 내놓는 기술을 말한다.
기존 대규모언어모델(LLM)은 미리 학습한 데이터에만 의존하기에 사실이 아닌 것을 그럴듯하게 꾸며내는 '환각(할루시네이션)' 현상에서 자유롭지 못했다. 반면 RAG는 실시간으로 정확한 데이터를 찾아와 답변의 근거로 삼기 때문에 환각을 획기적으로 줄이고 신뢰도를 대폭 높일 수 있다.
최근 AI 에이전트가 기업 업무 전반으로 확산하면서 RAG의 몸값은 더욱 뛰고 있다. 고객 상담, 법률 검토, 특허 분석 등 실제 업무 환경에서는 자연스러운 답변보다 정확한 근거를 기반으로 한 판단이 중요하기 때문이다. 이에 국내 ICT기업들도 RAG 성능을 고도화하기 위한 기술 경쟁에 속도를 내고 있다.
KT는 자체 개발한 RAG 기술인 'K-RAG'를 앞세웠다. 한국어 맥락을 정확히 짚어내는 '임베딩 모델'과 검색 결과의 우선순위를 재조정하는 '리랭커 모델'을 기반으로 했다. 현재 사내 지식 검색 서비스 'KT지식허브'에 사용 중이며, 기업 대 소비자(B2C)·기업 간 거래(B2B) 영역으로 확대 적용할 계획이다.
SK텔레콤은 AI 검색 플랫폼 '라이너'와 손을 잡았다. SK텔레콤의 독자 AI 모델 'A.X K1'에 라이너의 고정밀 RAG 기술을 결합해 환각 현상을 줄이고 답변 정확도를 높이는 것이 목표다. 향후 차세대 AI 모델 개발에도 RAG 기술을 확대 적용할 계획이다.
KT클라우드는 'RAG Suite(래그 스위트)'를 앞세워 공공·기업 고객 공략에 나섰다. 클라우드 보안인증(CSAP)을 획득해 보안 규제가 엄격한 공공기관에서도 활용할 수 있다. 기업이 보유한 PDF·워드(DOCX) 등 비정형 데이터를 AI가 활용할 수 있는 형태로 가공하고, 별도의 인프라 구축 없이 RAG 기반 서비스를 구현할 수 있도록 돕는다.
최근에는 개인정보 탐지·마스킹(PII), 부적절한 답변을 필터링하는 'AI 응답 가드레일', 검색 결과 우선순위를 재정렬하는 '리랭크(Rerank)' 기능 등을 추가해 보안성과 정확성을 동시에 보강했다.
AI 에이전트 시장이 확대될수록 RAG 경쟁은 더욱 치열해질 전망이다. 업계 관계자는 "최근 AI 에이전트에 대한 시장의 관심이 높아지고 있다"며 "에이전틱 AI를 구현하기 위해서는 RAG가 필수적인 만큼 기업들도 관련 솔루션 고도화에 속도를 내고 있다"고 전했다.
