Business watch

Business watch

자본시장 IT 이끈 코스콤, 이젠 'AI BackBone'

  • 2024.08.28(수) 10:00

AI 내부교육 공들여…LLM 인프라도 강화
"고품질 데이터 확보로 AI경쟁력 높일 것"

전 세계적으로 인공지능(AI)을 활용한 업무 생산성 향상이 화두로 떠오른 가운데 자본시장 IT인프라를 이끌어온 코스콤이 AI로 또 한번의 변화를 시도한다. 이른바 자본시장 내 'AI 백본(BackBone,중추)'으로 나선다는 계획이다.

직원이 알고 경험하는게 먼저

AI 시대 코스콤이 가장 먼저 공을 들이는 건 '교육'과 '경험'이다. 직원들이 AI 생태계에 익숙해질 수 있도록 생성형 AI 활용과 개발 교육을 지속적으로 실시하고 있다.

특히 직무 리더를 대상으로 '생성형 AI 릴레이 특강'을 진행 중이다. 이 프로그램에는 △ChatGPT 소개 및 업무활용팁 △MS365 코파일럿(Copilot)이 바꾸는 업무의 미래 △생성형AI의 금융권 실전 활용방안 등을 포함해 직무별로 특화된 효율성을 높이는데 주안점을 뒀다.

일반 직원뿐 아니라 임원 대상 AI 관련 교육도 진행 중이다. 임원 대상 분기별 개최하는 경영자문회의에서 최신 AI 기술 동향을 공유하며, AI 기술에 대한 이해를 넓혀가고 있다.

교육과 더불어 내부 역량 강화를 위한 전문가 채용과 사내 학습 그룹을 운영하고, 연구개발(R&D)에 있어서도 데이터의 중요도와 활용도를 고려해 적용 분야(UseCase)별 활용과 성능을 검증하는 프로젝트를 진행 중이다.

LLM 인프라 강화…고객 서비스 향상 

코스콤은 대규모 언어 모델(LLM, Large Language Model)을 도입해 내부 생산성과 고객 편의성도 높이는 작업도 진행하고 있다. LLM은 방대한 양의 텍스트 데이터를 학습해 사람처럼 자연스럽게 문장을 이해하고 생성하는 AI 기술이다.

코스콤 테크놀로지 센터는 엔비디아(Nvidia) 그래픽처리장치(GPU) 서버를 도입, 퍼블릭 LLM만이 아닌 Open LLM을 활용한 내부 기술 아키텍처를 구축해 AI 기술의 효과를 극대화할 방침이다. 특히 개발 직군을 대상으로 LLM을 이용한 고객 서비스 시스템의 코드 작성을 보조하고, 복잡한 문제를 해결할 수 있게 될 전망이다. 

고객 비즈니스에 LLM을 도입해 운영 중인 사례도 있다. 코스콤 디지털 본부에서는 AI 콜 센터(AICC)시스템 개발에 LLM 모델을 도입해 고객이 자연어로 질의하면 해당 데이터를 분석해 답변을 얻을 수 있는 시스템을 제공하고 있다. 

최근 금융사 사이에서 AICC 도입 니즈가 커지면서 코스콤과 금융사 간 AICC 구축 계약도 늘어나고 있다. 코스콤 관계자는 "업무의 다양한 부분에 AI를 활용해 고객 만족도를 높이고 서비스 혁신을 가속화할 것"이라고 말했다. 

서울 여의도 코스콤 본사

가파른 변화 속 경쟁력은 결국 고품질

생성형 AI시대에 기술의 변화는 가파르다. 코스콤은 향후 AI의 경쟁력을 자체 데이터의 품질과 양으로 파악하고 있다.

이에 최신 AI를 활용한 데이터 품질 향상도 주요한 과제로 인식하고, 내부 데이터 품질의 향상과 표준화를 시도하고 있다. 데이터의 중요성과 전처리 난이도에 맞춰 사내의 모든 데이터 품질을 순차적으로 향상시켜 AI와 연결 계획이다.

또 자본시장 AI 인프라의 '백본'(BackBone) 구축을 위해 AI와 클라우드 기술 환경에 대해 지속투자도 이어나간다는 방침이다.

한상민 코스콤 테크놀로지센터 본부장은 "AI 도입을 통한 내부 역량 강화, 데이터 품질 향상, 고객 가치 창출을 통해 경쟁력을 높이고, 지속가능한 성장 기반을 마련하고 있다"며 "코스콤은 자본시장 AI BackBone으로서 앞으로도 국내 자본시장 인프라 발전을 위한 노력을 아끼지 않을 것"이라고 말했다.