에릭 데이비스 SKT AI 테크 콜라보레이션 담당이 30일 오전 서울 중구 SKT타워에서 열린 '텔코 LLM' 설명회에 참석해 텔코LLM 관련 발표를 하고 있다./사진=이명근 기자 qwe123@
SK텔레콤이 5G 요금제와 공시지원금 등 우리나라 통신 전문용어와 인공지능(AI)의 윤리가치를 학습한 이른바 '통신사 특화 거대언어모델(텔코 LLM)' 개발을 6월 중에 완료한다.
SK텔레콤은 30일 서울 중구 SKT타워에서 이 같은 내용의 텔코 LLM 설명회를 개최했다.
SK텔레콤은 6월 중 한국형 텔코 LLM 개발을 완료하고 향후 글로벌 버전까지 개발하겠다는 계획이다.
에릭 데이비스 SKT AI 테크 콜라보레이션 담당이 30일 오전 서울 중구 SKT타워에서 열린 '텔코 LLM' 설명회에 참석해 텔코LLM 관련 발표를 하고 있다./사진=이명근 기자 qwe123@
에릭 데이비스 SKT AI Tech Collaboration 담당은 "한 개의 범용 LLM으로 통신사들이 하려는 다양한 서비스와 문제를 해결하는 것은 쉽지 않을 것"이라며 "통신 데이터와 도메인 노하우에 맞춰 조정하는 미세조정(파인튜닝)과 모델평가를 거쳐 다양한 텔코LLM을 만들고 이를 상황에 맞게 골라 쓸 수 있도록 하는 것이 SKT만의 멀티LLM 전략"이라고 설명했다.
에릭 데이비스 SKT AI 테크 콜라보레이션 담당이 30일 오전 서울 중구 SKT타워에서 열린 '텔코 LLM' 설명회에 참석해 텔코LLM 관련 발표를 하고 있다./사진=이명근 기자 qwe123@
텔코 LLM을 도입하면 3분30초(고객 상담 3분, 상담 후 업무 처리 30초) 이상 걸렸던 지금의 고객센터 상담 대응 시간이 크게 단축될 전망이다. 텔코 LLM이 5G 요금제와 T멤버십, 공시지원금 등 통신 전문 용어와 AI 윤리가치와 같은 통신사 내부 지침을 학습하고 해결책을 상담원에게 제공할 뿐만 아니라 상담 내용을 요약해 제공하기 때문이다.
기존에는 고객센터에서 상담사가 고객 문의 내용을 정리하고, 필요한 문서를 검색·요약해 답한 후 상담 내용을 기록하는 것까지 전 과정에 숙련되는 데에 많은 경험과 교육이 필요했다면 텔코 LLM이 이 과정을 줄여주는 셈이다.
에릭 데이비스 SKT AI 테크 콜라보레이션 담당이 30일 오전 서울 중구 SKT타워에서 열린 '텔코 LLM' 설명회에 참석해 텔코LLM 관련 발표를 하고 있다./사진=이명근 기자 qwe123@에릭 데이비스 SKT AI 테크 콜라보레이션 담당이 30일 오전 서울 중구 SKT타워에서 열린 '텔코 LLM' 설명회에 참석해 텔코LLM 관련 발표를 하고 있다./사진=이명근 기자 qwe123@정민영 SKT AI플랫폼 담당이 30일 오전 서울 중구 SKT타워에서 열린 '텔코 LLM' 설명회에 참석해 인텔리전스 플랫폼 관련 발표를 하고 있다./사진=이명근 기자 qwe123@정민영 SKT AI플랫폼 담당이 30일 오전 서울 중구 SKT타워에서 열린 '텔코 LLM' 설명회에 참석해 인텔리전스 플랫폼 관련 발표를 하고 있다./사진=이명근 기자 qwe123@정민영 SKT AI플랫폼 담당이 30일 오전 서울 중구 SKT타워에서 열린 '텔코 LLM' 설명회에 참석해 인텔리전스 플랫폼 관련 발표를 하고 있다./사진=이명근 기자 qwe123@
