LGU+, 통신 특화 LLM 이달 상용화…SKT는 연내

19

‘익시젠’ 기반 ‘챗 에이전트’ 6월 출시

SKT 연내 고객상담에 ‘텔코 LLM’ 적용

기존 통신 서비스 고객 만족도 향상 기대

LG유플러스 직원들이 챗 에이전트를 소개하고 있다. ⓒLG유플러스

SK텔레콤과 LG유플러스가 통신 특화 거대언어모델(LLM)을 개발 중인 가운데 LG유플러스가 먼저 이를 상용화할 계획이다. 기존 서비스에 통신 특화 LLM을 적용해 선보이는 것으로, 고객 편의성이 크게 개선될 전망이다. 회사가 그동안 축적해온 통신 데이터를 전부 학습하고 이를 기반으로 빠르게 추론까지 하는 ‘통신 전문가’가 등장한 셈이기 때문이다.

10일 통신업계에 따르면 올해 상반기 내 자체 개발한 통신 특화 LLM ‘익시젠’을 ‘챗 에이전트(비서)’에 적용할 계획이다. LG유플러스 관계자는 “차차 (익시젠 적용) 시기를 보고 있는 단계”라고 말했다.

익시젠은 LG AI연구원의 초거대 AI 모델 ‘엑사원’을 기반으로 LG유플러스의 통신 데이터를 학습시킨 모델이다. LG유플러스가 지난 4월 출시한 챗 에이전트는 자체 AI 기술 ‘익시’ 기반 AI 비서로, ▲통신 서비스 상담 ▲장애 상담 ▲자사 구독 서비스인 ‘유독’ 상품 추천 ▲비즈마켓 솔루션 안내 등을 맡는 4종으로 구성돼 있다. 챗 에이전트에 활용된 익시는 기존 자연어이해(NLU) 기술에 오픈AI의 GPT 모델을 기반으로 작동한다. NLU가 이해하지 못하는 질문은 LLM이 대신 답변하는 식이다.

챗 에이전트에 통신 특화 모델 익시젠을 적용할 경우 개인 맞춤형 답변을 제공할 수 있다. 예컨대 통신 서비스를 상담해주는 U+상담 에이전트에 로밍 요금제를 추천해달라고 문의하면 방문 예정인 국가와 과거 사용 내용 등 고객 정보를 토대로 요금제를 추천한다.

SK텔레콤은 통신 특화 LLM ‘텔코 LLM’을 이달 안에 개발 완료할 계획이다. 텔코 LLM은 SK텔레콤의 LLM 에이닷엑스와 오픈AI의 GPT-4, 엔스로픽의 클로드 등 범용 LLM을 활용한 멀티 LLM으로, SK텔레콤의 통신 데이터가 학습에 사용됐다.

SK텔레콤은 텔코 LLM을 고객상담 서비스에 가장 먼저 적용한다는 계획이다. 그러나 이같은 상용화에는 시간이 다소 소요될 전망이다. 이제까지 AI 모델 자체를 만들었다면 앞으로는 답변 품질을 높이는 고도화 작업이 남아있기 때문이다. SK텔레콤 관계자는 “6월에 개발이 완료되고 난 후에도 데이터 학습, 파인튜닝, 휴먼 피드백, 모델 평가 등의 절차를 계속 반복하며 고도화해야 한다”며 “연내 상용화가 목표”라고 말했다.

한편 KT는 지난해 말 LLM ‘믿음’ 개발을 완료하고 AICC(AI 고객센터) 인터넷(IP)TV 등 자사 기존 서비스에 일찌감치 적용했다. AICC의 경우 ‘AI 상담 어시스트’ 기능에 믿음을 적용, 고객의 의도와 맥락을 더 정확하게 파악하고 요약·분류 자동화 기능의 정확도를 높였다는 설명이다. 통신 특화 LLM은 별도로 개발하고 있지 않다.

대신 KT는 공공·금융 분야의 소버린(각국의 문화와 언어에 특화된) AI를 개발해 해당 시장을 선도하겠다는 계획이다. 소버린 AI 개발은 마이크로소프트(MS)와 함께 한다. KT는 MS와 AI 협력을 위해 6개월 간 심도깊은 논의를 해왔다는 후문이다. 김영섭 KT 대표는 “MS와 전방위적 협력으로 시장의 변화에 신속히 대응하고 한국의 디지털 혁신에 이정표가 될 수 있도록 최선을 다하겠다”고 말했다.

+1
0
+1
0
+1
0
+1
0
+1
0