주요 메뉴 바로가기 (상단) 본문 컨텐츠 바로가기

LGU+, 옵트에이아이와 AI 토큰 최적화 기술 개발

포인트경제 조회수  

[포인트경제] LG유플러스는 AI 최적화 전문 기업 옵트에이아이와 손잡고 AI 구동 효율을 대폭 개선하는 토큰 최적화 기술 개발에 나선다. AI 서비스 이용 확대로 인프라 비용 부담이 커지는 상황에서 최소한의 자원으로 최상의 성능을 구현하기 위한 조치다.

△ AI 모델 최적화로 운영 효율성 극대화

이상엽 LG유플러스 CTO(전무, 왼쪽)와 이재호 옵트에이아이 대표가 토큰 최적화 협력과 관련해 기념촬영을 하는 모습. /LG유플러스
이상엽 LG유플러스 CTO(전무, 왼쪽)와 이재호 옵트에이아이 대표가 토큰 최적화 협력과 관련해 기념촬영을 하는 모습. /LG유플러스

양사는 AI 서비스 운영 과정에서 발생하는 GPU 전력과 자원 소모를 줄이면서 처리 속도를 높이는 데 힘을 모은다고 2일 밝혔다. LG유플러스는 실제 서비스 기반의 검증 및 적용을 맡고, 옵트에이아이는 연산 경량화 및 가속화 연구를 주도한다.

앞서 양사는 스마트폰 환경을 위한 온디바이스 AI 분야에서 기술력을 입증했다. 엑사원 기반 소형언어모델(sLM)에 경량화 솔루션을 도입해 성능을 유지하면서도 전력 사용량 78%, 모델 크기 82%를 절감하는 성과를 거뒀다. 이어 진행된 GPU 기반 최적화 연구에서도 연산 과정을 개선해 동일 자원 대비 토큰 처리량을 기존보다 최대 4배까지 늘렸다.

또한 양사는 지난 1일 ‘Efficient AI 테크 세미나’를 열어 관련 학계 및 산업계 전문가들과 기술 동향을 공유했으며, 향후 연구 범위를 서버 GPU 영역으로 넓혀 자사 서비스와 인프라 전반에 단계적으로 반영할 방침이다.

LG유플러스 이상엽 CTO는 “AI 경쟁력은 같은 자원으로 얼마나 많은 토큰을 다룰 수 있는가에 있다”며 “다양한 협력사와 함께 토큰 최적화 성과를 창출해 나갈 것”이라고 전했다. 옵트에이아이 이재호 대표 역시 “실제 운영 환경에서 검증할 수 있는 최적화 기술을 지속적으로 고도화하겠다”고 밝혔다.

△ 글로벌 데이터 규제 맞춤 대응 체계 구축

한편, LG유플러스는 데이터스페이스 전문기업 아이비씨티(IBCT)와 전략적 파트너십을 맺고 국내 제조기업의 유럽 공급망 규제 대응을 돕는다.

양사는 메르세데스-벤츠, BMW 등 글로벌 완성차 기업들이 주도하는 데이터 공유 생태계 ‘카테나-X’ 도입부터 구축, 운영까지 전 과정을 통합 지원하는 사업을 추진한다. IBCT는 가입 절차 및 자체 플랫폼 기반의 데이터 관리 솔루션을 제공하고, LG유플러스는 클라우드·통신·보안 인프라 및 컨설팅을 담당해 수출 기업들이 보안 우려 없이 해외 규제 요구사항을 충족할 수 있도록 지원할 계획이다.

+1
0
+1
0
+1
0
+1
0
+1
0

공유하기