[이코노미스트 정길준 기자] LG유플러스가 인공지능(AI) 모델 최적화 전문기업 옵트에이아이와 손잡고 AI 서비스 운영 효율성을 높이는 ‘토큰 최적화’ 기술 확보에 나선다.

LG유플러스는 옵트에이아이와 AI 운영 효율화 기술 개발을 위한 협력을 확대한다고 2일 밝혔다. 최근 GPU(그래픽처리장치) 연산량과 전력 소모 등 인프라 비용 부담이 급증하면서 동일한 자원으로 더 많은 처리량을 구현하는 효율화 기술이 핵심 경쟁력으로 떠오른 데 따른 조치다.

토큰은 AI가 이용자의 질문을 해석하고 답변을 생성할 때 처리하는 데이터의 기본 단위다. LG유플러스는 AI 서비스 운영 경험을 바탕으로 기술 검증과 실증을 맡고, 옵트에이아이는 AI 모델 경량화 및 연산 효율화 기술 연구·개발을 담당한다.

앞서 양사는 LG유플러스의 ‘엑사원’ 기반 소형언어모델(sLM)을 경량화해 온디바이스 온 온디바이스 NPU(신경망처리장치) 환경에서 구동하는 데 성공했다. 이를 통해 기존 CPU 방식 대비 성능을 유지하면서 전력 소모는 78%, 모델 크기는 82% 줄이는 성과를 거둔 바 있다.

현재 진행 중인 서버 GPU 기반 최적화 연구에서도 성과가 가시화되고 있다. 연산 과정을 실제 서비스 환경에 맞게 개선해 동일한 GPU에서 처리할 수 있는 토큰량을 기존 대비 최대 4배 높였다.

이상엽 LG유플러스 CTO는 “AI 경쟁력은 성능 향상을 넘어 동일 자원으로 얼마나 많은 토큰을 효율적으로 처리하느냐에 달려 있다”며 “옵트에이아이 등 다양한 파트너와 협력해 실제 서비스에 적용 가능한 토큰 최적화 성과를 만들어가겠다”고 말했다.

이재호 옵트에이아이 대표는 “생성형 AI 시대에는 높은 성능만큼 운영 효율 확보가 필수적”이라며 “LG유플러스와 함께 검증 가능한 AI 최적화 기술을 고도화해 산업 효율 향상에 기여하겠다”고 전했다.

ⓒ이코노미스트(https://economist.co.kr) '내일을 위한 경제뉴스 이코노미스트' 무단 전재 및 재배포 금지