08 / 업계 · 분석
LG유플러스, AI 운영비 줄일 토큰 효율화 추진
업무 난이도에 따른 모델 선택과 연산 장치 활용이 서비스 품질을 유지하면서 비용을 줄이는 전략으로 제시됐다.

디지털투데이 보도에 따르면 LG유플러스는 AI 서비스 운영비를 낮추기 위한 토큰 효율화 기술과 관련 연구 성과를 공개했다.
보도에 따르면 회사는 서비스 품질을 유지하면서 비용을 줄이겠다는 목표를 밝혔고, 모델 선택과 연산 장치 활용을 수단으로 제시했다.
디지털투데이는 회사가 최근 기자 스터디에서 관련 기술을 소개했으며, 향후 사업화 계획도 함께 공개했다고 보도했다.
업무 난이도에 맞춘 모델 선택
디지털투데이 보도에 따르면 LG유플러스는 업무 난이도에 따라 적합한 AI 모델을 선택하는 방식을 비용 절감 전략으로 제시했다.
같은 보도에 따르면 회사는 그래픽처리장치(GPU)와 신경망처리장치(NPU)를 효율적으로 활용하는 전략도 소개했다.
서비스 운영 경험을 담은 연구
디지털투데이는 AI 학회 뉴립스(NeurIPS) 관련 워크숍에 채택된 논문이 이번 기자 스터디에서 소개됐다고 보도했다.
보도에 따르면 회사는 논문뿐 아니라 실제 서비스 운영 과정에서 확보한 기술과 노하우를 함께 소개하며 운영비 절감을 위한 접근을 공개했다.