▲LG유플러스의 AI 토큰 최적화 기술 연구에 참여한 연구진이 기념촬영을 하고 있다. (사진제공=LG유플러스)
LG유플러스는 AI 토큰 최적화 연구 논문 2편이 세계 3대 AI 학회인 '뉴립스(NeurIPS) 2026'의 온디바이스 인텔리전스 워크숍에 채택됐다고 29일 밝혔다. 뉴립스는 ICML, ICLR과 함께 세계 3대 AI 학회로 꼽힌다. 올해 행사는 12월 6일부터 12일까지 호주 시드니에서 열린다.
LG유플러스는 스마트폰 환경에서 소형언어모델(sLM)을 효율적으로 실행하고 학습하는 기술을 연구했다. AI가 질문을 이해하고 답변을 생성할 때 사용하는 데이터 단위인 '토큰'의 처리 효율을 높이는 것이 핵심이다.
회사는 통화 서비스에 활용할 소형언어모델에 경량화와 추론 가속 기술을 적용했다. 그 결과 최신 클라우드 AI 수준의 성능을 유지하면서 기존 방식보다 처리 속도를 약 4.5배 높이고 배터리 소모는 약 77% 줄였다.
개인 데이터를 외부 서버로 전송하지 않고 스마트폰 내부에서 AI를 학습하는 기술도 개발했다. 실제 스마트폰 환경에서 검증한 결과 서버에서 학습한 것과 같은 수준의 정확도를 확보했다.
LG유플러스는 이번 연구 성과를 자사 AI 서비스에 적용하는 방안을 검토하고 있다. 스마트폰에서 확보한 최적화 기술을 서버 그래픽처리장치(GPU) 환경으로 확대할 계획이다.
이상엽 LG유플러스 최고기술책임자(CTO)는 "고객이 AI 서비스를 보다 빠르고 편리하게 이용할 수 있도록 관련 기술을 실제 서비스에 적용하고, 향후 서버 환경까지 연구 범위를 확대하겠다"고 말했다.
