[이슈밸리=임정은 기자] LG유플러스는 인공지능(AI) 응답 속도를 높이고 배터리 소모를 줄이는 ‘토큰 최적화’ 기술이 세계 최고 권위 AI 학회에서 연구 성과를 인정받았다고 밝혔다.
LG유플러스의 AI 토큰 최적화 연구 관련 논문 2편은 ‘뉴립스(NeurIPS) 2026’의 온디바이스 인텔리전스(On-Device Intelligence) 워크숍에 채택됐다.
뉴립스는 ICML, ICLR과 함께 세계 3대 AI 학회로 꼽힌다. 구글, 메타, 오픈AI 등 글로벌 빅테크 기업과 글로벌 주요 대학 연구진이 참여해 최신 AI 연구 성과를 발표하는 학술 대회다. 올해 행사는 12월 6~12일 호주 시드니에서 열린다. 뉴립스 워크숍은 본 학회와 별도로 특정 연구 주제를 집중적으로 다루는 세션이다.
LG유플러스는 토큰 최적화 기술을 스마트폰 환경에 적용해 제한된 메모리와 전력으로 소형 언어 모델(sLM)을 효율적으로 실행하고 학습하는 방법을 연구했다.
먼저 통화 서비스에 활용할 sLM을 개발하고, 모델 경량화와 추론 가속 기술을 적용해 스마트폰 환경에 맞게 최적화했다.
그 결과 최신 클라우드 AI 수준의 성능을 유지하면서 기존 방식보다 처리 속도를 약 4.5배 높이고 배터리 소모는 약 77% 줄였다. 성능 저하를 최소화하면서 스마트폰의 제한된 연산 자원과 배터리를 효율적으로 활용할 수 있도록 한 것이 특징이다.
개인 데이터를 외부로 보내지 않고 스마트폰 안에서 AI를 직접 학습하는 기술도 연구했다. AI 학습에 필요한 연산과 메모리 사용을 효율화해 추가 학습 과정을 스마트폰 내부에서 진행했다.
이후 실제 스마트폰 환경에서 성능을 검증한 결과, 개인 데이터를 기기 밖으로 보내지 않고도 서버에서 학습한 것과 같은 수준의 정확도를 보였다.
LG유플러스는 이번 연구에서 확보한 기술을 향후 다양한 AI 서비스에 활용하는 방안을 검토하고 있다고 밝혔다.
