韩国电信运营商 LG U+ 宣布,其两篇关于 AI Token 优化技术的研究论文已获得 NeurIPS 2026 端侧智能(On-Device Intelligence)研讨会接收。该技术针对手机等计算资源受限的设备,通过降低 AI 模型的计算开销,提高处理速度并减少电量消耗。其中,针对通话服务的小型语言模型的优化方案,相比传统方式可将处理速度提高约 4.5 倍,电池消耗减少约 77%。
AI 模型在处理信息时,会将文本等内容拆分成 Token,这是模型进行计算的基本单位。随着端侧 AI 功能的增多,手机需要在有限的内存、处理器算力和电池容量下运行模型,计算效率将直接影响响应速度与续航表现。LG U+ 此次研究围绕 Token 处理效率展开,旨在降低模型推理过程中的延迟和能耗,以提升 AI 功能在手机本地运行的效率。
LG U+ 的 AI Token 优化技术显著提升手机性能
在通话服务场景中,LG U+ 将模型轻量化与推理加速技术应用于小型语言模型(sLM)。与直接依赖云端大型模型相比,小型语言模型对计算资源的需求相对较低,更适合在手机等设备上运行。LG U+ 公布的测试结果显示,经过优化后,相关模型的处理速度达到原有方式的约 4.5 倍,电池消耗则下降约 77%。
此外,LG U+ 还开发了能够在智能手机内部继续训练 AI 模型的技术。传统 AI 训练通常需要将数据传输到服务器处理,而这项技术通过减少计算量和内存占用,使模型能够在设备本地学习用户数据。LG U+ 表示,实际手机测试中,本地训练模型取得了与服务器训练模型相近的准确率,且用户数据无需离开设备,也能用于改善模型对个人使用环境的适应能力。
项目 规格 处理速度提升 约 4.5 倍 电池消耗减少 约 77%
利益声明:本文包含合作商户产品链接,如你通过链接购买,TechRitual 可能获得佣金收入,但不影响产品评价及推荐。详情请参阅隐私政策。

