【CNMO科技消息】10月29日,据CNMO科技了解,韩国电信运营商LGU+宣布,其两篇关于AI Token优化技术的研究论文已被NeurIPS 2026的端侧智能(On-Device Intelligence)研讨会接收。相关技术面向手机等计算资源受限的设备,通过降低AI模型的计算开销,提高处理速度并减少电量消耗。其中,针对通话服务小型语言模型的优化方案,相比传统方式可将处理速度提高约4.5倍,电池消耗减少约77%。

AI模型处理信息时,会将文本等内容拆分成Token,也就是模型进行计算的基本单位。随着端侧AI功能增多,手机需要在有限的内存、处理器算力和电池容量下运行模型,计算效率会直接影响响应速度与续航表现。LG U+此次研究围绕Token处理效率展开,试图降低模型推理过程中的延迟和能耗,让AI功能在手机本地运行时更加高效。

在通话服务场景中,LG U+将模型轻量化与推理加速技术应用于小型语言模型(sLM)。与直接依赖云端大型模型相比,小型语言模型对计算资源的需求相对较低,更适合在手机等设备上运行。LG U+公布的测试结果显示,经过优化后,相关模型的处理速度达到原有方式的约4.5倍,电池消耗则下降约77%。
LG U+还开发了能够在智能手机内部继续训练AI模型的技术。传统AI训练通常需要将数据传输到服务器处理,而这项技术通过减少计算量和内存占用,让模型能够在设备本地学习用户数据。LG U+表示,实际手机测试中,本地训练模型取得了与服务器训练模型相近的准确率,用户数据无需离开设备,也能用于改善模型对个人使用环境的适应能力。