韓国の電気通信事業者LG U+は、AI Token最適化技術に関する2篇の研究論文がNeurIPS 2026端側知能（On-Device Intelligence）ワークショップに受理されたことを発表した。この技術は、携帯電話など計算資源が制限されたデバイス向けに、AIモデルの計算コストを削減し、処理速度を向上させ、電力消費を減少させることを目的としている。通話サービス向けの小型言語モデルの最適化方案は、従来の方法に比べて処理速度を約4.5倍向上させ、バッテリー消費を約77%削減することができる。
AIモデルは情報を処理する際に、テキストなどの内容をTokenに分割する。これはモデルが計算を行うための基本単位である。端側のAI機能が増加する中で、携帯電話は限られたメモリ、プロセッサの計算能力、バッテリー容量のもとでモデルを運用する必要があり、計算効率は応答速度とバッテリー持続時間に直接影響を与える。LG U+の今回の研究はToken処理効率に焦点を当て、モデル推論過程における遅延とエネルギー消費を削減し、AI機能を携帯電話で効率的に運用できるようにすることを目指している。
LG U+のAI Token最適化技術が携帯電話の性能を大幅に向上
通話サービスのシーンにおいて、LG U+はモデルの軽量化と推論加速技術を小型言語モデル（sLM）に適用した。クラウドの大規模モデルに直接依存するのではなく、小型言語モデルは計算資源の要求が相対的に低く、携帯電話などのデバイスでの運用に適している。LG U+が発表したテスト結果によれば、最適化後の関連モデルの処理速度は従来の方法の約4.5倍に達し、バッテリー消費は約77%減少した。
さらに、LG U+はスマートフォン内部でAIモデルを継続的に訓練できる技術を開発した。従来のAI訓練は通常、データをサーバーに転送して処理する必要があるが、この技術は計算量とメモリ使用量を削減することで、モデルがデバイス上でユーザーデータを学習できるようにする。LG U+は、実際の携帯電話テストにおいて、ローカルトレーニングモデルがサーバートレーニングモデルに近い精度を達成し、ユーザーデータがデバイスから離れることなく、個人の使用環境に対するモデルの適応能力を向上させることができると述べている。
項目 規格 処理速度向上 約4.5倍 バッテリー消費減少 約77%
利益声明：この記事には提携商業者の製品リンクが含まれており、リンクを通じて購入した場合、TechRitualは手数料収入を得る可能性がありますが、製品評価や推奨には影響しません。詳細についてはプライバシーポリシーをご覧ください。