Der südkoreanische Telekommunikationsanbieter LG U+ hat bekannt gegeben, dass zwei seiner Forschungsarbeiten zur Optimierung von AI Tokens für die NeurIPS 2026-Konferenz zum Thema On-Device Intelligence angenommen wurden. Diese Technologie zielt darauf ab, die Rechenlast von KI-Modellen zu reduzieren, um die Verarbeitungsgeschwindigkeit zu erhöhen und den Energieverbrauch zu senken, insbesondere bei Geräten mit begrenzten Rechenressourcen wie Mobiltelefonen. Die Optimierung des kleinen Sprachmodells für Sprachdienste kann die Verarbeitungsgeschwindigkeit im Vergleich zu herkömmlichen Methoden um etwa das 4,5-Fache steigern und den Batterieverbrauch um etwa 77% senken.
Bei der Verarbeitung von Informationen zerlegt das KI-Modell Inhalte wie Texte in Tokens, die die grundlegenden Berechnungseinheiten des Modells darstellen. Mit der Zunahme von KI-Funktionen auf Endgeräten müssen Mobiltelefone Modelle unter den Bedingungen begrenzter Speicherkapazität, Rechenleistung und Batteriekapazität ausführen, wobei die Recheneffizienz die Reaktionsgeschwindigkeit und die Akkulaufzeit direkt beeinflusst. Die Forschung von LG U+ konzentriert sich auf die Effizienz der Token-Verarbeitung, um die Latenz und den Energieverbrauch während des Inferenzprozesses des Modells zu reduzieren und die Effizienz der KI-Funktionen auf Mobilgeräten zu verbessern.
Die AI Token-Optimierungstechnologie von LG U+ verbessert die Leistung von Mobiltelefonen erheblich
Im Szenario von Sprachdiensten hat LG U+ die Technologien zur Modellverkleinerung und zur Beschleunigung der Inferenz auf kleine Sprachmodelle (sLM) angewendet. Im Vergleich zu großen Modellen, die direkt auf der Cloud basieren, haben kleine Sprachmodelle einen relativ geringeren Bedarf an Rechenressourcen und sind besser für den Betrieb auf Geräten wie Mobiltelefonen geeignet. Die von LG U+ veröffentlichten Testergebnisse zeigen, dass die Verarbeitungsgeschwindigkeit der optimierten Modelle etwa das 4,5-Fache der ursprünglichen Methode erreicht, während der Batterieverbrauch um etwa 77% gesenkt wurde.
Darüber hinaus hat LG U+ eine Technologie entwickelt, die es ermöglicht, KI-Modelle innerhalb von Smartphones weiter zu trainieren. Traditionelles KI-Training erfordert normalerweise, dass Daten auf Server zur Verarbeitung übertragen werden, während diese Technologie durch die Reduzierung der Rechenlast und des Speicherbedarfs es dem Modell ermöglicht, lokal auf dem Gerät mit Benutzerdaten zu lernen. LG U+ gibt an, dass in praktischen Tests auf Smartphones die lokal trainierten Modelle eine Genauigkeit ähnlich der von serverbasierten Modellen erreicht haben, und dass Benutzerdaten das Gerät nicht verlassen müssen, um die Anpassungsfähigkeit des Modells an persönliche Nutzungsszenarien zu verbessern.
Projekt Spezifikation Steigerung der Verarbeitungsgeschwindigkeit ca. 4,5-fach Reduzierung des Batterieverbrauchs ca. 77%
Haftungsausschluss: Dieser Artikel enthält Links zu Produkten von Partnerunternehmen. Wenn Sie über diese Links einkaufen, kann TechRitual eine Provision erhalten, die jedoch die Bewertung und Empfehlung der Produkte nicht beeinflusst. Weitere Informationen finden Sie in der Datenschutzrichtlinie.