Der südkoreanische Telekommunikationsanbieter LG U+ hat angekündigt, dass zwei seiner Forschungsarbeiten zur Optimierung von AI Tokens für die NeurIPS 2026-Konferenz zum Thema On-Device Intelligence akzeptiert wurden. Diese Technologie zielt darauf ab, die Rechenlast von KI-Modellen zu reduzieren, um die Verarbeitungsgeschwindigkeit zu erhöhen und den Stromverbrauch zu senken, insbesondere bei Geräten mit begrenzten Rechenressourcen wie Mobiltelefonen. Die Optimierung eines kleinen Sprachmodells für Sprachdienste kann die Verarbeitungsgeschwindigkeit im Vergleich zu herkömmlichen Methoden um etwa das 4,5-Fache steigern und den Batterieverbrauch um etwa 77% senken.
Bei der Verarbeitung von Informationen zerlegt das KI-Modell Texte und andere Inhalte in Tokens, die die grundlegenden Berechnungseinheiten des Modells darstellen. Mit der Zunahme von KI-Funktionen auf Geräten muss das Mobiltelefon Modelle mit begrenztem Speicher, Rechenleistung und Batteriekapazität ausführen, wobei die Recheneffizienz die Reaktionsgeschwindigkeit und die Akkulaufzeit direkt beeinflusst. Die Forschung von LG U+ konzentriert sich auf die Effizienz der Token-Verarbeitung, um die Latenz und den Energieverbrauch während des Inferenzprozesses des Modells zu senken und die Effizienz der lokalen Ausführung von KI-Funktionen auf Mobiltelefonen zu verbessern.
Die AI Token-Optimierungstechnologie von LG U+ verbessert die Leistung von Mobiltelefonen erheblich
Im Szenario von Sprachdiensten hat LG U+ die Technologien zur Modellverkleinerung und zur Beschleunigung der Inferenz auf kleine Sprachmodelle (sLM) angewendet. Im Vergleich zur direkten Abhängigkeit von großen Cloud-Modellen haben kleine Sprachmodelle einen relativ geringeren Bedarf an Rechenressourcen und sind besser für den Einsatz auf Geräten wie Mobiltelefonen geeignet. Die von LG U+ veröffentlichten Testergebnisse zeigen, dass die Verarbeitungsgeschwindigkeit der optimierten Modelle etwa das 4,5-Fache der ursprünglichen Methode erreicht und der Batterieverbrauch um etwa 77% gesenkt wurde.
Darüber hinaus hat LG U+ eine Technologie entwickelt, die es ermöglicht, KI-Modelle innerhalb des Smartphones weiter zu trainieren. Traditionelles KI-Training erfordert normalerweise die Übertragung von Daten zur Verarbeitung auf Server, während diese Technologie durch Reduzierung der Rechenlast und des Speicherbedarfs es dem Modell ermöglicht, lokal auf Benutzerdaten zu lernen. LG U+ gibt an, dass bei realen Tests auf Smartphones das lokal trainierte Modell eine ähnliche Genauigkeit wie das serverseitig trainierte Modell erreicht hat, und dass Benutzerdaten das Gerät nicht verlassen müssen, um die Anpassungsfähigkeit des Modells an die persönliche Nutzung zu verbessern.
Projekt Spezifikation Steigerung der Verarbeitungsgeschwindigkeit ca. 4,5-fach Reduzierung des Batterieverbrauchs ca. 77%
Haftungsausschluss: Dieser Artikel enthält Links zu Produkten von Partnerunternehmen. Wenn Sie über diese Links einkaufen, kann TechRitual eine Provision erhalten, jedoch ohne Einfluss auf die Produktbewertung und -empfehlung. Weitere Informationen finden Sie in der Datenschutzrichtlinie.