Operator telekomunikasi Korea Selatan LG U+ mengumumkan bahwa dua makalah penelitian mengenai teknologi optimasi AI Token telah diterima di seminar On-Device Intelligence NeurIPS 2026. Teknologi ini ditujukan untuk perangkat dengan sumber daya komputasi terbatas seperti ponsel, dengan cara mengurangi beban komputasi model AI, meningkatkan kecepatan pemrosesan, dan mengurangi konsumsi daya. Di antara itu, solusi optimasi untuk model bahasa kecil yang digunakan dalam layanan panggilan dapat meningkatkan kecepatan pemrosesan sekitar 4,5 kali dibandingkan metode tradisional, dengan pengurangan konsumsi baterai sekitar 77%.
Model AI dalam memproses informasi akan membagi konten seperti teks menjadi Token, yang merupakan unit dasar perhitungan model. Dengan semakin banyaknya fungsi AI di sisi perangkat, ponsel perlu menjalankan model dalam batasan memori, daya pemrosesan, dan kapasitas baterai yang terbatas, sehingga efisiensi komputasi akan langsung mempengaruhi kecepatan respons dan daya tahan. Penelitian LG U+ kali ini berfokus pada efisiensi pemrosesan Token, bertujuan untuk mengurangi latensi dan konsumsi energi dalam proses inferensi model, guna meningkatkan efisiensi operasi fungsi AI di ponsel secara lokal.
Teknologi Optimasi AI Token LG U+ Meningkatkan Kinerja Ponsel Secara Signifikan
Dalam skenario layanan panggilan, LG U+ menerapkan teknologi pemodelan ringan dan percepatan inferensi pada model bahasa kecil (sLM). Dibandingkan dengan ketergantungan langsung pada model besar di cloud, model bahasa kecil memiliki kebutuhan sumber daya komputasi yang relatif lebih rendah, sehingga lebih cocok untuk dijalankan di perangkat seperti ponsel. Hasil pengujian yang diumumkan oleh LG U+ menunjukkan bahwa setelah dioptimalkan, kecepatan pemrosesan model terkait mencapai sekitar 4,5 kali lipat dari cara sebelumnya, sementara konsumsi baterai menurun sekitar 77%.
Selain itu, LG U+ juga mengembangkan teknologi yang memungkinkan pelatihan model AI terus dilakukan di dalam smartphone. Pelatihan AI tradisional biasanya memerlukan pengiriman data ke server untuk diproses, sementara teknologi ini mengurangi beban komputasi dan penggunaan memori, memungkinkan model untuk belajar dari data pengguna secara lokal di perangkat. LG U+ menyatakan bahwa dalam pengujian nyata di ponsel, model yang dilatih secara lokal mencapai akurasi yang hampir setara dengan model yang dilatih di server, dan data pengguna tidak perlu meninggalkan perangkat, sehingga dapat digunakan untuk meningkatkan kemampuan model dalam beradaptasi dengan lingkungan penggunaan pribadi.
Item Spesifikasi Peningkatan Kecepatan Pemrosesan sekitar 4,5 kali Pengurangan Konsumsi Baterai sekitar 77%
Pernyataan Kepentingan: Artikel ini berisi tautan produk dari mitra kerja sama, jika Anda membeli melalui tautan tersebut, TechRitual mungkin mendapatkan komisi, namun hal ini tidak mempengaruhi penilaian dan rekomendasi produk. Untuk detail lebih lanjut, silakan lihat kebijakan privasi.

