Operator telekomunikasi Korea Selatan LG U+ mengumumkan bahwa dua makalah penelitian tentang teknologi optimasi AI Token mereka telah diterima di seminar On-Device Intelligence NeurIPS 2026. Teknologi ini ditujukan untuk perangkat dengan sumber daya komputasi terbatas seperti ponsel, dengan cara mengurangi beban komputasi model AI, meningkatkan kecepatan pemrosesan, dan mengurangi konsumsi daya. Di antara optimasi untuk model bahasa kecil yang digunakan dalam layanan panggilan, kecepatan pemrosesan dapat meningkat sekitar 4,5 kali dibandingkan dengan metode tradisional, dan konsumsi baterai menurun sekitar 77%.
Model AI memecah konten seperti teks menjadi Token saat memproses informasi, yang merupakan unit dasar perhitungan model. Seiring dengan meningkatnya fungsi AI di perangkat, ponsel perlu menjalankan model dalam batasan memori, daya pemrosesan, dan kapasitas baterai yang terbatas, sehingga efisiensi komputasi akan langsung mempengaruhi kecepatan respons dan daya tahan. Penelitian LG U+ kali ini berfokus pada efisiensi pemrosesan Token, bertujuan untuk mengurangi latensi dan konsumsi energi selama proses inferensi model, guna meningkatkan efisiensi fungsi AI yang berjalan secara lokal di ponsel.
Teknologi Optimasi AI Token LG U+ Meningkatkan Kinerja Ponsel Secara Signifikan
Dalam skenario layanan panggilan, LG U+ menerapkan teknologi pengurangan ukuran model dan percepatan inferensi pada model bahasa kecil (sLM). Dibandingkan dengan bergantung langsung pada model besar di cloud, model bahasa kecil memiliki kebutuhan sumber daya komputasi yang relatif lebih rendah, sehingga lebih cocok untuk dijalankan di perangkat seperti ponsel. Hasil pengujian yang diumumkan oleh LG U+ menunjukkan bahwa setelah dioptimalkan, kecepatan pemrosesan model terkait mencapai sekitar 4,5 kali lipat dari metode sebelumnya, sementara konsumsi baterai turun sekitar 77%.
Selain itu, LG U+ juga mengembangkan teknologi yang memungkinkan pelatihan model AI terus dilakukan di dalam smartphone. Pelatihan AI tradisional biasanya memerlukan pengiriman data ke server untuk diproses, sementara teknologi ini mengurangi beban komputasi dan penggunaan memori, sehingga model dapat belajar dari data pengguna secara lokal di perangkat. LG U+ menyatakan bahwa dalam pengujian nyata di ponsel, model yang dilatih secara lokal mencapai akurasi yang hampir sama dengan model yang dilatih di server, dan data pengguna tidak perlu meninggalkan perangkat, sehingga dapat digunakan untuk meningkatkan kemampuan model dalam beradaptasi dengan lingkungan penggunaan pribadi.
Item Spesifikasi Peningkatan Kecepatan Pemrosesan sekitar 4,5 kali Pengurangan Konsumsi Baterai sekitar 77%
Pernyataan Kepentingan: Artikel ini berisi tautan produk dari mitra, jika Anda membeli melalui tautan tersebut, TechRitual mungkin menerima komisi, tetapi tidak mempengaruhi penilaian dan rekomendasi produk. Untuk detail lebih lanjut, silakan lihat kebijakan privasi.