- Google menambahkan TPU 8tx dan TPU 8i Max untuk memenuhi kebutuhan komputasi AI perusahaan.
- TPU 8tx fokus pada pengolahan informasi sensitif, dilengkapi dengan fitur komputasi rahasia tingkat perangkat keras.
- TPU 8i Max mengatasi batasan bandwidth memori, meningkatkan kemampuan komputasi dan efisiensi penyimpanan.
- Produk yang diperluas mencakup berbagai tahap pengembangan dan penerapan AI.
Google telah menambahkan dua sistem khusus ke dalam seri Tensor Processing Unit (TPU) generasi kedelapan, yang ditujukan untuk komputasi AI yang aman dan beban kerja yang memerlukan kapasitas memori besar. Ekspansi ini membuat Google memiliki empat konfigurasi TPU yang berbeda dalam generasi yang sama, mencerminkan kebutuhan infrastruktur AI perusahaan yang semakin meningkat. Sistem baru TPU 8tx dan TPU 8i Max ditujukan untuk tantangan yang dihadapi perusahaan saat menerapkan agen AI otonom.
Salah satu sistem memprioritaskan beban kerja sensitif dengan komputasi rahasia, sementara yang lainnya fokus pada pengolahan model yang memerlukan banyak konteks informasi. Google menyatakan bahwa bisnis TPU mereka saat ini melayani hampir 100 pelanggan, termasuk laboratorium penelitian AI, perusahaan perdagangan keuangan, pengecer, dan universitas, di mana pengguna juga dapat langsung menerapkan TPU di pusat data mereka sendiri.
Fitur Komputasi Rahasia TPU 8tx
TPU 8tx dirancang khusus untuk mengolah informasi sensitif atau beroperasi di bawah persyaratan regulasi yang ketat. Google mengintegrasikan komputasi rahasia tingkat perangkat keras dalam sistem ini, melindungi data dan bobot model selama proses pengolahan aktif. Secara umum, prosesor harus mendekripsi informasi sebelum memprosesnya, sehingga meskipun menggunakan teknologi enkripsi di sistem penyimpanan dan koneksi jaringan, potensi paparan tetap ada. Google menyatakan: "Hari ini, kami memperluas seri produk TPU generasi kedelapan dengan meluncurkan dua sistem baru yang dirancang khusus untuk era agen, meningkatkan jumlah sistem TPU generasi kedelapan yang kami luncurkan dalam setahun menjadi empat."
Peningkatan Bandwidth Memori TPU 8i Max
TPU 8i Max bertujuan untuk mengatasi batasan bandwidth memori, di mana beban kerja AI besar semakin membutuhkan prosesor untuk mengakses banyak informasi tanpa menunggu transfer data. Google menggabungkan dua chip TPU 8i dalam satu kemasan untuk mengatasi kendala ini. Sistem yang dihasilkan mencapai peningkatan dua kali lipat dalam kemampuan komputasi, SRAM on-chip, dan bandwidth memori tinggi, serta dapat menampung dua kali lipat chip dalam tata letak rak yang ada, memungkinkan pusat data untuk menampung lebih banyak kemampuan komputasi dalam ruang fisik yang sama.
Produk yang diperluas kini mencakup berbagai tahap pengembangan dan penerapan AI. TPU 8t menangani pelatihan model berskala besar, sementara TPU 8i fokus pada inferensi dan inferensi dengan latensi rendah. TPU 8tx menambahkan kemampuan komputasi rahasia, sedangkan TPU 8i Max ditujukan untuk aplikasi yang memerlukan banyak jendela konteks dan kepadatan komputasi yang lebih tinggi. Google awalnya memperkenalkan TPU 8t dan TPU 8i pada Cloud Next di bulan April, melaporkan bahwa kinerja pelatihan TPU 8t meningkat hingga 2,7 kali lipat, sementara kinerja harga inferensi TPU 8i meningkat hingga 80% dibandingkan generasi sebelumnya.
Peningkatan perangkat keras hanyalah bagian dari strategi yang lebih luas dari Google. Perusahaan ini juga berusaha mengurangi keahlian perangkat lunak yang diperlukan untuk menerapkan beban kerja di akselerator mereka. Proyek open-source TorchTPU membawa dukungan PyTorch asli ke platform tersebut, memungkinkan pengembang menjalankan kode PyTorch yang ada dan model Hugging Face tanpa perlu menulis ulang aplikasi. Google juga meluncurkan agen pengembangan TPU yang kompatibel dengan Claude Code, Cursor, dan Google Antigravity, yang dapat mengotomatiskan proses pemula, mengidentifikasi kendala kinerja, dan mengoptimalkan kernel kustom.
Fitur baru lainnya, TPU Sync, menciptakan arsitektur memori yang terintegrasi, mencakup memori TPU, memori host, dan penyimpanan bersama. Google menyatakan bahwa ini dapat mengurangi latensi transfer cache nilai kunci dan waktu token pertama lebih dari 90%. Perusahaan juga sedang memperluas alat manajemen infrastruktur mereka, Cloud Pathways dan GKE Dynamic Slicing, yang membantu pengembang mengoordinasikan kluster TPU besar dan mengonfigurasi ulang sumber daya komputasi dengan lebih efisien. Strategi yang lebih luas dari Google adalah bahwa infrastruktur AI harus melampaui kecepatan prosesor tunggal yang lebih cepat, seiring dengan agen otonom yang menangani tugas-tugas yang semakin kompleks, memori, jaringan, dan keamanan akan memainkan peran yang sama pentingnya.
Item Spesifikasi Model TPU TPU 8tx Aplikasi Komputasi rahasia Model TPU TPU 8i Max Aplikasi Banyak jendela konteks dan kepadatan komputasi tinggi
Bagaimana Google Menanggapi Kebutuhan Infrastruktur AI Perusahaan
Ekspansi seri TPU Google mencerminkan kebutuhan beragam perusahaan dalam komputasi AI. Seiring dengan meningkatnya adopsi teknologi AI, permintaan untuk komputasi rahasia yang menangani data sensitif dan komputasi berkinerja tinggi semakin meningkat. Peluncuran TPU 8tx dan TPU 8i Max menunjukkan strategi Google dalam memenuhi kebutuhan ini, terutama dalam hal bandwidth memori dan keamanan data. Ini tidak hanya meningkatkan daya saing produk mereka, tetapi juga memberikan solusi yang lebih fleksibel bagi pengguna untuk menghadapi lingkungan pasar yang terus berubah.

