Google 擴充第八代 TPU 系列 新增專用系統以滿足企業 AI 計算需求

Google 已新增兩款專門系統至其第八代 Tensor Processing Unit (TPU) 系列，針對安全的 AI 計算及需要大量記憶體容量的工作負載。這次擴展使 Google 在同一代中擁有四款不同的 TPU 配置，反映出企業 AI 基礎設施日益增長的需求。新系統 TPU 8tx 和 TPU 8i Max 對應企業在部署自主 AI 代理時出現的挑戰。

其中一款優先考慮敏感工作負載的保密計算，而另一款則專注於處理大量上下文資訊的模型。Google 表示，其 TPU 業務目前服務近 100 位客戶，涵蓋 AI 研究實驗室、金融交易公司、零售商及大學，用戶亦可直接在自有數據中心內部署 TPU。

TPU 8tx 的保密計算功能

TPU 8tx 主要針對處理敏感資訊或在嚴格監管要求下運作的組織。Google 在該系統中集成了硬體級別的保密計算，保護數據及模型權重在活躍處理過程中的安全。一般來說，處理器在處理資訊前必須將其解密，這樣即使在存儲系統和網絡連接使用加密技術時也可能會造成潛在的暴露。Google 表示：「今天，我們擴展了第八代 TPU 產品系列，推出了兩款專門為代理時代而建的全新系統，將我們在一年內推出的第八代 TPU 系統數量增至四款。」

TPU 8i Max 的記憶體帶寬提升

TPU 8i Max 則旨在解決記憶體帶寬的限制，大型 AI 工作負載越來越需要處理器能在不等待數據轉移的情況下訪問大量資訊。Google 將兩個 TPU 8i 晶片組合在同一包裝內，以解決這一瓶頸。由此產生的系統在計算能力、片上 SRAM 及高帶寬記憶體帶寬方面均實現了雙倍增長，並且在現有機架佈局內可容納兩倍的晶片，這使數據中心能在相同的物理空間內容納更多的計算能力。

擴大的產品系列現在涵蓋了 AI 開發及部署的不同階段。TPU 8t 處理大規模模型訓練，而 TPU 8i 則專注於低延遲推理及推斷。TPU 8tx 增加了保密計算能力，TPU 8i Max 則針對需要大量上下文窗口及更高計算密度的應用。Google 最初在四月的 Cloud Next 上介紹了 TPU 8t 和 TPU 8i，並報告 TPU 8t 的訓練性能提高了高達 2.7 倍，而 TPU 8i 的推理價格性能較上一代提升了高達 80%。

硬體改進僅是 Google 更廣泛策略的一部分。該公司還試圖減少在其加速器上部署工作負載所需的軟件專業知識。其開源的 TorchTPU 項目為該平台帶來了原生 PyTorch 支持，開發者可以在不重寫應用程序的情況下運行現有的 PyTorch 代碼和 Hugging Face 模型。Google 亦推出了與 Claude Code、Cursor 和 Google Antigravity 兼容的 TPU 開發代理，這些工具可自動化入門流程、識別性能瓶頸及優化自定義內核。

另一項新增功能 TPU Sync 創建了一個統一的記憶體架構，涵蓋 TPU 記憶體、主機記憶體及共享存儲。Google 表示，這可以將關鍵值快取傳輸延遲及首次令牌的時間減少超過 90%。該公司還在擴展其基礎設施管理工具，Cloud Pathways 和 GKE 動態切片幫助開發者更有效地協調大型 TPU 集羣及重新配置計算資源。Google 的更廣泛策略是，AI 基礎設施必須超越單個處理器的更快速度，隨著自主代理處理越來越複雜的任務，記憶體、網絡及安全將扮演同樣重要的角色。

項目	規格
TPU 型號	TPU 8tx
應用	保密計算
TPU 型號	TPU 8i Max
應用	大量上下文窗口及高計算密度

Google 如何應對企業 AI 基礎設施需求

Google 的 TPU 系列擴展反映出企業在 AI 計算上的多樣化需求。隨著 AI 技術的普及，對於處理敏感數據的保密計算和高效能運算的需求日益增加。TPU 8tx 和 TPU 8i Max 的推出，顯示出 Google 在滿足這些需求方面的策略，特別是在記憶體帶寬和數據安全性上。這不僅增強了其產品的競爭力，也為用戶提供了更靈活的解決方案，以應對不斷變化的市場環境。