- Google hat TPU 8tx und TPU 8i Max hinzugefügt, um die AI-Computing-Bedürfnisse von Unternehmen zu erfüllen.
- TPU 8tx konzentriert sich auf die Verarbeitung sensibler Informationen und bietet hardwarebasierte vertrauliche Berechnungsfunktionen.
- TPU 8i Max löst die Einschränkungen der Speicherbandbreite und verbessert die Rechenleistung sowie die Speichereffizienz.
- Die erweiterte Produktreihe deckt verschiedene Phasen der AI-Entwicklung und -Bereitstellung ab.
Google hat zwei spezialisierte Systeme zur achten Generation der Tensor Processing Unit (TPU) Serie hinzugefügt, die auf sichere AI-Berechnungen und Arbeitslasten mit hohem Speicherbedarf ausgerichtet sind. Diese Erweiterung ermöglicht es Google, innerhalb derselben Generation vier verschiedene TPU-Konfigurationen anzubieten, was die wachsende Nachfrage nach AI-Infrastruktur in Unternehmen widerspiegelt. Die neuen Systeme TPU 8tx und TPU 8i Max adressieren die Herausforderungen, die Unternehmen bei der Bereitstellung autonomer AI-Agenten haben.
Eine der neuen Systeme priorisiert vertrauliche Berechnungen für sensible Arbeitslasten, während das andere sich auf die Verarbeitung großer Mengen kontextueller Informationen konzentriert. Google gibt an, dass ihr TPU-Geschäft derzeit fast 100 Kunden bedient, darunter AI-Forschungslabore, Finanzhandelsunternehmen, Einzelhändler und Universitäten, wobei die Nutzer TPU auch direkt in ihren eigenen Rechenzentren bereitstellen können.
Die vertraulichen Berechnungsfunktionen von TPU 8tx
TPU 8tx richtet sich hauptsächlich an Organisationen, die sensible Informationen verarbeiten oder unter strengen regulatorischen Anforderungen arbeiten. Google hat in diesem System hardwarebasierte vertrauliche Berechnungen integriert, um die Sicherheit von Daten und Modellgewichten während des aktiven Verarbeitungsprozesses zu gewährleisten. Im Allgemeinen müssen Prozessoren Informationen entschlüsseln, bevor sie verarbeitet werden, was selbst bei der Verwendung von Verschlüsselungstechniken in Speichersystemen und Netzwerkverbindungen potenzielle Expositionen verursachen kann. Google erklärt: „Heute haben wir die achte Generation der TPU-Produktreihe erweitert und zwei neue Systeme eingeführt, die speziell für die Ära der Agenten entwickelt wurden, wodurch die Anzahl der innerhalb eines Jahres eingeführten Systeme der achten Generation auf vier erhöht wird.“
Die Speicherbandbreitenverbesserungen von TPU 8i Max
TPU 8i Max zielt darauf ab, die Einschränkungen der Speicherbandbreite zu überwinden, da große AI-Arbeitslasten zunehmend erfordern, dass Prozessoren auf große Informationsmengen zugreifen können, ohne auf Datenübertragungen warten zu müssen. Google kombiniert zwei TPU 8i-Chips in einem einzigen Gehäuse, um dieses Engpassproblem zu lösen. Das resultierende System verdoppelt die Rechenleistung, den On-Chip-SRAM und die hochbandbreitigen Speicherbandbreiten und ermöglicht es, in der bestehenden Rack-Anordnung doppelt so viele Chips unterzubringen, was es Rechenzentren ermöglicht, mehr Rechenleistung im gleichen physischen Raum zu integrieren.
Die erweiterte Produktreihe deckt nun verschiedene Phasen der AI-Entwicklung und -Bereitstellung ab. TPU 8t verarbeitet das Training großangelegter Modelle, während TPU 8i sich auf latenzarme Inferenz und Schlussfolgerungen konzentriert. TPU 8tx fügt vertrauliche Berechnungsfähigkeiten hinzu, während TPU 8i Max auf Anwendungen abzielt, die große kontextuelle Fenster und höhere Rechendichte erfordern. Google stellte TPU 8t und TPU 8i ursprünglich im April auf der Cloud Next vor und berichtete, dass die Trainingsleistung von TPU 8t um bis zu 2,7 Mal gesteigert wurde, während die Preis-Leistungs-Verhältnis der Inferenz von TPU 8i im Vergleich zur vorherigen Generation um bis zu 80 % verbessert wurde.
Hardwareverbesserungen sind nur ein Teil von Googles umfassender Strategie. Das Unternehmen versucht auch, das erforderliche Fachwissen zur Bereitstellung von Arbeitslasten auf seinen Beschleunigern zu reduzieren. Das Open-Source-Projekt TorchTPU bringt native PyTorch-Unterstützung auf die Plattform, sodass Entwickler bestehenden PyTorch-Code und Hugging Face-Modelle ausführen können, ohne ihre Anwendungen neu schreiben zu müssen. Google hat auch TPU-Entwicklungsagenten eingeführt, die mit Claude Code, Cursor und Google Antigravity kompatibel sind, um den Einstieg zu automatisieren, Leistungsengpässe zu identifizieren und benutzerdefinierte Kerne zu optimieren.
Eine weitere neue Funktion, TPU Sync, schafft eine einheitliche Speicherarchitektur, die TPU-Speicher, Host-Speicher und gemeinsamen Speicher umfasst. Google gibt an, dass dies die Übertragungsverzögerung von Schlüsselwert-Cache und die Zeit bis zum ersten Token um mehr als 90 % reduzieren kann. Das Unternehmen erweitert auch seine Infrastrukturmanagement-Tools, Cloud Pathways und GKE Dynamic Slicing, um Entwicklern zu helfen, große TPU-Cluster effektiver zu koordinieren und Rechenressourcen neu zu konfigurieren. Googles umfassendere Strategie besteht darin, dass AI-Infrastruktur über die schnelleren Geschwindigkeiten einzelner Prozessoren hinausgehen muss, während autonome Agenten zunehmend komplexe Aufgaben bearbeiten, wobei Speicher, Netzwerk und Sicherheit eine ebenso wichtige Rolle spielen.
Artikel Spezifikationen TPU-Modell TPU 8tx Anwendung Vertrauliche Berechnung TPU-Modell TPU 8i Max Anwendung Große kontextuelle Fenster und hohe Rechendichte
Wie Google auf die Bedürfnisse der Unternehmens-AI-Infrastruktur reagiert
Die Erweiterung der TPU-Serie von Google spiegelt die vielfältigen Bedürfnisse von Unternehmen im Bereich AI-Computing wider. Mit der Verbreitung von AI-Technologien wächst die Nachfrage nach vertraulichen Berechnungen zur Verarbeitung sensibler Daten und leistungsstarker Berechnungen. Die Einführung von TPU 8tx und TPU 8i Max zeigt Googles Strategie zur Erfüllung dieser Anforderungen, insbesondere in Bezug auf Speicherbandbreite und Datensicherheit. Dies stärkt nicht nur die Wettbewerbsfähigkeit ihrer Produkte, sondern bietet den Nutzern auch flexiblere Lösungen, um sich an die sich ständig ändernden Marktbedingungen anzupassen.

