Google expande su serie de TPU de octava generación con nuevos sistemas dedicados para satisfacer las necesidades de cálculo de IA empresarial

·por Henderson·Engineering
Google expande su serie de TPU de octava generación con nuevos sistemas dedicados para satisfacer las necesidades de cálculo de IA empresarial
Puntos clave
  • Google añade TPU 8tx y TPU 8i Max para satisfacer las necesidades de cálculo de IA empresarial.
  • TPU 8tx se centra en el procesamiento de información sensible, con capacidades de cálculo confidencial a nivel de hardware.
  • TPU 8i Max aborda las limitaciones de ancho de banda de memoria, mejorando la capacidad de cálculo y la eficiencia del almacenamiento.
  • La serie de productos ampliada cubre diferentes etapas del desarrollo y despliegue de IA.

Google ha añadido dos sistemas especializados a su serie de Tensor Processing Unit (TPU) de octava generación, enfocados en el cálculo seguro de IA y en cargas de trabajo que requieren una gran capacidad de memoria. Esta expansión permite a Google contar con cuatro configuraciones diferentes de TPU en la misma generación, reflejando la creciente demanda de infraestructura de IA empresarial. Los nuevos sistemas TPU 8tx y TPU 8i Max abordan los desafíos que enfrentan las empresas al desplegar agentes de IA autónomos.

Una de las versiones prioriza el procesamiento de cargas de trabajo sensibles mediante cálculo confidencial, mientras que la otra se enfoca en el manejo de modelos con grandes cantidades de información contextual. Google informa que su negocio de TPU actualmente atiende a cerca de 100 clientes, que incluyen laboratorios de investigación en IA, empresas de trading financiero, minoristas y universidades, y los usuarios también pueden desplegar TPU directamente en sus propios centros de datos.

Funciones de cálculo confidencial del TPU 8tx

TPU 8tx está diseñado principalmente para organizaciones que manejan información sensible o que operan bajo estrictos requisitos regulatorios. Google ha integrado en este sistema capacidades de cálculo confidencial a nivel de hardware, protegiendo la seguridad de los datos y los pesos del modelo durante el proceso de procesamiento activo. Generalmente, los procesadores deben desencriptar la información antes de procesarla, lo que puede resultar en una exposición potencial incluso cuando se utilizan técnicas de cifrado en los sistemas de almacenamiento y conexiones de red. Google afirma: "Hoy, hemos ampliado la serie de productos TPU de octava generación, lanzando dos nuevos sistemas diseñados específicamente para la era de los agentes, aumentando el número de sistemas TPU de octava generación lanzados en un año a cuatro."

Aumento del ancho de banda de memoria del TPU 8i Max

TPU 8i Max está diseñado para abordar las limitaciones del ancho de banda de memoria, ya que las grandes cargas de trabajo de IA requieren cada vez más que los procesadores accedan a grandes cantidades de información sin esperar la transferencia de datos. Google ha combinado dos chips TPU 8i en un solo paquete para resolver este cuello de botella. El sistema resultante logra el doble de capacidad de cálculo, SRAM en chip y ancho de banda de memoria de alto rendimiento, y puede acomodar el doble de chips en la configuración de rack existente, lo que permite a los centros de datos incorporar más capacidad de cálculo en el mismo espacio físico.

La serie de productos ampliada ahora cubre diferentes etapas del desarrollo y despliegue de IA. TPU 8t maneja el entrenamiento de modelos a gran escala, mientras que TPU 8i se centra en la inferencia de baja latencia y deducción. TPU 8tx añade capacidades de cálculo confidencial, y TPU 8i Max está dirigido a aplicaciones que requieren grandes ventanas contextuales y mayor densidad de cálculo. Google presentó inicialmente TPU 8t y TPU 8i en abril durante Cloud Next, reportando que el rendimiento de entrenamiento de TPU 8t mejoró hasta en un 2.7 veces, mientras que el rendimiento de inferencia de TPU 8i aumentó hasta en un 80% en comparación con la generación anterior.

Las mejoras de hardware son solo una parte de la estrategia más amplia de Google. La compañía también busca reducir la experiencia de software necesaria para desplegar cargas de trabajo en sus aceleradores. Su proyecto de código abierto TorchTPU aporta soporte nativo para PyTorch a la plataforma, permitiendo a los desarrolladores ejecutar código existente de PyTorch y modelos de Hugging Face sin necesidad de reescribir aplicaciones. Google también ha lanzado agentes de desarrollo TPU compatibles con Claude Code, Cursor y Google Antigravity, herramientas que automatizan el proceso de inicio, identifican cuellos de botella de rendimiento y optimizan núcleos personalizados.

Otra nueva función, TPU Sync, crea una arquitectura de memoria unificada que abarca la memoria TPU, la memoria del host y el almacenamiento compartido. Google afirma que esto puede reducir la latencia de transferencia de caché de valores clave y el tiempo del primer token en más del 90%. La compañía también está ampliando sus herramientas de gestión de infraestructura, Cloud Pathways y GKE Dynamic Slicing, que ayudan a los desarrolladores a coordinar más eficazmente grandes clústeres de TPU y reconfigurar recursos de cálculo. La estrategia más amplia de Google es que la infraestructura de IA debe ir más allá de la velocidad de un solo procesador, ya que a medida que los agentes autónomos manejan tareas cada vez más complejas, la memoria, la red y la seguridad jugarán un papel igualmente importante.

ElementoEspecificaciones
Modelo TPUTPU 8tx
AplicaciónCálculo confidencial
Modelo TPUTPU 8i Max
AplicaciónGrandes ventanas contextuales y alta densidad de cálculo

Cómo Google responde a la demanda de infraestructura de IA empresarial

La expansión de la serie TPU de Google refleja la diversidad de las necesidades empresariales en el cálculo de IA. A medida que la tecnología de IA se vuelve más común, la demanda de cálculo confidencial para manejar datos sensibles y de computación de alto rendimiento está en aumento. El lanzamiento de TPU 8tx y TPU 8i Max demuestra la estrategia de Google para satisfacer estas necesidades, especialmente en términos de ancho de banda de memoria y seguridad de datos. Esto no solo fortalece la competitividad de sus productos, sino que también proporciona a los usuarios soluciones más flexibles para enfrentar un entorno de mercado en constante cambio.

H
Sobre el autor
Henderson