Los sistemas TPU 8tx y TPU 8i Max atienden distintas necesidades de seguridad y memoria en empresas que utilizan agentes de inteligencia artificial
ESTADOS UNIDOS
Google amplió su oferta de infraestructura para inteligencia artificial con dos sistemas dirigidos a necesidades empresariales distintas: proteger datos durante su procesamiento y ejecutar modelos que trabajan con grandes volúmenes de información.
Las configuraciones TPU 8tx y TPU 8i Max, anunciadas el 9 de noviembre, se suman a las unidades de procesamiento tensorial de octava generación presentadas en abril. Son nuevos sistemas que reorganizan capacidades de cómputo, memoria, conexión y seguridad alrededor de chips existentes.
La TPU 8tx está orientada a empresas reguladas y gobiernos que utilizan modelos propios o agentes autónomos con información confidencial. Según Google, incorpora protección en el hardware para mantener aislados tanto los datos como los parámetros del modelo mientras se procesan.
El sistema utiliza el mismo silicio que TPU 8t y se combina con procesadores AMD. También permite ejecutar modelos y ajustarlos con datos privados en una misma infraestructura, sin trasladar esa información entre grupos de servidores distintos, de acuerdo con la empresa.
Google afirma que la red de baja latencia Boardfly puede reducir hasta la mitad la latencia frente a TPU 8t. Ese resultado es una comparación de la compañía, no una garantía del rendimiento que obtendrá cada organización.
La TPU 8i Max busca resolver otra limitación: la cantidad de datos que puede suministrarse a los procesadores cuando varios agentes analizan simultáneamente código de programación o extensos contenidos de video.
Para ello, combina dos chips TPU 8i en un solo encapsulado. La empresa reporta el doble de capacidad de cómputo, memoria SRAM y ancho de banda de memoria HBM frente a TPU 8i, además de mayor densidad de procesamiento por espacio de servidor.
Los dos sistemas completan una oferta de cuatro configuraciones. TPU 8t se concentra en entrenamiento a gran escala; TPU 8i, en razonamiento de baja latencia; TPU 8tx, en computación confidencial; y TPU 8i Max, en contextos extensos y mayor densidad de cómputo.
El anuncio tiene pertinencia para organizaciones que evalúan infraestructura de IA y manejo de información sensible. Sin embargo, el comunicado no detalla precios ni una fecha de disponibilidad específica para Puerto Rico, y sus funciones de seguridad no equivalen por sí solas a una certificación de cumplimiento regulatorio.
Google publicó los detalles en su anuncio sobre TPU 8tx y TPU 8i Max.
