Amazon ha presentado nuevos chips para entrenar y ejecutar modelos de IA en su conferencia anual re:Invent. El primer chip, AWS Trainium2, ofrece 4 veces más rendimiento y 2 veces más eficiencia energética que su predecesor. Puede escalar hasta 100.000 chips en el producto AWS EC2 UltraCluster y puede entrenar un modelo de lenguaje de IA de 300.000 millones de parámetros en semanas. El segundo chip, Graviton4, está diseñado para la inferencia y proporciona un mejor rendimiento informático, más núcleos y más ancho de banda de memoria que su generación anterior. También incorpora interfaces de hardware cifradas para mejorar la seguridad. Ambos chips pretenden reducir la dependencia de las GPU, que actualmente sufren escasez. Amazon no ha facilitado fechas concretas de lanzamiento de los chips, pero espera que estén disponibles el próximo año.
