Amazon hat auf seiner jährlichen re:Invent-Konferenz neue Chips für das Training und die Ausführung von KI-Modellen vorgestellt. Der erste Chip, AWS Trainium2, bietet eine 4x bessere Leistung und 2x bessere Energieeffizienz als sein Vorgänger. Er kann auf bis zu 100.000 Chips im AWS EC2 UltraCluster-Produkt skaliert werden und kann ein KI-Sprachmodell mit 300 Milliarden Parametern in wenigen Wochen trainieren. Der zweite Chip, Graviton4, wurde für Inferencing entwickelt und bietet eine bessere Rechenleistung, mehr Kerne und eine größere Speicherbandbreite als seine Vorgängergeneration. Außerdem verfügt er über verschlüsselte Hardware-Schnittstellen für mehr Sicherheit. Beide Chips zielen darauf ab, die Abhängigkeit von GPUs zu verringern, die derzeit knapp sind. Amazon hat noch keinen genauen Termin für die Veröffentlichung der Chips genannt, geht aber davon aus, dass sie im nächsten Jahr verfügbar sein werden.
