Amazon telah meluncurkan chip baru untuk melatih dan menjalankan model AI pada konferensi tahunan re:Invent. Chip pertama, AWS Trainium2, menawarkan performa 4x lebih baik dan efisiensi energi 2x lebih baik dari pendahulunya. Chip ini dapat meningkatkan skala hingga 100.000 chip dalam produk AWS EC2 UltraCluster dan dapat melatih model bahasa AI dengan 300 miliar parameter dalam hitungan minggu. Chip kedua, Graviton4, dirancang untuk inferensi dan memberikan kinerja komputasi yang lebih baik, lebih banyak core, dan lebih banyak bandwidth memori daripada generasi sebelumnya. Chip ini juga dilengkapi dengan antarmuka perangkat keras terenkripsi untuk meningkatkan keamanan. Kedua chip ini bertujuan untuk mengurangi ketergantungan pada GPU, yang saat ini sedang mengalami kekurangan. Amazon belum memberikan tanggal rilis spesifik untuk chip tersebut, namun berharap chip tersebut akan tersedia tahun depan.
