Alat-alat baru tersedia untuk membantu mengurangi energi yang dimakan oleh model AI

Lincoln Laboratory Supercomputing Center (LLSC) MIT sedang mengembangkan teknik untuk mengurangi konsumsi energi di pusat data, terutama yang berkaitan dengan model kecerdasan buatan (AI). Mereka telah menemukan bahwa perubahan sederhana seperti perangkat keras yang membatasi daya dapat mengurangi konsumsi energi sebesar 12-15% tanpa berdampak signifikan pada kinerja model. LLSC juga telah mengembangkan perangkat lunak yang memungkinkan pemilik pusat data untuk menetapkan batas daya di seluruh sistem mereka. Selain itu, mereka telah menciptakan kerangka kerja yang komprehensif untuk menganalisis jejak karbon dari sistem komputasi berkinerja tinggi. Tim ini juga berfokus untuk membuat pengembangan model AI menjadi lebih efisien dengan menggunakan teknik penghentian awal, yang telah menghasilkan pengurangan 80% energi yang digunakan untuk pelatihan model. Mereka juga telah mengembangkan pengoptimalisasi yang mencocokkan model AI dengan campuran perangkat keras yang paling hemat karbon untuk pengambilan kesimpulan. Energi yang dihemat dengan menerapkan intervensi ini mengurangi biaya dan sejalan dengan meningkatnya kesadaran akan komputasi ramah lingkungan. Tim ini mendorong transparansi dan alat pelaporan untuk menunjukkan kepada pengembang AI konsumsi energi mereka dan bekerja sama dengan produsen perangkat keras untuk menstandarkan pengumpulan data. Mereka bertujuan untuk membantu pusat data lain menerapkan intervensi ini dan memberikan opsi sadar energi kepada para pengembang AI.

Artikel lengkap

Tinggalkan Balasan