Spoločnosť Amazon predstavila nové čipy na trénovanie a spúšťanie modelov umelej inteligencie

Amazon na svojej výročnej konferencii re:Invent predstavil nové čipy na trénovanie a spúšťanie modelov umelej inteligencie. Prvý čip, AWS Trainium2, ponúka 4x vyšší výkon a 2x lepšiu energetickú účinnosť ako jeho predchodca. Môže sa škálovať až na 100 000 čipov v produkte AWS EC2 UltraCluster a dokáže trénovať 300-miliardový jazykový model AI v priebehu niekoľkých týždňov. Druhý čip, Graviton4, je určený na inferenciu a poskytuje lepší výpočtový výkon, viac jadier a väčšiu šírku pamäťového pásma ako jeho predchádzajúca generácia. Je tiež vybavený šifrovanými hardvérovými rozhraniami na zvýšenie bezpečnosti. Cieľom oboch čipov je znížiť závislosť od GPU, ktoré v súčasnosti čelia nedostatku. Spoločnosť Amazon neuviedla konkrétne dátumy vydania čipov, ale očakáva, že budú k dispozícii v budúcom roku.

Celý článok

Pridaj komentár