Intel dévoile son accélérateur IA Gaudi 3 et surpasse Nvidia

Intel a frappé un grand coup lors de sa conférence Vision 2024 en levant le voile sur le Gaudi 3, son tout dernier processeur conçu pour booster les performances des applications d'intelligence artificielle à l'échelle des entreprises. Ils sont convaincus d'avoir dépassé le leader actuel du marché, le GPU Nvidia H100, en termes de vitesse.

Le Gaudi 3, c'est un peu comme le petit frère surdoué du Gaudi 2. Il s'appuie sur la même architecture et les mêmes principes fondamentaux, mais avec un petit quelque chose en plus : le processus de fabrication 5nm de TSMC, une évolution notable par rapport au 7nm du Gaudi 2, ce qui le rend nettement plus performant.

Avec jusqu'à 128GB de mémoire HBM2e offrant une bande passante de 3.7 TB/s et une puissance de 900W, le Gaudi 3 n'est pas là pour plaisanter. Intel a mis en avant des benchmarks où le Gaudi 3 se mesure au H100 de Nvidia, le champion du marché, dans l'exécution de modèles de langage volumineux tels que LLAMA2-7B, LLAMA2-13B, et GPT 3-175B. Verdict ? Le Gaudi 3 peut être jusqu'à 1,7 fois plus rapide.

Et ce n'est pas tout : selon Intel, le Gaudi 3 serait jusqu'à 2,3 fois plus économe en énergie que le H100 de Nvidia. Une belle prouesse qui pourrait changer la donne dans le monde de l'intelligence artificielle.

Les premiers modèles de Gaudi 3, refroidis par air, ont déjà été envoyés à quelques partenaires privilégiés pour des tests, avec une disponibilité générale prévue pour le troisième trimestre. Quant aux unités refroidies par liquide, elles devraient arriver sur le marché au quatrième trimestre.

Source : Intel