Gaudi 3 AI accelerator : Intel lance sa contre-offensive face à Nvidia

 Intel a dévoilé, le  9 avril, sa dernière puce d’intelligence artificielle, appelée Gaudi 3 AI accelerator.

L’objectif est clairement affiché :  s’attaquer à la domination de Nvidia sur le marché des puces d’IA.
Gaudi 3 s’appuie sur les performances et l’évolutivité de son prédécesseur Gaudi 2, en fournissant « un calcul d’IA 4x pour BF16, une augmentation de 1,5 fois de la bande passante mémoire et une bande passante réseau 2x pour une évolutivité massive du système par rapport à son prédécesseur ». indique Intel.

The #IntelGaudi 3 #AI accelerator offers a highly competitive alternative to NVIDIA’s H100 with higher performance, increased scalability, and PyTorch integration. Explore more key product benefits. https://t.co/sXdQKjYFw0 pic.twitter.com/iJSndBQkvT

— Intel AI (@IntelAI) April 9, 2024

Intel affirme que Gaudi 3 représente une avancée significative en termes de performances et de productivité pour la formation et l'inférence de l'IA sur les modèles de langage étendus (LLM) et les modèles multimodaux populaires.

« Dans le paysage en constante évolution du marché de l’IA, une lacune importante persiste dans les offres actuelles. Les commentaires de nos clients et du marché en général soulignent le désir d'un choix accru », a déclaré Justin Hotard, vice-président exécutif d'Intel et directeur général du Data Center and AI Group, lors de l'événement Intel Vision à Phoenix, en Arizona. 

Gaudi 3 se positionne face au  Nvidia H100

« Les entreprises prennent en compte des considérations telles que la disponibilité, l'évolutivité, les performances, le coût et l'efficacité énergétique », a déclaré Justin Hotard. « Gaudi 3 se distingue comme l'alternative  GenAI, présentant une combinaison convaincante de rapport qualité-prix, d'évolutivité du système et d'avantage en matière de délai de rentabilisation. »

Intel a déclaré que l'accélérateur Gaudi 3 est conçu pour un calcul efficace de l'IA à grande échelle, qu'il est fabriqué selon un processus de 5 nanomètres (nm) et qu'il offre des avancées significatives par rapport à son prédécesseur.

Intel affirme qu'il est conçu pour permettre l'activation de tous les moteurs en parallèle – avec le moteur de multiplication matricielle (MME), les cœurs de processeur Tensor (TPC) et les cartes d'interface réseau (NIC) – permettant l'accélération nécessaire pour un calcul et une mise à l'échelle rapides et efficaces de l'apprentissage en profondeur.

Comprenez :  Gaudi 3 devrait offrir en moyenne des  meilleurs résultats que son concurrent Nvidia H100. Il sera disponible pour les fabricants d'équipement d'origine (OEM) au deuxième trimestre 2024.

Les développeurs peuvent commencer à accéder aux instances basées sur Intel Gaudi 2 sur le cloud des développeurs.

Tom Jowitt, Silicon UK