Elon Musk lance un supercalculateur à Memphis pour entraîner l'IA

Elon Musk, toujours à la pointe de l'innovation, vient de lancer une opération d'envergure à Memphis, Tennessee, avec son entreprise xAI. Au petit matin de lundi, il a confirmé que le site super-informatique de l'entreprise avait démarré ses activités, et pas des moindres.

Sur X, la plateforme qu'il possède également, Musk s'est félicité : "Chapeau à l'équipe xAI, à l'équipe X, à Nvidia et à toutes les entreprises partenaires qui ont permis de démarrer l'entraînement du Supercluster de Memphis à environ 4h20 du matin, heure locale." Il ne tarit pas d'éloges sur ce projet, le qualifiant de "cluster d'entraînement AI le plus puissant au monde", grâce à ses 100 000 GPU H100 refroidis par liquide.

Nvidia, bien connu pour ses GPU haute performance destinés à l'entraînement des modèles IA, est au cœur de cette initiative. Musk a donc maintenant à sa disposition un colossal ensemble de plus de 100 000 GPU pour peaufiner la prochaine version de Grok, le chatbot atypique de xAI.

Le mois dernier, la chambre de commerce de Memphis avait déjà annoncé que l'installation informatique d'xAI, surnommée "la Gigafactory de l'informatique", était en préparation. Cette installation reprend un ancien site de production et a bénéficié d'un financement de 6 milliards de dollars en mai pour le développement de l'IA. L'entreprise recrute activement pour ce site, avec des postes variés allant de chef de projet à ingénieur réseau.

Si la chambre de commerce locale applaudit cette initiative, elle suscite néanmoins des préoccupations chez certains habitants de Memphis concernant la consommation d'énergie et d'eau du site. Un groupe local, la Communauté de Memphis contre la Pollution, a mis en garde contre le "fardeau énergétique" que représente cette installation. Ils ont également souligné la demande massive d'eau — environ un million de gallons par jour — nécessaire pour refroidir les tours du site.

Le PDG de Memphis Light, Gas and Water a estimé que l'installation pourrait consommer jusqu'à 150 mégawatts d'électricité par heure, soit l'équivalent nécessaire pour alimenter 100 000 foyers. "Les gens ont peur, peur de l'impact potentiel sur l'approvisionnement en eau et l'énergie", a déclaré Pearl Walker, membre du conseil municipal de Memphis.

Malgré son ampleur, le site de Memphis n'est pas nécessairement le plus grand au monde. Des géants technologiques comme Microsoft, Google et Meta exploitent également des centres de données pour entraîner et faire fonctionner leurs modèles IA, avec par exemple Mark Zuckerberg qui prévoit d'acquérir 350 000 H100s de Nvidia cette année.

Musk a indiqué que Grok 2 devrait être lancé le mois prochain, bien qu'il reste flou sur l'utilisation précise de ce supercalculateur pour ce projet. Grok 3, en revanche, sera formé sur les 100 000 H100 à Memphis et devrait être lancé d'ici la fin de l'année.