Cerebras et G42 ont présenté, jeudi 20 juillet, Condor Galaxy 1 (CG-1), un supercalculateur de 4exaFLOP de capacité de traitement pour la formation de grands modèles d’IA génératives (LLM).
54 millions de cœurs, 64 systèmes Cerebras Cs-2, 72 700 cœurs de puces Epyc AMD et une bande passante interne de 388 Tbt/s… voilà ce que renfermera Condor Galaxy 1, le supercalculateur d'IA de Cerebras une fois achevé en 2024. Basé à Santa-Clara (Califormie), le CG-1 est le premier supercalculateur d'un ensemble de neuf machines qui seront construites dans le cadre d’un partenariat avec G42, une société d’intelligence artificielle et de cloud des Émirats arabes unis.
Le supercalculateur à 100 millions de dollars doit répondre à « la croissance exponentielle de la taille et des exigences de calcul utilisé pour la formation de grands modèles d’IA » détaille un communiqué de Cerebras. Sa configuration de base doit prendre en charge de 600 milliards à 100 trillions de paramètres.
Bientôt 9 supercalculateurs
Condor Galaxy va être déployé en quatre phases d'ici l'année prochaine. La première est d’ores et déjà opérationnelle. Dans un second temps Cerebras entend doubler la puissance de CG-1, puis créer deux autres supercalculateurs aux Etats-Unis pour atteindre une puissance de 12 exaFLOPS. Six autres centres doivent également voir le jour afin d’atteindre une puissance de traitement combinée de 36 exaflops.
« Lorsqu'il sera entièrement déployé en 2024, Condor Galaxy sera l'un des plus grands supercalculateurs d'IA cloud au monde. À 36 exaflops, il est neuf fois plus puissant que le supercalculateur Israel-1 de Nvidia et quatre fois plus puissant que le plus grand pod TPU v4 annoncé par Google. », a indiqué la société. CG-1 est déjà disponible via le service Cerebras Clouds White Glove et via G42 Cloud pour ses clients commerciaux formant des modèles d'IA génératifs.