Jeff Wittich, Chief Product Officer chez Ampere : « Les solutions futures d'inférence de l'IA nécessiteront de nombreux éléments, des accélérateurs aux composants de connectivité et de stockage pour des systèmes complets construits à grande échelle. » (Crédit photo : Ampere)
Bâtir une architecture ouverte avec des partenaires technologiques d'expérience, c'est le but du programme Systems Builders récemment lancé par le fondeur Ampere.
Avec son nouveau programme Ampere Systems Builders, le producteur de puces Ampere mise d'abord sur l'ouverture, bref de proposer des standards ouverts comme l'adoption de la norme DC-MHS (soutenue entre autres par l'Open Compute Project), favorisant l'interopérabilité, la personnalisation et une mise sur le marché plus rapide.
Pour cela, Il souhaite créer un écosystème en rassemblant plusieurs leaders du marché comme Broadcom, Supermicro, Giga Computing, ASRock Rack, Jabil et Rebellions, l'objectif étant de partager des ressources d'ingénierie et des spécifications ouvertes afin de proposer in fine des solutions clés en main adaptés aux exigences de l'inférence de l'IA. Pour Jeff Wittich, Chief Product Officer chez Ampere, les solutions futures d'inférence de l'IA nécessiteront de nombreux éléments, des accélérateurs aux composants de connectivité et de stockage pour des systèmes complets construits à grande échelle.
Des exemples déjà concrets
D'ores et déjà, Broadcom, de par son savoir-faire dans les réseaux, le stockage et la commutation PCIe, a rejoint le programme Ampere Systems Builders. De plus, toujours dans le cadre de ce programme, plusieurs plateformes d'accélération de l'inférence IA sont actuellement en cours de développement. Citons Giga Computing et ASRock Rack qui ont développé chacun une plateforme à 12 canaux basée sur AmpereOne M. « Notre nouveau serveur Gigabyte 2U présente d'ailleurs une conception unique car nous pouvons empiler deux cartes mères, chacune d'elle est équipée d'un socket AmpereOne M, pour un total de 24 barrettes de type Dimm. Ce qui en fait un serveur à forte densité de mémoire, idéale pour traiter les modèles de langage volumineux, comme LLaMa », détaille Vincent Wang, vice-président des ventes chez Giga Computing dans un communiqué.
Quant au module de traitement hôte DC-MHS de Jabil basé sur AmpereOne M, il sera prêt à être échantillonné d'ici le troisième trimestre 2025.
Suivez-nous