Pour échapper aux lois antitrusts, Nvidia acquiert une licence pour la technologie de puces d'inférence de Groq tout en recrutant ses dirigeants. (Crédit Groq)
La curieuse non-acquisition de Groq vient aider Nvidia à diversifier ses chaînes d'approvisionnement et à conquérir de nouveaux marchés, tout en limitant les contrôles antitrust.
Au lieu de procéder à une acquisition pure et simple, Nvidia a acquis une licence pour la propriété intellectuelle du concepteur de puces d'inférence Groq et a recruté certains de ses cadres dirigeants. « Nous avons obtenu une licence non exclusive sur la propriété intellectuelle de Groq et avons recruté des ingénieurs talentueux de l'équipe de Groq afin de fournir une technologie de calcul accéléré de pointe », a déclaré hier un porte-parole de Nvidia par courriel, confirmant que la firme de Santa Clara n'avait « pas acquis Groq ». Rappelons que ce dernier conçoit et commercialise des puces optimisées pour l'inférence IA. Ces composants, que Groq appelle « unités de traitement du langage » (Language Processing Unit, LPU), sont des dispositifs moins puissants et moins coûteux que les GPU conçus et commercialisés par Nvidia, lesquels sont principalement utilisés aujourd'hui pour l'entraînement des modèles d'IA.
À mesure que le marché de l'IA mûrit et que l'utilisation passe de la création d'outils d'IA à leur utilisation, la demande de dispositifs optimisés pour l'inférence devrait augmenter. L'entreprise loue également ses puces et exploite une activité d'inférence en tant que service appelée GroqCloud. L'annonce de cet accord et de ces changements au sein de la direction a été faite le 24 décembre. « Nous avons conclu un accord de licence non exclusive avec Nvidia pour la technologie d'inférence de Groq », a déclaré l'entreprise, ajoutant que dans le cadre de cet accord, « Jonathan Ross, fondateur de Groq, Sunny Madra, président de Groq, et d'autres membres de l'équipe Groq rejoindront Nvidia pour faire progresser et développer la technologie sous licence ». Selon TechCrunch, l'accord pourrait atteindre 20 milliards de dollars en valeur.
Une solution à la pénurie de mémoire ?
La chaîne d'approvisionnement en puces utilisées pour les applications d'IA subit de fortes tensions, au point que, lors de sa dernière conférence sur les résultats, le directeur financier de Nvidia a tenu à préciser que certaines puces étaient « épuisées » ou « pleinement utilisées ». Selon les analystes, la pénurie de mémoire à bande passante élevée est l'un des facteurs ayant contribué à cette situation. Rendre leurs opérations d'IA moins dépendantes des puces mémoire rares est devenu un objectif essentiel pour les fournisseurs d'IA et les acheteurs professionnels. Une différence significative entre les designs de puces de Groq et celles de Nvidia réside dans le type de mémoire utilisé par chacune. Les puces les plus rapides de Nvidia sont conçues pour fonctionner avec une mémoire à bande passante élevée, dont le prix, à l'instar de celui d'autres technologies de mémoire rapide, est en forte hausse en raison de la capacité de production limitée et de la demande croissante dans les applications liées à l'IA. Pour sa part, Groq intègre de la mémoire RAM statique dans ses puces. L'entreprise affirme que la SRAM est plus rapide et moins gourmande en énergie que la mémoire RAM dynamique utilisée par les technologies concurrentes, et qu'elle présente l'avantage de ne pas être (encore) aussi rare que la mémoire à bande passante élevée ou la DRAM DDR5 utilisées ailleurs. L'acquisition de la licence de la technologie de Groq permet à Nvidia de diversifier ses sources d'approvisionnement en mémoire.
Pas une acquisition
En structurant sa relation avec Groq sous la forme d'un accord de licence de propriété intellectuelle et en embauchant les ingénieurs qui l'intéressent le plus plutôt qu'en rachetant leur employeur, Nvidia évite de reprendre l'activité de services GroqCloud, alors qu'elle se retirerait de sa propre activité de services, DGX Cloud, pour la restructurer en tant que service d'ingénierie interne. Nvidia pourrait aussi échapper ainsi à une grande partie du contrôle antitrust qu'aurait accompagné une véritable acquisition. Nvidia n'a pas répondu aux questions concernant les noms et les fonctions des anciens dirigeants de Groq qu'elle a embauchés. Cependant, le fondateur de Groq, Jonathan Ross, indique sur son profil LinkedIn qu'il est désormais architecte logiciel en chef chez Nvidia, tandis que l'ancien président de Groq, Sunny Madra, indique qu'il est désormais vice-président du matériel chez Nvidia. Les activités restantes de Groq seront dirigées par Simon Edwards, ancien directeur financier du fournisseur de logiciels d'automatisation des ventes Conga, qui avait rejoint Groq à ce poste il y a trois mois seulement.
Suivez-nous