Frore Systems a annoncé aujourd'hui LiquidJet Diamond, une nouvelle plaque froide de refroidissement liquide pour usines d'IA comportant un répartiteur de diamant intégré. La demande croissante de tokens d'IA, associée à la pénurie d'énergie, pousse les hyperscalers à trouver de nouvelles façons d'augmenter l'efficacité des usines d'IA. La plaque froide LiquidJet Diamond augmente les tokens/Watt et les revenus de 35 % par rapport aux plaques froides traditionnelles usinées par skiving, avec l'augmentation des revenus qui se répercute directement sur les bénéfices.
LiquidJet Diamond s'appuie sur la plaque froide LiquidJet précédemment annoncée de Frore Systems. La plaque froide LiquidJet utilise une conception unique à plusieurs étages en boucle ultracourte 3D qui peut être personnalisée avec précision selon la carte de puissance de chaque GPU, y compris les points chauds extrêmes. Cette précision est cruciale car les GPU deviennent plus complexes et consomment plus d'énergie pour répondre à la demande d'IA. LiquidJet permet une réduction de 12 °C de la température de la matrice du GPU, ce qui se traduit directement par une efficacité supérieure de 25 % en tokens/Watt. LiquidJet Diamond ajoute un répartiteur supplémentaire avec des plaquettes de diamant intégrées au bas de la plaque froide, positionné précisément aux emplacements des points chauds. LiquidJet Diamond offre une réduction supplémentaire de 10 °C de la température de la matrice aux points chauds, portant l'augmentation des tokens/Watt à 35 %.
"Les usines d'IA sont confrontées à des obstacles majeurs en termes de performance", a déclaré Seshu Madhavapeddy, fondateur et PDG de Frore Systems. "Les GPU augmentent leur densité de puissance et créent des points chauds extrêmes qui, s'ils ne sont pas correctement refroidis, empêchent le GPU d'atteindre ses performances maximales. Liquid Jet Diamond, qui comporte un répartiteur de diamant intégré en plus de sa conception innovante à plusieurs étages en boucle ultracourte 3D, peut refroidir les points chauds extrêmes jusqu'à 770 W/cm², libérant ainsi le potentiel élevé des GPU d'IA et fournissant encore plus de tokens/Watt." Il a ajouté : "Lorsque chaque GPU est plus efficace, chaque token d'IA coûte moins cher à produire, et davantage de tokens d'IA peuvent être générés dans la limite du budget énergétique disponible, en utilisant la même infrastructure d'usine d'IA. Cela augmente la rentabilité de l'usine d'IA tout en préservant les ressources locales." L'énergie disponible pour les usines d'IA est limitée et coûteuse à étendre.
Entités clés : Entreprises : Frore Systems | Personnes : Seshu Madhavapeddy
FAQ : Comment LiquidJet Diamond améliore-t-il l'efficacité des usines d'IA ?
LiquidJet Diamond augmente les tokens/Watt et les revenus de 35 % par rapport aux plaques froides traditionnelles usinées par skiving en apportant une réduction supplémentaire de 10 °C de la température de la matrice aux points chauds grâce à un répartiteur de diamant intégré, en s'appuyant sur la réduction de 12 °C de la température de la matrice du GPU de la plaque froide de base LiquidJet.
FAQ Q : Comment LiquidJet Diamond améliore-t-il l'efficacité des usines d'IA ?
FAQ R : LiquidJet Diamond augmente les tokens/Watt et les revenus de 35 % par rapport aux plaques froides traditionnelles usinées par skiving en apportant une réduction supplémentaire de 10 °C de la température de la matrice aux points chauds grâce à un répartiteur de diamant intégré, en s'appuyant sur la réduction de 12 °C de la température de la matrice du GPU de la plaque froide de base LiquidJet.
Source: TechPowerUp News · Résumé par HeadlinesBriefing