General Compute parie sur les puces refroidies par air de SambaNova pour résoudre le casse-tête des datacenters

La course à l'infrastructure pour l'intelligence artificielle se heurte à un mur. Le problème n'est pas seulement de se procurer des puces, mais de trouver les bonnes puces et un endroit pour les brancher. Une jeune pousse nommée General Compute pense détenir la solution pour surmonter ces deux obstacles, et elle vient de lever 15 millions de dollars pour le prouver .

Un pari sur le silicium spécialisé pour une tâche spécifique

General Compute est un « neocloud » d'inférence, une entreprise qui loue de la puissance de calcul spécifiquement pour la phase d'inférence de l'IA, c'est-à-dire le moment où un modèle entraîné génère des réponses aux utilisateurs. Dans une industrie dominée par les GPU polyvalents de Nvidia, General Compute fait un pari à contre-courant : la meilleure puce pour l'inférence est un circuit intégré propre à une application (ASIC), une puce conçue sur mesure pour cette tâche.

La jeune pousse a choisi la nouvelle puce SN50 de SambaNova comme arme de prédilection. SambaNova affirme que la SN50 est jusqu'à 5 fois plus rapide que les accélérateurs concurrents et peut réduire le coût total de possession jusqu'à 3 fois par rapport aux systèmes basés sur des GPU . Pour General Compute, l'attrait réside dans la vitesse brute et l'efficacité pour un cas d'usage en pleine expansion : l'IA agentique, ou par agents autonomes.

Le PDG Finn Puklowski indique que les puces SN50 généreront 600 à 700 tokens par seconde, contre environ 250 tokens par seconde pour un GPU . Ce gain de vitesse, quasiment triplé, n'est pas un simple argument marketing ; il est essentiel pour les agents d'IA autonomes qui doivent communiquer entre eux en temps réel, dans des boucles en plusieurs étapes où chaque milliseconde de latence compte.

General Compute a passé pour 300 millions de dollars de commandes de SN50 et prétend être le premier neocloud à les déployer . Cette initiative reflète un mouvement plus large du marché vers le silicium optimisé pour l'inférence, souligné par l'acquisition de Groq par Nvidia et l'introduction en bourse de Cerebras .

Résoudre la crise du déploiement des datacenters

Même les meilleures puces sont inutiles sans un endroit pour les allumer. L'essor de l'IA a créé un énorme goulet d'étranglement dans la construction de centres de données, les nouvelles installations étant confrontées à des délais de plusieurs années et à des dépenses d'investissement colossales. La réponse de General Compute est de faire l'impasse sur toute construction.

La clé réside dans la conception du matériel. Contrairement aux clusters de GPU, gourmands en énergie et nécessitant un refroidissement liquide, qui dominent l'entraînement de l'IA, les puces SN50 de SambaNova sont refroidies par air et consomment nettement moins d'énergie. Cela signifie qu'elles n'ont pas besoin de rénovations spécialisées et coûteuses, et peuvent être installées dans une gamme beaucoup plus large d'installations de datacenters déjà existantes .

Cela ouvre la voie au jeu d'infrastructure le plus créatif de la jeune pousse : des accords de colocation avec des mineurs de cryptomonnaies. Alors que la rentabilité du minage de cryptomonnaies a diminué, de nombreux mineurs se retrouvent avec des infrastructures importantes — des bâtiments dotés d'une capacité électrique massive, de systèmes de refroidissement industriels et de réseaux à haut débit — à la recherche d'une nouvelle vocation . Le plan de General Compute consiste simplement à installer ses racks SN50 refroidis par air dans ces installations prêtes à l'emploi, obtenant un accès immédiat aux éléments les plus complexes de la construction d'une infrastructure d'IA sans dépenser un dollar ni un jour pour de nouvelles constructions .

En résumé

La stratégie de General Compute est un double pari sur l'avenir de l'IA. Sur le plan matériel, elle parie que l'inférence pour les agents autonomes sera un marché distinct et massif qui nécessite des ASIC spécialisés, et non des GPU d'entraînement réaffectés. Sur le plan logistique, elle parie qu'il est plus important de mettre les puces en service rapidement en réutilisant les infrastructures existantes que de courir après des gains marginaux sur des fiches techniques. Si elle voit juste, General Compute ne sera pas seulement un nouveau fournisseur de cloud ; elle deviendra un modèle pour la manière dont la prochaine vague d'entreprises d'IA résoudra les goulets d'étranglement physiques et financiers les plus pressants du secteur.