Le PDG Finn Puklowski indique que les puces SN50 généreront 600 à 700 tokens par seconde, contre environ 250 tokens par seconde pour un GPU . Ce gain de vitesse, quasiment triplé, n'est pas un simple argument marketing ; il est essentiel pour les agents d'IA autonomes qui doivent communiquer entre eux en temps réel, dans des boucles en plusieurs étapes où chaque milliseconde de latence compte.

General Compute a passé pour 300 millions de dollars de commandes de SN50 et prétend être le premier neocloud à les déployer . Cette initiative reflète un mouvement plus large du marché vers le silicium optimisé pour l'inférence, souligné par l'acquisition de Groq par Nvidia et l'introduction en bourse de Cerebras .

Résoudre la crise du déploiement des datacenters

Même les meilleures puces sont inutiles sans un endroit pour les allumer. L'essor de l'IA a créé un énorme goulet d'étranglement dans la construction de centres de données, les nouvelles installations étant confrontées à des délais de plusieurs années et à des dépenses d'investissement colossales. La réponse de General Compute est de faire l'impasse sur toute construction.

La clé réside dans la conception du matériel. Contrairement aux clusters de GPU, gourmands en énergie et nécessitant un refroidissement liquide, qui dominent l'entraînement de l'IA, les puces SN50 de SambaNova sont refroidies par air et consomment nettement moins d'énergie. Cela signifie qu'elles n'ont pas besoin de rénovations spécialisées et coûteuses, et peuvent être installées dans une gamme beaucoup plus large d'installations de datacenters déjà existantes .

Cela ouvre la voie au jeu d'infrastructure le plus créatif de la jeune pousse : des accords de colocation avec des mineurs de cryptomonnaies. Alors que la rentabilité du minage de cryptomonnaies a diminué, de nombreux mineurs se retrouvent avec des infrastructures importantes — des bâtiments dotés d'une capacité électrique massive, de systèmes de refroidissement industriels et de réseaux à haut débit — à la recherche d'une nouvelle vocation . Le plan de General Compute consiste simplement à installer ses racks SN50 refroidis par air dans ces installations prêtes à l'emploi, obtenant un accès immédiat aux éléments les plus complexes de la construction d'une infrastructure d'IA sans dépenser un dollar ni un jour pour de nouvelles constructions .

En résumé

La stratégie de General Compute est un double pari sur l'avenir de l'IA. Sur le plan matériel, elle parie que l'inférence pour les agents autonomes sera un marché distinct et massif qui nécessite des ASIC spécialisés, et non des GPU d'entraînement réaffectés. Sur le plan logistique, elle parie qu'il est plus important de mettre les puces en service rapidement en réutilisant les infrastructures existantes que de courir après des gains marginaux sur des fiches techniques. Si elle voit juste, General Compute ne sera pas seulement un nouveau fournisseur de cloud ; elle deviendra un modèle pour la manière dont la prochaine vague d'entreprises d'IA résoudra les goulets d'étranglement physiques et financiers les plus pressants du secteur.

Le PDG Finn Puklowski indique que les puces SN50 généreront 600 à 700 tokens par seconde, contre environ 250 tokens par seconde pour un GPU . Ce gain de vitesse, quasiment triplé, n'est pas un simple argument marketing ; il est essentiel pour les agents d'IA autonomes qui doivent communiquer entre eux en temps réel, dans des boucles en plusieurs étapes où chaque milliseconde de latence compte.

General Compute a passé pour 300 millions de dollars de commandes de SN50 et prétend être le premier neocloud à les déployer . Cette initiative reflète un mouvement plus large du marché vers le silicium optimisé pour l'inférence, souligné par l'acquisition de Groq par Nvidia et l'introduction en bourse de Cerebras .

Résoudre la crise du déploiement des datacenters

Même les meilleures puces sont inutiles sans un endroit pour les allumer. L'essor de l'IA a créé un énorme goulet d'étranglement dans la construction de centres de données, les nouvelles installations étant confrontées à des délais de plusieurs années et à des dépenses d'investissement colossales. La réponse de General Compute est de faire l'impasse sur toute construction.

La clé réside dans la conception du matériel. Contrairement aux clusters de GPU, gourmands en énergie et nécessitant un refroidissement liquide, qui dominent l'entraînement de l'IA, les puces SN50 de SambaNova sont refroidies par air et consomment nettement moins d'énergie. Cela signifie qu'elles n'ont pas besoin de rénovations spécialisées et coûteuses, et peuvent être installées dans une gamme beaucoup plus large d'installations de datacenters déjà existantes .

Cela ouvre la voie au jeu d'infrastructure le plus créatif de la jeune pousse : des accords de colocation avec des mineurs de cryptomonnaies. Alors que la rentabilité du minage de cryptomonnaies a diminué, de nombreux mineurs se retrouvent avec des infrastructures importantes — des bâtiments dotés d'une capacité électrique massive, de systèmes de refroidissement industriels et de réseaux à haut débit — à la recherche d'une nouvelle vocation . Le plan de General Compute consiste simplement à installer ses racks SN50 refroidis par air dans ces installations prêtes à l'emploi, obtenant un accès immédiat aux éléments les plus complexes de la construction d'une infrastructure d'IA sans dépenser un dollar ni un jour pour de nouvelles constructions .

En résumé

La stratégie de General Compute est un double pari sur l'avenir de l'IA. Sur le plan matériel, elle parie que l'inférence pour les agents autonomes sera un marché distinct et massif qui nécessite des ASIC spécialisés, et non des GPU d'entraînement réaffectés. Sur le plan logistique, elle parie qu'il est plus important de mettre les puces en service rapidement en réutilisant les infrastructures existantes que de courir après des gains marginaux sur des fiches techniques. Si elle voit juste, General Compute ne sera pas seulement un nouveau fournisseur de cloud ; elle deviendra un modèle pour la manière dont la prochaine vague d'entreprises d'IA résoudra les goulets d'étranglement physiques et financiers les plus pressants du secteur.