Стартап за $15 млн нашел способ решить две главные инфраструктурные проблемы ИИ

Гонка за построение инфраструктуры для искусственного интеллекта упирается в стену. Дело не просто в нехватке чипов — проблема в том, чтобы получить правильные чипы и найти место, где их можно включить в розетку. Новый стартап General Compute уверен, что знает, как обойти оба этих препятствия, и только что привлек $15 миллионов, чтобы доказать это на деле .

Ставка на специализированные процессоры для конкретной задачи

General Compute — это инференс-неоклауд. Так называют компании, которые сдают в аренду вычислительные мощности специально для этапа инференса ИИ — момента, когда обученная модель генерирует ответы для пользователей. В индустрии, где правят бал универсальные GPU от Nvidia, General Compute делает нестандартную ставку: лучший чип для инференса — это ASIC, микросхема, созданная специально для этой задачи.

Своим главным оружием стартап выбрал новый чип SN50 от компании SambaNova. SambaNova утверждает, что SN50 до 5 раз быстрее конкурирующих ускорителей и может снизить совокупную стоимость владения до 3 раз по сравнению с системами на базе GPU . Для General Compute главная привлекательность — это чистая скорость и эффективность для конкретного, быстрорастущего сегмента: агентного ИИ. Под ним понимаются автономные программы-агенты, которые действуют и взаимодействуют друг с другом для выполнения сложных задач.

Генеральный директор Финн Пукловски говорит, что чипы SN50 будут генерировать от 600 до 700 токенов в секунду, тогда как аналогичный показатель для GPU составляет примерно 250 токенов в секунду . Такое почти трехкратное преимущество в скорости — это не просто красивая цифра для спецификаций. Это критически важно для автономных ИИ-агентов, которым необходимо взаимодействовать друг с другом в режиме реального времени, в многошаговых циклах, где на счету каждая миллисекунда задержки.

General Compute уже разместила заказы на чипы SN50 на сумму $300 миллионов и утверждает, что станет первым неоклаудом, развернувшим это оборудование . Этот шаг отражает более широкий рыночный сдвиг в сторону процессоров, оптимизированных для инференса. О значимости этого тренда говорят громкие сделки: приобретение Groq компанией Nvidia за $20 миллиардов и IPO компании Cerebras с оценкой в $57 миллиардов .

Как решить кризис с размещением ЦОДов

Даже самые лучшие чипы бесполезны, если их некуда воткнуть. ИИ-бум создал огромное узкое место в строительстве дата-центров: возведение новых объектов требует многих лет и колоссальных капитальных затрат. Ответ General Compute — полностью отказаться от строительства.

Ключ кроется в аппаратной архитектуре. В отличие от кластеров с водяным охлаждением и высоким энергопотреблением, которые доминируют в задачах обучения ИИ, чипы SambaNova SN50 имеют воздушное охлаждение и потребляют значительно меньше энергии. Это означает, что им не нужна дорогостоящая специализированная модернизация помещений, и их можно установить в гораздо более широком спектре уже существующих дата-центров .

Это открывает дверь для самого креативного инфраструктурного хода стартапа: сделок по совместному размещению (colocation) с операторами криптомайнинга. По мере того как доходность добычи криптовалют падает, многие майнеры остаются со значительной инфраструктурой — зданиями с огромными электрическими мощностями, промышленным охлаждением и высокоскоростными сетями — и ищут ей новое применение . План General Compute заключается в том, чтобы просто установить свои стойки с чипами SN50 с воздушным охлаждением в этих готовых помещениях. Это дает мгновенный доступ к самой сложной части создания ИИ-инфраструктуры, не тратя ни доллара и ни дня на новое строительство .

Суть стратегии

Стратегия General Compute — это двойная ставка на будущее ИИ. С аппаратной точки зрения, это пари на то, что инференс для автономных агентов станет отдельным, огромным рынком, которому нужны специализированные ASIC, а не перепрофилированные GPU для обучения. С логистической стороны, ставка сделана на то, что скорость запуска чипов в работу за счет перепрофилирования существующей инфраструктуры важнее, чем погоня за тактовой частотой на бумаге. Если этот расчет окажется верным, General Compute станет не просто еще одним облачным провайдером. Это может стать образцом того, как следующая волна ИИ-компаний решит самые острые физические и финансовые проблемы индустрии.