HP, Red Hat і NVIDIA готують корпоративну edge-платформу ШІ на базі ZGX Fury

HP, Red Hat і NVIDIA оголосили про співпрацю над відкритою корпоративною платформою ШІ, яка має перенести архітектуру дата-центру на периферію мережі — edge. Ідея полягає в тому, щоб запускати продуктивний inference, тобто виконання запитів уже навченими моделями, ближче до користувачів, застосунків, машин і даних, а не покладатися винятково на віддалену хмару. 213

Що обіцяє зв’язка HP, Red Hat і NVIDIA

Апаратною основою рішення стане HP ZGX Fury — ШІ-станція на базі суперчипа NVIDIA GB300 Grace Blackwell Ultra Desktop Superchip. За даними HP, система розрахована на локальні завдання inference з продуктивністю до 20 PFLOPS у форматі FP4. 14

Утім, йдеться не просто про потужну робочу станцію. HP позиціонує поєднання ZGX Fury та програмного стеку Red Hat як платформу для запуску й оркестрації кількох ШІ-навантажень поза центральним дата-центром. Передбачено сценарії розгортання локально, у хмарі або одночасно в обох середовищах. 15

За що відповідатиме Red Hat AI Factory with NVIDIA

Red Hat AI Factory with NVIDIA має стати програмним та операційним шаром для гібридної хмари. Red Hat описує це як спільно підтримуване корпоративне рішення, яке поєднує відкриту гібридну хмарну платформу й інженерні можливості Red Hat із оптимізованим програмним забезпеченням ШІ, моделями, мікросервісами, мережевими рішеннями та прискореною інфраструктурою NVIDIA. 12

У запропонованій HP конфігурації цей шар має дати організаціям змогу розгортати та керувати моделями й ШІ-застосунками на edge-майданчиках, у дата-центрах і хмарі. Платформу також описують як відкриту та віртуалізовану: вона повинна підтримувати ізоляцію навантажень і операційний контроль, щоб кілька ШІ-задач могли працювати на одній системі окремо одна від одної. 813

Навіщо переносити inference ближче до операційних даних

Ключовий принцип — локальний або периферійний inference. Це обробка запитів до моделі неподалік від місця, де дані створюються або використовуються, замість постійного надсилання всього потоку до віддаленої хмарної інфраструктури.

HP називає серед причин такого підходу затримки відповіді, конфіденційність, суверенітет даних і обмеження підключення. 8 Така архітектура може бути актуальною, коли дані є чутливими, мережевий зв’язок нестабільний або рішення потрібно отримати поряд із фізичним процесом.

Компанія окремо виділила такі сценарії:

• виробництво — моделі можуть працювати поруч із обладнанням і виробничими даними;
• розробка ПЗ — для departmental- або on-premises-inference та ШІ-асистованих робочих процесів;
• охорона здоров’я — коли чутливі дані бажано залишати ближче до джерела;
• державний сектор — зокрема ізольовані, або air-gapped, середовища, де доступ до хмари може бути недоречним чи неможливим. 58

Це заявлені приклади використання, а не гарантія результату. Практична доцільність залежатиме від розміру моделей, вимог до поводження з даними, мережевої архітектури та інструментів експлуатації.

Що вже доступно, а що ще лише планується

HP повідомила, що ZGX Fury вже можна замовити, а сама система сертифікована для Red Hat Enterprise Linux. 48

Водночас повне поєднання ZGX Fury із Red Hat AI Factory with NVIDIA було представлене як запланована платформа, а не як уже загальнодоступний інтегрований сервіс. 12

Також HP заявила, що клієнти зможуть випробувати комбіноване середовище у «пісочниці» на пристроях HP із Red Hat AI Factory with NVIDIA перед перенесенням сценаріїв у продуктивну експлуатацію. 2 Конкретних строків запуску, умов доступу чи технічної конфігурації такого середовища в анонсі не наведено.

Головне

Цей анонс — спроба упакувати високопродуктивне локальне обладнання NVIDIA разом із корпоративним гібридним ШІ-стеком Red Hat. Для бізнесу цінність пропозиції не зводиться до заявлених 20 PFLOPS FP4: головна обіцянка — запускати продуктивні ШІ-навантаження ближче до операційних даних, зберігаючи єдиний підхід до розгортання та керування в edge-середовищах, дата-центрах і хмарі. 11213

Тим, хто розглядає цю платформу, варто розділяти доступні сьогодні компоненти — обладнання ZGX Fury і сертифікацію для Red Hat Enterprise Linux — та майбутнє інтегроване рішення, включно з анонсованим тестуванням у «пісочниці». 24