Ідея платформи полягає в тому, щоб з'єднати весь життєвий цикл AI — від зберігання сирих даних до розгортання моделей та роботи AI-агентів — в одному інтегрованому стеку. Huawei наголошує, що фрагментована інфраструктура сповільнює впровадження AI, тому компанія розробила систему, де конвеєри даних, інфраструктура для інференсу та рівні оркестрації тісно інтегровані.

П'ятирівнева архітектура

Huawei описує платформу як стек із п'яти рівнів, кожен з яких підтримує окрему частину корпоративного AI-конвеєра.

1. Рівень зберігання даних

Основою є OceanStor Pacific — розподілена платформа зберігання даних Huawei, призначена для зберігання масштабних AI-наборів даних та векторних вбудовувань (ембеддингів). Система оптимізована для високої щільності ємності та роботи з великими обсягами даних, типовими для середовищ тренування та інференсу AI.

Huawei повідомляє, що OceanStor Pacific може досягати до 11 петабайтів пам'яті в корпусі 2U, що має забезпечити високу щільність при нижчій сукупній вартості володіння для великих AI-центрів обробки даних.

2. Рівень управління даними

Над сховищем знаходиться DME Omni-Dataverse, який виконує роль уніфікованої платформи управління даними. Вона агрегує та керує даними з різних середовищ, забезпечуючи:

• Прийом мультимодальних даних
• Управління даними між різними локаціями
• Глобальну видимість та контроль даних
• Швидкий пошук у надвеликих наборах векторних даних

За даними Huawei та пов'язаних звітів, платформа здатна виконувати пошук на рівні секунд серед сотень мільярдів векторів, що дозволяє AI-моделям отримувати доступ до баз знань та вбудовувань у масштабі.

3. Рівень розгортання моделей та інференсу

Наступний рівень зосереджений на ефективному розгортанні та запуску AI-моделей.

Ключові технології включають:

• Context Memory Storage (CMS) — архітектура пам'яті, призначена для великих кластерів інференсу
• ModelEngine — середовище виконання Huawei для розгортання та управління AI-моделями

CMS підтримує гетерогенні обчислювальні середовища і може об'єднувати великі ресурси KV-кеш-пам'яті, допомагаючи прискорити роботу інференсу. Huawei стверджує, що ця архітектура може значно зменшити затримку при генерації першого токена під час інференсу.

ModelEngine, своєю чергою, надає можливості шлюзу моделей та інструменти для швидкого розгортання нових моделей з мінімальними налаштуваннями.

4. Рівень оркестрації AI-агентів

Huawei також представила Nexent — корпоративну платформу для AI-агентів, яка працює разом з ModelEngine для оркестрації AI-агентів у бізнес-процесах.

Мета — дати змогу організаціям безпосередньо підключати AI-моделі до операційних завдань — таких як автоматизація, підтримка прийняття рішень чи взаємодія з клієнтами — через системи агентів, які координують роботу кількох моделей та інструментів.

В архітектурі Huawei цей рівень перетворює розгорнуті моделі на практичні корпоративні AI-агенти, здатні взаємодіяти з даними, застосунками та користувачами.

5. Рівень стійкості даних

Останній рівень зосереджений на безпеці, надійності та захисті даних. Huawei описує його як наскрізну структуру стійкості, яка захищає AI-дані та інфраструктуру від збоїв та кібератак.

Серед можливостей, висвітлених у звітах:

• Незмінні знімки та резервні копії
• Наскрізний захист даних
• Інструменти аварійного відновлення та забезпечення стійкості

Ці функції призначені для захисту від таких загроз, як атаки програм-вимагачів та інших ризиків цілісності даних, які можуть порушити роботу AI. Деякі звіти також пов'язують рівень стійкості з ширшим захистом від загроз якості даних у AI-конвеєрах, хоча конкретні технічні деталі обмежені.

Заявлені показники продуктивності та ефективності

Huawei представила платформу як спосіб прискорити впровадження корпоративного AI та підвищити продуктивність інференсу.

Приклади, наведені у звітах:

• До 10× швидша генерація токенів у деяких сценаріях інференсу завдяки оптимізації CMS та управління пам'яттю.
• Час розгортання AI-застосунків скорочено з тижнів до днів завдяки інтегрованій оркестрації та інструментам платформи.
• Прискорення інференсу за допомогою таких технік, як оптимізація KV-кеш-пам'яті та уніфіковане управління кешем.

Як і в більшості вендорських тестів, ці показники відображають внутрішнє тестування Huawei або роботу з конкретними навантаженнями, а не універсальні результати.

Перші корпоративні впровадження

Huawei також згадала про раннє впровадження своєї інфраструктури в корпоративному середовищі.

Наприклад, французький рітейлер Auchan розгорнув обладнання Huawei та кластери інфраструктури центрів обробки даних у трьох дата-центрах у Франції в рамках модернізації.

Хоча звіти підтверджують розгортання інфраструктури Huawei, публічно доступні джерела не дозволяють однозначно пов'язати зниження витрат на хмарні сервіси Auchan саме з платформою Huawei. Наявні докази свідчать про ширшу модернізацію IT-середовища рітейлера, яка може включати кілька технологій та хмарних провайдерів.

Чому Huawei будує повноцінну AI-інфраструктуру

Це оголошення відображає ширшу галузеву тенденцію до вертикально інтегрованої AI-інфраструктури. Замість окремих інструментів для зберігання даних, розгортання моделей та оркестрації, вендори все частіше об'єднують їх в уніфіковані платформи, призначені для:

• Масштабних кластерів AI-інференсу
• Корпоративних AI-агентів
• Конвеєрів даних, орієнтованих на AI

Підхід Huawei робить великий акцент на інфраструктурі даних, розглядаючи зберігання даних, векторний пошук, кешування пам'яті та оркестрацію як ключові елементи продуктивності AI, а не як другорядні компоненти.

Якщо підприємства широко впровадять цю архітектуру, платформа зможе стати операційною основою для AI-орієнтованих центрів обробки даних, з'єднуючи сирі дані, AI-моделі та системи агентів в єдиному стеку.

Ідея платформи полягає в тому, щоб з'єднати весь життєвий цикл AI — від зберігання сирих даних до розгортання моделей та роботи AI-агентів — в одному інтегрованому стеку. Huawei наголошує, що фрагментована інфраструктура сповільнює впровадження AI, тому компанія розробила систему, де конвеєри даних, інфраструктура для інференсу та рівні оркестрації тісно інтегровані.

П'ятирівнева архітектура

Huawei описує платформу як стек із п'яти рівнів, кожен з яких підтримує окрему частину корпоративного AI-конвеєра.

1. Рівень зберігання даних

Основою є OceanStor Pacific — розподілена платформа зберігання даних Huawei, призначена для зберігання масштабних AI-наборів даних та векторних вбудовувань (ембеддингів). Система оптимізована для високої щільності ємності та роботи з великими обсягами даних, типовими для середовищ тренування та інференсу AI.

Huawei повідомляє, що OceanStor Pacific може досягати до 11 петабайтів пам'яті в корпусі 2U, що має забезпечити високу щільність при нижчій сукупній вартості володіння для великих AI-центрів обробки даних.

2. Рівень управління даними

Над сховищем знаходиться DME Omni-Dataverse, який виконує роль уніфікованої платформи управління даними. Вона агрегує та керує даними з різних середовищ, забезпечуючи:

• Прийом мультимодальних даних
• Управління даними між різними локаціями
• Глобальну видимість та контроль даних
• Швидкий пошук у надвеликих наборах векторних даних

За даними Huawei та пов'язаних звітів, платформа здатна виконувати пошук на рівні секунд серед сотень мільярдів векторів, що дозволяє AI-моделям отримувати доступ до баз знань та вбудовувань у масштабі.

3. Рівень розгортання моделей та інференсу

Наступний рівень зосереджений на ефективному розгортанні та запуску AI-моделей.

Ключові технології включають:

• Context Memory Storage (CMS) — архітектура пам'яті, призначена для великих кластерів інференсу
• ModelEngine — середовище виконання Huawei для розгортання та управління AI-моделями

CMS підтримує гетерогенні обчислювальні середовища і може об'єднувати великі ресурси KV-кеш-пам'яті, допомагаючи прискорити роботу інференсу. Huawei стверджує, що ця архітектура може значно зменшити затримку при генерації першого токена під час інференсу.

ModelEngine, своєю чергою, надає можливості шлюзу моделей та інструменти для швидкого розгортання нових моделей з мінімальними налаштуваннями.

4. Рівень оркестрації AI-агентів

Huawei також представила Nexent — корпоративну платформу для AI-агентів, яка працює разом з ModelEngine для оркестрації AI-агентів у бізнес-процесах.

Мета — дати змогу організаціям безпосередньо підключати AI-моделі до операційних завдань — таких як автоматизація, підтримка прийняття рішень чи взаємодія з клієнтами — через системи агентів, які координують роботу кількох моделей та інструментів.

В архітектурі Huawei цей рівень перетворює розгорнуті моделі на практичні корпоративні AI-агенти, здатні взаємодіяти з даними, застосунками та користувачами.

5. Рівень стійкості даних

Останній рівень зосереджений на безпеці, надійності та захисті даних. Huawei описує його як наскрізну структуру стійкості, яка захищає AI-дані та інфраструктуру від збоїв та кібератак.

Серед можливостей, висвітлених у звітах:

• Незмінні знімки та резервні копії
• Наскрізний захист даних
• Інструменти аварійного відновлення та забезпечення стійкості

Ці функції призначені для захисту від таких загроз, як атаки програм-вимагачів та інших ризиків цілісності даних, які можуть порушити роботу AI. Деякі звіти також пов'язують рівень стійкості з ширшим захистом від загроз якості даних у AI-конвеєрах, хоча конкретні технічні деталі обмежені.

Заявлені показники продуктивності та ефективності

Huawei представила платформу як спосіб прискорити впровадження корпоративного AI та підвищити продуктивність інференсу.

Приклади, наведені у звітах:

• До 10× швидша генерація токенів у деяких сценаріях інференсу завдяки оптимізації CMS та управління пам'яттю.
• Час розгортання AI-застосунків скорочено з тижнів до днів завдяки інтегрованій оркестрації та інструментам платформи.
• Прискорення інференсу за допомогою таких технік, як оптимізація KV-кеш-пам'яті та уніфіковане управління кешем.

Як і в більшості вендорських тестів, ці показники відображають внутрішнє тестування Huawei або роботу з конкретними навантаженнями, а не універсальні результати.

Перші корпоративні впровадження

Huawei також згадала про раннє впровадження своєї інфраструктури в корпоративному середовищі.

Наприклад, французький рітейлер Auchan розгорнув обладнання Huawei та кластери інфраструктури центрів обробки даних у трьох дата-центрах у Франції в рамках модернізації.

Хоча звіти підтверджують розгортання інфраструктури Huawei, публічно доступні джерела не дозволяють однозначно пов'язати зниження витрат на хмарні сервіси Auchan саме з платформою Huawei. Наявні докази свідчать про ширшу модернізацію IT-середовища рітейлера, яка може включати кілька технологій та хмарних провайдерів.

Чому Huawei будує повноцінну AI-інфраструктуру

Це оголошення відображає ширшу галузеву тенденцію до вертикально інтегрованої AI-інфраструктури. Замість окремих інструментів для зберігання даних, розгортання моделей та оркестрації, вендори все частіше об'єднують їх в уніфіковані платформи, призначені для:

• Масштабних кластерів AI-інференсу
• Корпоративних AI-агентів
• Конвеєрів даних, орієнтованих на AI

Підхід Huawei робить великий акцент на інфраструктурі даних, розглядаючи зберігання даних, векторний пошук, кешування пам'яті та оркестрацію як ключові елементи продуктивності AI, а не як другорядні компоненти.

Якщо підприємства широко впровадять цю архітектуру, платформа зможе стати операційною основою для AI-орієнтованих центрів обробки даних, з'єднуючи сирі дані, AI-моделі та системи агентів в єдиному стеку.