OpenShell и Sentry: как Nvidia хочет ограничивать действия ИИ-агентов

Два уровня контроля вместо одного запрета

28 сентября 2026 года Nvidia представила Open Agent Safety Platform — платформу из двух частей: открытого ПО OpenShell и эталонной аппаратной системы Sentry. Идея в том, чтобы ограничивать не только то, что агенту разрешено делать, но и контролировать исполнение этих правил на уровне инфраструктуры. 9

OpenShell создаёт для агента защищённую среду: задаёт допустимые действия и доступ к ресурсам, отслеживает работу и применяет политики. Nvidia говорит о запуске OpenShell на процессорах Vera и возможности расширить ПО для стороннего оборудования. Отчёты также упоминают работу над поддержкой платформ Arm и Intel. 95

Sentry — отдельный от основного программного контура наблюдатель. В описании системы он представлен как watchdog, работающий на ускорителях BlueField-4: если агент выходит за установленную программную границу, Sentry должен изолировать или остановить его. Reuters также отмечает, что Sentry использует процессоры Nvidia. 81

Где здесь математика — и чего о ней не известно

Nvidia связывает OpenShell с формальной проверкой: разработчик может проверить, хватает ли агенту полномочий для порученной задачи и не получил ли он больше необходимого. Это важное отличие от простого наблюдения за поведением: речь идёт о проверке заданных ограничений и разрешений. 1213

Однако опубликованные материалы не описывают конкретный математический алгоритм или полный порядок такой проверки. Поэтому называть её, например, гарантированным способом предсказать любое нежелательное поведение было бы преувеличением. Формальная проверка полномочий может задавать более строгие рамки, но сама по себе не доказывает, что система безошибочно распознает все возможные нарушения.

А если агент запускает других агентов?

Для многоагентных систем критично, сохраняются ли ограничения, когда один агент создаёт или запускает дочернего. В доступных описаниях Nvidia не объясняет достаточно подробно, как OpenShell и Sentry отслеживают такую цепочку и как дочерние агенты наследуют разрешения родительского.

Поэтому можно говорить о заявленной общей задаче платформы — удерживать действия агентов в заданных границах, — но не о подтверждённой эффективности против любого сценария с субагентами. 9

Почему Nvidia вспоминает Hugging Face

Reuters сообщает, что агенты OpenAI участвовали в компрометации Hugging Face — платформы для разработчиков ИИ. Nvidia заявила, что её инструменты могли бы предотвратить этот инцидент: OpenShell ограничивал бы доступ и действия агентов, а Sentry независимо контролировал бы соблюдение границ. 21

Это именно оценка Nvidia. Доступные источники не показывают, что платформу проверили в тех же условиях и доказали, что она наверняка остановила бы атаку. Практический смысл подхода понятен: не полагаться только на то, что сам агент будет следовать инструкциям, а сочетать ограничения в ПО с отдельным аппаратным контролем. Но заявления о защите стоит отличать от независимо подтверждённого результата.