Nvidia przyspiesza: OSAA pokazuje SAFE i przechodzi od lobbingu do bezpieczeństwa AI

Projekt SAFE koncentruje się na czterech praktykach:

• poufnym gromadzeniu i analizowaniu incydentów oraz zdarzeń potencjalnie wypadkowych związanych z bezpieczeństwem AI;
• informowaniu organizacji, których może dotyczyć dany incydent;
• wykrywaniu powtarzających się słabości w mechanizmach kontroli i praktykach bezpieczeństwa;
• tworzeniu opartych na dowodach, pozbawionych obwiniania wniosków, które można wykorzystać w całym ekosystemie.

Celem jest zamiana pojedynczych problemów — takich jak prompt injection, wyciek danych czy niekontrolowane działanie agenta — w wspólną wiedzę obronną. Zamiast reagować na każdy przypadek osobno, uczestnicy mieliby otrzymać proces pozwalający przekładać konkretne awarie na szersze zabezpieczenia.

OSAA tworzy warstwowy zestaw zabezpieczeń

SAFE nie jest samodzielnym produktem. OSAA gromadzi także otwarte i możliwe do sprawdzenia technologie, które mają odpowiadać za różne warstwy bezpieczeństwa agentów AI.

Wśród deklarowanych wkładów członków znajdują się:

• Nvidia: rodziny modeli z otwartymi wagami, środowisko uruchomieniowe OpenShell ograniczające to, do czego agent może uzyskać dostęp i co może wykonać, narzędzia do testowania i audytowania agentów oraz Garak — skaner open source wykrywający m.in. ryzyko wycieku danych, prompt injection i jailbreaków.
• Okta: referencyjne implementacje tożsamości i dostępu agentów, wykorzystujące protokół Cross App Access do łączenia agentów z aplikacjami firmowymi w bardziej kontrolowanych środowiskach.
• Red Hat: asago, otwarty projekt zarządzania, który ma łączyć zasady organizacyjne z uprawnieniami w czasie działania i tworzyć możliwą do audytu ścieżkę od polityki do konkretnej kontroli.
• Amazon: Strands Agents, otwarty zestaw narzędzi do budowania i oceniania agentów, oraz Cedar, język autoryzacji.
• Pozostali członkowie: projekty skoncentrowane na tożsamości, takie jak Agent Guard i Agent Watch. Wzmacnia to przekaz, że zabezpieczenie agenta wymaga kontroli nie tylko modelu, ale także tożsamości, uprawnień, środowiska wykonawczego, danych, zarządzania i odporności.

Wspólnie te elementy obejmują tożsamość, uprawnienia, narzędzia agentowe, zachowanie w czasie działania, ewaluację, dane, zarządzanie i odporność. W przyszłości mogą dać przedsiębiorstwom wspólny zestaw otwartych kontroli do ograniczania i monitorowania agentów, także tych działających złośliwie lub poza wyznaczonym zakresem. Na razie jest to jednak możliwy scenariusz, a nie osiągnięty rezultat.

Kto dołączył, a kogo brakuje?

Według doniesień OSAA w pierwszym tygodniu działalności skupiało już ponad 120 organizacji. Wśród wymienianych uczestników znalazły się Nvidia, Adobe, BlackRock, Cisco, CrowdStrike, Hugging Face, Intel, Microsoft, Red Hat i Visa. Amazon był opisywany jako nowszy członek sojuszu.

Inicjatywa pojawiła się po opublikowanym 24 lipca liście otwartym, w którym firmy technologiczne apelowały do amerykańskich decydentów o unikanie szerokich i przedwczesnych ograniczeń dotyczących modeli AI z otwartymi wagami. Początkowo list podpisało 25 firm, w tym Nvidia, Microsoft, Meta, IBM, Dell, Palantir i Hugging Face. Autorzy argumentowali, że ograniczenie modeli możliwych do pobrania mogłoby osłabić konkurencję i skierować użytkowników ku chińskim systemom AI, gdy Waszyngton rozważał reakcję związaną z bezpieczeństwem narodowym.

W czasie relacji z konferencji Black Hat zauważalnymi nieobecnymi w OSAA były Anthropic, OpenAI i Google. Obraz komplikuje jednak kwestia samego listu otwartego: doniesienia różnią się co do późniejszej listy sygnatariuszy — część relacji podaje, że OpenAI i Google dołączyły później, podczas gdy inne opisują je jako nieobecne w pierwotnej grupie. Dostępne źródła nie wyjaśniają, dlaczego te firmy nie przystąpiły do OSAA, dlatego nie należy przypisywać ich absencji konkretnej motywacji.

Dlaczego tempo ma znaczenie?

Podstawowa teza sojuszu brzmi: otwartość i bezpieczeństwo nie muszą się wzajemnie wykluczać. Modele, narzędzia, testy i informacje o awariach dostępne dla większej liczby obrońców mogą ułatwić wykrywanie błędów, odtwarzanie podatności i szybsze dostosowywanie poprawek. SAFE próbuje połączyć tę przejrzystość z poufnością potrzebną podczas zbierania i analizowania zgłoszeń, a następnie szerzej udostępniać uogólnione wnioski.

Skład sojuszu może również pomóc w wypracowaniu wspólnych interfejsów i praktyk między twórcami modeli, dostawcami chmury i infrastruktury, firmami zajmującymi się tożsamością, dostawcami zabezpieczeń oraz użytkownikami biznesowymi. Jeśli te prace dojrzeją, otwarte systemy AI mogą stać się łatwiejsze do oceniania, kontrolowania i odpowiedzialnego wdrażania.

To z kolei może wesprzeć szerszy argument polityczny, że AI z otwartymi wagami ma znaczenie dla konkurencyjności Stanów Zjednoczonych — zwłaszcza gdy amerykańscy decydenci zastanawiają się, jak reagować na chińskie laboratoria AI. OSAA nie wykazało jednak dotąd, że poprawiło konkurencyjność USA albo ograniczyło systemowe ryzyko związane ze sztuczną inteligencją.

Na tym etapie najbardziej konkretny rezultat jest węższy: koalicja licząca ponad 120 organizacji przeszła od rzecznictwa na rzecz otwartego AI do publicznego projektu skoordynowanego zgłaszania incydentów bezpieczeństwa, a jej członkowie dostarczają narzędzia, które z czasem mogą stworzyć bardziej interoperacyjną warstwę obrony.