Nvidia gründet Open Secure AI Alliance: Offene Abwehr nach Angriff eines außer Kontrolle geratenen OpenAI-Agenten

Die Gründungsmitglieder

Zu den Gründungspartnern zählen alle von Ihnen genannten Unternehmen – Adobe, Cisco, CrowdStrike, Cloudflare und Microsoft – sowie viele weitere . Die vollständige Liste der Gründungsmitglieder umfasst: Adobe, Cadence, Capital One, Cisco, Cloudera, Cloudflare, Cognition, CrowdStrike, Databricks, Dell Technologies, DoorDash, Elastic, HPE (Hewlett Packard Enterprise), Hugging Face, IBM, LangChain, die Linux Foundation, Microsoft, NAVER, NetApp, Nous Research, Nvidia, OpenClaw, Palantir, Palo Alto Networks, Red Hat, Reflection AI, Salesforce, SAP, SK Telecom, ServiceNow, Siemens, Snowflake, SpaceXAI, Synopsys, Thinking Machines Lab und TrendAI .

Das quelloffene Framework: NOOA

Nvidia hat das Nvidia Labs Object-Oriented Agent (NOOA)-Forschungsframework in die Allianz eingebracht . NOOA ist ein quelloffenes, modellunabhängiges Python-Framework, das einen KI-Agenten als Python-Objekt behandelt – wobei Methoden Aktionen, Felder den Zustand und Docstrings die Prompts darstellen . Das Framework wurde entwickelt, um das Testen, Nachverfolgen, Prüfen und Verwalten von Agentenverhalten zu vereinfachen . Es ist auf GitHub verfügbar und erzielt Spitzenwerte bei Benchmarks in den Bereichen Softwareentwicklung, Cybersicherheit und logisches Denken . Unabhängige Benchmarks zeigen, dass die Testumgebung die Modellleistung bei bestimmten Aufgaben um mehr als das Sechsfache steigern kann , so etwa die Verbesserung des ARC-AGI-3-Scores eines rohen Spitzenmodells von 13,3 % auf 85,1 % .

Warum Open-Weight-Modelle wichtig sind

Die Allianz spricht sich dafür aus, dass politische Entscheidungsträger keine Beschränkungen für Open-Weight-KI-Modelle erlassen sollten . Nvidia und andere Mitglieder der Allianz unterzeichneten am 24. Juli 2026 einen Brief, in dem sie fordern, dass offene Modelle den Verteidigern zur Verfügung stehen. Sie argumentieren, dass weitreichende Einschränkungen offener KI die Verteidigungsfähigkeiten schwächen und die Kontrolle auf eine Handvoll Anbieter geschlossener Modelle verlagern würden . Die Position der Allianz ist, dass geschlossene Modelle allein für die Cybersicherheit nicht ausreichen, weil Verteidiger die Möglichkeit haben müssen, KI auf ihrer eigenen Infrastruktur zu prüfen, anzupassen und zu betreiben, um die Sicherheit zu gewährleisten und Single Points of Failure zu vermeiden . Die Allianz ist der Ansicht, dass der richtige Ansatz darin besteht, Offenheit mit starken Sicherheitsvorkehrungen, klaren Regeln gegen böswilligen Missbrauch, strenger Evaluierung und schneller Fehlerbehebung zu verbinden .