AntwortenVeröffentlicht23 Quellen
Accenture und Anthropic planen 2 Milliarden Dollar für KI-Sicherheitsprüfungen
Accenture und Anthropic wollen über fünf Jahre jeweils mindestens 1 Milliarde US Dollar investieren – zusammen mindestens 2 Milliarden Dollar – um die Sicherheitsbewertung leistungsfähiger KI auszubauen. Das Accenture Spezialgeschäft Faculty soll als eingebetteter Prüfer Modelle testen, Red Team Tests durchführen, d...
Veröffentlicht vonBearbeitet mit GPT-5.6 TerraBilder erstellt mit GPT Image 2
Forschungsantwort
Wichtige Erkenntnisse
- Accenture und Anthropic wollen über fünf Jahre jeweils mindestens 1 Milliarde US Dollar investieren – zusammen mindestens 2 Milliarden Dollar – um die Sicherheitsbewertung leistungsfähiger KI auszubauen.
- Das Accenture Spezialgeschäft Faculty soll als eingebetteter Prüfer Modelle testen, Red Team Tests durchführen, die Ausrichtung bewerten und Schutzmechanismen kontrollieren.
- Anthropic will nicht nur mit Accenture arbeiten: Auch METR und weitere gemeinnützige Prüforganisationen kommen für separate Vereinbarungen infrage.
KI-Prompt
openai.comCreate a landscape editorial hero image for this Studio Global article: What did Accenture and Anthropic announce about their partnership to advance AI safety—including each company’s commitment to invest at leas. Article summary: Accenture and Anthropic announced a five-year AI-safety partnership built around independent, embedded evaluation of Anthropic’s frontier models. Each expects to invest at least $1 billion—at least $2 billion combined—to. Topic tags: general, news, general web, user generated. Style: premium digital editorial illustration, source-backed research mood, clean composition, high detail, modern web publication hero. Use reference image context only for broad subject, composition, and topical grounding; do not copy the exact image. Avoid: logos, brand marks, copyrighted characters, real person likenesses, fake screenshots, UI text, readable text, watermarks, charts w
Accenture und Anthropic wollen in den kommenden fünf Jahren jeweils mindestens 1 Milliarde US-Dollar in KI-Sicherheit investieren. Insgesamt entspricht das einer angekündigten Investition von mindestens 2 Milliarden Dollar. Im Zentrum steht ein Modell der eingebetteten Bewertung: Externe Fachleute sollen dauerhaft eng mit Anthropics internen Teams zusammenarbeiten, statt ein fertiges Modell nur kurz vor der Veröffentlichung von außen zu prüfen. 3
13
Was die eingebetteten Prüfer kontrollieren sollen
Geleitet wird das Programm von Faculty, dem auf KI spezialisierten Geschäftsbereich von Accenture. Die Prüfer sollen Anthropics besonders leistungsfähige KI-Modelle bewerten und mit sogenannten Red-Team-Tests gezielt Schwachstellen provozieren. Außerdem sind Untersuchungen zur Ausrichtung der Modelle (Alignment Assessments) und Tests der technischen Schutzvorkehrungen vorgesehen. 3
13
Der entscheidende Unterschied zu einem klassischen externen Audit liegt in der Dauer und Nähe der Prüfung. Nach Anthropics Konzept sollen die externen Prüfer fortlaufenden, mit Mitarbeitenden vergleichbaren Zugang erhalten. So könnten sie überprüfen, ob das Unternehmen seine eigenen Vorgaben für Training, Einsatz, Betrieb und Schutzmaßnahmen tatsächlich einhält – und nicht bloß ein abgeschlossenes Modell vor einem Produktstart testen. 14
41
Dabei geht es ausdrücklich nicht nur um die fertigen Modelle, sondern auch um Prozesse rund um Entwicklung und Auslieferung. Zugleich räumen die Unternehmen ein, dass eingebettete Bewertungen ein neues Feld sind und viele praktische Details noch geklärt werden müssen. 13
Wie unabhängig kann die Kontrolle sein?
Anthropics weitergehender Vorschlag sieht vor, dass externe Prüfer einen Zugang erhalten, der dem interner Risikobewertungsteams weitgehend ähnelt. Dazu zählen Arbeitszugang und Gespräche mit Beschäftigten. Wesentliche Erkenntnisse zu Risiken, Vorfällen, Praktiken und zum eigenen Zugang sollen die Prüfer ohne redaktionelle Kontrolle durch Anthropic veröffentlichen können. 14
41
Völlig grenzenlos wäre dieser Zugang jedoch nicht: Anthropic will Informationen mit Sicherheitsrelevanz, rechtlich geschützte Inhalte, geschäftlich sensible Daten oder vertrauliche Informationen Dritter in einem engen Rahmen schwärzen dürfen. Entscheidend wird deshalb sein, wie die endgültige Vereinbarung Zugriffsrechte, Berichtswege und Veröffentlichungen konkret regelt. 14
41
Teil von Amodeis Plan, die KI-Spitze zu „takten“
Anthropic ordnet die Partnerschaft als frühen Schritt zur Umsetzung von CEO Dario Amodeis Essay We Must Pace the Frontier ein. Darin fordert er, die Entwicklung besonders leistungsfähiger KI so zu gestalten, dass Sicherheitsarbeit und Kontrolle mit dem technischen Fortschritt Schritt halten können. 13
Das Konzept besteht aus drei Ebenen:
- Eingebettete externe Prüfer: Unternehmen an der KI-Spitze sollen unabhängigen Evaluatoren dauerhaften, mit Mitarbeitenden vergleichbaren Zugang geben. Diese sollen Sicherheitspraktiken kontrollieren, Trainingsprozesse und Modelle bewerten sowie Vorfälle dokumentieren. Anthropic hat sich zu diesem Schritt für das eigene Unternehmen verpflichtet.
14
45
- Koordination zwischen führenden KI-Laboren in demokratischen Staaten: Gemeinsame und überprüfbare Verfahren sollen verhindern, dass Unternehmen im Wettbewerb bei der Sicherheit Abstriche machen.
21
- Globale Koordination: Langfristig soll die Abstimmung über demokratische Staaten hinausgehen – auch wenn eine verlässliche Überprüfung zwischen Regierungen und Unternehmen schwierig bleibt.
37
Anthropic argumentiert zudem, Regierungen sollten unabhängige Bewertungen und Transparenz für Entwickler besonders leistungsfähiger Modelle nicht allein freiwilligen Unternehmenszusagen überlassen, sondern als Erwartung beziehungsweise Vorgabe etablieren. 24
27
Accenture soll nicht der einzige Prüfer bleiben
Die Vereinbarung ist ausdrücklich nicht exklusiv. Anthropic erklärt, mit mehreren externen Prüfern zusammenarbeiten zu wollen, und prüft separate Finanzierungsvereinbarungen mit METR sowie weiteren gemeinnützigen Evaluierungsorganisationen. Auch Accenture kann vergleichbare Aufgaben für andere KI-Entwickler übernehmen. 13
Vorerst will Anthropic die Arbeit von Accenture direkt finanzieren, weil der Aufbau entsprechender Prüfkapazitäten aus Sicht des Unternehmens dringend ist. Langfristig könnten gemeinsame Fonds oder staatliche Finanzierung die Unabhängigkeit solcher Prüfer besser absichern, so die Argumentation. 9
13
Verbindung zur bisherigen Geschäftsbeziehung
Die Sicherheitskooperation folgt auf die Ausweitung der geschäftlichen Partnerschaft im Dezember 2025. Damals gründeten die Unternehmen die Accenture Anthropic Business Group; rund 30.000 Accenture-Beschäftigte sollten für Anthropics KI-Modell Claude geschult werden. 1
2
Die neue Vereinbarung verfolgt einen anderen Zweck: Sie soll eine fortlaufende Kontrolle der Sicherheit von Frontier-Modellen – also besonders leistungsfähigen KI-Systemen an der technologischen Spitze – aufbauen. Nach der Ankündigung legte die Accenture-Aktie im frühen nachbörslichen Handel Berichten zufolge um rund 6 Prozent zu. 5
Das Wichtigste in einem Satz
Die 2 Milliarden Dollar sind vor allem ein Signal für ein neues Kontrollmodell: Externe Prüfer sollen bei einem KI-Entwickler so eng eingebunden sein, dass ihre Einsicht eher der eines internen Risikoteams als der eines punktuellen Auditors entspricht.
Ob daraus tatsächlich wirksame unabhängige Rechenschaftspflicht entsteht, hängt von den finalen Regeln ab – insbesondere vom realen Zugang der Prüfer, ihrem Recht, kritische Befunde zu veröffentlichen, und davon, ob weitere KI-Labore und Regierungen vergleichbare Standards übernehmen. 13
14
Studio Global AI
Setzen Sie Ihre Recherche fort
Diese Seite enthält eine quellengestützte Antwort, die Sie in Studio Global fortsetzen können.
Die Leute fragen auch
Wie lautet die kurze Antwort auf „Accenture und Anthropic planen 2 Milliarden Dollar für KI-Sicherheitsprüfungen“?
Accenture und Anthropic wollen über fünf Jahre jeweils mindestens 1 Milliarde US Dollar investieren – zusammen mindestens 2 Milliarden Dollar – um die Sicherheitsbewertung leistungsfähiger KI auszubauen.
Was sind die wichtigsten Punkte, die zuerst validiert werden müssen?
Accenture und Anthropic wollen über fünf Jahre jeweils mindestens 1 Milliarde US Dollar investieren – zusammen mindestens 2 Milliarden Dollar – um die Sicherheitsbewertung leistungsfähiger KI auszubauen. Das Accenture Spezialgeschäft Faculty soll als eingebetteter Prüfer Modelle testen, Red Team Tests durchführen, die Ausrichtung bewerten und Schutzmechanismen kontrollieren.
Was soll ich als nächstes in der Praxis tun?
Anthropic will nicht nur mit Accenture arbeiten: Auch METR und weitere gemeinnützige Prüforganisationen kommen für separate Vereinbarungen infrage.