Anthropic sucht Waffenexperten: 32 Stellen, um KI-Katastrophen zu verhindern

Die Einstellungsoffensive im Detail

Safeguards Research Team (gestartet Juli 2026) – Ein neues, speziell gegründetes Team, das sich auf Jailbreak-Robustheit, automatisiertes Red Teaming und Überwachungstechniken für sowohl Missbrauch als auch Fehlausrichtung konzentriert . Zu den Rollen gehört der „Applied Safety Research Engineer, Safeguards“, der mindestens vier Jahre Erfahrung in Software- oder Machine-Learning-Engineering sowie Python-Kenntnisse mitbringen muss .

Domain-spezifische Safeguards Enforcement Analysts – Die wohl auffälligste Initiative:

• Chemicals & Explosives Harms Analyst – Verhindert, dass KI zur Herstellung von Sprengstoffen oder chemischen Waffen genutzt wird
• Nuclear Weapons Analyst – Erkennt und blockiert KI-gestützte Nuklearwaffenentwicklung
• Financial Scams Analyst – Bekämpft KI-gestützten Betrug und Deepfake-basierte Finanzkriminalität
• Cybercrime Analyst – Ziel ist die Abwehr von KI-verstärktem Hacking und der Generierung von Schadsoftware

Bereits im März 2026 stellte Anthropic einen Experten für Chemiewaffen und Sprengstoffe ein, um Schutzmaßnahmen zu entwickeln. Voraussetzung waren mindestens fünf Jahre Erfahrung in der Abwehr von Chemiewaffen und Sprengstoffen .

Anthropic Fellows Program (Jahrgang 2026) – Ein offener Aufruf an Ingenieure und Forscher, sich mit den wichtigsten Sicherheitsfragen von Anthropic zu befassen – mit Finanzierung und Mentoring .

Trust & Safety Research Engineers – Entwickeln ML-Modelle, um unerwünschtes oder anomales Verhalten von Nutzern und API-Partnern im laufenden Betrieb zu erkennen .

Gehaltsspannen und Qualifikationen

Über alle 264 öffentlichen Stellenausschreibungen (2025–2026) hinweg liegt die durchschnittliche Vergütung bei 356.000 US-Dollar (Spannweite: 289.000–403.000 US-Dollar), wobei einige technische Mitarbeiter über 1 Million US-Dollar verdienen .

Alle Positionen sind in San Francisco angesiedelt (Büro oder Hybridmodell), zusätzlich zum Grundgehalt gibt es Aktienoptionen.

Die Verbindung zu Amodeis Warnungen

Diese Einstellungsoffensive ist die praktische Umsetzung von Amodeis immer lauter werdenden öffentlichen Warnungen:

• Januar 2026 – Amodei veröffentlichte den 38-seitigen Essay „The Adolescence of Technology“ und warnte, dass übermenschliche KI bis 2027 kommen und „Risiken auf Zivilisationsebene“ mit sich bringen könnte. Er bezeichnete dies als „die vielleicht größte nationale Bedrohung seit einem Jahrhundert, wenn nicht sogar aller Zeiten“
• Januar 2026 – Er warnte, die Menschheit trete in ein „entscheidendes Stadium“ ein, das „unsere Identität als Spezies in Frage stellen wird“, und die Gesellschaft müsse „aufwachen“ und sich der Gefahren „bewusst werden“
• Mai 2026 – Amodei warnte vor einem Cyber-„Gefahrenmoment“ und betonte, dass KI ein begrenztes Zeitfenster für Unternehmen und Regierungen geschaffen habe, um Tausende von Software-Schwachstellen zu beheben
• November 2025 (60 Minutes) – Amodei sagte, es sei ihm „zutiefst unwohl“ dabei, dass KI-Unternehmen sich selbst regulieren, und forderte eine stärkere staatliche Regulierung
• Prognose zum Arbeitsmarkt – Er hat vorhergesagt, dass KI innerhalb von fünf Jahren die Hälfte aller einfachen Bürojobs überflüssig machen könnte

Die Einstellung von Waffenexperten, Cyberkriminalitätsanalysten und Sicherheitsingenieuren ist die praktische Konsequenz aus diesen Warnungen.

Vergleich mit OpenAI und der Kontext der Selbstregulierung

OpenAI zieht nach: Im Dezember 2025 schrieb OpenAI eine Stelle als „Head of Preparedness“ mit einem Basisgehalt von bis zu 555.000 US-Dollar aus – und besetzte sie im Februar 2026 mit einem abgeworbenen Sicherheitsforscher von Anthropic . Im März 2026 veröffentlichte auch OpenAI Stellenanzeigen für Chemiewaffen- und Sprengstoffexperten und ahmte damit die domänenspezifischen Missbrauchsrollen von Anthropic nach . Die beiden Unternehmen führten Mitte 2025 eine gemeinsame Sicherheitsbewertung durch, bei der sie die öffentlichen Modelle des jeweils anderen auf Fehlausrichtungstendenzen testeten .

Wesentliche Unterschiede: Anthropic verfolgt einen strukturell verankerten Ansatz – es wurde ein permanentes Safeguards Research Team und eine Fellows-Pipeline geschaffen, anstatt nur einzelne Führungskräfte einzustellen. Bloomberg berichtete im März 2026, dass die kombinierte Sicherheitsbelegschaft beider Unternehmen nach wie vor erschreckend klein sei und die Investitionen in sicherheitsorientierte Rollen im Vergleich zu produktorientierten Einstellungen „beunruhigend“ unausgewogen seien . Anthropic rahmt seine Einstellungen als Katastrophenprävention ein (mit expliziter Nennung von Massenvernichtungswaffen-Szenarien), während OpenAI eher den Schwerpunkt auf verantwortungsvolle Bereitstellung und Vorbereitung legt .

Der größere Kontext der Selbstregulierung: In den USA wurde bis Mitte 2026 kein umfassendes Bundesgesetz zur KI-Sicherheit verabschiedet. Beide Unternehmen agieren im Rahmen freiwilliger Selbstverpflichtungen (die freiwilligen Zusagen des Weißen Hauses von 2023, die veröffentlichten Verpflichtungen von Anthropic im Transparency Hub zu Red Teaming, Kindersicherheit und Hinweisgeberpolitik) . Amodei hat öffentlich eingeräumt, dass Selbstregulierung nicht ausreicht – er sagte gegenüber 60 Minutes, es sei ihm „zutiefst unwohl“ dabei, dass Vorstandsetagen diese Entscheidungen allein treffen . Da es jedoch an einer gesetzlichen Regelung fehlt, bauen beide Firmen Teams zur Missbrauchsprävention als faktisches privates Sicherheitsnetz auf. Die Folge ist ein Wettlauf um die wenigen verfügbaren Experten (Chemiewaffenspezialisten, Nuklearanalysten), die weder der Staat noch die Privatwirtschaft in großer Zahl zur Verfügung haben – der Talentpool ist extrem dünn .