Anthropic anställer vapenexperter – 32 nya roller för att stoppa AI-katastrofer

Rekryteringsinitiativen

Safeguards Research Team (lanserat juli 2026) – Ett helt nytt team som fokuserar på att göra AI-system robusta mot så kallade ”jailbreak”-attacker, automatiserad ”red teaming” och övervakningstekniker för både missbruk och felaktig inriktning . Roller som Applied Safety Research Engineer, Safeguards kräver minst fyra års erfarenhet av mjukvaru- eller ML-utveckling och kunskaper i Python .

Domänspecifika Safeguards Enforcement-analytiker – Det mest utmärkande initiativet:

• Analytiker för kemikalier och explosiver – förhindrar att AI används för att tillverka sprängämnen eller kemiska vapen
• Kärnvapenanalytiker – upptäcker och blockerar AI-assisterad konstruktion av kärnvapen
• Finansiella bedrägerianalytiker – motverkar AI-drivna bedrägerier och deepfake-baserad ekonomisk brottslighet
• Cyberbrottsanalytiker – riktar in sig på AI-förstärkt hackning och generering av skadlig kod

I mars 2026 rekryterade Anthropic specifikt en expert på kemiska vapen och explosiver för att utforma skyddsmekanismer – med krav på minst fem års erfarenhet inom kemvapen- och explosivförsvar .

Anthropic Fellows Program (2026 års kohorter) – En öppen utlysning för ingenjörer och forskare att undersöka Anthropics högst prioriterade säkerhetsfrågor inom AI, med finansiering och mentorskap .

Trust & Safety Research Engineers – Bygger ML-modeller för att upptäcka oönskade eller avvikande beteenden hos användare och API-partner i produktion .

Löner och kvalifikationer

Över 264 offentliga annonser (2025–2026) ligger medianersättningen på 356 000 dollar (289 000–403 000 dollar), med vissa tekniska anställda som tjänar över 1 miljon dollar .

Alla roller är placerade i San Francisco (på kontoret eller hybrid), med aktier utöver grundlönen.

Kopplingen till Amodeis varningar

Denna rekryteringskampanj är en direkt operativ respons på Amodeis allt skarpare offentliga varningar:

• Januari 2026 – Amodei publicerade den 38-sidiga essän ”The Adolescence of Technology” och varnade för att superhuman AI kan vara här redan 2027 med ”civilisationshotande risker” – något han kallade ”det allvarligaste nationella hotet på ett århundrade, kanske någonsin”
• Januari 2026 – Han varnade för att mänskligheten går in i en ”avgörande fas” som kommer att ”utmana vår identitet som art” och att samhället måste ”vakna upp” och ”bli medvetet” om farorna
• Maj 2026 – Amodei varnade för ett cyber-”ögonblick av fara” och påpekade att AI skapat ett begränsat fönster för företag och regeringar att åtgärda tusentals programvarubrister
• November 2025 (60 Minutes) – Amodei sade att han är ”djupt obekväm” med att AI-företag reglerar sig själva och efterlyste hårdare statlig reglering
• Jobbmarknadsvarning – Han har förutspått att AI kan eliminera hälften av alla vita-krage-jobb på nybörjarnivå inom fem år

Anställningen av vapenexperter, cyberbrottsanalytiker och säkerhetsingenjörer är den praktiska manifestationen av dessa varningar.

Jämförelse med OpenAI och självregleringskontexten

OpenAI:s parallella drag: I december 2025 annonserade OpenAI en roll som Head of Preparedness med en lön på upp till 555 000 dollar – och i februari 2026 tillsatte de rollen genom att värva en Anthropic-säkerhetsforskare . I mars 2026 annonserade OpenAI också jobb för experter på kemiska vapen och explosiver, i nära anslutning till Anthropics domänspecifika missbruksroller . De två företagen samarbetade i en första gemensam säkerhetsutvärdering under mitten av 2025, där de testade varandras offentliga modeller för tendenser till felaktig inriktning .

Viktiga skillnader: Anthropics angreppssätt är mer strukturellt inbäddat – man skapade ett permanent Safeguards Research Team och en forskarutbildning, snarare än att anställa enskilda seniora chefer. Bloomberg rapporterade i mars 2026 att det sammanlagda antalet säkerhetsanställda på båda företagen fortfarande är anmärkningsvärt litet, och att investeringarna i säkerhetsorienterade roller är ”oroväckande” obalanserade jämfört med produktfokuserad rekrytering . Anthropic motiverar sin rekrytering med katastrofförebyggande (explicit med listning av massförstörelsevapen-scenarier), medan OpenAI oftare har betonat ansvarsfull driftsättning och beredskap .

Den bredare självregleringskontexten: Ingen omfattande federal AI-säkerhetslagstiftning har antagits i USA i mitten av 2026. Båda företagen verkar under frivilliga åtaganden (Vita husets frivilliga löften från 2023, Anthropics publicerade Transparency Hub-åtaganden om red teaming, barnsäkerhet och visselblåsarpolicy) . Amodei har öppet sagt att självreglering inte räcker – han berättade för 60 Minutes att han är ”djupt obekväm” med att företagsledningar fattar dessa beslut på egen hand – men i avsaknad av lagstiftning bygger båda företagen upp team för att förhindra missbruk som ett de facto-privat säkerhetsnät. Resultatet är en kapplöpning om att anställa knappa domänexperter (kemvapenspecialister, kärnkraftsanalytiker) som varken staten eller den privata sektorn har gott om, samtidigt som den underliggande talangpoolen är mycket tunn .