Anthropic ansætter våbeneksperter for at forhindre AI-katastrofe – her er rollerne, lønningerne og hvorfor det betyder noget

Ansættelsesinitiativerne

Safeguards Research Team (lanceret juli 2026) – Et dedikeret nyt team, der fokuserer på jailbreak-robusthed, automatiseret red teaming og overvågningsteknikker til både misbrug og fejljustering . Roller inkluderer Applied Safety Research Engineer, Safeguards, som kræver 4+ års erfaring med software/ML-udvikling og Python-færdigheder .

Domænespecifikke Safeguards Enforcement Analysts – Det mest markante initiativ:

• Kemikalier & Sprængstoffer Harms Analyst – forhindrer AI i at blive brugt til at fremstille sprængstoffer eller kemiske våben
• Atomvåbenanalytiker – opdager og blokerer AI-assisteret design af atomvåben
• Finansiel Svindelanalytiker – adresserer AI-drevet svindel og deepfake-baseret økonomisk kriminalitet
• Cyberkriminalitetsanalytiker – målretter AI-forstærket hacking og malware-generering

I marts 2026 rekrutterede Anthropic specifikt en ekspert i kemiske våben og sprængstoffer til at designe sikkerhedsforanstaltninger og søgte ansøgere med mindst fem års erfaring inden for forsvar mod kemiske våben og sprængstoffer .

Anthropic Fellows Program (2026-hold) – En åben invitation til ingeniører og forskere om at undersøge Anthropics højest prioriterede sikkerhedsforskningsspørgsmål med finansiering og mentorordning .

Trust & Safety Research Engineers – Bygger ML-modeller til at opdage uønsket eller unormal bruger- og API-partneradfærd i produktionen .

Lønninger og kvalifikationer

På tværs af 264 offentlige opslag (2025–2026) er mediankompensationen 356.000 dollars (289.000–403.000 dollars), og nogle tekniske medarbejdere tjener over 1 million dollars .

Alle stillinger er i San Francisco (på kontoret eller hybrid), med aktieoptioner oven i basislønnen.

Sammenhæng med Amodeis advarsler

Denne ansættelsesbølge er en direkte operationel reaktion på Amodeis eskalerende offentlige advarsler:

• Januar 2026 – Amodei publicerede det 38 sider lange essay 'The Adolescence of Technology', hvori han advarede om, at superhuman AI kunne ankomme i 2027 med 'civilisationsniveau-risici' og kaldte det potentielt 'den alvorligste nationale trussel, vi har stået over for i et århundrede, måske nogensinde'
• Januar 2026 – Han advarede om, at menneskeheden går ind i en 'afgørende fase', der vil 'udfordre vores identitet som art', og at samfundet må 'vågne op' og 'blive bevidst' om farerne
• Maj 2026 – Amodei advarede om et cyber-'faremoment' og påpegede, at AI har skabt et begrænset vindue for virksomheder og regeringer til at rette tusindvis af softwarefejl
• November 2025 (60 Minutes) – Amodei sagde, at han er 'dybt utilpas' med, at AI-virksomheder regulerer sig selv, og opfordrede til tungere statslig regulering
• Advarsel om jobmarkedet – Han har forudsagt, at AI kan eliminere halvdelen af alle nyuddannede kontorjob inden for fem år

Ansættelsen af våbeneksperter, cyberkriminalitetsanalytikere og safeguards-ingeniører er den praktiske manifestation af disse advarsler.

Sammenligning med OpenAI og selvreguleringskonteksten

OpenAIs parallelle skridt: I december 2025 slog OpenAI en Head of Preparedness-stilling op med en basisløn på op til 555.000 dollars – og i februar 2026 blev den besat ved at hente en sikkerhedsforsker fra Anthropic . I marts 2026 slog OpenAI også stillinger op for eksperter i kemiske våben og sprængstoffer, hvilket tæt spejlede Anthropics domænespecifikke misbrugsroller . De to virksomheder samarbejdede om en banebrydende fælles sikkerhedsevaluering i midten af 2025, hvor hver testede den andens offentlige modeller for fejljusteringstendenser .

Vigtige forskelle: Anthropics tilgang er mere strukturelt forankret – de oprettede et permanent Safeguards Research Team og en fellows-pipeline snarere end blot at ansætte individuelle seniorledere. Bloomberg rapporterede i marts 2026, at det kombinerede sikkerhedspersonale hos begge virksomheder forbliver bemærkelsesværdigt lille, og at investeringen i sikkerhedsorienterede roller er 'foruroligende' skæv i forhold til produktfokuseret ansættelse . Anthropic rammesætter sine ansættelser som katastrofeforebyggelse (eksplicit nævner scenarier med masseødelæggelsesvåben), mens OpenAI har tendens til at lægge vægt på ansvarlig udrulning og beredskab .

Den bredere selvreguleringskontekst: Der er ikke vedtaget nogen omfattende føderal AI-sikkerhedslovgivning i USA pr. midten af 2026. Begge virksomheder opererer under frivillige forpligtelser (Det Hvide Hus' frivillige tilsagn fra 2023, Anthropics offentliggjorte Transparency Hub-forpligtelser om red teaming, børnesikkerhed og whistleblower-politikker) . Amodei har offentligt været ærlig om, at selvregulering er utilstrækkelig – han fortalte 60 Minutes, at han er 'dybt utilpas' med, at direktionsgangene træffer disse beslutninger alene – men i mangel af lovgivning opbygger begge virksomheder teams til at forhindre misbrug som et de facto privat sikkerhedsnet. Resultatet er et kapløb om at ansætte knappe domæneeksperter (kemiske våbenspecialister, atomanalytikere), som hverken staten eller den private sektor har i stort antal, mens den underliggende talentpulje forbliver meget tynd .