AnswersPublished23 sources
Accenture og Anthropic vil bruke minst 2 milliarder dollar på innebygde KI-evaluatorer
Accenture og Anthropic forventer å investere minst 1 milliard dollar hver over fem år, totalt minst 2 milliarder dollar, i evaluering av avansert KI. Accenture enheten Faculty skal evaluere og stressteste Anthropics modeller, vurdere alignment og prøve ut sikkerhetsmekanismer.
Publisert avRedigert med GPT-5.6 TerraBilder generert med GPT Image 2
Research answer
Key takeaways
- Accenture og Anthropic forventer å investere minst 1 milliard dollar hver over fem år, totalt minst 2 milliarder dollar, i evaluering av avansert KI.
- Accenture enheten Faculty skal evaluere og stressteste Anthropics modeller, vurdere alignment og prøve ut sikkerhetsmekanismer.
- Ordningen er ikke eksklusiv: Anthropic sier det vil bruke flere evaluatorer, blant annet utforske samarbeid med den ideelle organisasjonen METR.
AI Prompt
openai.comCreate a landscape editorial hero image for this Studio Global article: What did Accenture and Anthropic announce about their partnership to advance AI safety—including each company’s commitment to invest at leas. Article summary: Accenture and Anthropic announced a five-year AI-safety partnership built around independent, embedded evaluation of Anthropic’s frontier models. Each expects to invest at least $1 billion—at least $2 billion combined—to. Topic tags: general, news, general web, user generated. Style: premium digital editorial illustration, source-backed research mood, clean composition, high detail, modern web publication hero. Use reference image context only for broad subject, composition, and topical grounding; do not copy the exact image. Avoid: logos, brand marks, copyrighted characters, real person likenesses, fake screenshots, UI text, readable text, watermarks, charts w
Accenture og Anthropic vil bruke minst 2 milliarder dollar over fem år på å bygge kapasitet for KI-sikkerhet. Hver av selskapene forventer å investere minst 1 milliard dollar i en ordning med såkalte innebygde evaluatorer – eksterne fagfolk som arbeider tett på Anthropic for å vurdere selskapets mest avanserte KI-modeller og sikkerhetsarbeid. 3
13
Hva skal evaluatorene gjøre?
Arbeidet skal ledes av Faculty, Accentures spesialiserte KI-virksomhet. Teamet skal evaluere og «red-teame» modellene – altså bevisst forsøke å avdekke feil, sårbarheter og uønsket oppførsel – i tillegg til å gjennomføre vurderinger av alignment og teste sikkerhetsmekanismer. 3
13
Tanken er å gå lenger enn en vanlig ekstern revisjon rett før lansering. Anthropic beskriver modellen som løpende, ansattlignende tilgang for utenforstående kontrollører. De skal kunne undersøke om selskapet faktisk følger rutinene det har oppgitt for trening, utrulling, drift og sikkerhet – ikke bare vurdere en ferdig modell. 14
41
Det betyr at granskingen også skal kunne omfatte prosessene rundt utvikling og utrulling, ikke bare selve KI-modellen. Begge selskapene understreker samtidig at innebygd evaluering er nytt, og at mange praktiske detaljer ennå ikke er avklart. 13
Uavhengighet blir den avgjørende testen
I Anthropics bredere forslag skal eksterne evaluatorer få tilgang som i hovedsak kan sammenlignes med interne team for risikovurdering. Det omfatter tilgang til arbeidsmiljøer og mulighet til å snakke med ansatte. Evaluatorene skal også kunne publisere sentrale funn om risiko, hendelser, praksis og egen tilgang uten redaksjonell kontroll fra Anthropic. 14
41
Det finnes likevel avgrensninger. Anthropic skal ha en snever mulighet til å redigere bort sikkerhetssensitiv, juridisk privilegert, kommersielt sensitiv eller tredjepartskonfidensiell informasjon. Hvor uavhengig ordningen blir i praksis, vil derfor avhenge av de endelige reglene for tilgang, rapportering og offentliggjøring. 14
41
Første skritt i Amodeis plan
Anthropic omtaler samarbeidet med Accenture som et tidlig steg i selskapets forpliktelse fra administrerende direktør Dario Amodeis essay We Must Pace the Frontier: å la tredjepartsevaluatorer arbeide inne i selskapet. 13
Planen har tre deler:
- Innebygde tredjepartsevaluatorer: KI-selskaper i fronten skal gi uavhengige evaluatorer løpende, ansattlignende tilgang til å kontrollere sikkerhetspraksis, trening og modeller, samt rapportere hendelser. Anthropic har forpliktet seg til dette for egen del.
14
45
- Samordning mellom ledende KI-laboratorier i demokratiske land: Målet er felles og etterprøvbare tiltak som reduserer presset for å kutte hjørner i et teknologikappløp.
21
- Global samordning: Planen ser også for seg samarbeid utover demokratiske land, selv om kontroll og verifisering på tvers av myndigheter og selskaper er krevende.
37
Anthropic har samtidig argumentert for at myndigheter bør bidra til å gjøre uavhengig evaluering og åpenhet til en standardforventning for utviklere av de mest avanserte modellene, fremfor at det bare skal være frivillige selskapsløfter. 24
27
Ikke Accentures eksklusive rolle
Faculty blir ikke Anthropics eneste eksterne evaluator. Anthropic sier at det vil bruke flere evaluatormiljøer, og at det undersøker samarbeid med METR og andre ideelle evaluatorer gjennom separate finansieringsordninger. Accenture kan på sin side gjøre tilsvarende arbeid for andre KI-utviklere. 13
Foreløpig vil Anthropic finansiere Accentures arbeid direkte, med henvisning til behovet for raskt å bygge opp evalueringskapasitet. På lengre sikt mener selskapet at fellesfinansiering eller offentlig finansiering kan gi evaluatorene sterkere uavhengighet. 9
13
Bygger videre på et kommersielt samarbeid
Sikkerhetssamarbeidet følger utvidelsen av selskapenes forretningsforhold i desember 2025. Da etablerte de Accenture Anthropic Business Group, og planen var å lære opp om lag 30 000 Accenture-ansatte i Claude. 1
2
Den nye avtalen har et annet formål: å bygge en varig kontrollfunksjon for sikkerheten i Anthropics avanserte KI-modeller. Accentures aksje steg ifølge rapporter rundt 6 prosent i tidlig etterbørshandel etter kunngjøringen. 5
Det viktigste poenget
Milliardbeløpet er oppsiktsvekkende, men selve modellen kan være vel så betydningsfull: Eksterne evaluatorer skal få en plass inne hos en KI-utvikler og en tilgang som er langt tettere på interne risikoteam enn på en periodisk revisjon.
Om dette gir reell, uavhengig ansvarliggjøring, vil avhenge av vilkårene i avtalen – særlig faktisk tilgang, retten til å publisere kritiske funn og om andre ledende KI-selskaper og myndigheter innfører tilsvarende krav. 13
14
Studio Global AI
Continue your research
This page includes a source-backed answer you can continue inside Studio Global.
People also ask
What is the short answer to "Accenture og Anthropic vil bruke minst 2 milliarder dollar på innebygde KI-evaluatorer"?
Accenture og Anthropic forventer å investere minst 1 milliard dollar hver over fem år, totalt minst 2 milliarder dollar, i evaluering av avansert KI.
What are the key points to validate first?
Accenture og Anthropic forventer å investere minst 1 milliard dollar hver over fem år, totalt minst 2 milliarder dollar, i evaluering av avansert KI. Accenture enheten Faculty skal evaluere og stressteste Anthropics modeller, vurdere alignment og prøve ut sikkerhetsmekanismer.
What should I do next in practice?
Ordningen er ikke eksklusiv: Anthropic sier det vil bruke flere evaluatorer, blant annet utforske samarbeid med den ideelle organisasjonen METR.