RéponsesPublié23 sources
Accenture et Anthropic misent 2 milliards de dollars sur des évaluateurs intégrés à la sécurité de l’IA
Accenture et Anthropic prévoient chacune d’investir au moins 1 milliard de dollars sur cinq ans, soit au moins 2 milliards au total, dans l’évaluation de la sécurité des IA de pointe. L’unité spécialisée Faculty d’Accenture pilotera des évaluateurs chargés de tester les modèles, d’effectuer du red teaming, d’évaluer...
Publié parModifié avec GPT-5.6 TerraImages générées avec GPT Image 2
Réponse de recherche
Points clés à retenir
- Accenture et Anthropic prévoient chacune d’investir au moins 1 milliard de dollars sur cinq ans, soit au moins 2 milliards au total, dans l’évaluation de la sécurité des IA de pointe.
- L’unité spécialisée Faculty d’Accenture pilotera des évaluateurs chargés de tester les modèles, d’effectuer du red teaming, d’évaluer l’alignement et de vérifier les garde fous.
- Le partenariat n’est pas exclusif : Anthropic entend recourir à plusieurs évaluateurs, dont l’organisation à but non lucratif METR dans le cadre d’accords distincts.
Prompt IA
openai.comCreate a landscape editorial hero image for this Studio Global article: What did Accenture and Anthropic announce about their partnership to advance AI safety—including each company’s commitment to invest at leas. Article summary: Accenture and Anthropic announced a five-year AI-safety partnership built around independent, embedded evaluation of Anthropic’s frontier models. Each expects to invest at least $1 billion—at least $2 billion combined—to. Topic tags: general, news, general web, user generated. Style: premium digital editorial illustration, source-backed research mood, clean composition, high detail, modern web publication hero. Use reference image context only for broad subject, composition, and topical grounding; do not copy the exact image. Avoid: logos, brand marks, copyrighted characters, real person likenesses, fake screenshots, UI text, readable text, watermarks, charts w
Accenture et Anthropic ont annoncé un partenariat de cinq ans consacré à la sûreté de l’intelligence artificielle. Son principe : installer des évaluateurs externes au sein même d’Anthropic afin qu’ils examinent en continu ses modèles d’IA de pointe, ses pratiques de sécurité et ses mécanismes de protection. Chaque entreprise prévoit d’investir au moins 1 milliard de dollars sur cinq ans, soit un engagement total d’au moins 2 milliards de dollars. 3
13
Ce que feront les évaluateurs intégrés
Le programme sera dirigé par Faculty, l’activité spécialisée d’Accenture dans l’IA. Ses équipes devront évaluer les modèles d’Anthropic et les soumettre à des exercices de red teaming — des tests visant à provoquer des comportements problématiques pour en révéler les failles —, mener des évaluations d’alignement et éprouver les garde-fous des modèles, aux côtés des équipes internes et des partenaires de sécurité d’Anthropic. 3
13
L’objectif est d’aller au-delà d’un audit externe ponctuel. Selon le modèle défendu par Anthropic, ces évaluateurs bénéficieraient d’un accès continu, proche de celui d’un salarié, pour vérifier que le laboratoire applique réellement les pratiques annoncées en matière d’entraînement, de déploiement, d’exploitation et de protections. Il ne s’agirait donc pas seulement de tester un produit fini juste avant sa mise sur le marché. 14
41
Le périmètre envisagé couvre ainsi les processus de développement et de déploiement, en plus des modèles eux-mêmes. Les deux entreprises soulignent toutefois que l’évaluation embarquée est une pratique nouvelle et que de nombreuses modalités restent à définir. 13
Une indépendance encore à préciser
Dans la proposition plus large d’Anthropic, les évaluateurs externes devraient disposer d’un accès globalement comparable à celui des équipes internes chargées d’évaluer les risques : accès aux espaces de travail et possibilité d’échanger avec les salariés, notamment. Ils devraient également pouvoir publier leurs principales conclusions sur les risques, incidents, pratiques et conditions de leur propre accès, sans contrôle éditorial d’Anthropic. 14
41
Cette indépendance serait néanmoins encadrée. Anthropic prévoit une capacité limitée de caviarder les informations sensibles pour la sécurité, couvertes par le secret professionnel, commercialement sensibles ou confidentielles pour des tiers. La question centrale est donc celle de la traduction concrète de ces principes : quel accès effectif, quelles règles de publication et quelles possibilités de divulgation dans l’accord final ? 14
41
Une première étape du plan de Dario Amodei
Anthropic présente l’accord avec Accenture comme une première concrétisation de l’engagement pris par son dirigeant, Dario Amodei, dans son essai We Must Pace the Frontier, d’intégrer des évaluateurs tiers au sein de l’entreprise. 13
Sa proposition repose sur trois volets :
- Des évaluateurs tiers intégrés. Les entreprises développant des IA de pointe donneraient à des évaluateurs indépendants un accès continu, similaire à celui d’employés, afin de vérifier les pratiques de sécurité, d’examiner les chaînes d’entraînement et les modèles, et de signaler les incidents. Anthropic s’est engagée à appliquer cette mesure pour elle-même.
14
45
- Une coordination entre laboratoires de pointe des pays démocratiques. Le cadre appelle à des méthodes communes et vérifiables pour réduire la tentation de rogner sur la sécurité dans une course concurrentielle.
21
- Une coordination mondiale. Le plan envisage aussi une coopération au-delà des démocraties, tout en reconnaissant la difficulté de vérifier les pratiques des gouvernements et des entreprises à l’échelle internationale.
37
Anthropic estime que les pouvoirs publics devraient contribuer à faire de l’évaluation indépendante et de la transparence des attentes normales pour les développeurs d’IA de pointe, plutôt que de laisser ces mesures dépendre uniquement d’engagements volontaires des entreprises. 24
27
Un dispositif non exclusif
L’accord ne fait pas de Faculty l’unique évaluateur extérieur d’Anthropic. L’entreprise indique vouloir travailler avec plusieurs organisations et explorer des collaborations distinctes avec METR ainsi qu’avec d’autres évaluateurs à but non lucratif. Accenture pourra, de son côté, mener des missions comparables pour d’autres développeurs d’IA. 13
Pour l’instant, Anthropic explique qu’elle financera directement le travail d’Accenture, invoquant l’urgence de développer les capacités d’évaluation. À plus long terme, elle juge que des financements mutualisés ou publics pourraient mieux préserver l’indépendance des évaluateurs. 9
13
Le prolongement d’un accord commercial
Ce partenariat de sécurité fait suite à l’élargissement, en décembre 2025, de la relation commerciale entre les deux entreprises. Cet accord avait créé l’Accenture Anthropic Business Group et prévoyait de former environ 30 000 professionnels d’Accenture à Claude, le modèle d’Anthropic. 1
2
La finalité de la nouvelle annonce est différente : il s’agit de bâtir une capacité permanente d’évaluation de la sécurité des IA de pointe. Après l’annonce, l’action Accenture aurait gagné environ 6 % lors des premiers échanges après la clôture. 5
Ce qu’il faut retenir
Le chiffre de 2 milliards de dollars retient l’attention, mais l’enjeu principal est la tentative d’instituer une nouvelle forme de contrôle : des évaluateurs externes placés à l’intérieur d’un laboratoire d’IA de pointe, avec un accès censé se rapprocher de celui d’une équipe interne de gestion des risques plutôt que d’un auditeur intervenant périodiquement.
La portée réelle du dispositif dépendra des règles définitives, notamment de l’accès dont disposeront les évaluateurs, de leur capacité à publier des conclusions défavorables et de l’adoption éventuelle de mécanismes comparables par d’autres laboratoires et par les gouvernements. 13
14
Studio Global AI
Continuez vos recherches
Cette page comprend une réponse basée sur la source que vous pouvez continuer dans Studio Global.
Les gens demandent aussi
Quelle est la réponse courte à « Accenture et Anthropic misent 2 milliards de dollars sur des évaluateurs intégrés à la sécurité de l’IA » ?
Accenture et Anthropic prévoient chacune d’investir au moins 1 milliard de dollars sur cinq ans, soit au moins 2 milliards au total, dans l’évaluation de la sécurité des IA de pointe.
Quels sont les points clés à valider en premier ?
Accenture et Anthropic prévoient chacune d’investir au moins 1 milliard de dollars sur cinq ans, soit au moins 2 milliards au total, dans l’évaluation de la sécurité des IA de pointe. L’unité spécialisée Faculty d’Accenture pilotera des évaluateurs chargés de tester les modèles, d’effectuer du red teaming, d’évaluer l’alignement et de vérifier les garde fous.
Que dois-je faire ensuite en pratique ?
Le partenariat n’est pas exclusif : Anthropic entend recourir à plusieurs évaluateurs, dont l’organisation à but non lucratif METR dans le cadre d’accords distincts.