Amazon veut tester l’IA avant de la déployer, pas freiner la course

Amazon a choisi une position intermédiaire dans le débat sur la sûreté de l’intelligence artificielle : les modèles puissants ne devraient être mis sur le marché qu’après des tests rigoureux et avec de solides garde-fous. Le groupe appelle aussi à une action collective de l’industrie et des pouvoirs publics. En revanche, il ne soutient pas un ralentissement général et coordonné du développement de l’IA. 6

Son idée centrale est que sécurité et progrès ne sont pas incompatibles. Amazon se rapproche ainsi d’un principe de « tester avant de déployer », plutôt que d’une approche qui conditionnerait le rythme même des avancées technologiques aux progrès de la sûreté.

La ligne défendue par Amazon

Interrogé par Reuters, Amazon a déclaré que les modèles devraient être publiés lorsqu’ils sont « prêts et sûrs à utiliser », ce qui exige, selon l’entreprise, des tests rigoureux et des garde-fous robustes. Le groupe a également souligné la nécessité d’une coopération entre le secteur et les autorités publiques. 6

La distinction est importante : Amazon ne demande ni de suspendre l’entraînement des modèles ni d’imposer des limites générales à l’amélioration de leurs capacités. Son seuil se situe au moment de la mise à disposition : évaluer le système, y appliquer des protections et ne le déployer que s’il est suffisamment sûr.

Cette approche laisse toutefois plusieurs questions ouvertes : qui fixe les normes de test ? Quelles preuves permettent d’établir qu’un modèle est sûr ? Et des évaluations menées par les développeurs eux-mêmes sont-elles suffisantes ?

En quoi Anthropic va plus loin

Dario Amodei, directeur général d’Anthropic, appelle les entreprises développant les modèles d’IA les plus avancés à ralentir le rythme auquel elles en augmentent les capacités, afin de laisser aux mesures de sécurité le temps de rattraper leur retard. Sa proposition prévoit des évaluateurs indépendants disposant d’un accès approfondi, des normes communes à l’industrie et une coordination internationale. 12

La position d’Amodei est donc plus exigeante que celle d’Amazon. Il ne considère pas seulement la sécurité comme une condition préalable au lancement : selon lui, le rythme de développement lui-même pourrait devoir être ralenti lorsque les protections ne suivent plus les gains de capacité.

Ses avertissements portent sur des scénarios futurs de détournement ou de perte de contrôle. Ils plaident pour la précaution ; ils ne démontrent pas qu’une prise de contrôle autonome par une IA se soit déjà produite. 111

En résumé :

• Amazon : poursuivre les progrès, mais ne pas diffuser un modèle avant qu’il ait passé des tests rigoureux et soit jugé sûr à utiliser. 6
• Anthropic : la sécurité doit aussi peser sur la vitesse à laquelle les capacités des modèles de pointe progressent, avec un contrôle indépendant et des règles coordonnées. 12

Où se situent les autres acteurs de l’IA ?

Les dirigeants d’OpenAI, de Google DeepMind et de xAI ont publiquement soutenu l’orientation de la proposition d’Amodei. Sam Altman, patron d’OpenAI, a déclaré qu’il s’alignerait sur l’engagement d’Anthropic à permettre à des évaluateurs extérieurs, avec un niveau d’accès comparable à celui d’employés, d’examiner les pratiques de sécurité. 4

Mais l’adhésion au principe de sécurité ne règle pas les modalités concrètes. Un ralentissement coordonné supposerait une définition commune des capacités dangereuses, des moyens crédibles de vérification et un accord entre concurrents soumis à de fortes pressions commerciales et géopolitiques. Reuters rapporte que les grands acteurs du secteur restent divisés, à la fois sur l’urgence du risque et sur la réponse à y apporter.

À l’inverse, Mark Zuckerberg, dirigeant de Meta, privilégie des garde-fous guidés par le marché plutôt qu’un ralentissement coordonné.

Le vrai débat : engagements volontaires ou contrôle contraignant ?

La position d’Amazon s’accorde naturellement avec des outils tels que les évaluations avant lancement, les exercices de red teaming — des tests qui cherchent volontairement à contourner les protections —, les contrôles de sécurité et le signalement des risques. Le International AI Safety Report 2026 cite notamment la modélisation des menaces, les évaluations de capacités, les obligations de transparence et le signalement d’incidents parmi les pratiques pertinentes de gestion des risques.

La question non tranchée est de savoir si ces dispositifs doivent rester volontaires. Des négociateurs du Sénat américain ont discuté d’un texte qui obligerait les entreprises d’IA à démontrer qu’elles prennent des « précautions raisonnables » contre les dommages. Selon les informations rapportées, le secrétaire au Commerce pourrait demander des éléments de preuve et missionner des auditeurs publics pour tester les produits des entreprises. 20

Un tel régime de devoir de vigilance irait au-delà des promesses des entreprises. Il n’imposerait pas forcément une pause généralisée, mais pourrait donner à une autorité extérieure les moyens de contester l’affirmation d’une entreprise selon laquelle son modèle est prêt à être déployé.

Coopérer sans laisser les leaders écrire seuls les règles

Un accord commun sur la sécurité pourrait rendre les tests et les signalements plus cohérents. Mais il pose aussi la question de ceux qui définissent les règles. Andrew Ferguson, président de la Federal Trade Commission américaine, a estimé que le public devait être « profondément méfiant » lorsque des entreprises d’IA demandent des exemptions au droit de la concurrence tout en faisant pression pour de nouvelles réglementations. Des experts ont toutefois indiqué à Reuters que le droit de la concurrence existant pourrait permettre une coordination visant à éviter des risques catastrophiques. 17

Aidan Gomez, directeur général de Cohere, a lui aussi averti qu’un dispositif de sécurité contrôlé par un petit nombre de laboratoires dominants risquerait de consolider la position des acteurs déjà installés. Il appelle à des garanties vérifiables de manière indépendante, à davantage de transparence et à une participation plus large, plutôt qu’à des normes définies uniquement par les principales entreprises.

Ces critiques ne réfutent pas l’argument en faveur d’une action coordonnée sur la sécurité. Elles soulignent une autre exigence : le contrôle doit être crédible, mais aussi résistant à la capture réglementaire par les entreprises les plus puissantes.

Un contexte politique peu favorable à de nouvelles règles

L’environnement politique américain pourrait compliquer la formule d’Amazon, fondée sur une coopération entre entreprises et pouvoirs publics. L’administration Trump a défendu, à l’international, une approche peu interventionniste de la régulation de l’IA, tandis que Donald Trump a estimé que les garde-fous existants étaient suffisants. L’administration a également indiqué aux développeurs qu’elle ne soumettrait pas les modèles à poids ouverts à des tests de sécurité volontaires.

De son côté, Bill Gates estime que les gouvernements ne sont pas préparés aux transformations induites par l’IA et devraient coopérer à l’échelle internationale sur des risques tels que les bouleversements de l’emploi, l’addiction et les cyberattaques. 18

À retenir

L’intervention d’Amazon n’est pas un appel à ralentir l’IA. C’est un appel à relever le seuil exigé avant son déploiement : pas de mise sur le marché avant des tests rigoureux et des garde-fous solides. 6

Cette approche est moins restrictive que la proposition d’Anthropic, qui veut modérer les progrès des capacités de pointe lorsque la sécurité ne peut pas suivre. Mais elle ramène le débat à une question décisive : les entreprises peuvent-elles contrôler de façon crédible leurs propres décisions de lancement, ou des évaluateurs indépendants et les autorités publiques doivent-ils pouvoir les vérifier, les contester, voire les empêcher ? 120