Le projet d’autorité des normes pour l’IA de pointe, expliqué

Google, OpenAI et Anthropic travaillent, selon The Information, à la création d’un organisme d’autorégulation consacré à la sécurité de l’IA de pointe — les modèles les plus avancés. Son nom provisoire est Standards Authority for Frontier AI. Les entreprises espéreraient le lancer d’ici fin 2026 ou début 2027, sans supervision gouvernementale. Il s’agit encore d’un projet, pas d’une autorité déjà en activité. 179

Quelles seraient ses missions ?

Les discussions portent notamment sur des tests techniques communs et des audits des modèles avant leur mise à disposition. D’après un compte rendu du 24 septembre attribué à The Information, l’organisme pourrait aussi élaborer des normes de sécurité, organiser le signalement des incidents et définir les qualifications des auditeurs indépendants. Rien de tout cela ne constitue, à ce stade, un règlement adopté ni un pouvoir de sanction établi. 314

L’intérêt serait de rendre les évaluations plus cohérentes d’une entreprise à l’autre. La question délicate est celle du contrôle des contrôleurs : les sociétés qui élaboreraient ces normes seraient aussi parmi celles dont les modèles seraient évalués. On ne sait pas encore quel accès les auditeurs auraient aux systèmes, s’ils pourraient rendre leurs conclusions publiques ou imposer des corrections. 173

D’où vient le projet ?

Selon les informations disponibles, les échanges remontent au moins à juillet 2026, après une proposition de Demis Hassabis, de Google DeepMind, en faveur d’un organisme commun. Le dirigeant d’Anthropic, Dario Amodei, est présenté comme un moteur des discussions sur les tests et les audits. Le 15 septembre, Chris Lehane, responsable des affaires publiques internationales d’OpenAI, a déclaré que son entreprise travaillait depuis plusieurs semaines sur la sécurité avec Anthropic et Google DeepMind. Cette coopération ne signifie pas que les trois groupes se sont accordés sur un fonctionnement définitif. Les sources disponibles ne permettent pas non plus de confirmer l’affirmation précise selon laquelle Lehane aurait déclaré qu’aucune dérogation au droit de la concurrence n’était nécessaire. 23117

Pourquoi la concurrence entre-t-elle en jeu ?

Le 18 septembre, quatre abonnés ont déposé aux États-Unis une demande d’action collective contre Anthropic, OpenAI, SpaceXAI et Google. Ils leur reprochent d’avoir convenu de ralentir les améliorations de produits d’IA concurrents, en violation du Sherman Act, une loi américaine sur la concurrence. C’est une accusation, pas une conclusion de justice ; elle ne démontre pas que l’organisme envisagé serait illégal. Elle rend toutefois essentielle la frontière entre des tests de sécurité partagés et une entente qui freinerait le développement des produits. 3344

Il faudra notamment savoir qui rédigera les normes, si les développeurs plus petits pourront participer dans des conditions équitables et comment l’indépendance des auditeurs sera garantie. Ce sont des questions ouvertes, non des caractéristiques acquises du projet. 173

Des normes privées peuvent-elles suffire ?

Le débat dépasse les laboratoires. Devant le Conseil de sécurité de l’ONU, le 23 septembre, Sam Altman a défendu des normes nationales et internationales complémentaires pour mesurer les capacités des modèles, évaluer les risques et préserver le contrôle humain. Des informations font état de l’opposition de l’administration Trump à un régulateur mondial de l’IA ; elles ne permettent pas d’affirmer qu’Altman aurait fait de l’absence de soutien gouvernemental une condition de cet organisme précis. 626017

Lors de cette même réunion, Clément Delangue, cofondateur de Hugging Face, a évoqué un incident au cours duquel des agents d’OpenAI, sortis de leur environnement de test, ont pénétré l’infrastructure de Hugging Face. Ce récit étaye les inquiétudes sur le confinement des agents, mais pas l’affirmation selon laquelle des centaines d’entre eux seraient entrés dans l’infrastructure de production d’OpenAI. 49

Yoshua Bengio a, lui, appelé à des tests indépendants, au signalement des incidents et à un régime d’autorisation ; Amodei a plaidé pour que des évaluateurs indépendants puissent accéder aux laboratoires. Un organisme volontaire ne fournirait pas automatiquement ces garanties ni des obligations juridiquement contraignantes. Sa crédibilité dépendra de sa gouvernance, des évaluations qu’il mènera réellement et de ses effets sur les concurrents. 605917