Sécurité de l’IA : Zuckerberg veut laisser chaque laboratoire décider quand ralentir

Mark Zuckerberg ne dit pas qu’il faut toujours avancer coûte que coûte. Dans un entretien avec Joanna Stern, de NBC News, le patron de Meta a expliqué qu’un laboratoire pouvait ralentir ou suspendre le développement de ses propres produits s’il les jugeait dangereux. Ce qu’il refuse, c’est un ralentissement décidé collectivement par les entreprises du secteur. 10

Pourquoi il mise sur les décisions de chaque laboratoire

Selon Zuckerberg, chaque laboratoire a la responsabilité de choisir un rythme compatible avec la sécurité de ses modèles — et les moyens de ralentir si nécessaire. Il invoque aussi deux incitations : les utilisateurs risquent de se détourner d’agents d’IA qui n’exécutent pas leurs demandes comme prévu, et les entreprises pourraient être tenues responsables des dommages causés par leurs systèmes. À ses yeux, la confiance des utilisateurs et la capacité d’un agent à respecter leurs intentions deviennent ainsi des atouts concurrentiels. 172934

Cet argument défend des décisions de sécurité prises entreprise par entreprise, pas la publication systématique de nouveaux produits. Il repose toutefois sur une condition : que les laboratoires repèrent les problèmes et y répondent avant qu’ils ne causent des dommages. Les seules incitations commerciales ne garantissent pas qu’ils y parviendront toujours.

Muse, l’exemple avancé par Meta

Zuckerberg cite le report de plusieurs mois de Muse, l’agent d’IA de Meta, pendant que l’entreprise travaillait sur sa sécurité. Pour lui, cet épisode montre qu’un laboratoire peut retarder son propre produit sans demander à ses concurrents de faire de même. 1727

Meta décrit également Sentinel, un agent distinct chargé de contrôler les actions et les données que Muse envoie vers l’extérieur, avec un dispositif prévoyant de solliciter l’autorisation de l’utilisateur lorsque c’est nécessaire. C’est un exemple des protections que Meta affirme mettre en place, pas une preuve que tout risque a disparu. 30

Ce qui oppose Zuckerberg aux partisans d’une coordination

Dario Amodei, patron d’Anthropic, a appelé à ralentir le développement des modèles d’IA les plus avancés, une position soutenue par Sam Altman, patron d’OpenAI, et Elon Musk. Le 23 septembre, Amodei et Altman se sont adressés au Conseil de sécurité de l’ONU pour demander une coordination internationale face aux risques de l’IA. 146

Le désaccord porte donc surtout sur la manière de fixer le rythme : Zuckerberg privilégie les décisions de chaque laboratoire, appuyées selon lui par la demande des utilisateurs et le risque de responsabilité juridique ; Amodei et Altman plaident pour une coopération entre entreprises et entre pays. 10174

Les alertes venues des chercheurs ajoutent une nuance au débat. Après avoir quitté Anthropic, Jacob Coxon a mis en garde contre des risques potentiellement catastrophiques. Il a aussi proposé de laisser provisoirement les principaux laboratoires s’autoréguler, le temps que le Congrès américain élabore un cadre de plus long terme pour ralentir le développement. S’inquiéter des risques de l’IA ne revient donc pas nécessairement à réclamer une pause immédiate et uniforme. 4237