« Chers paysans » : la pique de Sam Altman révèle la crise de confiance de l’IA

Les propos tenus le 23 août par Sam Altman dans le podcast de David Senra ont exposé au grand jour une fracture qui traverse l’industrie de l’intelligence artificielle. Sur un ton sarcastique, le patron d’OpenAI a imaginé des entreprises s’adressant au public en ces termes : « Chers paysans, nous vous léguerons un remède contre le cancer, l’abondance matérielle et de grands divertissements. Alors cessez de vous plaindre et laissez-nous prendre toutes les décisions concernant l’avenir. » 3242

La formule n’était pas une attaque directe et nominative contre Dario Amodei, le dirigeant d’Anthropic. Elle résonnait néanmoins avec un échange auquel Amodei avait participé quelques jours plus tôt : selon lui, répéter que l’IA guérira le cancer ne suffit plus à convaincre l’opinion. Il faudra « réellement guérir le cancer ». 1416

Ce que recouvre la formule des « chers paysans »

Altman ne rejetait pas nécessairement la promesse de progrès médicaux ou d’une plus grande abondance. Il critiquait plutôt le marché paternaliste que l’industrie pourrait donner l’impression de proposer : des bénéfices matériels en échange de la renonciation du public à une part réelle de son pouvoir de décision.

Cette inquiétude s’inscrit dans les autres propos tenus lors du podcast. Altman a évoqué deux risques qui peuvent sembler contradictoires : une IA si puissante que les humains ne parviendraient plus à la contrôler de manière fiable, et une prise de décision concentrée entre les mains de quelques entreprises, modèles ou individus. 3135

Le problème est donc autant politique que technique. Une société pourrait connaître la prospérité tout en laissant les citoyens sans prise sur les systèmes qui transforment leur travail, leur vie privée et leurs institutions.

Pourquoi les propos d’Altman ont fait écho à ceux d’Amodei

Le 15 août, Dario Amodei répondait à une critique de l’investisseur Gavin Baker. Celui-ci estimait que les avertissements répétés du dirigeant d’Anthropic sur les dangers de l’IA alimentaient l’hostilité envers cette technologie, notamment l’opposition à la construction de centres de données. 722

Amodei a rejeté l’idée qu’un discours plus enthousiaste suffirait à régler le problème. Il a décrit le scepticisme du public comme une « crise fondamentale de confiance », nourrie par une méfiance ancienne envers les entreprises, les gouvernements et le secteur technologique. 13

Il a aussi formulé une critique particulièrement sévère de sa propre industrie : les entreprises d’IA, Anthropic comprise, n’ont pas encore tenu leurs grandes promesses de bénéfices pour la société. À ses yeux, dire que l’IA guérira le cancer est devenu un cliché que beaucoup jugent trompeur. Ce qui ferait réellement évoluer les opinions, ce serait de « guérir effectivement le cancer ». 814

C’est là que les deux discours se rejoignent. Tous deux mettent en garde contre l’idée de demander au public de croire à des promesses grandioses. Altman insiste sur le coût politique d’un abandon de l’autonomie. Amodei souligne le coût de crédibilité de promesses extraordinaires qui ne se traduisent pas encore par des résultats visibles.

La réponse d’Amodei à l’optimisme de Gavin Baker

Le diagnostic de Baker faisait du rejet de l’IA un problème de communication : parler moins des scénarios catastrophiques, insister davantage sur les bénéfices et rendre la technologie plus facile à défendre auprès du public. Pour Amodei, la méfiance existait bien avant les prises de parole d’un dirigeant particulier et ne se réparera pas avec une campagne de communication soignée. 17

Cela ne signifie pas qu’Amodei nie le potentiel de l’IA. Il estime qu’elle pourrait contribuer à guérir la plupart des maladies humaines dans un délai d’environ cinq à dix ans, tout en reconnaissant qu’une telle perspective paraît extraordinaire. 16

La distinction est importante : une prévision n’est pas un résultat obtenu. Amodei affirme que l’industrie dispose peut-être d’un argument puissant, mais que celui-ci restera peu convaincant tant que les bénéfices ne seront pas tangibles et que leur répartition ne sera pas compréhensible.

Où s’insère la vision de Mark Zuckerberg

Le patron de Meta, Mark Zuckerberg, défend une perspective plus optimiste. Dans son essai de 6 500 mots, intitulé « The Future is for Everyone », il présente la superintelligence comme un outil d’émancipation individuelle et affirme que l’emploi restera abondant. 1726

L’argument d’Amodei sur la confiance met implicitement cette vision à l’épreuve. Même un futur présenté comme positif peut susciter des questions très concrètes : qui contrôle les modèles ? Qui récupère la richesse créée ? Qui assume les risques ? Les entreprises peuvent-elles être tenues responsables par les institutions ?

Le scepticisme ne se limite d’ailleurs pas aux risques existentiels ou à la sécurité. Les inquiétudes portent aussi sur les suppressions d’emplois, les inégalités, la vie privée, la rémunération des créateurs et les effets sociaux de l’IA. Un sondage cité par WIRED indique que de nombreux Américains voient désormais l’IA davantage comme une source de préoccupation que d’enthousiasme. 25

Les éléments disponibles attestent d’un conflit sérieux autour de la confiance et de l’adhésion du public. Ils ne suffisent toutefois pas à démontrer que les mises en garde d’un seul dirigeant ont provoqué l’opposition aux centres de données, ni à établir une cause unique et mesurée d’un recul de l’enthousiasme à l’échelle de toute l’industrie.

La fracture de fond : promesses contre pouvoir

Le désaccord entre Altman, Amodei et leurs détracteurs ne porte donc pas seulement sur le ton à employer.

• La vision « l’optimisme d’abord » : les entreprises d’IA doivent mieux expliquer les bénéfices de leurs produits et éviter que les scénarios de catastrophe ne définissent à eux seuls la technologie. 730
• La vision « la confiance d’abord » : le scepticisme repose sur des décennies de méfiance, et le marketing ne peut remplacer des résultats concrets, une gouvernance crédible et une véritable responsabilité. 12
• La vision « le contrôle d’abord » : même un avenir prospère serait inacceptable si quelques entreprises, modèles ou individus prenaient pour tous les décisions les plus importantes. 3537

La formule des « chers paysans » rend cette contradiction particulièrement visible : l’industrie peut promettre l’abondance tout en donnant involontairement le sentiment de demander au public d’échanger son autonomie contre du confort. La réponse d’Amodei apporte l’autre moitié de la critique : même les promesses les mieux intentionnées ne restaureront pas la confiance tant qu’elles ne seront pas vérifiables.

La leçon qui se dessine est simple. Les dirigeants de l’IA ne peuvent compter ni sur la peur ni sur l’optimisme seuls pour convaincre. La confiance dépendra de ce que la technologie produira réellement, de ceux qui la contrôlent, de ceux qui bénéficieront de ses gains et de la possibilité, pour les citoyens, de conserver une voix dans l’avenir qui se construit.