Manifeste de Zuckerberg sur la « superintelligence personnelle » : l’IA pour tous, mais qui fait confiance au messager ?

• Des tuteurs IA pour démocratiser l’éducation — un accompagnement personnalisé et disponible en permanence pour chaque élève, comblant les lacunes d’accès à un enseignement de qualité .
• Des avocats IA pour égaliser l’accès à la justice — une assistance juridique gratuite ou à faible coût permettant à chacun, quel que soit son revenu, d’obtenir des conseils comparables à ceux d’un avocat cher .
• Un accès freemium ou à bas coût à la puissance de calcul — des modèles de tarification rendant l’IA super-intelligente largement abordable, avec un niveau de base gratuit pour tous . Brandom a spécifiquement relevé « l’accès freemium au calcul » et la vision d’une IA abondante et bon marché comme faisant partie de ce discours .

Pourquoi Russell Brandom estime que l’essai nuit à la confiance du public

Dans une analyse pour TechCrunch, Russell Brandom a soutenu que le manifeste avait l’effet inverse et creusait la méfiance du public envers l’IA. Ses principales objections :

Le déficit de crédibilité du messager

Brandom rappelle que 64 % des Américains estiment que les réseaux sociaux ont nui à la démocratie, et que le week-end même de la publication, un tribunal a infligé une amende de 567 millions de dollars à Meta pour des préjudices liés à la sécurité des enfants . Il écrit : « Que ce soit juste ou non, le public ne fait pas confiance aux dirigeants de la tech pour garantir que les nouvelles technologies comme celle-ci aient un impact positif sur la société » . Demander au public de faire confiance au PDG de Facebook avec une technologie encore plus intime — une IA personnelle qui saurait ce qui « importe » aux utilisateurs et « où ils coincent » — ignore l’héritage empoisonné de l’ère des réseaux sociaux .

Refus de reconnaître les préjudices réels de l’IA

L’essai de Zuckerberg n’évoque aucune des conséquences négatives documentées, comme les étudiants utilisant des chatbots pour tricher aux devoirs . Brandom estime qu’ignorer ces préjudices existants tout en promettant un avenir utopique donne l’impression d’une esquive plutôt que d’une vision.

Des généralités philosophiques vagues sur les intérêts concurrents

Brandom dénonce les « généralités floues sur l’intelligence » de l’essai et son postulat selon lequel, à mesure que chacun obtient des outils plus puissants, les intérêts concurrents s’équilibreraient naturellement pour aboutir à des résultats positifs . Il établit un parallèle direct avec les « généralités floues que Zuckerberg et Dorsey utilisaient à propos de la liberté d’expression » — le même type de rhétorique libérale qui a précédé les pires dérives des réseaux sociaux .

Le spectre d’une tarification dynamique de la puissance de calcul

Brandom souligne que la vision tarifaire de Zuckerberg — un accès freemium à l’IA — se heurte à la réalité : la puissance de calcul est une ressource rare qui pourrait être allouée via des « enchères dynamiques » . Il compare défavorablement cette approche à celle de Sam Altman (OpenAI) ou Dario Amodei (Anthropic), qui reconnaissent au moins les dangers et tentent de construire la confiance, alors que le refus de Zuckerberg d’envisager la possibilité d’une tarification « dynamique » ou d’autres conséquences imprévues érode sa crédibilité .

Le fond du problème : un problème de messager

La critique centrale de Brandom est que l’essai n’a pas échoué parce que les gens ne peuvent pas imaginer une IA utile — il a échoué « parce que le messager porte la mémoire de la dernière grande promesse des réseaux sociaux » . Chaque fois que Meta demande l’intimité que l’IA personnelle exige, il rappelle au public pourquoi il est anxieux à l’idée de laisser les entreprises de plateformes s’immiscer plus profondément dans leur vie .