RéponsesPublié22 sources
Andrew Ng conteste les craintes d’extinction liées à l’IA
Andrew Ng a qualifié les craintes d’extinction de l’humanité dues à l’IA de « beaucoup plus proches de la science fiction que de la science ». Selon lui, l’imprévisibilité des systèmes est un problème d’ingénierie à gérer, pas une raison d’interrompre largement le développement de l’IA.
Publié parImages générées avec GPT Image 2
Réponse de recherche
Points clés à retenir
- Andrew Ng a qualifié les craintes d’extinction de l’humanité dues à l’IA de « beaucoup plus proches de la science fiction que de la science ».
- Selon lui, l’imprévisibilité des systèmes est un problème d’ingénierie à gérer, pas une raison d’interrompre largement le développement de l’IA.
- Il préconise des tests rigoureux, des garde fous et des protections contre des risques observables, notamment en cybersécurité.
- Cette position l’oppose aux dirigeants et chercheurs qui demandent de ralentir les capacités des modèles les plus avancés afin de gagner du temps pour la sûreté.
Prompt IA
openai.comCreate a landscape editorial hero image for this Studio Global article: What did AI pioneer Andrew Ng say in his September 17 Bloomberg TV interview about warnings that artificial intelligence could cause human e. Article summary: Andrew Ng rejected the claim that AI is likely to cause human extinction as “much more science fiction than science.” He argued that uncertainty in AI behavior is an engineering problem to manage—not evidence that societ. Topic tags: general web, ai safety, openai, ai, security. Style: premium digital editorial illustration, source-backed research mood, clean composition, high detail, modern web publication hero. Use reference image context only for broad subject, composition, and topical grounding; do not copy the exact image. Avoid: logos, brand marks, copyrighted characters, real person likenesses, fake screenshots, UI text, readable text, watermarks, charts
Andrew Ng rejette l’idée selon laquelle l’intelligence artificielle serait susceptible de provoquer l’extinction de l’humanité. Lors d’un entretien accordé le 17 septembre à Bloomberg TV, le pionnier de l’IA a décrit ces craintes comme étant « beaucoup plus proches de la science-fiction que de la science ». 10
Pour lui, le fait que les systèmes d’IA ne soient jamais parfaitement prévisibles ne constitue pas une preuve qu’il faudrait freiner l’ensemble du secteur. C’est avant tout un défi d’ingénierie : évaluer les modèles, identifier leurs défaillances, ajouter des garde-fous et améliorer progressivement leur fiabilité. 10
Pourquoi Ng se méfie du discours catastrophiste
Andrew Ng n’a pas dit qu’il fallait négliger la sûreté de l’IA. Il estime en revanche que les discours sur un risque existentiel peuvent détourner l’attention des bénéfices potentiels de la technologie. Bloomberg rapporte aussi qu’il a rapproché cette rhétorique de précédents cycles technologiques, où l’évocation de dangers catastrophiques pouvait servir à attirer l’attention et à peser sur le cadre réglementaire. 8
Son inquiétude sous-jacente est qu’une régulation pensée principalement autour des modèles dits « frontier » — les systèmes les plus puissants et les plus coûteux à développer — puisse favoriser les laboratoires déjà très financés, mieux à même d’assumer les coûts de conformité. 8
10
Ng défend donc une ligne différente : concentrer les efforts sur les risques tangibles et prévisibles. Il cite notamment les enjeux de cybersécurité et plaide pour des essais rigoureux, des protections techniques et une démarche d’amélioration continue. Ralentir largement le développement pourrait, selon lui, ralentir aussi les progrès en matière de sécurité. 10
Le camp favorable à un ralentissement des modèles avancés
Plusieurs voix influentes considèrent au contraire que le risque de perte de contrôle est suffisamment plausible pour justifier un ralentissement volontaire des capacités des modèles les plus avancés.
- Jacob Coxon, ancien chercheur d’OpenAI et d’Anthropic, a quitté Anthropic en alertant sur les dangers d’une progression rapide et insuffisamment contrôlée, en particulier vers des systèmes capables de s’améliorer eux-mêmes. Il appelle à ralentir le rythme.
2
14
- Dario Amodei, directeur général d’Anthropic, propose de freiner l’amélioration des capacités des modèles de pointe afin de disposer de davantage de temps pour gérer les risques. Son plan prévoit notamment des évaluations indépendantes.
3
- Sam Altman, directeur général d’OpenAI, a soutenu le principe d’un ralentissement accompagné de garde-fous, dans un contexte de craintes sur des systèmes que les humains pourraient ne plus maîtriser.
1
9
- Geoffrey Hinton, souvent présenté comme l’un des « pères de l’IA », juge significatif le risque que l’IA échappe au contrôle humain. Il soutient un développement plus lent et des tests avant le déploiement de nouveaux produits.
16
La divergence avec Ng porte donc surtout sur l’évaluation de la probabilité du danger et sur la réponse politique à y apporter. Coxon, Amodei, Altman et Hinton estiment qu’il faut volontairement donner du temps aux travaux de sûreté et aux mécanismes de gouvernance. Ng considère les scénarios d’extinction comme spéculatifs et privilégie la résolution des défaillances observables par les méthodes classiques de l’ingénierie de sécurité. 3
10
16
Ceux qui refusent un ralentissement général
D’autres responsables partagent avec Andrew Ng le refus d’une pause à l’échelle du secteur, mais leurs arguments ne sont pas forcément les mêmes.
- Jensen Huang, directeur général de Nvidia, s’est opposé à l’adoption de nouvelles lois spécifiques à l’IA et a contesté l’idée d’un ralentissement général.
5
17
- Mark Zuckerberg, directeur général de Meta, s’est opposé à une pause sectorielle, estimant que la concurrence et les incitations du marché pousseraient les entreprises à rendre leurs modèles plus sûrs.
- Donald Trump, président des États-Unis, a qualifié les avertissements sur les dangers de l’IA de « canular » et affirmé que les outils juridiques américains existants étaient suffisants pour encadrer ou poursuivre les abus. Sa position met aussi l’accent sur la compétitivité américaine, notamment face à la Chine.
- La Chine, par la voix d’un porte-parole de son ministère des Affaires étrangères, a également rejeté les appels à ralentir le développement de l’IA de pointe.
Ces positions convergent avec celle de Ng sur le refus d’un ralentissement généralisé, mais pas nécessairement sur leurs motivations. Ng avance une logique technicienne : traiter les risques concrets avec des évaluations et des contrôles. Huang, Zuckerberg, Trump et les autorités chinoises mettent davantage en avant l’innovation, la concurrence ou la prudence face à de nouvelles contraintes. 5
7
10
11
Les éléments disponibles ne permettent pas de caractériser de manière suffisamment étayée les positions précises d’Aidan Gomez et de Steve Eisman sur un ralentissement à l’échelle de l’industrie, la recherche en sécurité, la réglementation et la gouvernance internationale de l’IA.
Studio Global AI
Continuez vos recherches
Cette page comprend une réponse basée sur la source que vous pouvez continuer dans Studio Global.
Les gens demandent aussi
Quelle est la réponse courte à « Andrew Ng conteste les craintes d’extinction liées à l’IA » ?
Andrew Ng a qualifié les craintes d’extinction de l’humanité dues à l’IA de « beaucoup plus proches de la science fiction que de la science ».
Quels sont les points clés à valider en premier ?
Andrew Ng a qualifié les craintes d’extinction de l’humanité dues à l’IA de « beaucoup plus proches de la science fiction que de la science ». Selon lui, l’imprévisibilité des systèmes est un problème d’ingénierie à gérer, pas une raison d’interrompre largement le développement de l’IA.
Que dois-je faire ensuite en pratique ?
Il préconise des tests rigoureux, des garde fous et des protections contre des risques observables, notamment en cybersécurité.
Sources