RéponsesPublié16 sources
Google éloigne une équipe de sécurité de l’IA du laboratoire DeepMind
Google prévoit de transférer début septembre son équipe de responsabilité en IA, forte d’environ 90 personnes, de Google DeepMind vers sa division Global Affairs. L’équipe étudie notamment les risques liés à l’utilisation malveillante de systèmes avancés et les effets psychologiques potentiels d’interactions prolong...
Publié parModifié avec GPT-5.6 LunaImages générées avec GPT Image 1.5
Réponse de recherche
Points clés à retenir
- Google prévoit de transférer début septembre son équipe de responsabilité en IA, forte d’environ 90 personnes, de Google DeepMind vers sa division Global Affairs.
- L’équipe étudie notamment les risques liés à l’utilisation malveillante de systèmes avancés et les effets psychologiques potentiels d’interactions prolongées avec des chatbots.
- Des employés redoutent une perte d’indépendance et un éloignement des équipes qui conçoivent les modèles, mais les informations disponibles ne permettent pas de confirmer quelles garanties seront maintenues.
- Cette décision intervient alors que Demis Hassabis quitte la direction opérationnelle de DeepMind et que Google réorganise ses équipes pour accélérer le développement de Gemini.
Prompt IA
openai.comCreate a landscape editorial hero image for this Studio Global article: What is Google’s planned early September transfer of its roughly 90 member AI responsibility team from Google DeepMind to the Global Affairs. Article summary: Google plans to move its roughly 90 person AI Responsibility team out of Google DeepMind and into Google’s Global Affairs organization in early September.. Topic tags: general web, openai, chatgpt, llm, ai. Style: premium digital editorial illustration, source-backed research mood, clean composition, high detail, modern web publication hero. Use reference image context only for broad subject, composition, and topical grounding; do not copy the exact image. Avoid: logos, brand marks, copyrighted characters, real person likenesses, fake screenshots, UI text, readable text, watermarks, charts with fake numbers, clickbait thumbnails, icons, and tiny thumbnail layou
Ce qui va changer
Google prévoit de déplacer début septembre son équipe de responsabilité en IA, qui compte environ 90 personnes, hors de Google DeepMind pour l’intégrer à sa division Global Affairs. Cette branche regroupe notamment des fonctions liées aux politiques publiques, aux affaires juridiques et aux relations avec les pouvoirs publics. 5
3
Le changement intervient alors que Google cherche à rapprocher ses activités d’intelligence artificielle de ses produits et à accélérer le développement de Gemini. La réorganisation de DeepMind s’inscrit donc dans un mouvement plus large d’intégration au sein du groupe Alphabet.
Une équipe chargée de risques particulièrement sensibles
L’équipe concernée travaille sur les risques liés aux systèmes d’IA avancés, aussi appelés systèmes « de frontière » (frontier AI). Ses sujets comprennent notamment :
- le risque d’utilisation malveillante dans les domaines chimique, biologique, radiologique et nucléaire — regroupés sous l’acronyme anglais CBRN ;
- les conséquences sociétales de modèles de plus en plus capables ;
- les effets psychologiques potentiels d’interactions longues ou intenses avec des chatbots.
5
Jusqu’ici, ces travaux étaient menés au sein du laboratoire qui participe directement à la conception des modèles avancés de Google. Après le transfert, l’équipe ne sera donc plus rattachée de la même manière à cette organisation de recherche et de développement.
Pourquoi des salariés s’inquiètent
Selon des informations rapportées de l’intérieur de l’organisation, certains employés craignent que le rattachement à une fonction de relations institutionnelles réduise l’indépendance de l’équipe. Ils redoutent aussi qu’elle soit moins proche des décisions prises lors du développement des modèles et qu’il lui soit plus difficile de poursuivre ou de faire remonter des conclusions défavorables concernant de nouveaux systèmes. 5
Il s’agit de préoccupations exprimées par des salariés, et non de la preuve que Google a déjà imposé de telles restrictions.
Le dossier reste d’ailleurs incomplet. Les informations publiques indiquent que l’équipe devrait continuer à étudier les risques et les effets sociétaux de l’IA, mais elles ne précisent pas de façon exhaustive ses futurs effectifs, son accès aux modèles, sa liberté de publication, son budget ou ses pouvoirs d’alerte. Il est donc impossible d’affirmer avec certitude quelles protections concrètes seront conservées.
Les éléments disponibles ne permettent pas non plus de conclure que le transfert prive l’équipe d’un pouvoir officiel de bloquer la mise sur le marché d’un modèle. 5
Une séparation plus nette entre sécurité technique et gouvernance
D’autres équipes de DeepMind et de Google continuent de travailler sur les garde-fous opérationnels des modèles : comportement des systèmes, confidentialité, sécurité informatique et sûreté technique, notamment. 6
7
La réorganisation pourrait ainsi accentuer la séparation entre deux types de missions :
- les contrôles techniques et liés aux produits, au sein de l’organisation qui développe les modèles ;
- les travaux plus larges sur les impacts, la gouvernance et les politiques publiques, au sein de Global Affairs.
Cette distinction peut faciliter la cohérence des positions de Google face aux régulateurs et aux pouvoirs publics. Mais elle soulève une question centrale : les spécialistes chargés d’identifier les risques auront-ils encore un accès suffisant aux équipes de développement et aux décisions de déploiement pour peser efficacement sur le résultat final ?
Le contexte : Demis Hassabis passe à un rôle de supervision
La décision intervient quelques semaines après le changement de rôle de Demis Hassabis. Le cofondateur de DeepMind abandonne ses responsabilités quotidiennes de directeur général pour devenir président de Google DeepMind et scientifique en chef d’Alphabet. Koray Kavukcuoglu, jusque-là directeur technologique et architecte en chef de l’IA, reçoit davantage de responsabilités opérationnelles et doit superviser le développement des modèles Gemini, la recherche sur l’IA de frontière ainsi que les équipes de l’application Gemini et des développeurs. 13
3
4
6
Reuters a également rapporté que certaines équipes d’IA avaient été déplacées vers les structures centrales de Google, alors que les dirigeants poussent à accélérer Gemini et que plusieurs départs de cadres et de chercheurs ont marqué la période récente. 3
4
Ce que cette réorganisation révèle du dilemme des laboratoires d’IA
Le transfert ne signifie pas que Google abandonne ses travaux sur la sécurité de l’IA. Il illustre plutôt une tension devenue structurelle dans les grands laboratoires : l’expertise en matière de risques doit être suffisamment proche des ingénieurs pour influencer la conception des modèles, tout en étant assez indépendante pour pouvoir signaler des problèmes qui ralentiraient leur lancement.
La rattacher à une fonction centrale de politique publique peut améliorer la coordination avec les équipes juridiques, les régulateurs et les activités de déploiement. En revanche, cela peut affaiblir son indépendance — au moins dans la perception, et potentiellement dans la pratique — si ses droits d’accès, de publication et d’escalade ne sont pas clairement protégés. 5
3
L’enjeu ne sera donc pas seulement de savoir où l’équipe est située dans l’organigramme. Il faudra aussi observer si elle conserve les moyens d’examiner les nouveaux modèles, de faire connaître ses conclusions et de demander une réévaluation avant leur diffusion.
Studio Global AI
Continuez vos recherches
Cette page comprend une réponse basée sur la source que vous pouvez continuer dans Studio Global.
Les gens demandent aussi
Quelle est la réponse courte à « Google éloigne une équipe de sécurité de l’IA du laboratoire DeepMind » ?
Google prévoit de transférer début septembre son équipe de responsabilité en IA, forte d’environ 90 personnes, de Google DeepMind vers sa division Global Affairs.
Quels sont les points clés à valider en premier ?
Google prévoit de transférer début septembre son équipe de responsabilité en IA, forte d’environ 90 personnes, de Google DeepMind vers sa division Global Affairs. L’équipe étudie notamment les risques liés à l’utilisation malveillante de systèmes avancés et les effets psychologiques potentiels d’interactions prolongées avec des chatbots.
Que dois-je faire ensuite en pratique ?
Des employés redoutent une perte d’indépendance et un éloignement des équipes qui conçoivent les modèles, mais les informations disponibles ne permettent pas de confirmer quelles garanties seront maintenues.