RéponsesPublié18 sources
Des alertes internes sur la sécurité chez OpenAI remontaient à avant ChatGPT
Selon Reuters, des employés d’OpenAI ont signalé des inquiétudes sur la sécurité aux dirigeants et au conseil avant le lancement de ChatGPT, fin 2022. Plusieurs anciens employés ont dit ne pas avoir été surpris par la découverte d’un dispositif d’enregistrement dans une salle de réunion de la direction.
Publié parModifié avec GPT-6 LunaImages générées avec GPT Image 2
Réponse de recherche
Points clés à retenir
- Selon Reuters, des employés d’OpenAI ont signalé des inquiétudes sur la sécurité aux dirigeants et au conseil avant le lancement de ChatGPT, fin 2022.
- Plusieurs anciens employés ont dit ne pas avoir été surpris par la découverte d’un dispositif d’enregistrement dans une salle de réunion de la direction.
- OpenAI prévoit un nouveau sprint interne de sécurité avec des chercheurs extérieurs et son partenaire Cathedral.
Prompt IA
openai.comCreate a landscape editorial hero image for this Studio Global article: What did Reuters’ Nov. 3 report, citing five people familiar with the matter, reveal about OpenAI employees’ security warnings dating to bef. Article summary: Reuters’ Nov. 3 report described security concerns at OpenAI that predated ChatGPT’s late-2022 launch, with employees raising them to senior leaders and the board; some former employees therefore were unsurprised by the . Topic tags: general, government, news, general web. Style: premium digital editorial illustration, source-backed research mood, clean composition, high detail, modern web publication hero. Use reference image context only for broad subject, composition, and topical grounding; do not copy the exact image. Avoid: logos, brand marks, copyrighted characters, real person likenesses, fake screenshots, UI text, readable text, watermarks, charts with
Des employés d’OpenAI avaient fait part de préoccupations concernant les pratiques de sécurité de l’entreprise avant même le lancement de ChatGPT, fin 2022, rapporte Reuters, qui cite cinq personnes au fait du dossier. Ils auraient partagé leurs inquiétudes avec des cadres dirigeants et des membres du conseil d’administration. 3
La découverte, annoncée en octobre, d’un dispositif d’enregistrement dans une salle de réunion de la direction a ravivé ces alertes : plusieurs anciens employés ont confié à Reuters qu’ils n’en avaient pas été surpris. 3
Des inquiétudes sur l’équilibre entre vitesse et sécurité
D’après Reuters, certains employés sont ressortis de leurs échanges avec la direction avec l’impression que la priorité était de suivre le rythme des concurrents, plutôt que de mieux protéger la technologie de l’entreprise. 3
39
Un compte rendu secondaire de l’article évoque également des inquiétudes concernant l’accès étendu au code de l’entreprise et l’absence de contrôles de sécurité réguliers pour certains outils internes. 14 Les éléments disponibles ne précisent toutefois pas l’ensemble des règles d’accès aux dépôts de code ni la fréquence à laquelle chaque système était examiné : ils ne permettent donc pas de dresser un bilan complet des protections d’OpenAI.
Ces témoignages mettent en lumière un dilemme courant dans le développement technologique : faciliter la collaboration et avancer rapidement, tout en limitant l’accès aux systèmes sensibles. Les sources rapportent les inquiétudes d’employés et les priorités qu’ils attribuent à la direction, mais ne démontrent pas qu’une pratique particulière ait provoqué l’incident du dispositif d’enregistrement.
L’affaire du dispositif d’enregistrement
En octobre, les autorités américaines ont annoncé l’arrestation d’Abdulrahman Alfozan, ingénieur chez OpenAI âgé de 35 ans, et l’ont inculpé pour avoir utilisé ou tenté d’utiliser un dispositif afin d’intercepter des conversations. 1 Reuters rapporte que l’affaire porte sur un enregistreur audio qui aurait été dissimulé dans une salle de réunion réservée à la direction.
2 Il s’agit d’accusations, et non d’une déclaration de culpabilité.
La découverte de l’appareil a amené d’anciens employés à repenser aux alertes qu’ils avaient formulées auparavant, selon Reuters. 3 Les sources disponibles ne précisent pas toutes les circonstances de l’installation présumée ni la situation de détention d’Alfozan au 3 novembre.
OpenAI annonce de nouvelles mesures
Selon la version espagnole de l’article de Reuters, OpenAI a commencé à modifier son approche de la sécurité. Thibault Sottiaux, cadre supérieur chargé de superviser le développement des produits, aurait récemment pris la tête d’une initiative interne destinée à protéger les systèmes de l’entreprise. 46
Un autre compte rendu de l’enquête indique qu’en août, Sottiaux aurait réaffecté environ un quart des ingénieurs de production aux infrastructures de sécurité. Ce chiffre est attribué à une source et ne constitue pas une confirmation générale de l’entreprise. 53
Le 2 novembre, OpenAI a aussi annoncé un nouveau sprint interne de sécurité. L’entreprise prévoit de travailler avec des chercheurs externes et son partenaire Cathedral pour mettre ses systèmes à l’épreuve et les renforcer à l’aide de ses modèles. 52 Cette annonce décrit un programme prévu : elle ne permet pas encore de savoir quelles failles seront découvertes ni dans quelle mesure les risques diminueront.
Ce que les informations permettent de conclure
Le constat central de l’enquête de Reuters est que des préoccupations de sécurité avaient été exprimées en interne avant le lancement de ChatGPT, et portées à l’attention de dirigeants et du conseil d’administration. 3 Le reportage fait aussi état d’une possible tension entre la volonté d’avancer rapidement et la mise en place de contrôles plus stricts.
39
Les informations disponibles ne confirment pas toutes les affirmations formulées dans des récits plus larges sur la sécurité d’OpenAI. Elles ne montrent pas non plus que les nouvelles mesures répondront aux inquiétudes rapportées. À ce stade, elles dessinent plutôt le tableau d’alertes anciennes, d’un incident grave présumé et d’une réponse de l’entreprise qui comprend une nouvelle initiative de sécurité — sans établir qu’un facteur unique explique l’incident ni que les risques ont disparu.
Studio Global AI
Continuez vos recherches
Cette page comprend une réponse basée sur la source que vous pouvez continuer dans Studio Global.
Les gens demandent aussi
Quelle est la réponse courte à « Des alertes internes sur la sécurité chez OpenAI remontaient à avant ChatGPT » ?
Selon Reuters, des employés d’OpenAI ont signalé des inquiétudes sur la sécurité aux dirigeants et au conseil avant le lancement de ChatGPT, fin 2022.
Quels sont les points clés à valider en premier ?
Selon Reuters, des employés d’OpenAI ont signalé des inquiétudes sur la sécurité aux dirigeants et au conseil avant le lancement de ChatGPT, fin 2022. Plusieurs anciens employés ont dit ne pas avoir été surpris par la découverte d’un dispositif d’enregistrement dans une salle de réunion de la direction.
Que dois-je faire ensuite en pratique ?
OpenAI prévoit un nouveau sprint interne de sécurité avec des chercheurs extérieurs et son partenaire Cathedral.
Sources
reuters.comOpenAI employees warned about operational security lapses for years, sources say
forth.newsOpenAI employees warned about operational security lapses for years, sources say | Forth
unite.aiOpenAI Employees Warned for Years About Internal Security Risks
justice.govSaudi National Arrested for Installing Surreptitious Audio ...