AnswersPublished18 sources
OpenAI-medarbejdere advarede om sikkerhedsrisici før ChatGPT
Ifølge Reuters rejste OpenAI medarbejdere sikkerhedsbekymringer over for ledelsen og bestyrelsen, før ChatGPT blev lanceret i slutningen af 2022. Flere tidligere ansatte sagde til Reuters, at de ikke var overraskede, da OpenAI oplyste, at en optageenhed var blevet fundet i et mødelokale for ledelsen.
Udgivet afRedigeret med GPT-6 LunaBilleder genereret med GPT Image 2
Research answer
Key takeaways
- Ifølge Reuters rejste OpenAI medarbejdere sikkerhedsbekymringer over for ledelsen og bestyrelsen, før ChatGPT blev lanceret i slutningen af 2022.
- Flere tidligere ansatte sagde til Reuters, at de ikke var overraskede, da OpenAI oplyste, at en optageenhed var blevet fundet i et mødelokale for ledelsen.
- OpenAI har annonceret et nyt internt sikkerhedsforløb, hvor eksterne forskere skal hjælpe med at teste og styrke selskabets systemer.
AI Prompt
openai.comCreate a landscape editorial hero image for this Studio Global article: What did Reuters’ Nov. 3 report, citing five people familiar with the matter, reveal about OpenAI employees’ security warnings dating to bef. Article summary: Reuters’ Nov. 3 report described security concerns at OpenAI that predated ChatGPT’s late-2022 launch, with employees raising them to senior leaders and the board; some former employees therefore were unsurprised by the . Topic tags: general, government, news, general web. Style: premium digital editorial illustration, source-backed research mood, clean composition, high detail, modern web publication hero. Use reference image context only for broad subject, composition, and topical grounding; do not copy the exact image. Avoid: logos, brand marks, copyrighted characters, real person likenesses, fake screenshots, UI text, readable text, watermarks, charts with
OpenAI-medarbejdere advarede om virksomhedens sikkerhedspraksis, før ChatGPT blev lanceret i slutningen af 2022, skriver Reuters. Ifølge fem personer med kendskab til sagen blev bekymringerne delt med både ledende medarbejdere og bestyrelsen. Nogle tidligere ansatte sagde, at de ikke var overraskede, da OpenAI senere oplyste, at en optageenhed var blevet fundet i et mødelokale for ledelsen. 3
Advarsler om sikkerheden
Reuters beskriver, hvordan sikkerhedsspørgsmål ifølge kilderne havde været rejst internt længe før fundet af optageenheden. Nogle medarbejdere fik efter samtaler med ledelsen indtryk af, at det at følge med konkurrenterne blev prioriteret højere end at beskytte virksomhedens teknologi. 3
39
En anden gennemgang af Reuters’ oplysninger nævner bekymringer om bred adgang til virksomhedens kode og om, at interne værktøjer ikke blev sikkerhedsgennemgået regelmæssigt. 14 De tilgængelige kilder fastslår dog ikke de præcise adgangsrettigheder til kodebasen eller hvor ofte de enkelte systemer blev gennemgået. Det er derfor ikke muligt at tegne et fuldstændigt billede af OpenAIs sikkerhedsforanstaltninger ud fra de oplysninger alene.
Sagen handler grundlæggende om balancen mellem hurtig udvikling og kontrol med følsomme systemer. Reuters’ oplysninger beskriver medarbejdernes bekymringer og deres opfattelse af ledelsens prioriteringer, men fastslår ikke, at en bestemt sikkerhedspraksis førte til fundet af optageenheden.
Optageenheden og anklagen
I oktober oplyste amerikanske myndigheder, at OpenAI-ingeniøren Abdulrahman Alfozan, 35, var blevet anholdt og sigtet for at have brugt eller forsøgt at bruge en enhed til at aflytte mundtlige samtaler. 1 Reuters skrev, at sagen drejede sig om en skjult lydoptager, som angiveligt var blevet placeret i et mødelokale for OpenAIs ledelse.
2 En sigtelse er en anklage, ikke en dom.
Reuters skriver, at fundet fik nogle tidligere medarbejdere til at tænke tilbage på de sikkerhedsadvarsler, de havde fremsat. 3 De tilgængelige kilder giver ikke et fuldstændigt billede af omstændighederne omkring den påståede placering af enheden eller Alfozans status efter anholdelsen pr. 3. november.
OpenAI sætter gang i nye sikkerhedstiltag
Ifølge Reuters’ spansksprogede artikel har OpenAI ændret sin tilgang til sikkerhedsarbejdet. Thibault Sottiaux, en ledende produktudviklingschef, skal for nylig have fået ansvaret for et internt initiativ, der skal beskytte virksomhedens systemer. 46 En sekundær gennemgang af Reuters’ dækning skriver, at Sottiaux i august flyttede omkring en fjerdedel af produktionsingeniørerne over på sikkerhedsinfrastruktur. Det konkrete tal stammer fra én kilde og er ikke præsenteret som en officiel bekræftelse fra OpenAI.
53
Den 2. november annoncerede OpenAI et nyt internt sikkerhedsforløb. Selskabet oplyste, at det vil samarbejde med eksterne forskere og sikkerhedspartneren Cathedral om at bruge sine modeller til at teste og styrke systemerne. 52 Annonceringen beskriver en planlagt indsats; den viser ikke i sig selv, hvilke sårbarheder forløbet vil finde, eller hvor meget risikoen vil blive reduceret.
Hvad oplysningerne viser – og ikke viser
Reuters’ centrale oplysning er, at sikkerhedsbekymringer blev rejst internt, før ChatGPT blev lanceret, og at de blev delt med ledende medarbejdere og bestyrelsen. 3 Artiklen peger også på en mulig konflikt mellem hurtig udvikling og strengere sikkerhedskontrol.
39
De tilgængelige kilder bekræfter ikke alle påstande om OpenAIs sikkerhedspraksis, og de viser heller ikke, at de nye tiltag løser de bekymringer, medarbejderne beskrev. Det bedst underbyggede billede er derfor, at der var advarsler gennem længere tid, at en alvorlig hændelse nu efterforskes, og at OpenAI har annonceret et nyt sikkerhedsinitiativ – ikke at én bestemt faktor forklarer hændelsen, eller at risikoen er væk.
Studio Global AI
Continue your research
This page includes a source-backed answer you can continue inside Studio Global.
People also ask
What is the short answer to "OpenAI-medarbejdere advarede om sikkerhedsrisici før ChatGPT"?
Ifølge Reuters rejste OpenAI medarbejdere sikkerhedsbekymringer over for ledelsen og bestyrelsen, før ChatGPT blev lanceret i slutningen af 2022.
What are the key points to validate first?
Ifølge Reuters rejste OpenAI medarbejdere sikkerhedsbekymringer over for ledelsen og bestyrelsen, før ChatGPT blev lanceret i slutningen af 2022. Flere tidligere ansatte sagde til Reuters, at de ikke var overraskede, da OpenAI oplyste, at en optageenhed var blevet fundet i et mødelokale for ledelsen.
What should I do next in practice?
OpenAI har annonceret et nyt internt sikkerhedsforløb, hvor eksterne forskere skal hjælpe med at teste og styrke selskabets systemer.
Sources
reuters.comOpenAI employees warned about operational security lapses for years, sources say
forth.newsOpenAI employees warned about operational security lapses for years, sources say | Forth
unite.aiOpenAI Employees Warned for Years About Internal Security Risks
justice.govSaudi National Arrested for Installing Surreptitious Audio ...