AnswersPublished18 sources
OpenAI-ansatte skal ha varslet om sikkerhetsrisiko i flere år
Ifølge Reuters tok OpenAI ansatte opp sikkerhetsbekymringer med ledere og styremedlemmer før ChatGPT ble lansert mot slutten av 2022. Noen tidligere ansatte sier at de ikke ble overrasket da OpenAI opplyste at en opptaksenhet var funnet i et møterom for ledelsen.
Publisert avRedigert med GPT-6 LunaBilder generert med GPT Image 2
Research answer
Key takeaways
- Ifølge Reuters tok OpenAI ansatte opp sikkerhetsbekymringer med ledere og styremedlemmer før ChatGPT ble lansert mot slutten av 2022.
- Noen tidligere ansatte sier at de ikke ble overrasket da OpenAI opplyste at en opptaksenhet var funnet i et møterom for ledelsen.
- OpenAI har varslet en ny intern sikkerhetsinnsats der eksterne forskere og sikkerhetspartneren Cathedral skal bidra.
AI Prompt
openai.comCreate a landscape editorial hero image for this Studio Global article: What did Reuters’ Nov. 3 report, citing five people familiar with the matter, reveal about OpenAI employees’ security warnings dating to bef. Article summary: Reuters’ Nov. 3 report described security concerns at OpenAI that predated ChatGPT’s late-2022 launch, with employees raising them to senior leaders and the board; some former employees therefore were unsurprised by the . Topic tags: general, government, news, general web. Style: premium digital editorial illustration, source-backed research mood, clean composition, high detail, modern web publication hero. Use reference image context only for broad subject, composition, and topical grounding; do not copy the exact image. Avoid: logos, brand marks, copyrighted characters, real person likenesses, fake screenshots, UI text, readable text, watermarks, charts with
Reuters skriver at ansatte i OpenAI varslet om bekymringer rundt selskapets sikkerhetsrutiner før ChatGPT ble lansert mot slutten av 2022. De tok bekymringene opp med toppledere og styret, ifølge fem personer med kjennskap til saken. Noen tidligere ansatte sier at de derfor ikke ble overrasket da selskapet senere opplyste at en opptaksenhet var funnet i et møterom for ledelsen. 3
Bekymringer om sikkerhet internt
Ifølge Reuters satt enkelte ansatte igjen med inntrykket av at ledelsen la større vekt på å holde tritt med konkurrentene enn på å beskytte selskapets teknologi. 3
39
En separat oppsummering av Reuters’ omtale viser til bekymringer om bred tilgang til selskapets kode og manglende regelmessige sikkerhetsgjennomganger av interne verktøy. 14 Utdragene som er tilgjengelige, gir imidlertid ikke hele bildet av tilgangsreglene eller hvor ofte ulike systemer ble gjennomgått. De bør derfor ikke leses som en fullstendig oversikt over OpenAIs sikkerhetstiltak.
Saken handler i bunn og grunn om avveiningen mellom rask utvikling og gode kontrollrutiner rundt sensitive systemer. Kildene gjengir ansattes bekymringer og oppfatninger om ledelsens prioriteringer, men dokumenterer ikke at bestemte sikkerhetsrutiner førte til den senere hendelsen med opptaksenheten.
Saken om opptaksenheten
I oktober opplyste amerikanske myndigheter at OpenAI-ingeniøren Abdulrahman Alfozan, 35 år, var pågrepet og siktet for å ha brukt eller forsøkt å bruke en enhet til å avlytte muntlig kommunikasjon. 1 Reuters meldte at saken gjelder en skjult lydopptaker som angivelig var plassert i et møterom for ledelsen i OpenAI.
2 Siktelsen er en påstand, ikke en domfellelse.
Da opptaksenheten ble funnet, kom flere tidligere ansatte på varslene de hadde gitt om sikkerhet, ifølge Reuters. 3 Kildene som er tilgjengelige her, fastslår ikke alle omstendighetene rundt den angivelige plasseringen eller Alfozans status etter pågripelsen per 3. november.
OpenAI varsler nye sikkerhetstiltak
Reuters’ spanskspråklige omtale skriver at OpenAI har begynt å endre måten selskapet jobber med sikkerhet på. Thibault Sottiaux, en ledende produktutviklingssjef, skal nylig ha fått ansvar for et internt arbeid med å beskytte selskapets systemer. 46
En sekundær omtale av Reuters-saken skriver at Sottiaux i august flyttet rundt en fjerdedel av produksjonsingeniørene over til sikkerhetsinfrastruktur. Det konkrete tallet er knyttet til én kilde og er ikke bekreftet som en generell opplysning fra selskapet. 53
OpenAI kunngjorde 2. november en ny intern sikkerhetsinnsats. Selskapet sier at det vil samarbeide med eksterne forskere og sikkerhetspartneren Cathedral for å bruke modellene sine til å teste og styrke systemene. 52 Kunngjøringen beskriver en planlagt innsats; den viser ikke i seg selv hvilke sårbarheter som vil bli funnet, eller hvor mye risiko tiltaket vil redusere.
Hva rapporteringen viser – og ikke viser
Hovedpoenget i Reuters’ rapport er at sikkerhetsbekymringer ble tatt opp internt før ChatGPT-lanseringen, og at ansatte delte dem med toppledere og styret. 3 Rapporteringen peker også på en mulig konflikt mellom høyt utviklingstempo og strengere sikkerhetskontroller.
39
Kildene som er tilgjengelige her, bekrefter ikke alle påstander som har kommet fram i bredere omtaler av OpenAIs sikkerhetsarbeid. De viser heller ikke at de nye tiltakene løser bekymringene de ansatte beskrev. Bildet som tegner seg, er derfor av varsler over tid, en alvorlig påstått hendelse og en ny sikkerhetsinnsats fra selskapet – ikke bevis for at én bestemt faktor forklarer hendelsen, eller at risikoen er borte.
Studio Global AI
Continue your research
This page includes a source-backed answer you can continue inside Studio Global.
People also ask
What is the short answer to "OpenAI-ansatte skal ha varslet om sikkerhetsrisiko i flere år"?
Ifølge Reuters tok OpenAI ansatte opp sikkerhetsbekymringer med ledere og styremedlemmer før ChatGPT ble lansert mot slutten av 2022.
What are the key points to validate first?
Ifølge Reuters tok OpenAI ansatte opp sikkerhetsbekymringer med ledere og styremedlemmer før ChatGPT ble lansert mot slutten av 2022. Noen tidligere ansatte sier at de ikke ble overrasket da OpenAI opplyste at en opptaksenhet var funnet i et møterom for ledelsen.
What should I do next in practice?
OpenAI har varslet en ny intern sikkerhetsinnsats der eksterne forskere og sikkerhetspartneren Cathedral skal bidra.
Sources
reuters.comOpenAI employees warned about operational security lapses for years, sources say
forth.newsOpenAI employees warned about operational security lapses for years, sources say | Forth
unite.aiOpenAI Employees Warned for Years About Internal Security Risks
justice.govSaudi National Arrested for Installing Surreptitious Audio ...