AnswersPublished18 sources
Zaměstnanci OpenAI upozorňovali na bezpečnostní rizika ještě před spuštěním ChatGPT
Reuters uvádí, že zaměstnanci OpenAI upozorňovali vedení i správní radu na bezpečnostní rizika ještě před spuštěním ChatGPT na konci roku 2022. Někteří bývalí zaměstnanci podle Reuters nebyli překvapeni, když firma oznámila nález nahrávacího zařízení v konferenční místnosti pro vedení.
PublikovalUpraveno pomocí GPT-6 LunaObrázky vytvořeny pomocí GPT Image 2
Research answer
Key takeaways
- Reuters uvádí, že zaměstnanci OpenAI upozorňovali vedení i správní radu na bezpečnostní rizika ještě před spuštěním ChatGPT na konci roku 2022.
- Někteří bývalí zaměstnanci podle Reuters nebyli překvapeni, když firma oznámila nález nahrávacího zařízení v konferenční místnosti pro vedení.
- OpenAI oznámila nový interní bezpečnostní sprint, do něhož zapojí externí výzkumníky a bezpečnostní společnost Cathedral.
AI Prompt
openai.comCreate a landscape editorial hero image for this Studio Global article: What did Reuters’ Nov. 3 report, citing five people familiar with the matter, reveal about OpenAI employees’ security warnings dating to bef. Article summary: Reuters’ Nov. 3 report described security concerns at OpenAI that predated ChatGPT’s late-2022 launch, with employees raising them to senior leaders and the board; some former employees therefore were unsurprised by the . Topic tags: general, government, news, general web. Style: premium digital editorial illustration, source-backed research mood, clean composition, high detail, modern web publication hero. Use reference image context only for broad subject, composition, and topical grounding; do not copy the exact image. Avoid: logos, brand marks, copyrighted characters, real person likenesses, fake screenshots, UI text, readable text, watermarks, charts with
Zaměstnanci OpenAI upozorňovali na bezpečnostní nedostatky ještě před tím, než firma koncem roku 2022 spustila ChatGPT. Své obavy podle pěti lidí obeznámených se situací sdíleli s nejvyššími představiteli společnosti i správní radou, napsala agentura Reuters. Někteří bývalí zaměstnanci proto nebyli překvapeni, když OpenAI později oznámila nález nahrávacího zařízení v konferenční místnosti pro vedení. 3
Obavy z bezpečnosti i tlaku na rychlost
Podle Reuters někteří zaměstnanci po jednání s vedením nabyli dojmu, že prioritou je držet krok s konkurenty, nikoli dostatečně chránit technologie společnosti. 3
39
Další shrnutí zprávy Reuters zmiňuje obavy z příliš širokého přístupu ke zdrojovému kódu a z toho, že interní nástroje neprocházely pravidelnými bezpečnostními kontrolami. 14 Dostupné úryvky ale nepopisují podrobně nastavení přístupových práv ani četnost kontrol jednotlivých systémů. Nelze je proto považovat za úplný obraz bezpečnostních opatření OpenAI.
Jádrem sporu je, jak skloubit rychlý vývoj a spolupráci s přísnějšími pravidly pro přístup k citlivým systémům. Zprávy popisují obavy zaměstnanců a jejich dojem z priorit vedení; samy o sobě však nedokládají, že konkrétní bezpečnostní postup vedl k nálezu nahrávacího zařízení.
Případ nahrávacího zařízení
Americké úřady v říjnu oznámily, že zatkly inženýra OpenAI Abdulrahmana Alfozana (35) a obvinily ho z použití či pokusu o použití zařízení k zachycení ústní komunikace. 1 Reuters uvedla, že případ se týká skrytého diktafonu, který měl být umístěn v konferenční místnosti pro vedení společnosti.
2 Jde o obvinění, nikoli o soudní závěr o vině.
Nález podle Reuters některým bývalým zaměstnancům připomněl jejich dřívější varování. 3 Dostupné zdroje neobjasňují všechny okolnosti údajného umístění zařízení ani Alfozanův stav vazby k 3. listopadu.
OpenAI připravuje další bezpečnostní opatření
Podle španělské verze zprávy Reuters začala OpenAI měnit přístup k bezpečnosti. Thibault Sottiaux, vysoký manažer odpovědný za vývoj produktů, se měl nedávno ujmout interní iniciativy na ochranu firemních systémů. 46 Jedno další shrnutí zprávy uvádí, že v srpnu přesunul zhruba čtvrtinu produkčních inženýrů k práci na bezpečnostní infrastruktuře. Tento konkrétní údaj pochází od jednoho zdroje, nejde tedy o potvrzení celé společnosti.
53
OpenAI 2. listopadu oznámila nový interní bezpečnostní sprint. Firma uvedla, že při testování a posilování svých systémů spojí vlastní týmy s externími výzkumníky a bezpečnostním partnerem Cathedral. 52 Oznámení popisuje plánovanou práci; samo o sobě neříká, jaké zranitelnosti sprint odhalí ani nakolik sníží rizika.
Co zpráva potvrzuje — a co zůstává otevřené
Hlavním zjištěním Reuters je, že bezpečnostní obavy zaznívaly uvnitř OpenAI už před spuštěním ChatGPT a zaměstnanci je adresovali nejvyšším představitelům firmy i správní radě. 3 Zpráva zároveň poukazuje na možné napětí mezi rychlým vývojem a důslednějšími bezpečnostními kontrolami.
39
Dostupné zdroje nepotvrzují každé tvrzení, které se objevilo v širších zprávách o bezpečnosti OpenAI. Nedokládají ani to, že nově oznámená opatření vyřeší problémy popisované zaměstnanci. Jisté je zatím především to, že varování podle zdrojů zaznívala dlouhodobě, firma čelí vážnému případu údajného odposlouchávání a nyní připravuje další bezpečnostní iniciativu.
Studio Global AI
Continue your research
This page includes a source-backed answer you can continue inside Studio Global.
People also ask
What is the short answer to "Zaměstnanci OpenAI upozorňovali na bezpečnostní rizika ještě před spuštěním ChatGPT"?
Reuters uvádí, že zaměstnanci OpenAI upozorňovali vedení i správní radu na bezpečnostní rizika ještě před spuštěním ChatGPT na konci roku 2022.
What are the key points to validate first?
Reuters uvádí, že zaměstnanci OpenAI upozorňovali vedení i správní radu na bezpečnostní rizika ještě před spuštěním ChatGPT na konci roku 2022. Někteří bývalí zaměstnanci podle Reuters nebyli překvapeni, když firma oznámila nález nahrávacího zařízení v konferenční místnosti pro vedení.
What should I do next in practice?
OpenAI oznámila nový interní bezpečnostní sprint, do něhož zapojí externí výzkumníky a bezpečnostní společnost Cathedral.
Sources
reuters.comOpenAI employees warned about operational security lapses for years, sources say
forth.newsOpenAI employees warned about operational security lapses for years, sources say | Forth
unite.aiOpenAI Employees Warned for Years About Internal Security Risks
justice.govSaudi National Arrested for Installing Surreptitious Audio ...