AntwortenVeröffentlicht18 Quellen
OpenAI-Mitarbeiter warnten schon vor ChatGPT vor Sicherheitslücken
OpenAI Beschäftigte sprachen laut Reuters bereits vor dem ChatGPT Start Ende 2022 gegenüber Führungskräften und dem Verwaltungsrat Sicherheitsbedenken an. Einige frühere Mitarbeiter waren nach dem Fund eines Aufnahmegeräts in einem Konferenzraum der Führung laut Reuters nicht überrascht.
Veröffentlicht vonBearbeitet mit GPT-6 LunaBilder erstellt mit GPT Image 2
Forschungsantwort
Wichtige Erkenntnisse
- OpenAI Beschäftigte sprachen laut Reuters bereits vor dem ChatGPT Start Ende 2022 gegenüber Führungskräften und dem Verwaltungsrat Sicherheitsbedenken an.
- Einige frühere Mitarbeiter waren nach dem Fund eines Aufnahmegeräts in einem Konferenzraum der Führung laut Reuters nicht überrascht.
- OpenAI plant einen weiteren internen Sicherheitsdurchlauf mit externen Forschenden und dem Sicherheitspartner Cathedral.
KI-Prompt
openai.comCreate a landscape editorial hero image for this Studio Global article: What did Reuters’ Nov. 3 report, citing five people familiar with the matter, reveal about OpenAI employees’ security warnings dating to bef. Article summary: Reuters’ Nov. 3 report described security concerns at OpenAI that predated ChatGPT’s late-2022 launch, with employees raising them to senior leaders and the board; some former employees therefore were unsurprised by the . Topic tags: general, government, news, general web. Style: premium digital editorial illustration, source-backed research mood, clean composition, high detail, modern web publication hero. Use reference image context only for broad subject, composition, and topical grounding; do not copy the exact image. Avoid: logos, brand marks, copyrighted characters, real person likenesses, fake screenshots, UI text, readable text, watermarks, charts with
Mitarbeiter von OpenAI machten schon vor dem Start von ChatGPT Ende 2022 intern auf Sicherheitsbedenken aufmerksam. Ihre Hinweise gingen laut Reuters an hochrangige Führungskräfte und den Verwaltungsrat. Einige frühere Beschäftigte seien deshalb nicht überrascht gewesen, als OpenAI im Oktober den Fund eines Aufnahmegeräts in einem Konferenzraum der Führung bekanntgab. 3
Welche Bedenken Beschäftigte geäußert haben sollen
Laut Reuters gab es die Sorgen bereits lange vor dem Fund des Geräts. Manche Mitarbeiter hätten aus Gesprächen mit der Führung den Eindruck gewonnen, dass es stärker darum ging, mit Wettbewerbern Schritt zu halten, als die Technologie des Unternehmens zu schützen. 3
39
Eine weitere Zusammenfassung der Reuters-Berichterstattung nennt zudem Bedenken über weitreichenden Zugriff auf den internen Code und fehlende regelmäßige Sicherheitsprüfungen für interne Werkzeuge. 14 Die hier verfügbaren Auszüge belegen jedoch weder die genauen Zugriffsrechte auf die Code-Ablage noch, wie häufig bestimmte Systeme überprüft wurden. Sie ergeben daher kein vollständiges Bild der Sicherheitsvorkehrungen bei OpenAI.
Im Kern geht es um den Spagat zwischen schneller Zusammenarbeit und strengen Kontrollen für sensible Systeme. Die Quellen schildern Bedenken von Beschäftigten und berichtete Prioritäten des Managements. Sie belegen für sich genommen nicht, dass eine bestimmte Sicherheitspraktik zu dem Fund des Aufnahmegeräts geführt hat.
Der Fall mit dem Aufnahmegerät
US-Behörden teilten im Oktober mit, der 35-jährige OpenAI-Ingenieur Abdulrahman Alfozan sei festgenommen und angeklagt worden, ein Gerät zum Abfangen mündlicher Kommunikation eingesetzt oder dies versucht zu haben. 1 Reuters berichtete, es gehe um ein versteckt angebrachtes Aufnahmegerät in einem Konferenzraum der Führung.
2 Bei der Anklage handelt es sich um einen Vorwurf, nicht um eine gerichtliche Feststellung der Schuld.
Der Fund ließ einige frühere Mitarbeiter laut Reuters an ihre früheren Warnungen zur Sicherheit zurückdenken. 3 Die hier verfügbaren Quellen klären weder die vollständigen Umstände der mutmaßlichen Anbringung noch Alfozans Gewahrsamsstatus zum Stand vom 3. November.
OpenAI kündigt weitere Sicherheitsmaßnahmen an
Laut der spanischsprachigen Reuters-Berichterstattung hat OpenAI seinen Umgang mit Sicherheitsfragen verändert. Thibault Sottiaux, ein hochrangiger Manager für Produktentwicklung, habe vor Kurzem die Leitung einer internen Initiative zum Schutz der Systeme des Unternehmens übernommen. 46 Eine sekundäre Zusammenfassung der Berichte zufolge versetzte Sottiaux im August etwa ein Viertel der Produktionsingenieure in den Bereich Sicherheitsinfrastruktur. Diese konkrete Zahl geht auf eine Quelle zurück und ist keine vom Unternehmen bestätigte Gesamtangabe.
53
Am 2. November kündigte OpenAI außerdem einen neuen internen Sicherheitsdurchlauf an. Gemeinsam mit externen Forschenden und dem Sicherheitspartner Cathedral will das Unternehmen seine Modelle nutzen, um die eigenen Systeme zu testen und zu stärken. 52 Die Ankündigung beschreibt ein geplantes Vorhaben. Sie zeigt noch nicht, welche Schwachstellen dabei gefunden oder in welchem Umfang Risiken reduziert werden.
Was die Berichte zeigen – und was offenbleibt
Der zentrale Befund des Reuters-Berichts: Sicherheitsbedenken wurden bereits vor dem ChatGPT-Start intern geäußert und an die Unternehmensspitze sowie den Verwaltungsrat herangetragen. 3 Die Berichterstattung verweist außerdem auf einen möglichen Zielkonflikt zwischen schnellem Produktfortschritt und strengeren Sicherheitskontrollen.
39
Die hier verfügbaren Quellen bestätigen nicht alle weitergehenden Vorwürfe zu OpenAIs Sicherheitspraktiken. Ebenso wenig belegen sie, dass die neuen Maßnahmen die geschilderten Bedenken ausräumen. Das Bild bleibt daher vorläufig: langjährige Warnungen, ein schwerwiegender mutmaßlicher Vorfall und eine angekündigte Sicherheitsinitiative – aber kein Nachweis, dass ein einzelner Faktor den Vorfall erklärt oder die Risiken bereits beseitigt sind.
Studio Global AI
Setzen Sie Ihre Recherche fort
Diese Seite enthält eine quellengestützte Antwort, die Sie in Studio Global fortsetzen können.
Die Leute fragen auch
Wie lautet die kurze Antwort auf „OpenAI-Mitarbeiter warnten schon vor ChatGPT vor Sicherheitslücken“?
OpenAI Beschäftigte sprachen laut Reuters bereits vor dem ChatGPT Start Ende 2022 gegenüber Führungskräften und dem Verwaltungsrat Sicherheitsbedenken an.
Was sind die wichtigsten Punkte, die zuerst validiert werden müssen?
OpenAI Beschäftigte sprachen laut Reuters bereits vor dem ChatGPT Start Ende 2022 gegenüber Führungskräften und dem Verwaltungsrat Sicherheitsbedenken an. Einige frühere Mitarbeiter waren nach dem Fund eines Aufnahmegeräts in einem Konferenzraum der Führung laut Reuters nicht überrascht.
Was soll ich als nächstes in der Praxis tun?
OpenAI plant einen weiteren internen Sicherheitsdurchlauf mit externen Forschenden und dem Sicherheitspartner Cathedral.
Quellen
reuters.comOpenAI employees warned about operational security lapses for years, sources say
forth.newsOpenAI employees warned about operational security lapses for years, sources say | Forth
unite.aiOpenAI Employees Warned for Years About Internal Security Risks
justice.govSaudi National Arrested for Installing Surreptitious Audio ...