OpenAI ukončila spolupráci se třemi bezpečnostními výzkumníky. Podstatné otázky zůstávají

OpenAI oznámila, že ukončila spolupráci se třemi zaměstnanci poté, co její interní šetření dospělo k závěru, že s citlivými firemními informacemi nakládali mimo zavedené postupy. Deník The Wall Street Journal napsal, že případ souvisel se sdílením informací s externí organizací zabývající se bezpečností umělé inteligence. Jde o dvě odlišné části příběhu: stanovisko firmy popisuje její závěr o porušení pravidel, zatímco informace o údajném sdílení přinesla média. 112

Co říká OpenAI

Mluvčí OpenAI uvedl, že trojice porušila pravidla pro přístup k citlivým firemním informacím a jejich zpracování. Podle firmy šetření potvrdilo, že s nimi zaměstnanci nakládali mimo stanovené postupy, a narušili tak důvěru potřebnou pro svou práci. Jde o vyjádření OpenAI; podklady, z nichž její závěr vychází, ve zde citovaných zprávách zveřejněny nebyly. 12

Podle zprávy The Wall Street Journal, kterou přinesl server TechCrunch, měli výzkumníci údajně sdílet důvěrné informace s externí organizací zaměřenou na bezpečnost AI. Agentura AFP doplnila, že součástí práce byla organizace, která hodnotí modely umělé inteligence. 111

Co zůstává nejasné

OpenAI veřejně nepotvrdila totožnost zaměstnanců ani název externí organizace. Neuvedla také, o jaké informace přesně šlo. 1112

Není tedy jasné, zda se materiály týkaly bezpečnostního varování, hodnocení modelu, nebo jiného tématu. Veřejně dostupné zprávy neobjasňují ani to, jak s nimi příjemce naložil. Zatím také neukazují, že by údajné sdílení způsobilo konkrétní škodu. 1112

Případ přichází v době širšího zájmu o bezpečnost AI

O bezpečnostních otázkách kolem OpenAI se mluvilo i v souvislosti se zprávami o incidentech při testování modelů. The Wall Street Journal například napsal, že Alabama požadovala od firmy podrobnosti k incidentu během testování a také informace o zaměstnancích, kteří upozorňovali na bezpečnostní obavy. Samotná existence těchto souvisejících zpráv ale nedokládá, že tři propuštění zaměstnanci měli s daným incidentem něco společného nebo že jejich odchod souvisel s konkrétním bezpečnostním upozorněním.

Podobnost s odchody z roku 2024? Jen v obecné rovině

Některá média případ přirovnala k odchodům Leopolda Aschenbrennera a Pavla Izmailova z OpenAI v roce 2024, které souvisely s obviněními z úniku informací. Společným tématem je zacházení s důvěrnými materiály. Dostupné zprávy ale nedokládají, že šlo o stejné okolnosti, jednání nebo motivaci. 9

Zůstává tak širší otázka, jak mohou zaměstnanci upozorňovat na skutečné bezpečnostní problémy — například před externími odborníky nebo úřady — a přitom neporušit pravidla pro ochranu citlivých firemních informací. Z dosud zveřejněných údajů nelze říci, že trojice byla potrestána za oznamování nekalého jednání. Stejně tak není doloženo, že údajně sdílené informace představovaly konkrétní bezpečnostní riziko. 1112