Bezpečnostní vysvědčení pro umělou inteligenci: Devět firem, šest oblastí a propadák jménem xAI

Anthropic se umístil na prvním místě již podruhé v řadě, ale ani tentokrát se nedostal z průměru .

Šest hodnocených oblastí

Nezávislý panel sedmi expertů na AI a governance hodnotil každou firmu na základě 37 ukazatelů, které byly rozděleny do šesti kategorií :

• Hodnocení rizik – 6 ukazatelů zabývajících se tím, jak firmy vyhodnocují nebezpečné schopnosti, jako je biologické riziko a potenciál kybernetických útoků.
• Současné škody – 9 ukazatelů měřících zdokumentované škody způsobené nasazenými systémy, včetně zkreslení, dezinformací a porušování soukromí.
• Bezpečnostní rámce – 4 ukazatele zkoumající, zda mají firmy konkrétní politiky pro testování před nasazením, red-teaming a zodpovědné uvolňování modelů.
• Existenční bezpečnost – 4 ukazatele zaměřené na plány pro kontrolu pokročilých AI systémů, včetně AGI a superinteligence.
• Správa a odpovědnost – 4 ukazatele hodnotící dohled ze strany správní rady, politiku pro oznamovatele (whistleblowing) a nezávislé audity.
• Sdílení informací – 10 ukazatelů posuzujících transparentnost zpráv, přístup pro externí výzkumníky a veřejné zveřejňování bezpečnostních postupů.

Podle zprávy žádná společnost již podruhé v řadě nezískala v oblasti existenční bezpečnosti známku vyšší než D . Experti uvedli, že žádná z devíti firem nemá důvěryhodný plán pro kontrolu AGI nebo superinteligence .

Proč xAI dostalo F – nejprudší propad

Společnost xAI klesla mezi vydáním z prosince 2025 a létem 2026 ze 4. na 7. místo, což je nejstrmější pokles ze všech hodnocených firem . Její skóre spadlo z 1,17 (známka D) na 0,65 (známka F) . Propad způsobilo několik faktorů:

• Selhání napříč oblastmi: xAI dostalo F v „Současných škodách“ i „Existenční bezpečnosti“ a téměř propadající známky v Hodnocení rizik a Bezpečnostních rámcích .
• Neúčast v průzkumu: xAI bylo mezi společnostmi, které se nezúčastnily průzkumu institutu, což omezilo možnost hodnotitelů posoudit její interní postupy .
• Konkurence se zlepšila: Meta se ve stejném období posunula ze 6. na 4. místo .
• Slabé srovnání: Pouze xAI, DeepSeek a Mistral dostaly celkově propadající známku, čímž se xAI zařadila mezi nejhůře hodnocené společnosti v indexu .

Šest širších obav, které zpráva odhalila

Zpráva FLI a její pokrytí v médiích, jako jsou Time a Axios, identifikovaly šest systémových problémů :

1. Ústup od bezpečnostních slibů. Anthropic, OpenAI, Google DeepMind a Meta oslabily nebo zcela zrušily dřívější závazky pozastavit vývoj, pokud by se jejich systémy přiblížily stanoveným nebezpečným prahům. Zpráva to označila za „posouvání laťky“ .

2. Existenční bezpečnost zůstává nejslabší kategorií napříč všemi firmami. Žádná společnost nezískala v existenční bezpečnosti známku vyšší než D již podruhé v řadě .

3. Dobrovolná bezpečnost eroduje dříve, než dorazí regulace. Předseda FLI Max Tegmark varoval, že firmy s AI se „řítí ke skále“, zatímco závodí k umělé superinteligenci, ačkoli samy uznávají významná rizika .

4. Rostoucí vojenské využití komerční AI. Společnosti, které dříve vojenskou spolupráci široce zakazovaly – včetně Anthropicu, OpenAI a Googlu – se nyní přesouvají k vojenským partnerstvím .

5. Vznikající globální vzorec propadajících známek. Tři propadající známky patří firmám z různých regionů: xAI (USA), DeepSeek (Čína) a Mistral (Evropa) .

6. Schopnosti předbíhají zábrany. Zveřejnění zprávy se časově shodovalo s konferencí OSN o AI v Ženevě, kde generální tajemník OSN António Guterres varoval: „Můžeme být poslední generací, která má možnost nastavit pravidla, na nichž bude lidstvo a stroje koexistovat“ .

Co sledovat dál

Index bezpečnosti AI FLI vychází dvakrát ročně, takže představuje pravidelnou kontrolu toho, zda průmysl řeší své nejzákladnější bezpečnostní nedostatky. Zimní vydání pro rok 2026 ukáže, zda se firmám jako xAI a DeepSeek podaří zvrátit svůj sestupný trend – a jestli se konečně nějaká společnost probije přes pomyslný strop C+.