Индекс безопасности ИИ от FLI, лето 2026: ведущие компании провалили экзамен по безопасности

Оценки компаний

Индекс оценил девять компаний. В следующей таблице приведены итоговая буквенная оценка и числовой балл по GPA для каждой компании в летнем выпуске 2026 года :

Anthropic второй раз подряд занял первое место, но снова не смог выйти за пределы «троечной» зоны .

Шесть оцениваемых категорий

Независимая группа из семи экспертов в области ИИ и управления оценила каждую компанию по 37 показателям, объединенным в шесть категорий :

• Оценка рисков — 6 показателей, охватывающих то, как компании оценивают опасные возможности, такие как био-риски и потенциал кибератак.
• Текущие угрозы — 9 показателей, измеряющих задокументированный вред от развернутых систем, включая предвзятость, дезинформацию и нарушения приватности.
• Фреймворки безопасности — 4 показателя, оценивающих наличие у компаний конкретных политик предварительного тестирования, красных команд (red-teaming) и ответственного развертывания.
• Экзистенциальная безопасность — 4 показателя, сосредоточенных на планах контроля над продвинутыми системами ИИ, включая AGI и сверхинтеллект.
• Управление и подотчетность — 4 показателя, оценивающих надзор со стороны совета директоров, политику для информаторов (whistleblowing) и независимые аудиты.
• Обмен информацией — 10 показателей, оценивающих отчеты о прозрачности, доступ для внешних исследователей и публичное раскрытие практик безопасности.

Согласно отчету, ни одна компания второй раз подряд не набрала выше D в категории «Экзистенциальная безопасность» . Экспертная группа пришла к выводу, что ни одна из девяти фирм не имеет убедительного плана по контролю над AGI или сверхинтеллектом .

Почему xAI получила «двойку»: самое резкое падение

Между зимним выпуском 2025 года и летним выпуском 2026 года xAI опустилась с 4-го на 7-е место — это самое резкое падение среди всех оцениваемых компаний . Ее балл снизился с 1,17 (оценка D) до 0,65 (оценка F) . К такому провалу привел ряд факторов:

• Провал по нескольким категориям: xAI получила «двойку» (F) в категориях «Текущие угрозы» и «Экзистенциальная безопасность», а также оценки, близкие к неудовлетворительным, в категориях «Оценка рисков» и «Фреймворки безопасности» .
• Отсутствие ответа на опрос: xAI была среди компаний, не принявших участие в опросе института, что ограничило возможности рецензентов оценить внутренние практики .
• Конкуренты улучшили показатели, в то время как xAI ухудшила: Meta за тот же период поднялась с 6-го на 4-е место .
• Слабая позиция на общем фоне: Только xAI, DeepSeek и Mistral получили неудовлетворительные итоговые оценки, что поставило xAI в ряд наименее ответственных компаний в индексе .

Шесть системных проблем, выявленных отчетом

В отчете FLI и его освещении в Time, Axios и других изданиях выделены шесть системных проблем :

1. Отказ индустрии от обязательств по безопасности. Anthropic, OpenAI, Google DeepMind и Meta ослабили или отменили более ранние обязательства приостанавливать разработку, если их системы приблизятся к определенным порогам опасности. В отчете это названо «передвижением ворот» .

2. Экзистенциальная безопасность остается самой слабой категорией во всех фирмах. Вторая подряд оценка индекса показала, что ни одна компания не набрала выше D в этой категории .

3. Добровольная безопасность разрушается до того, как вступает в силу регулирование. Председатель FLI Макс Тегмарк предупредил, что компании ИИ «мчатся к обрыву», ускоряя гонку к искусственному сверхинтеллекту, несмотря на признание серьезных рисков .

4. Рост военного использования коммерческого ИИ. Компании, которые ранее широко запрещали военную работу — включая Anthropic, OpenAI и Google — начали двигаться в сторону военного партнерства .

5. Появляющийся глобальный паттерн «двоек». Три неудовлетворительные оценки пришлись на компании из разных регионов: xAI (США), DeepSeek (Китай) и Mistral (Европа) .

6. Возможности опережают меры безопасности. Публикация отчета совпала с конференцией ООН по ИИ в Женеве, где Генеральный секретарь ООН Антониу Гутерриш предупредил: «Мы можем быть последним поколением, способным установить правила, по которым человечество и машины будут сосуществовать» .

Что будет дальше

Индекс безопасности ИИ от FLI публикуется дважды в год, что позволяет регулярно отслеживать, как индустрия справляется с основными пробелами в безопасности. Зимний выпуск 2026 года покажет, смогут ли компании вроде xAI и DeepSeek обратить вспять нисходящий тренд — и сможет ли хоть одна фирма наконец преодолеть потолок в виде оценки C+.