Индекс безопасности ИИ от FLI, лето 2026: ведущие компании провалили экзамен по безопасности

Наиболее резкое падение продемонстрировала xAI (компания Илона Маска): ее показатель снизился с 1,17 балла (оценка D) до 0,65 балла (оценка F) ^FLF. Ниже представлен полный «табель успеваемости», описание шести оцениваемых категорий и ключевые проблемы, которые выявил доклад.

Оценки компаний

Индекс оценил девять компаний. В следующей таблице приведены итоговая буквенная оценка и числовой балл по GPA для каждой компании в летнем выпуске 2026 года ^FTFF:

Anthropic второй раз подряд занял первое место, но снова не смог выйти за пределы «троечной» зоны ^TF.

Шесть оцениваемых категорий

Независимая группа из семи экспертов в области ИИ и управления оценила каждую компанию по 37 показателям, объединенным в шесть категорий ^FF:

• Оценка рисков — 6 показателей, охватывающих то, как компании оценивают опасные возможности, такие как био-риски и потенциал кибератак.
• Текущие угрозы — 9 показателей, измеряющих задокументированный вред от развернутых систем, включая предвзятость, дезинформацию и нарушения приватности.
• Фреймворки безопасности — 4 показателя, оценивающих наличие у компаний конкретных политик предварительного тестирования, красных команд (red-teaming) и ответственного развертывания.
• Экзистенциальная безопасность — 4 показателя, сосредоточенных на планах контроля над продвинутыми системами ИИ, включая AGI и сверхинтеллект.
• Управление и подотчетность — 4 показателя, оценивающих надзор со стороны совета директоров, политику для информаторов (whistleblowing) и независимые аудиты.
• Обмен информацией — 10 показателей, оценивающих отчеты о прозрачности, доступ для внешних исследователей и публичное раскрытие практик безопасности.

Согласно отчету, ни одна компания второй раз подряд не набрала выше D в категории «Экзистенциальная безопасность» ^FCY. Экспертная группа пришла к выводу, что ни одна из девяти фирм не имеет убедительного плана по контролю над AGI или сверхинтеллектом ^Y.

Почему xAI получила «двойку»: самое резкое падение

Между зимним выпуском 2025 года и летним выпуском 2026 года xAI опустилась с 4-го на 7-е место — это самое резкое падение среди всех оцениваемых компаний ^TF. Ее балл снизился с 1,17 (оценка D) до 0,65 (оценка F) ^FL. К такому провалу привел ряд факторов:

• Провал по нескольким категориям: xAI получила «двойку» (F) в категориях «Текущие угрозы» и «Экзистенциальная безопасность», а также оценки, близкие к неудовлетворительным, в категориях «Оценка рисков» и «Фреймворки безопасности» ^FF.
• Отсутствие ответа на опрос: xAI была среди компаний, не принявших участие в опросе института, что ограничило возможности рецензентов оценить внутренние практики ^T.
• Конкуренты улучшили показатели, в то время как xAI ухудшила: Meta за тот же период поднялась с 6-го на 4-е место ^TF.
• Слабая позиция на общем фоне: Только xAI, DeepSeek и Mistral получили неудовлетворительные итоговые оценки, что поставило xAI в ряд наименее ответственных компаний в индексе ^TF.

Шесть системных проблем, выявленных отчетом

В отчете FLI и его освещении в Time, Axios и других изданиях выделены шесть системных проблем ^T:

1. Отказ индустрии от обязательств по безопасности. Anthropic, OpenAI, Google DeepMind и Meta ослабили или отменили более ранние обязательства приостанавливать разработку, если их системы приблизятся к определенным порогам опасности. В отчете это названо «передвижением ворот» ^AT.

2. Экзистенциальная безопасность остается самой слабой категорией во всех фирмах. Вторая подряд оценка индекса показала, что ни одна компания не набрала выше D в этой категории ^TFY.

3. Добровольная безопасность разрушается до того, как вступает в силу регулирование. Председатель FLI Макс Тегмарк предупредил, что компании ИИ «мчатся к обрыву», ускоряя гонку к искусственному сверхинтеллекту, несмотря на признание серьезных рисков ^T.

4. Рост военного использования коммерческого ИИ. Компании, которые ранее широко запрещали военную работу — включая Anthropic, OpenAI и Google — начали двигаться в сторону военного партнерства ^T.

5. Появляющийся глобальный паттерн «двоек». Три неудовлетворительные оценки пришлись на компании из разных регионов: xAI (США), DeepSeek (Китай) и Mistral (Европа) ^TFF.

6. Возможности опережают меры безопасности. Публикация отчета совпала с конференцией ООН по ИИ в Женеве, где Генеральный секретарь ООН Антониу Гутерриш предупредил: «Мы можем быть последним поколением, способным установить правила, по которым человечество и машины будут сосуществовать» ^T.

Что будет дальше

Индекс безопасности ИИ от FLI публикуется дважды в год, что позволяет регулярно отслеживать, как индустрия справляется с основными пробелами в безопасности. Зимний выпуск 2026 года покажет, смогут ли компании вроде xAI и DeepSeek обратить вспять нисходящий тренд — и сможет ли хоть одна фирма наконец преодолеть потолок в виде оценки C+.