DeepSeek Harness и Cordis: обратимая среда для контролируемого самоулучшения ИИ

DeepSeek Harness (DSH) не демонстрирует, что DeepSeek уже создала автономную систему рекурсивного самоулучшения (RSI) или достигла общего искусственного интеллекта (AGI). Более обоснованный вывод другой: DSH создаёт среду, в которой инструменты, адаптеры моделей, сессии и даже сам агентский цикл можно рассматривать как заменяемые компоненты. Это делает повторяющиеся эксперименты безопаснее и практичнее — а именно такая инфраструктура необходима для ограниченного самоулучшения. 2526

Главная идея: улучшать не только модель, но и её «каркас»

Термин «рекурсивное самоулучшение» используют для разных процессов. Система может совершенствовать конкретный результат — например, алгоритм; помогать исследователям создавать более сильную модель-преемника; или менять универсальную программную основу, от которой зависит работа агента.

Исследования RSI различают ограниченное, проверяемое внешним оценщиком самоулучшение и открытое RSI. В последнем случае система меняет не только себя, но и инструменты или критерии, с помощью которых оцениваются следующие улучшения. 1

DSH явно нацелен прежде всего на уровень этой программной основы. Агенту не обязательно переписывать веса нейросети: архитектура позволяет экспериментировать с промптами, инструментами, памятью, политиками, оркестрацией и циклом выполнения. Более удачный компонент можно установить, проверить и сохранить, а неудачный — удалить.

Это важный шаг в сторону инженерного RSI. Но он не равен ситуации, в которой агент самостоятельно проектирует более способного преемника, выбирает собственные цели или запускает неконтролируемый «взрыв интеллекта».

Как Cordis делает изменения среды обратимыми

DSH построен на Cordis — среде выполнения плагинов, которую документация описывает как систему «пространственно-временной компонуемости». Она решает две разные задачи динамического ПО: что происходит с компонентами во времени при их загрузке и удалении и как они взаимодействуют друг с другом в текущей конфигурации. 1718

Временная компонуемость: отмена управляемых эффектов

Плагин может изменить общую среду выполнения: зарегистрировать ресурс, обработчик событий, сервис или другое состояние. В обычной плагинной системе удаление компонента часто зависит от вручную написанной очистки. Если разработчик что-то упустил, в системе остаются утечки и «призрачное» состояние.

Cordis связывает изменения среды с обратимыми эффектами. При удалении компонента среда может выполнить соответствующие обратные операции в нужном порядке. Речь не о том, чтобы запустить плагин задом наперёд и не о попытке отменить любое внешнее действие агента. Цель — вернуть управляемую структуру среды к корректной предыдущей конфигурации. 2024

Это принципиальное ограничение. Механизм отката регистрации плагинов не способен автоматически отменить отправленное письмо, удаление файла, обучение модели на загрязнённых данных или необратимое действие в физическом мире. Обратимость Cordis — ограниченное свойство программной среды, а не универсальная гарантия безопасности.

Пространственная компонуемость: управление зависимостями

Компоненты также зависят друг от друга. Инструменту может требоваться реестр, модулю памяти — менеджер сессий, а агентскому циклу — адаптер модели и интерфейс инструментов.

Пространственная компонуемость позволяет компонентам объявлять такие связи. Среда выполнения может согласовывать активацию, деактивацию, замену и восстановление, если поставщик способности или зависимость меняются. Благодаря этому модульный агент может перестраиваться, не превращая всю систему в единый хрупкий блок. 1820

Вместе обратимые эффекты и управление зависимостями создают основу для безопасных испытаний, замены компонентов, восстановления после сбоев и транзакционных обновлений среды. Для самоулучшения это особенно важно: стоимость попытки и последующего отказа от неудачного изменения становится ниже.

Что DSH говорит о возможном подходе DeepSeek к AGI

Архитектура указывает на системный путь к более универсальным агентам: среда исполнения должна быть достаточно гибкой, чтобы агент мог совершенствовать механизмы, с помощью которых он выполняет задачи.

Такой подход смещает фокус с одной лишь модели. Даже фиксированная модель может стать заметно эффективнее на практике, если снабдить её лучшими инструментами, памятью, планированием, оценкой результатов и механизмами восстановления. Если агент способен предлагать изменения этих механизмов, проверять их по внешним критериям и сохранять только успешные версии, улучшение может идти по контролируемому циклу.

Однако сама архитектура не доказывает, что DSH автономно выполняет рекурсивное самоулучшение. Доступные материалы описывают среду выполнения и открытый исходный код, но не демонстрируют полный цикл, в котором DSH самостоятельно создаёт, оценивает, отбирает и развёртывает всё более способные версии самой себя. 2526

Сравнение с другими проектами, связанными с RSI

Упомянутые в дискуссии об RSI системы работают на разных уровнях процесса улучшения. Называть их прямыми аналогами означало бы потерять важные технические различия.

AlphaEvolve от Google DeepMind: эволюция алгоритмов через оценщиков

AlphaEvolve ближе к полноценному циклу оптимизации. Агенты на базе Gemini предлагают изменения кода, автоматические оценщики выставляют результатам баллы, а эволюционный процесс продвигает перспективные варианты. Google описывает применение системы к поиску и оптимизации алгоритмов, включая математические задачи и вычислительную инфраструктуру. 2314

Главное преимущество AlphaEvolve — обратная связь: кандидат можно проверить по машинно измеримой цели. DSH, напротив, прежде всего задаёт архитектуру среды для безопасного объединения и замены компонентов. AlphaEvolve сосредоточена на эволюции решений, Cordis — на безопасной перенастройке работающей системы.

RSI Index OpenAI: измерение, а не механизм

Согласно доступным материалам, RSI Index представляет собой совокупный показатель по набору оценок ИИ-исследований. Это инструмент отслеживания возможностей, а не система, которая сама изменяет модель или запускает цикл улучшения. Высокий балл может говорить о результатах на отдельных задачах, связанных с самоулучшением, но сам по себе не доказывает, что модель автономно совершенствуется в процессе эксплуатации. 3435

Поэтому RSI Index корректнее сравнивать с DSH как измерительный слой, а не как архитектурного конкурента. Представленных публичных данных недостаточно, чтобы независимо оценить устройство индекса и интерпретацию изменений его баллов.

Автоматизированные исследования Anthropic: автоматизация работы над ИИ

Исследования Anthropic в области автоматизированных weak-to-strong-систем решают другую задачу: как использовать более слабое наблюдение для обучения или управления более сильной моделью. Агенты предлагают идеи, проводят эксперименты и итеративно работают над проблемой weak-to-strong-супервизии — обучения сильной модели с помощью сигналов от более слабой. 4958

Этот подход ближе к автоматизации частей ИИ-исследований и оценки выравнивания, тогда как DSH занимается заменой компонентов на уровне среды выполнения. В перспективе они могли бы дополнять друг друга: исследовательский агент находил бы более удачные компоненты, а обратимый инструментарий проверял бы и развёртывал их с контролируемым откатом.

В более широком публичном обсуждении Anthropic также делает важную оговорку: компания заявляет, что полностью автономного рекурсивного самоулучшения пока нет и что RSI не является неизбежным. 59

Tencent Hyra-1.0 и MiniMax M2.7: недостаточно данных для технического сравнения

Предоставленные источники не содержат надёжной и независимо проверяемой технической документации по Hyra-1.0 от Tencent или M2.7 от MiniMax. Поэтому было бы некорректно приписывать этим системам конкретную архитектуру RSI или ставить их на одну доказательную основу с DSH, AlphaEvolve и опубликованными исследованиями Anthropic.

Почему среда и контуры обратной связи становятся главным полем конкуренции

Всё чаще ключевым активом оказывается система вокруг базовой модели. Наиболее важны четыре элемента.

1. Способная среда. Песочницы, репозитории, инструменты, симуляторы, наборы данных, вычислительные ресурсы и телеметрия развёртывания определяют, какие эксперименты агент вообще может провести.
2. Автоматическая обратная связь. Тесты, верификаторы, бенчмарки, функции вознаграждения и производственные метрики превращают предложения об изменениях в измеримые эксперименты. AlphaEvolve показывает ценность связки генерации идей моделью с автоматическими оценщиками. 26
3. Восстанавливаемость. Версионирование, изоляция, происхождение данных, откат и этапы одобрения позволяют проводить больше экспериментов, не давая одной ошибке навсегда повредить системе. Именно этот уровень напрямую затрагивает обратимая среда Cordis. 1720
4. Накопление улучшений. Если каждый цикл постепенно совершенствует программирование, оценку, эксперименты или инфраструктуру, следующие циклы могут становиться быстрее и дешевле. Но имеющиеся данные пока убедительнее подтверждают ограниченное самоулучшение, чем открытое самоподдерживающееся RSI. 1

Поэтому модель, которая немного уступает конкуренту в тестах, всё ещё может оказаться сильнее на практике, если работает в лучшей среде — с более качественными инструментами, обратной связью и восстановлением. Продуктом становится уже не только конкретный чекпойнт модели, но и сам цикл улучшения.

Нерешённая проблема контроля

Восстанавливаемость снижает риск, но не устраняет его. Кнопка отката не гарантирует, что каждое последствие действий агента было замечено и действительно обратимо. Изменения могут затронуть данные, учётные записи, внешние сервисы, границы безопасности или решения людей за пределами среды выполнения.

Более быстрые итерации способны усиливать не только полезные улучшения, но и подгонку под формальные спецификации, скрытые регрессии, уязвимости и непрозрачные зависимости. Поэтому человеческий контроль требует большего, чем технический rollback. Изменения должны оставаться наблюдаемыми, независимо оцениваемыми, разрешёнными и атрибутируемыми, а их последствия — обратимыми во всей системе, а не только внутри графа плагинов.

Самый обоснованный вывод остаётся сдержанным: DSH и Cordis показывают, как агентскую инфраструктуру можно спроектировать для ограниченной и восстанавливаемой самомодификации. AlphaEvolve демонстрирует силу эволюции под контролем автоматических оценщиков, а работа Anthropic — как ИИ всё активнее участвует в исследованиях. Вместе эти проекты указывают на прогресс в сторону контуров ИИ-помощи в улучшении, но не доказывают появление полностью автономного открытого RSI или AGI. 14959