От правил к AI-агентам: как искусственный интеллект научился действовать
С 1955 года, когда появился сам термин «искусственный интеллект», ИИ в широком смысле прошёл путь от классификации и прогнозирования к генерации контента, а затем к планированию и действиям через программные инструменты. Традиционный ИИ эффективен в ограниченных и измеримых задачах, генеративный создаёт тексты, изоб...
С 1955 года, когда появился сам термин «искусственный интеллект», ИИ в широком смысле прошёл путь от классификации и прогнозирования к генерации контента, а затем к планированию и действиям через программные инструменты.
Традиционный ИИ эффективен в ограниченных и измеримых задачах, генеративный создаёт тексты, изображения и код, но может уверенно выдавать ошибки, а агентный ИИ способен выполнять многоэтапные процессы — с риском усили...
Сингапурская модель регулирования AI агентов рекомендует ограничивать автономность, применять доступ по принципу минимальных привилегий, вести мониторинг и требовать одобрения человека перед чувствительными действиями.
How has artificial intelligence evolved over the past seven decades from traditional rule-based systems that classify data and predict outcoAI’s evolution can be understood as a progression from prediction to generation and autonomous action.
Промпт ИИ
Create a landscape editorial hero image for this Studio Global article: How has artificial intelligence evolved over the past seven decades from traditional rule-based systems that classify data and predict outco. Article summary: Artificial intelligence has shifted from systems that followed human-written rules or learned narrow prediction patterns, to models that generate new content, and now to agents that can plan and act through software tool. Topic tags: general, government, education, academic, documentation. Style: premium digital editorial illustration, source-backed research mood, clean composition, high detail, modern web publication hero. Use reference image context only for broad subject, composition, and topical grounding; do not copy the exact image. Avoid: logos, brand marks, copyrighted characters, real person likenesses, fake screenshots, UI text, readable text, waterma
openai.com
Искусственный интеллект развивался не по принципу «новая технология пришла — старая исчезла». Скорее, его возможности постепенно наслаивались друг на друга. Системы, которые раньше следовали заранее заданным правилам или выдавали узкие прогнозы, теперь соседствуют с моделями, создающими контент, и агентами, способными планировать, пользоваться программами и действовать от имени пользователя.
Удобнее всего описать эту эволюцию формулой: предсказывать → создавать → планировать и действовать. Каждый следующий этап расширяет возможности ИИ — и одновременно увеличивает цену ошибки.
1. Традиционный ИИ: правила, классификация и прогнозы
Первые направления исследований ИИ во многом опирались на символическое мышление: программисты описывали знания в виде правил, а затем создавали системы, которые перебирали возможные решения. Хороший пример — игровые программы: они могли оценивать варианты ходов в пределах формально заданных правил. Сам термин «искусственный интеллект» появился в 1955 году. Компьютерный учёный Джон Маккарти определил его как «науку и технику создания интеллектуальных машин».
Позже статистическое машинное обучение перенесло часть работы с написанных вручную правил на закономерности, которые система находит в исторических данных. Обычно такая модель получает входные данные и возвращает ограниченный результат, например:
отмечает подозрительную банковскую операцию;
оценивает кредитный риск;
прогнозирует медицинский исход;
ранжирует товары или видео для рекомендации;
распознаёт вероятное намерение пользователя по его речи.
На практике такие решения не обязательно бывают чисто «правиловыми». Чаще они объединяют правила, статистические модели и машинное обучение.
Почему традиционный ИИ по-прежнему полезен
Прогнозные системы хорошо работают, когда цель сформулирована однозначно, данные релевантны, а стоимость разных ошибок можно измерить. Они быстро обрабатывают большие массивы информации, последовательно применяют одну и ту же процедуру и находят закономерности, которые человек может не заметить.
Но их сильная сторона одновременно является ограничением: обычно они рассчитаны на конкретную задачу. Модель для выявления мошенничества может оценить транзакцию, но не объяснит содержание нормативного документа, не напишет отчёт и не перестроит стратегию в незнакомой ситуации. Результат также зависит от качества обучающих данных и от того, что именно система была оптимизирована предсказывать.
Studio Global AI
Продолжайте свое исследование
На этой странице есть ответ, подтвержденный источником, который вы можете продолжить внутри Studio Global.
Каков краткий ответ на вопрос «От правил к AI-агентам: как искусственный интеллект научился действовать»?
С 1955 года, когда появился сам термин «искусственный интеллект», ИИ в широком смысле прошёл путь от классификации и прогнозирования к генерации контента, а затем к планированию и действиям через программные инструменты.
Какие ключевые моменты необходимо проверить в первую очередь?
С 1955 года, когда появился сам термин «искусственный интеллект», ИИ в широком смысле прошёл путь от классификации и прогнозирования к генерации контента, а затем к планированию и действиям через программные инструменты. Традиционный ИИ эффективен в ограниченных и измеримых задачах, генеративный создаёт тексты, изображения и код, но может уверенно выдавать ошибки, а агентный ИИ способен выполнять многоэтапные процессы — с риском усили...
Что мне делать дальше на практике?
Сингапурская модель регулирования AI агентов рекомендует ограничивать автономность, применять доступ по принципу минимальных привилегий, вести мониторинг и требовать одобрения человека перед чувствительными действиями.
Это создаёт серьёзные этические вопросы в кредитовании, найме, страховании и здравоохранении. Исторические данные могут воспроизводить социальные предубеждения, а непрозрачные системы скоринга затрудняют обжалование решений. Поэтому ответственное управление должно включать чётко определённую цель, проверку точности и справедливости для разных групп, защиту персональных данных, объяснение решений и участие человека в ситуациях с существенными последствиями. Проблемы предвзятости, дезинформации и злоупотреблений относятся ко всей политике в сфере ИИ, а не только к чат-ботам.
2. Генеративный ИИ: от предсказания метки к созданию контента
Генеративный ИИ меняет сам формат взаимодействия с системой: вместо вопроса «К какой категории это относится?» пользователь говорит: «Создай или преобразуй что-то по этой инструкции». Большие модели могут генерировать правдоподобные тексты, изображения, аудио и программный код.
Так появились инструменты для подготовки ответов службы поддержки, перевода, обучения, краткого изложения юридических материалов, помощи в разработке программ и творческой работы. Генеративные системы способны сократить время и стоимость создания первого черновика, предоставить разговорный интерфейс к сложной информации и дополнить работу специалиста, а не просто автоматизировать фиксированное решение.
Главная слабость: правдоподобие не означает правду
Генеративная модель может уверенно сообщить выдуманный или неточный факт, источник, юридическую норму, медицинское утверждение или фрагмент кода. NIST использует для этого термин «конфабуляция» — «создание уверенно сформулированного, но ошибочного или ложного контента». В повседневной речи это обычно называют галлюцинацией.
Поэтому там, где важна фактическая точность, необходима проверка. Среди полезных мер — получение сведений из надёжных материалов, ссылки на источники, структурированная оценка качества, тестирование в конкретной предметной области и проверка квалифицированным человеком. Гладко и убедительно сформулированный ответ следует воспринимать как черновик или прогноз, а не как доказательство истинности утверждения.
Более широкий круг рисков
Генеративный ИИ также ставит вопросы о защите данных, интеллектуальной собственности, дезинформации и происхождении результатов. В рекомендациях Европейской комиссии по использованию ИИ в исследованиях эти риски подчёркиваются отдельно: человек сохраняет ответственность за опубликованную работу, даже если при её подготовке помогала модель.
В образовании возникает похожая проблема. Если учащиеся регулярно передают ИИ написание текстов, рассуждения и решение задач, они могут получать аккуратный результат, реже тренируя навыки, которые за ним стоят. Рекомендации для образовательных учреждений относят к основным рискам неточный или предвзятый контент, вредные материалы, утечки данных, нарушения интеллектуальных прав и проблемы академической добросовестности.
Ошибки особенно опасны в чувствительных разговорах. При недостаточных защитных механизмах генеративная система может создать материалы с ненавистью, насилием, сексуальным содержанием или манипулятивными советами, а также неправильно отреагировать на сообщение о намерении причинить себе вред. NIST относит к рискам опасные и насильственные рекомендации, нарушение приватности и вредную предвзятость. В ситуациях, связанных с угрозой жизни или здоровью, ИИ не должен заменять квалифицированную помощь и человеческий контроль. Системам необходимы корректный отказ от опасных запросов, эскалация к специалисту, защита конфиденциальности и понятный путь к немедленной человеческой поддержке.
3. Агентный ИИ: планирование, инструменты и действия
Агентный ИИ добавляет к модели цикл действий. Вместо однократного ответа на запрос агент может понять цель, разбить её на этапы, вызвать браузер, среду выполнения кода, почтовый сервис или API, изучить результат, пересмотреть план и продолжить работу.
Стэнфорд описывает агентный ИИ как автономные или полуавтономные системы, которые интерпретируют цели, выстраивают последовательность действий, используют инструменты, реагируют на обратную связь и адаптируются для выполнения задачи в заданных пределах.
Разница между этапами выглядит так:
прогнозная система оценивает транзакцию;
генеративная система готовит черновик ответа по ней;
агент, если ему предоставлены необходимые права, может исследовать транзакцию, обновить карточку дела и отправить сообщение.
Пример из разработки ПО — Jules от Google. Компания описывает его как асинхронного агента-программиста, который подключается к репозиториям, клонирует кодовую базу в виртуальную машину в облаке и выполняет задачи, чтобы разработчик позже их проверил. Другой подход представляют открытые инструменты с поддержкой вызова программ, а продукты для рекрутинга, например Hiring Assistant от LinkedIn, показывают, как агентные рабочие процессы могут применяться в поиске и найме сотрудников.
Агенты привлекательны тем, что способны выполнять многоэтапную работу, а не только подсказывать следующий шаг. Агент для разработки может найти ошибку, изменить несколько файлов, запустить тесты и подготовить pull request — запрос на внесение изменений в репозиторий. Агент рабочего процесса может собрать сведения, структурировать их и подготовить сообщения для последующего согласования.
Почему автономность увеличивает риск
Способность строить план не равна надёжному пониманию ситуации. Агент может неправильно интерпретировать веб-страницу, выбрать неудачную стратегию, выполнить вредоносную инструкцию или превратить небольшую ошибку в цепочку проблем на нескольких этапах. Согласно Stanford AI Index 2026, результативность агентов в OSWorld — бенчмарке реальных компьютерных задач — выросла с 12% примерно до 66%, однако системы по-прежнему не справляются примерно с каждой третьей попыткой.
Ошибка чат-бота может остаться проблемой коммуникации. Но агент, у которого есть учётные данные, доступ к браузеру или право проводить платежи, способен превратить такую же ошибку во внешнее действие. Поэтому управление агентным ИИ должно учитывать не только качество ответов, но и разрешения, обратимость операций и ответственность за результат.
Основные риски безопасности AI-агентов
Наиболее серьёзные угрозы возникают там, где агент может повлиять на системы, деньги, данные или других людей:
Несанкционированные платежи. Агент может выбрать не тот товар, превысить бюджет или попасть под влияние вредоносной веб-страницы.
Утечка персональных данных и кража информации. Доступ к почте, файлам, клиентским записям, исходному коду или ключам API повышает риск раскрытия данных, особенно при атаке через prompt injection — внедрение инструкций в контекст агента.
Угрозы безопасности и повреждение ПО. Агент может внести уязвимый код, изменить конфигурацию, удалить ресурсы или раскрыть секреты в журналах и внешних инструментах.
Размытая ответственность. Не всегда очевидно, кто отвечает за инцидент: разработчик модели, создатель приложения, организация, внедрившая агента, поставщик инструмента или пользователь.
Манипуляция. Постоянно работающие разговорные агенты могут оказывать чрезмерное влияние, особенно на уязвимых пользователей или в ситуациях, когда система кажется более компетентной и надёжной, чем она есть на самом деле.
Как выглядит ответственное управление
Меры контроля должны соответствовать возможностям системы и последствиям возможной ошибки.
Для прогнозного ИИ организациям следует определить назначение системы, измерять точность и справедливость результатов, защищать персональные данные и обеспечивать возможность объяснить или оспорить решения с серьёзными последствиями.
Для генеративного ИИ важно проверять существенные утверждения, тестировать систему на галлюцинации и опасные ответы, контролировать работу с конфиденциальными данными, разбираться с происхождением контента и вопросами интеллектуальной собственности. Юридические, медицинские, финансовые решения и решения, связанные с безопасностью человека, должны оставаться под ответственностью квалифицированных специалистов.
Для AI-агентов необходимы дополнительные технические и организационные меры:
Ограничить сценарий использования. До внедрения определить, что агенту разрешено делать, а что запрещено.
Сократить доступ. Использовать учётные данные с минимально необходимыми правами, ограниченный набор инструментов, лимиты операций и изолированные среды.
Ввести точки обязательного согласования. Финансовые, юридические, чувствительные к приватности и связанные с безопасностью действия не должны выполняться без соответствующего одобрения человека.
Сделать действия проверяемыми. Хранить журналы, отслеживать поведение и заранее назначать ответственных за инциденты.
Проводить атакующее тестирование. Проверять устойчивость к prompt injection, выводу данных, опасному поведению и сбоям восстановления до запуска и во время эксплуатации.
Сохранять контроль человека. Пользователь или ответственная организация должны иметь возможность остановить, отменить и оспорить значимые действия агента.
Модельная рамочная система управления агентным ИИ, опубликованная сингапурским Управлением по развитию инфокоммуникаций и СМИ (IMDA), предлагает именно такой риск-ориентированный подход. Она предназначена для организаций, которые создают агентов самостоятельно или внедряют сторонние решения. Главный вывод документа — автономность нужно наращивать постепенно: начать с помощи в режиме «только чтение», затем разрешать действия с низким риском, а необратимые или потенциально значимые операции оставлять за явным одобрением человека.
Куда движется ИИ
Эволюцию искусственного интеллекта лучше понимать не как три полностью отдельные эпохи, а как расширяющийся стек возможностей. Традиционные системы прогнозируют и классифицируют. Генеративные — создают и преобразуют. Агентные добавляют планирование, использование инструментов и выполнение действий.
Управление должно развиваться с той же скоростью. Точность и справедливость по-прежнему необходимы, но их уже недостаточно. Генеративным системам требуются проверка фактов, контроль происхождения контента и защита от опасных результатов. Агентам дополнительно нужны границы разрешений, обязательные точки согласования, мониторинг безопасности и чёткое распределение ответственности.
Чем больше AI-система умеет делать самостоятельно, тем тщательнее организации должны решать, что именно ей разрешено делать.
