ОтветыОпубликовано23 источники
Шейн Легг: безопасность ИИ не должна отставать от прогресса к AGI
Шейн Легг заявил, что быстрый рост возможностей ИИ не должен опережать средства мониторинга и контроля. DeepMind Institute станет площадкой для междисциплинарных исследований и дискуссий о разработке, регулировании и применении AGI.
ОпубликовалОтредактировано с помощью GPT-5.6 TerraИзображения созданы с помощью GPT Image 2
Ответ на исследование
Ключевые выводы
- Шейн Легг заявил, что быстрый рост возможностей ИИ не должен опережать средства мониторинга и контроля.
- DeepMind Institute станет площадкой для междисциплинарных исследований и дискуссий о разработке, регулировании и применении AGI.
- Первые материалы института посвящены прозрачности рассуждений моделей, экономической политике и условиям человеческого благополучия.
Промпт ИИ
openai.comCreate a landscape editorial hero image for this Studio Global article: What did Google DeepMind co-founder Shane Legg warn about the relationship between rapidly advancing artificial intelligence and safety cont. Article summary: Legg’s central warning was that AI capabilities must not advance faster than the safeguards needed to monitor and control them. He launched the DeepMind Institute (DMI), a discussion and publishing platform on how AGI sh. Topic tags: general, news, general web, user generated, academic. Style: premium digital editorial illustration, source-backed research mood, clean composition, high detail, modern web publication hero. Use reference image context only for broad subject, composition, and topical grounding; do not copy the exact image. Avoid: logos, brand marks, copyrighted characters, real person likenesses, fake screenshots, UI text, readable text, watermarks
Шейн Легг, сооснователь Google DeepMind, сформулировал предупреждение предельно ясно: возможности ИИ не должны развиваться быстрее, чем меры безопасности, позволяющие наблюдать за всё более мощными системами и контролировать их. Об этом он заявил при запуске DeepMind Institute (DMI) — новой площадки для изучения внедрения и последствий искусственного общего интеллекта, или AGI. 1
41
Почему Легг говорит о безопасности
Речь не только о том, что модели становятся сильнее в отдельных задачах. Ключевой вопрос — успевают ли за ростом их возможностей механизмы надзора, мониторинга, управления и контроля. По мнению Легга, такое отставание недопустимо. 1
Именно поэтому задача нового института выходит далеко за рамки инженерных исследований. DMI должен поддерживать междисциплинарные исследования, сотрудничество и дискуссии о главных технических и общественных вопросах эпохи AGI: как безопасно создавать и регулировать такие системы, а также сообщества ИИ-агентов, которые они могут формировать. 16
Что такое DeepMind Institute
DeepMind Institute — это площадка для публикаций и обсуждений, а не замена основной исследовательской работе Google DeepMind. Она должна объединить специалистов Google DeepMind и внешнего исследовательского сообщества для разговора о том, как следует создавать, регулировать, внедрять и использовать всё более способный ИИ. 36
42
В круг тем входят наука, образование, общество, государственная политика, философия, экономика, безопасность и человеческое благополучие. Иными словами, институт собирается обсуждать не только способы снизить серьёзные риски, но и то, какие общественные институты, правила и представления о целях могут потребовать пересмотра при широком внедрении AGI. 16
36
Идея замедлить выпуск передовых моделей
Легг назвал предложение генерального директора Anthropic Дарио Амодеи замедлить, но не останавливать выпуск передовых ИИ-моделей «интересным по направлению» и «заслуживающим рассмотрения». 2
Это не означает, что Google DeepMind объявила о собственной политике замедления релизов. Но комментарий показывает: Легг считает более осторожный темп внедрения серьёзным вариантом в дискуссии о том, как соотносить выпуск новых моделей с достаточностью защитных мер. 2
Почему, по мнению Легга, объявлять о появлении AGI пока рано
Легг заявил, что говорить о достижении AGI преждевременно — несмотря на недавние заявления руководителей Nvidia и OpenAI. В доступных сообщениях нет подробного прямого объяснения всех недостатков нынешних систем, на которые он опирался; надёжно можно утверждать лишь, что, по оценке Легга, современные модели ещё не соответствуют порогу AGI, принятому в DeepMind. 4
Google DeepMind описывает AGI как систему, обладающую когнитивными способностями человеческого мозга. Это существенно более широкий критерий, чем высокие результаты в конкретных тестах или отдельных видах задач. 13
При этом Легг по-прежнему «спокоен» относительно своего давнего прогноза: вероятность достижения «минимального» AGI к 2028 году он оценивает в 50%. Это именно прогноз, а не установленный график. 2
10
О чём первые эссе института
Стартовая подборка включает вводное эссе и несколько содержательных работ. Первые темы хорошо показывают широту замысла DMI:
- Прозрачность рассуждений. Рохин Шах и Анка Драган выступают за сохранение интерпретируемых рассуждений моделей, чтобы люди могли отслеживать возможные признаки обмана или скрытого стратегического поведения.
11
- Экономическая политика для AGI. Авторы рассматривают 11 возможных мер для смягчения экономических потрясений от всё более продвинутого и массового ИИ, оценивая их по влиянию на благосостояние, устойчивость, самостоятельность людей и экономическую стабильность.
39
- Принципы нового утопизма. Эссе размышляет о том, что может означать человеческое благополучие в обществе, преобразованном AGI, и предостерегает от восприятия «утопии» как обещания совершенства.
На сайте института также опубликовано эссе «Концепция передового ИИ и наступление новой эпохи» — наряду с вводным материалом и работами по трём указанным направлениям. 41
38
Главное
Позиция Легга сочетает срочность и сдержанность. Он не считает AGI уже достигнутым, но сохраняет оценку в 50% на появление «минимального» AGI к 2028 году. Его основной тезис не сводится к одному прогнозу: если возможности ИИ ускоряются, столь же быстро должны развиваться инструменты для их понимания, надзора и ответственного внедрения. 1
2
16
Studio Global AI
Продолжайте свое исследование
На этой странице есть ответ, подтвержденный источником, который вы можете продолжить внутри Studio Global.
Люди также спрашивают
Каков краткий ответ на вопрос «Шейн Легг: безопасность ИИ не должна отставать от прогресса к AGI»?
Шейн Легг заявил, что быстрый рост возможностей ИИ не должен опережать средства мониторинга и контроля.
Какие ключевые моменты необходимо проверить в первую очередь?
Шейн Легг заявил, что быстрый рост возможностей ИИ не должен опережать средства мониторинга и контроля. DeepMind Institute станет площадкой для междисциплинарных исследований и дискуссий о разработке, регулировании и применении AGI.
Что мне делать дальше на практике?
Первые материалы института посвящены прозрачности рассуждений моделей, экономической политике и условиям человеческого благополучия.