AnswersPublished23 sources
Шейн Леґґ закликав не допустити, щоб можливості ШІ випередили контроль за ним
Шейн Леґґ заявив, що стрімкий розвиток ШІ не має випереджати запобіжники, потрібні для нагляду та контролю над системами. DeepMind Institute має стати міждисциплінарним майданчиком для досліджень і дискусій про створення, управління та застосування дедалі потужнішого ШІ й AGI.
ОпублікувавВідредаговано за допомогою GPT-5.6 TerraЗображення створено за допомогою GPT Image 2
Research answer
Key takeaways
- Шейн Леґґ заявив, що стрімкий розвиток ШІ не має випереджати запобіжники, потрібні для нагляду та контролю над системами.
- DeepMind Institute має стати міждисциплінарним майданчиком для досліджень і дискусій про створення, управління та застосування дедалі потужнішого ШІ й AGI.
- Перші матеріали інституту присвячені прозорості міркувань моделей, економічній політиці в епоху AGI та людському добробуту.
AI Prompt
openai.comCreate a landscape editorial hero image for this Studio Global article: What did Google DeepMind co-founder Shane Legg warn about the relationship between rapidly advancing artificial intelligence and safety cont. Article summary: Legg’s central warning was that AI capabilities must not advance faster than the safeguards needed to monitor and control them. He launched the DeepMind Institute (DMI), a discussion and publishing platform on how AGI sh. Topic tags: general, news, general web, user generated, academic. Style: premium digital editorial illustration, source-backed research mood, clean composition, high detail, modern web publication hero. Use reference image context only for broad subject, composition, and topical grounding; do not copy the exact image. Avoid: logos, brand marks, copyrighted characters, real person likenesses, fake screenshots, UI text, readable text, watermarks
Штучний інтелект стає дедалі здібнішим, але механізми, які дають змогу його відстежувати й контролювати, не можуть залишатися позаду. Саме таку головну пересторогу висловив співзасновник Google DeepMind Шейн Леґґ під час запуску DeepMind Institute (DMI) — нового майданчика для обговорення того, як розгортати та регулювати штучний загальний інтелект, або AGI. 1
41
У чому полягає попередження Леґґа
Леґґ наголосив: швидкий прогрес у можливостях ШІ не повинен випереджати системи безпеки. Йдеться не лише про потужність моделей, а й про те, чи встигають за нею інструменти нагляду, моніторингу, управління та контролю. 1
Це пояснює, чому DMI не обмежується суто технічними питаннями. Його мета — стимулювати міждисциплінарні дослідження, співпрацю й дискусію щодо ключових технічних і суспільних питань епохи AGI: як безпечно створювати й управляти системами AGI та спільнотами агентів, які вони можуть формувати, і які інституції та правила суспільству, можливо, доведеться змінити. 16
Що таке DeepMind Institute
DeepMind Institute — це радше платформа для публікацій і фахової дискусії, а не заміна основним дослідницьким підрозділам DeepMind. Вона має об’єднувати дослідників Google DeepMind і ширшої наукової спільноти для обговорення того, як створювати, регулювати, впроваджувати та використовувати дедалі потужніші системи ШІ. 36
42
До кола тем входять наука, освіта, суспільство, державна політика, філософія, економіка, безпека та людський добробут. Тобто інститут розглядатиме не тільки способи зменшити серйозні ризики, а й те, якими мають бути суспільні цілі, правила та інституції в разі широкого впровадження AGI. 16
36
Чи варто сповільнювати випуск найпотужніших моделей
Пропозицію гендиректора Anthropic Даріо Амодеї сповільнити, але не зупиняти випуск передових моделей ШІ Леґґ назвав «цікавою за напрямком» і такою, що «варта розгляду». 2
Це не означає, що Google DeepMind оголосила про зміну власної політики випуску моделей. Однак коментар показує: обережніший темп розгортання потужних систем Леґґ вважає предметом серйозної дискусії — особливо коли запобіжники можуть не встигати за новими можливостями. 2
Чому, на його думку, говорити про досягнення AGI зарано
Леґґ вважає передчасними заяви про те, що AGI вже створено, попри недавні твердження керівників Nvidia та OpenAI. У доступних повідомленнях немає детального прямого пояснення кожного конкретного розриву в можливостях нинішніх систем. Найобережніший висновок такий: за критеріями DeepMind сучасні моделі ще не досягли рівня AGI. 4
Google DeepMind описує AGI як систему з когнітивними здібностями людського мозку. Це значно ширший критерій, ніж високі результати на окремих тестах або виконання вузького набору завдань. 13
Водночас Леґґ заявив, що й надалі «комфортно» почувається зі своєю давньою оцінкою: 50% імовірності появи «мінімального» AGI до 2028 року. Це прогноз, а не підтверджений графік. 2
10
Про що пишуть перші есеї DMI
Стартова добірка містить вступний текст і кілька змістовних есеїв. Три з ключових ранніх тем показують, що інститут дивиться на AGI ширше, ніж лише крізь призму технічної безпеки:
- Прозорість міркувань — Рохін Шах і Анка Драґан обстоюють збереження інтерпретованих міркувань моделі, щоб люди могли виявляти ознаки обману або прихованого планування дій.
11
- Економічна політика для AGI — есе оцінює 11 можливих політичних рішень для пом’якшення потенційних економічних потрясінь від поширеного й дедалі потужнішого ШІ. Серед критеріїв — добробут, стійкість, автономія людей та економічна стабільність.
39
- Принципи нового утопізму — автори розмірковують, що може означати людський добробут у суспільстві, сформованому AGI, водночас застерігаючи від уявлення про «утопію» як гарантію досконалості.
На сайті DMI також зазначено четверте змістовне стартове есе — «A framework for frontier AI and the dawning of a new age» — поряд зі вступом та трьома текстами вище. 41
38
Головне
Позиція Леґґа поєднує терміновість із обережністю. Він не вважає, що AGI вже досягнуто, але водночас зберігає високу — 50-відсоткову — оцінку імовірності «мінімального» AGI до 2028 року. Його ключова теза не зводиться до однієї дати: якщо можливості ШІ прискорюються, так само мають прискорюватися суспільні й технічні механізми розуміння, нагляду та відповідального впровадження цих систем. 1
2
16
Studio Global AI
Continue your research
This page includes a source-backed answer you can continue inside Studio Global.
People also ask
What is the short answer to "Шейн Леґґ закликав не допустити, щоб можливості ШІ випередили контроль за ним"?
Шейн Леґґ заявив, що стрімкий розвиток ШІ не має випереджати запобіжники, потрібні для нагляду та контролю над системами.
What are the key points to validate first?
Шейн Леґґ заявив, що стрімкий розвиток ШІ не має випереджати запобіжники, потрібні для нагляду та контролю над системами. DeepMind Institute має стати міждисциплінарним майданчиком для досліджень і дискусій про створення, управління та застосування дедалі потужнішого ШІ й AGI.
What should I do next in practice?
Перші матеріали інституту присвячені прозорості міркувань моделей, економічній політиці в епоху AGI та людському добробуту.