Илон Маск предрёк превосходство ИИ над человечеством через пять лет и предложил новую систему безопасности

ИИ превзойдёт человеческий интеллект — в течение пяти лет

Маск сделал самый конкретный временной прогноз: системы ИИ могут превзойти совокупный человеческий интеллект примерно через пять лет . Он уточнил, что в эти сроки «действительно не будет ничего, что ИИ не мог бы делать лучше людей, разве что быть человеком, возможно» . Заглядывая дальше, он спрогнозировал, что в течение десяти лет люди больше не будут контролировать ситуацию, а роботы откроют эру «удивительного изобилия», когда понятие денег потеряет смысл .

Решение для безопасности: «коллегиальное рецензирование» моделей конкурентов

Маск предложил разрешить конкурирующим компаниям в сфере ИИ проверять модели друг друга на предмет рисков для безопасности перед их запуском . Он описал это как систему рецензирования для передового ИИ — по аналогии с научным рецензированием в академической среде, — где лаборатории изучают флагманские модели друг друга для выявления и устранения опасностей до публичного выпуска . Эта идея была представлена как механизм отраслевого сотрудничества в области безопасности, хотя The Economist и другие издания отметили скептицизм относительно её реализуемости .

Риск вымирания в 10–20% и «наслаждение моментом»

Несмотря на мрачные сроки, Маск не отказался от своей давней оценки, согласно которой существует 10–20% вероятность того, что ИИ может привести к вымиранию человечества . Вместо этого он сказал, что пришёл к «философскому выводу» сосредоточиться на позитиве, призывая людей по сути «наслаждаться моментом», поскольку импульс развития ИИ и робототехники теперь не остановить .

Ключевая оговорка: Как отметил сам The Economist, к прогнозам Маска следует относиться с изрядной долей скепсиса, учитывая его неровный послужной список . Репортаж BBC передал его тон как «давайте наслаждаться моментом» — примечательная позиция для того, кто одновременно предупреждает о 10–20% вероятности уничтожения человечества .