Оптимистичные обещания Цукерберга: образование, юристы, цены

Цукерберг нарисовал будущее, в котором системы «личного сверхинтеллекта» сделают доступную, высокоуровневую помощь каждому человеку. Его конкретные обещания включали:

• ИИ-репетиторы, демократизирующие образование — персонализированное, всегда доступное обучение для каждого ученика, ликвидирующее разрыв в доступе к качественному преподаванию .
• ИИ-адвокаты, уравнивающие правосудие — бесплатная или недорогая юридическая помощь, которая позволит любому человеку, независимо от дохода, получить консультацию уровня дорогого адвоката .
• Бесплатный или недорогой доступ к вычислительным мощностям — модели ценообразования, которые сделают сверхинтеллект доступным для всех, с базовым бесплатным уровнем . Брэндом особо отметил «бесплатный доступ к вычислениям» и связанный с ним образ обильного дешёвого ИИ .

Почему Рассел Брэндом считает, что манифест подрывает доверие

В своём анализе для TechCrunch Рассел Брэндом утверждает, что манифест дал обратный эффект и активно углубил общественное недоверие к ИИ. Его основные возражения:

Кризис доверия к посыльному

Брэндом отмечает, что 64% американцев считают социальные сети вредными для демократии, и буквально в те же выходные суд оштрафовал Meta на $567 миллионов за нарушение норм безопасности детей . Он пишет: «Справедливо это или нет, но публика не доверяет технологическим руководителям в том, что они обеспечат положительное влияние новых технологий на общество» . Просить публику довериться генеральному директору Facebook в вопросе ещё более близкой технологии — персональному ИИ, который будет знать, что «важно» для пользователей и «где у них проблемы», — значит игнорировать последствия эпохи соцсетей .

Отказ признавать реальные проблемы ИИ

В эссе Цукерберга нет ни слова о задокументированных негативных последствиях, таких как использование студентами чат-ботов для списывания . Брэндом утверждает, что игнорирование уже существующих проблем при обещаниях утопического будущего выглядит уклончиво, а не как провидческий подход.

Расплывчатые философские обобщения о конкурирующих интересах

Брэндом критикует «туманные обобщения об интеллекте» в эссе и предположение о том, что, когда все получат более мощные инструменты, конкурирующие интересы сами собой сбалансируются, приведя к положительным результатам . Он проводит прямую параллель с «туманными обобщениями о свободе слова, которые раньше делали Цукерберг и Джек Дорси» — риторикой невмешательства, предшествовавшей худшим последствиям соцсетей .

Призрак «ценового скачка» за ИИ-вычисления

Брэндом указывает, что видение Цукербергом ценообразования — freemium-доступ к ИИ — сталкивается с реальностью того, что вычислительные мощности являются дефицитным ресурсом, который может распределяться через «динамические аукционы» . Он противопоставляет это подходу Сэма Альтмана из OpenAI и Дарио Амодея из Anthropic, которые хотя бы признают опасности и пытаются выстраивать доверие, тогда как отказ Цукерберга обсуждать возможность скачкообразного роста цен или другие непредвиденные последствия подрывает доверие .

Итог: проблема в посыльном

Главный вывод Брэндома: манифест провалился не потому, что люди не могут представить полезный ИИ, а «потому что посыльный несёт память о последнем большом обещании социальных сетей» . Каждый раз, когда Meta просит о той близости, которую требует персональный ИИ, она напоминает публике, почему она так тревожится по поводу того, чтобы пускать платформенные компании глубже в свою жизнь .

Оптимистичные обещания Цукерберга: образование, юристы, цены

Цукерберг нарисовал будущее, в котором системы «личного сверхинтеллекта» сделают доступную, высокоуровневую помощь каждому человеку. Его конкретные обещания включали:

• ИИ-репетиторы, демократизирующие образование — персонализированное, всегда доступное обучение для каждого ученика, ликвидирующее разрыв в доступе к качественному преподаванию .
• ИИ-адвокаты, уравнивающие правосудие — бесплатная или недорогая юридическая помощь, которая позволит любому человеку, независимо от дохода, получить консультацию уровня дорогого адвоката .
• Бесплатный или недорогой доступ к вычислительным мощностям — модели ценообразования, которые сделают сверхинтеллект доступным для всех, с базовым бесплатным уровнем . Брэндом особо отметил «бесплатный доступ к вычислениям» и связанный с ним образ обильного дешёвого ИИ .

Почему Рассел Брэндом считает, что манифест подрывает доверие

В своём анализе для TechCrunch Рассел Брэндом утверждает, что манифест дал обратный эффект и активно углубил общественное недоверие к ИИ. Его основные возражения:

Кризис доверия к посыльному

Брэндом отмечает, что 64% американцев считают социальные сети вредными для демократии, и буквально в те же выходные суд оштрафовал Meta на $567 миллионов за нарушение норм безопасности детей . Он пишет: «Справедливо это или нет, но публика не доверяет технологическим руководителям в том, что они обеспечат положительное влияние новых технологий на общество» . Просить публику довериться генеральному директору Facebook в вопросе ещё более близкой технологии — персональному ИИ, который будет знать, что «важно» для пользователей и «где у них проблемы», — значит игнорировать последствия эпохи соцсетей .

Отказ признавать реальные проблемы ИИ

В эссе Цукерберга нет ни слова о задокументированных негативных последствиях, таких как использование студентами чат-ботов для списывания . Брэндом утверждает, что игнорирование уже существующих проблем при обещаниях утопического будущего выглядит уклончиво, а не как провидческий подход.

Расплывчатые философские обобщения о конкурирующих интересах

Брэндом критикует «туманные обобщения об интеллекте» в эссе и предположение о том, что, когда все получат более мощные инструменты, конкурирующие интересы сами собой сбалансируются, приведя к положительным результатам . Он проводит прямую параллель с «туманными обобщениями о свободе слова, которые раньше делали Цукерберг и Джек Дорси» — риторикой невмешательства, предшествовавшей худшим последствиям соцсетей .

Призрак «ценового скачка» за ИИ-вычисления

Брэндом указывает, что видение Цукербергом ценообразования — freemium-доступ к ИИ — сталкивается с реальностью того, что вычислительные мощности являются дефицитным ресурсом, который может распределяться через «динамические аукционы» . Он противопоставляет это подходу Сэма Альтмана из OpenAI и Дарио Амодея из Anthropic, которые хотя бы признают опасности и пытаются выстраивать доверие, тогда как отказ Цукерберга обсуждать возможность скачкообразного роста цен или другие непредвиденные последствия подрывает доверие .

Итог: проблема в посыльном

Главный вывод Брэндома: манифест провалился не потому, что люди не могут представить полезный ИИ, а «потому что посыльный несёт память о последнем большом обещании социальных сетей» . Каждый раз, когда Meta просит о той близости, которую требует персональный ИИ, она напоминает публике, почему она так тревожится по поводу того, чтобы пускать платформенные компании глубже в свою жизнь .