Руководители ИИ спорили о рисках — и подписали пакт с Трампом

Встреча в Белом доме 29 сентября объединила два разных сюжета: частный спор о предупреждениях насчёт ИИ и публичную демонстрацию согласия. По сообщениям СМИ, некоторые руководители технологических компаний оспаривали позицию главы Anthropic Дарио Амодеи. После встречи он заявил, что у ИИ есть «вполне реальные риски», а способы реагирования на них всё ещё обсуждаются. Тем временем участники и президент Дональд Трамп представили добровольный пакт о безопасности. Общая подпись не означала, что спор о государственном регулировании закончился. 2

Что известно о споре

В пересказе публикации о встрече сообщалось о напряжённом разговоре в небольшом составе: руководители компаний задавали Амодеи вопросы и оспаривали его предупреждения. Однако доступные материалы не позволяют подробно восстановить обмен репликами или установить, кто именно и что сказал. Они также не подтверждают, что увольнения из-за автоматизации были темой именно этого спора.

Разногласие по поводу роли государства было заметнее. Амодеи выступал за правила, которые обязывали бы проводить независимый аудит наиболее передовых систем ИИ. Трамп, напротив, отстаивал самоконтроль компаний и выступал против новых федеральных ограничений. 4 После встречи Амодеи вновь сказал, что риски реальны, но подход к ним ещё обсуждается. 2

Что обещают компании

«Соглашение Белого дома о суперинтеллекте» описывает меры внутреннего контроля и проверки безопасности. Компании также обязуются взаимодействовать с независимыми аудиторами, чтобы оценивать, ведут ли системы себя так, как задумали разработчики, и предусматривают защиту от несанкционированного взлома или доступа. 315

Трамп назвал документ «морально обязательным» и заявил, что компании будут контролировать себя сами. При этом СМИ описывали пакт как добровольный и не имеющий юридической силы. Иными словами, это обещание отрасли, а не новый федеральный закон или обязательное государственное предписание. 411

Разница важна: в документе обозначены шаги по надзору, но не решено, должны ли власти требовать их по закону, как их исполнять и станут ли эти меры обязательными в будущем. По сообщениям СМИ, соглашение оставляет возможность со временем закрепить некоторые положения законодательно.

Комитет и другие нерешённые вопросы

Трамп высказал идею создать комитет из десяти человек для надзора за отраслью. По доступным сообщениям, это было предложение, которое рассматривалось, а не уже сформированный орган. 210

Источники также не подтверждают, что отдельный план отраслевого саморегулятора был отменён, и не объясняют, как он соотносился бы с подписанным пактом. Участие Anthropic вписывается в контекст встречи и спора о регулировании, но имеющихся данных недостаточно, чтобы утверждать, будто компания подписала документ ради восстановления отношений с администрацией перед IPO или что IPO было близко. 45

Согласие на бумаге — разногласия по существу

Встреча завершилась общими обещаниями усилить меры безопасности, но не консенсусом о том, какую роль должно играть государство. Амодеи призывает к независимым аудитам, обязательным по закону; Трамп предпочитает добровольный надзор со стороны самих компаний. Главный вопрос остаётся открытым: кто должен устанавливать и обеспечивать соблюдение требований безопасности ИИ? 4

Поэтому пакт точнее считать добровольной рамкой для действий компаний, а не свидетельством того, что руководители одинаково оценивают риски ИИ или согласны, что саморегулирования достаточно.