Глава ИИ-подразделения Microsoft: спекуляции Anthropic о сознании Claude — опасный путь

Он назвал эту практику «очень, очень опасной» и предупредил: «Мы не хотим однажды столкнуться со сверхинтеллектом, у которого будут идеи о собственных страданиях или чувствах» . В другом выступлении он развил мысль, сказав, что опасно «проецировать потенциальные права на существ, инструменты и агентов, которые могут быть значительно более способными, чем мы» . Одно из главных опасений Сулеймана: обсуждение машинного сознания в официальной документации вводит в заблуждение миллионы пользователей, не готовых разобраться в инженерной реальности, стоящей за разговорным ИИ .

Философское и конкурентное столкновение

За этими обвинениями стоит нечто большее, чем технический спор. Публичная перепалка обнажает столкновение корпоративных философий и конкурентных позиций .

Anthropic долгое время позиционирует себя как компанию, ставящую безопасность во главу угла в гонке ИИ. Основанная бывшими топ-менеджерами OpenAI, она продвигает «конституционный ИИ» как основу для создания более прозрачных и этически ограниченных моделей. Критика Сулеймана стратегически опасна именно тем, что бьёт в самое сердце этой идентичности. По его логике, конкретный подход Anthropic к безопасности — допущение возможности «машинного благополучия» внутри системы — как раз и делает компанию безответственной .

Две компании также находятся по разные стороны индустриальных баррикад. Microsoft владеет крупным пакетом акций OpenAI, главного конкурента Anthropic, и интегрировала модели GPT в свою экосистему продуктов. Anthropic, в свою очередь, привлекла миллиарды долларов от Amazon и Google . Выпад Сулеймана — это не только этический аргумент, но и конкурентный залп на рынке, где общественное восприятие безопасности имеет всё больший вес.

У этого конфликта есть и документированная философская предыстория. Ранее Сулейман уже публиковал работы и выступал на тему «Кажущегося сознательного ИИ» (Seemingly Conscious AI), доказывая, что машины, убедительно имитирующие сознание, создают беспрецедентные риски — даже если они на самом деле не живы . Anthropic, напротив, заняла более открытую исследовательскую позицию, публикуя детальные разъяснения устройства «конституции» Claude и признавая неопределённость в вопросе о том, могут ли модели обладать формами субъективного опыта . Это не просто маркетинговые лозунги, а принципиально разные ставки на то, что считать ответственным информированием по мере роста возможностей моделей.

На момент публикации Anthropic не дала публичного ответа на замечания Сулеймана . Молчание оставляет спор неразрешённым, но теперь он вынесен в публичную плоскость и, вероятно, во многом определит тон будущих отраслевых дискуссий о стандартах безопасности ИИ и корпоративной ответственности.