ОтветыОпубликовано17 источники
Хуанг допустил остановку поставок чипов разработчикам небезопасного ИИ — но назвал это гипотетическим сценарием
Хуанг допустил, что Nvidia может прекратить поставлять чипы разработчику небезопасного ИИ, но назвал это гипотетическим сценарием и не обозначил критерии такого решения. По словам главы Nvidia, прежде чем остановить поставки, компания поговорила бы с клиентом.
ОпубликовалОтредактировано с помощью GPT-6 LunaИзображения созданы с помощью GPT Image 2
Ответ на исследование
Ключевые выводы
- Хуанг допустил, что Nvidia может прекратить поставлять чипы разработчику небезопасного ИИ, но назвал это гипотетическим сценарием и не обозначил критерии такого решения.
- По словам главы Nvidia, прежде чем остановить поставки, компания поговорила бы с клиентом.
- Хуанг считает, что риски ИИ следует снижать инженерными мерами, а не замедлением разработки.
Промпт ИИ
openai.comCreate a landscape editorial hero image for this Studio Global article: What did Nvidia CEO Jensen Huang tell Bloomberg’s Emily Chang in London on October 14 about hypothetically stopping chip sales to unsafe or. Article summary: Huang said he would hypothetically stop supplying chips to an unsafe or irresponsible AI developer, while arguing that current AI safety fears are excessive and that safety should be improved through engineering rather t. Topic tags: general, news, general web, user generated. Style: premium digital editorial illustration, source-backed research mood, clean composition, high detail, modern web publication hero. Use reference image context only for broad subject, composition, and topical grounding; do not copy the exact image. Avoid: logos, brand marks, copyrighted characters, real person likenesses, fake screenshots, UI text, readable text, watermarks, charts wi
Глава Nvidia Дженсен Хуанг заявил, что в теории компания могла бы перестать поставлять чипы разработчику, который создаёт небезопасный ИИ. Но прежде, по его словам, Nvidia поговорила бы с клиентом. Хуанг не назвал ни конкретную компанию, ни критерии, по которым ИИ можно было бы признать небезопасным. 1
В тот же день Nvidia объявила о пятилетнем обязательстве стоимостью 250 миллионов долларов в виде вычислительных ресурсов для исследований безопасности и защищённости агентного ИИ в Великобритании. 3
«Это гипотеза, но да»
В интервью с Эмили Чанг из Bloomberg в Лондоне 14 октября Хуанга спросили, остановила бы Nvidia поставки чипов безответственному разработчику ИИ. «Это гипотеза, но да», — ответил он. По его словам, перед таким решением компания сначала поговорила бы с клиентом. 1
Хуанг добавил, что Nvidia не управляет другими компаниями и что у неё есть пределы в оценке того, как клиенты используют её технологии. 1 Поэтому его ответ не означает, что компания объявила о реальном прекращении поставок или ввела официальную процедуру наказания клиентов. В опубликованном сообщении не указано, что именно будет считаться «небезопасным» ИИ.
1
10
Хуанг предлагает решать вопросы безопасности инженерными методами
Хуанг считает, что нынешний уровень тревоги по поводу ИИ неоправдан. Вместо замедления разработки он выступает за ускоренное создание инженерных средств защиты — в частности, систем сдерживания и мониторинга, а также за использование ИИ для контроля за самим ИИ. 1
9
Это позиция Хуанга о том, как следует работать с рисками, а не доказательство того, что каждую ИИ-систему можно контролировать или безопасно внедрять. Такой подход отличается от призывов некоторых руководителей ИИ-компаний замедлить развитие отрасли ради безопасности. 9
17
В конце сентября в Нью-Йорке Хуанг также заявил, что «ИИ не выйдет из-под контроля». Он описывал ИИ как программное обеспечение, которое можно сделать безопаснее с помощью согласования целей, контроля и мониторинга. Эти слова отражают его уверенность в технических мерах защиты, но сами по себе не разрешают более широкий спор о рисках ИИ. 28
Что включает британское обязательство Nvidia
Объявленные Nvidia 250 миллионов долларов — это оценка вычислительных ресурсов, предоставляемых в течение пяти лет, а не денежный грант на такую сумму. В среднем это соответствует 50 миллионам долларов вычислительных ресурсов в год. 3
По заявлению компании, программа будет доступна исследовательскому сообществу Великобритании в целом; часть ресурсов предназначена для проектов BOLD и SOFAIR, а также Имперского колледжа Лондона. Nvidia не представляет всё обязательство как сумму, разделённую только между этими тремя участниками. 3
Практические условия ещё предстоит согласовать: по сообщениям, вычислительные мощности должны предоставлять британские облачные партнёры Nvidia, но выбор провайдеров и коммерческие условия пока не определены. 40 Обещание поддержать исследования соответствует заявленному Хуангом акценту на технических мерах безопасности, но не объясняет, как Nvidia решала бы, что разработка конкретного клиента стала небезопасной.
Studio Global AI
Продолжайте свое исследование
На этой странице есть ответ, подтвержденный источником, который вы можете продолжить внутри Studio Global.
Люди также спрашивают
Каков краткий ответ на вопрос «Хуанг допустил остановку поставок чипов разработчикам небезопасного ИИ — но назвал это гипотетическим сценарием»?
Хуанг допустил, что Nvidia может прекратить поставлять чипы разработчику небезопасного ИИ, но назвал это гипотетическим сценарием и не обозначил критерии такого решения.
Какие ключевые моменты необходимо проверить в первую очередь?
Хуанг допустил, что Nvidia может прекратить поставлять чипы разработчику небезопасного ИИ, но назвал это гипотетическим сценарием и не обозначил критерии такого решения. По словам главы Nvidia, прежде чем остановить поставки, компания поговорила бы с клиентом.
Что мне делать дальше на практике?
Хуанг считает, что риски ИИ следует снижать инженерными мерами, а не замедлением разработки.
Источники
bloomberg.comNvidia CEO Says He Would Cut Off Customers Who Build ...
investor.nvidia.cominvestor.nvidia.com · news · press-release-detailsNVIDIA Corporation - NVIDIA Commits $250 Million to Advance ...
startupfortune.comJensen Huang says AI doomers should quit and chip cutoffs are real - Startup Fortune
thenextweb.comNvidia's Jensen Huang says he would cut off customers ...