AnswersPublished22 sources
Andrew Ng: wizje wyginięcia ludzkości przez AI są „więcej science fiction niż nauką”
Andrew Ng ocenił, że tezy o zagładzie ludzkości spowodowanej przez AI są „znacznie bardziej science fiction niż nauką”. Jego zdaniem nieprzewidywalność modeli jest problemem inżynieryjnym, który należy ograniczać testami, zabezpieczeniami i stopniowym doskonaleniem systemów.
Opublikowane przezObrazy wygenerowane za pomocą GPT Image 2
Research answer
Key takeaways
- Andrew Ng ocenił, że tezy o zagładzie ludzkości spowodowanej przez AI są „znacznie bardziej science fiction niż nauką”.
- Jego zdaniem nieprzewidywalność modeli jest problemem inżynieryjnym, który należy ograniczać testami, zabezpieczeniami i stopniowym doskonaleniem systemów.
- Ng ostrzegł, że katastroficzna retoryka może odciągać uwagę od społecznych korzyści AI, a także służyć rozgłosowi i kształtowaniu regulacji.
- W sporze o tempo rozwoju AI różni się od Dario Amodeiego, Sama Altmana, Geoffreya Hintona i Jacoba Coxona przede wszystkim oceną prawdopodobieństwa utraty kontroli nad systemami.
AI Prompt
openai.comCreate a landscape editorial hero image for this Studio Global article: What did AI pioneer Andrew Ng say in his September 17 Bloomberg TV interview about warnings that artificial intelligence could cause human e. Article summary: Andrew Ng rejected the claim that AI is likely to cause human extinction as “much more science fiction than science.” He argued that uncertainty in AI behavior is an engineering problem to manage—not evidence that societ. Topic tags: general web, ai safety, openai, ai, security. Style: premium digital editorial illustration, source-backed research mood, clean composition, high detail, modern web publication hero. Use reference image context only for broad subject, composition, and topical grounding; do not copy the exact image. Avoid: logos, brand marks, copyrighted characters, real person likenesses, fake screenshots, UI text, readable text, watermarks, charts
Andrew Ng odrzucił twierdzenie, że sztuczna inteligencja prawdopodobnie doprowadzi do wyginięcia ludzkości. W wywiadzie dla Bloomberg TV z 17 września nazwał te obawy czymś „znacznie bardziej science fiction niż nauką”. 10
Jego zasadniczy argument nie brzmi jednak: „bezpieczeństwo nie ma znaczenia”. Ng podkreśla, że systemy AI nigdy nie będą całkowicie przewidywalne, lecz jest to problem inżynieryjny, który można ograniczać przez testy, zabezpieczenia i iteracyjne ulepszanie technologii. 10
Dlaczego krytykuje katastroficzną narrację
Ng stwierdził, że ostrzeżenia o egzystencjalnym zagrożeniu ze strony AI mogą szkodzić wykorzystaniu pełnego potencjału tej technologii dla społeczeństwa. Zwrócił też uwagę, że już wcześniej, w czasie rozwoju branży AI, obawy przed katastrofalnymi skutkami technologii były podsycane — jego zdaniem najwyraźniej po to, by zyskać rozgłos i wpływać na kształt regulacji. 8
To nie jest więc postulat ignorowania ryzyka. Ng sprzeciwia się raczej temu, by niepewność dotycząca działania modeli traktować jako wystarczający powód do szerokiego wstrzymania rozwoju AI. Ostrzega ponadto, że ogólne spowolnienie rozwoju może równocześnie spowolnić postęp w dziedzinie bezpieczeństwa. 10
Co stawia na pierwszym miejscu
Według Nga priorytetem powinno być wykrywanie i ograniczanie konkretnych, przewidywalnych zagrożeń — w tym problemów z cyberbezpieczeństwem — za pomocą rzetelnych ocen, mechanizmów ochronnych i praktyk inżynieryjnych. 10
W takim podejściu bezpieczeństwo nie polega na obietnicy idealnej kontroli nad każdym zachowaniem modelu. Chodzi o doprowadzenie systemów do poziomu niezawodności, który można praktycznie sprawdzać, mierzyć i poprawiać. 10
Na tle zwolenników spowolnienia
Stanowisko Nga wyraźnie odbiega od poglądów części badaczy i szefów firm rozwijających najbardziej zaawansowane modele, nazywane w branży modelami „frontier”, czyli systemami z technologicznej czołówki.
- Jacob Coxon, były badacz OpenAI i Anthropic, po odejściu z Anthropic ostrzegł, że szybki i niewystarczająco kontrolowany postęp — szczególnie w kierunku systemów zdolnych do samodoskonalenia — może grozić katastrofą. Wezwał do spowolnienia tempa prac.
2
14
- Dario Amodei, prezes Anthropic, zaproponował wolniejsze zwiększanie możliwości modeli, aby zyskać czas na zarządzanie ryzykiem. Jego plan obejmuje m.in. silniejsze niezależne oceny zaawansowanych systemów.
3
- Sam Altman, prezes OpenAI, poparł podstawową ideę spowolnienia i dodatkowych zabezpieczeń w obliczu obaw, że branża może zbliżać się do systemów, nad którymi ludzie nie będą w stanie zapanować.
1
9
- Geoffrey Hinton uważa, że istnieje istotne ryzyko wymknięcia się AI spod ludzkiej kontroli. Popiera wolniejsze tempo prac oraz środki takie jak testy przed udostępnieniem nowych chatbotów.
16
Różnica dotyczy przede wszystkim oceny prawdopodobieństwa i akcentów w polityce publicznej. Coxon, Amodei, Altman i Hinton uznają ryzyko utraty kontroli za na tyle wiarygodne, by świadomie ograniczać tempo rozwoju najpotężniejszych modeli. Ng uważa scenariusze wyginięcia ludzkości za spekulatywne i stawia na rozwiązywanie bliższych, obserwowalnych problemów metodami inżynieryjnymi. 3
10
16
Kto także nie chce ogólnego hamowania AI
Wniosek Nga, że nie należy wprowadzać powszechnej pauzy w rozwoju AI, zbliża go do części przedstawicieli biznesu i polityki — choć ich uzasadnienia są inne.
- Jensen Huang, prezes Nvidii, sprzeciwiał się nowym przepisom skierowanym konkretnie do branży AI i odrzucał argumenty za szerokim spowolnieniem.
5
17
- Mark Zuckerberg, prezes Mety, sprzeciwiał się ogólnobranżowej pauzie, argumentując, że konkurencja i bodźce rynkowe skłonią firmy do dbania o bezpieczeństwo modeli.
- Prezydent Donald Trump odrzucił apele o spowolnienie, nazwał ostrzeżenia o zagrożeniach AI „mistyfikacją” i przekonywał, że USA mają już narzędzia do regulowania branży oraz ścigania nadużyć. Akcentował przy tym konkurencyjność Stanów Zjednoczonych, zwłaszcza wobec Chin.
- Przedstawiciel chińskiego MSZ również odrzucił wezwania do spowolnienia rozwoju zaawansowanej AI.
Ng nie opiera jednak swojej argumentacji głównie na wyścigu gospodarczym czy geopolitycznej rywalizacji. Jego stanowisko ma charakter techniczny: zamiast budować politykę wokół apokaliptycznych przewidywań, należy systematycznie ograniczać namacalne awarie i nadużycia AI. 10
W dostępnych materiałach brak wystarczających podstaw, by rzetelnie przypisać Aidanowi Gomezowi lub Steve’owi Eismanowi konkretne stanowiska we wszystkich kwestiach: spowolnienia rozwoju AI, badań nad bezpieczeństwem, regulacji i międzynarodowego zarządzania tą technologią.
Studio Global AI
Continue your research
This page includes a source-backed answer you can continue inside Studio Global.
People also ask
What is the short answer to "Andrew Ng: wizje wyginięcia ludzkości przez AI są „więcej science fiction niż nauką”"?
Andrew Ng ocenił, że tezy o zagładzie ludzkości spowodowanej przez AI są „znacznie bardziej science fiction niż nauką”.
What are the key points to validate first?
Andrew Ng ocenił, że tezy o zagładzie ludzkości spowodowanej przez AI są „znacznie bardziej science fiction niż nauką”. Jego zdaniem nieprzewidywalność modeli jest problemem inżynieryjnym, który należy ograniczać testami, zabezpieczeniami i stopniowym doskonaleniem systemów.
What should I do next in practice?
Ng ostrzegł, że katastroficzna retoryka może odciągać uwagę od społecznych korzyści AI, a także służyć rozgłosowi i kształtowaniu regulacji.
Sources