AnswersPublished22 sources
Andrew Ng tyrmää AI:n sukupuuttouhat: ”Enemmän scifiä kuin tiedettä”
Andrew Ng kutsui väitteitä tekoälyn todennäköisesti aiheuttamasta ihmiskunnan sukupuutosta ”paljon enemmän tieteisfiktioksi kuin tieteeksi”. Ng:n mukaan tekoälyn epävarmuus on hallittava suunnittelun, testauksen ja suojatoimien avulla – ei pysäyttämällä kehitystä laajasti.
JulkaisijaKuvat luotu mallilla GPT Image 2
Research answer
Key takeaways
- Andrew Ng kutsui väitteitä tekoälyn todennäköisesti aiheuttamasta ihmiskunnan sukupuutosta ”paljon enemmän tieteisfiktioksi kuin tieteeksi”.
- Ng:n mukaan tekoälyn epävarmuus on hallittava suunnittelun, testauksen ja suojatoimien avulla – ei pysäyttämällä kehitystä laajasti.
- Hän varoitti, että tuomiopäiväpuhe voi viedä huomiota teknologian hyödyiltä ja tukea sääntelyä, joka suosii suuria, hyvin rahoitettuja toimijoita.
- Dario Amodei, Sam Altman, Jacob Coxon ja Geoffrey Hinton pitävät etenkin hallinnan menettämisen riskiä niin vakavana, että huippumallien kehitysvauhtia pitäisi tietoisesti hidastaa.
AI Prompt
openai.comCreate a landscape editorial hero image for this Studio Global article: What did AI pioneer Andrew Ng say in his September 17 Bloomberg TV interview about warnings that artificial intelligence could cause human e. Article summary: Andrew Ng rejected the claim that AI is likely to cause human extinction as “much more science fiction than science.” He argued that uncertainty in AI behavior is an engineering problem to manage—not evidence that societ. Topic tags: general web, ai safety, openai, ai, security. Style: premium digital editorial illustration, source-backed research mood, clean composition, high detail, modern web publication hero. Use reference image context only for broad subject, composition, and topical grounding; do not copy the exact image. Avoid: logos, brand marks, copyrighted characters, real person likenesses, fake screenshots, UI text, readable text, watermarks, charts
Andrew Ng torjui Bloomberg TV:n 17. syyskuuta julkaistussa haastattelussa ajatuksen siitä, että tekoäly todennäköisesti johtaisi ihmiskunnan sukupuuttoon. Hänen mukaansa pelot ovat ”paljon enemmän tieteisfiktiota kuin tiedettä”. Tekoälyjärjestelmät eivät hänen mielestään koskaan ole täysin ennustettavia, mutta se ei ole peruste pysäyttää kehitystä laajasti: kyse on insinöörihaasteesta, jota voidaan vähitellen hallita testauksella, suojauksilla ja muilla teknisillä käytännöillä. 10
Miksi Ng suhtautuu tuomiopäiväpuheeseen epäillen?
Ng:n mukaan eksistentiaalisiin riskeihin keskittyvä puhe voi kääntää huomion pois niistä yhteiskunnallisista hyödyistä, joita tekoälystä voidaan saada. Hän viittasi myös siihen, että teknologia-alalla katastrofivaroitukset voivat aiempien teknologiabuumien tavoin tuoda julkisuutta ja auttaa muovaamaan sääntelyä. 8
10
Tähän liittyy hänen huolensa sääntelyn kilpailuvaikutuksista: jos säännöt kohdistuvat ennen kaikkea kaikkein suurimpiin, niin sanottuihin frontier-malleihin eli suorituskyvyltään alan kärjessä oleviin malleihin, vaatimusten noudattaminen voi suosia varakkaita vakiintuneita laboratorioita. Niillä on muita paremmat resurssit kantaa auditointien ja muiden velvoitteiden kustannukset. 8
10
Ng ei silti kehota sivuuttamaan turvallisuutta. Hän painottaa konkreettisten ja ennakoitavien haittojen – erityisesti kyberturvallisuusriskien – tiukkaa testausta, suojamekanismeja ja huolellista suunnittelua. Hänen näkemyksensä mukaan tekoälyä ei tarvitse tehdä täydellisen ennustettavaksi, jotta siitä voidaan tehdä riittävän luotettavaa käytännön käyttöön. 10
Ero hidastamista kannattavaan leiriin
Ng:n linja poikkeaa selvästi niistä tutkijoista ja yritysjohtajista, jotka katsovat kehitysvauhdin kasvattavan vakavasti hallinnan menettämisen riskiä.
- Jacob Coxon, entinen OpenAI:n ja Anthropicin tutkija, erosi Anthropicista. Hän varoitti, että nopeasti etenevä ja riittämättömästi hallittu kehitys – etenkin itseään parantavia järjestelmiä kohti – voi johtaa katastrofiin. Coxon vaati kehityksen hidastamista.
2
14
- Dario Amodei, Anthropicin toimitusjohtaja, ehdotti huippumallien kyvykkyyksien kehitysvauhdin hidastamista, jotta riskienhallinnalle jäisi aikaa. Hänen kolmiportainen mallinsa sisältää muun muassa kehittyneiden mallien riippumattomampaa arviointia.
3
- Sam Altman, OpenAI:n toimitusjohtaja, on yhtynyt perusajatukseen kehitysvauhdin hillitsemisestä ja suojatoimista, koska ala voi hänen ja muiden huolestuneiden mukaan lähestyä järjestelmiä, joita ihmiset eivät pysty hallitsemaan.
1
9
- Geoffrey Hinton pitää niin ikään merkittävänä riskiä, että tekoäly karkaa ihmisen hallinnasta. Hän kannattaa hitaampaa kehitystä sekä esimerkiksi ennen julkaisua tehtäviä testejä.
16
Keskeinen ero koskee siis riskiarviota ja politiikan painopistettä. Coxon, Amodei, Altman ja Hinton pitävät hallinnan menettämistä riittävän uskottavana uhkana, jotta edistyneimpien mallien kehitystä pitäisi tahdistaa tietoisesti. Ng puolestaan pitää sukupuuttoennusteita spekulatiivisina ja haluaa kohdentaa turvallisuustyön lähempänä oleviin, havaittaviin ongelmiin. 3
10
16
Hidastamista vastustavat: samankaltainen johtopäätös, eri perustelut
Ng vastustaa koko toimialaa koskevaa jarrutusta, mutta hänen perustelunsa eivät ole samat kuin kilpailua ja sääntelyn vähentämistä korostavilla toimijoilla.
- Jensen Huang, Nvidian toimitusjohtaja, on vastustanut uusia tekoälylle erikseen säädettyjä lakeja ja laajaa hidastamista.
5
- Mark Zuckerberg, Metan toimitusjohtaja, on vastustanut toimialan yhteistä taukoa ja katsonut kilpailun kannustavan yrityksiä turvallisiin malleihin.
- Presidentti Donald Trump torjui hidastusvaatimukset, kutsui tekoälyyn liittyviä vaaraväitteitä ”huijaukseksi” ja katsoi Yhdysvalloilla jo olevan keinot säädellä alaa tai puuttua väärinkäytöksiin. Hän korosti myös Yhdysvaltain kilpailukykyä, erityisesti suhteessa Kiinaan.
- Kiinan ulkoministeriön edustaja on puolestaan vastustanut kehotuksia hidastaa frontier-tekoälyn kehitystä, mikä kuvastaa vastahakoisuutta ulkoapäin asetettuun maailmanlaajuiseen taukoon.
Ng:n kanta osuu lopputulokseltaan lähelle tätä ryhmää: hän ei kannata yleistä hidastamista. Hänen lähtökohtansa on kuitenkin ennen kaikkea tekninen. Hän haluaa ratkaista konkreettisia epäonnistumisia turvallisuussuunnittelulla, kun taas Huang, Zuckerberg, Trump ja Kiinan edustajat painottavat enemmän innovointia, kilpailua ja epäilyä uusia rajoituksia kohtaan. 5
7
10
11
Saatavilla olevien lähteiden perusteella ei ole riittävästi näyttöä, jotta Aidan Gomezin tai Steve Eismanin tarkat kannat yleiseen hidastamiseen, turvallisuustutkimukseen, sääntelyyn ja kansainväliseen hallintaan voitaisiin kuvata luotettavasti.
Studio Global AI
Continue your research
This page includes a source-backed answer you can continue inside Studio Global.
People also ask
What is the short answer to "Andrew Ng tyrmää AI:n sukupuuttouhat: ”Enemmän scifiä kuin tiedettä”"?
Andrew Ng kutsui väitteitä tekoälyn todennäköisesti aiheuttamasta ihmiskunnan sukupuutosta ”paljon enemmän tieteisfiktioksi kuin tieteeksi”.
What are the key points to validate first?
Andrew Ng kutsui väitteitä tekoälyn todennäköisesti aiheuttamasta ihmiskunnan sukupuutosta ”paljon enemmän tieteisfiktioksi kuin tieteeksi”. Ng:n mukaan tekoälyn epävarmuus on hallittava suunnittelun, testauksen ja suojatoimien avulla – ei pysäyttämällä kehitystä laajasti.
What should I do next in practice?
Hän varoitti, että tuomiopäiväpuhe voi viedä huomiota teknologian hyödyiltä ja tukea sääntelyä, joka suosii suuria, hyvin rahoitettuja toimijoita.
Sources