AnswersPublished25 sources
Andrew Ng tyrmää tekoälyn sukupuuttouhat – turvallisuustyö pitäisi kohdistaa todellisiin riskeihin
Andrew Ng sanoi Bloomberg TV:ssä 17. syyskuuta, että varoitukset tekoälyn aiheuttamasta ihmiskunnan sukupuutosta ovat ”paljon enemmän tieteisfiktiota kuin tiedettä”.
JulkaisijaMuokattu mallilla GPT-5.6 TerraKuvat luotu mallilla GPT Image 2
Research answer
Key takeaways
- Andrew Ng sanoi Bloomberg TV:ssä 17. syyskuuta, että varoitukset tekoälyn aiheuttamasta ihmiskunnan sukupuutosta ovat ”paljon enemmän tieteisfiktiota kuin tiedettä”.
- Ng ei pidä tekoälyä vaarattomana, vaan haluaa painottaa testejä, suojauksia ja käytännönläheistä turvallisuusinsinööriyttä – erityisesti kyberturvariskien torjuntaa.
- Dario Amodei, Sam Altman, Jacob Coxon ja Geoffrey Hinton kannattavat kehittyneimpien AI mallien kehityksen tahdittamista, kun taas Ng vastustaa yleistä hidastamista eri perustein kuin sääntelyn vastustajat.
AI Prompt
openai.comCreate a landscape editorial hero image for this Studio Global article: What did AI pioneer Andrew Ng say in his September 17 Bloomberg TV interview about warnings that artificial intelligence could cause human e. Article summary: Andrew Ng rejected the claim that AI is likely to cause human extinction as “much more science fiction than science.” He argued that uncertainty in AI behavior is an engineering problem to manage—not evidence that societ. Topic tags: general, news, general web. Style: premium digital editorial illustration, source-backed research mood, clean composition, high detail, modern web publication hero. Use reference image context only for broad subject, composition, and topical grounding; do not copy the exact image. Avoid: logos, brand marks, copyrighted characters, real person likenesses, fake screenshots, UI text, readable text, watermarks, charts with fake numbers
Andrew Ngin viesti ei ollut, että tekoäly olisi riskitöntä. Hänen mukaansa väitteet ihmiskunnan välittömästä sukupuutosta ovat kuitenkin liian spekulatiivisia ohjaamaan koko tekoälypolitiikkaa. Google Brainin perustajiin kuuluva Ng sanoi Bloomberg TV:n haastattelussa 17. syyskuuta, että tällaiset varoitukset ovat ”paljon enemmän tieteisfiktiota kuin tiedettä”. Hänen mielestään AI-turvallisuutta pitäisi tehdä insinöörityönä: järjestelmiä testataan, niihin rakennetaan suojauksia ja niitä parannetaan kokemuksen karttuessa. 2
Ennustamattomuus ei Ngin mukaan tarkoita kehityksen pysäyttämistä
Ng myönsi, etteivät tekoälyjärjestelmät tule koskaan olemaan täysin ennustettavia. Siitä ei hänen mielestään kuitenkaan seuraa, että niiden kehitys pitäisi laajasti keskeyttää. Testaus, suojatoimet ja insinöörityö voivat parantaa turvallisuutta ajan mittaan, hän sanoi. Samalla hän varoitti, että kehityksen yleinen hidastaminen voisi hidastaa myös turvallisuustyön edistymistä. 2
Ngin lähtökohta poikkeaa näkemyksestä, jonka mukaan yhä kyvykkäämmät järjestelmät voivat pian karata ihmisten hallinnasta. Hänen mielestään turvallisuustyö kannattaa aloittaa havaittavista ja tutkittavista virhetilanteista, ei hypoteettisista sukupuuttoskenaarioista.
Miksi hän kyseenalaistaa tuomiopäiväpuheen
Ng arvioi, että eksistentiaalista AI-riskiä koskevat varoitukset voivat haitata teknologian yhteiskunnallisten hyötyjen saavuttamista. Hän sanoi myös teknologia-alan ruokkineen AI-buumin aiemmassa vaiheessa pelkoja katastrofaalisista haitoista saadakseen näkyvyyttä ja vaikuttaakseen sääntelyyn. 1
Kyse on siis myös kannustimista: dramaattiset väitteet herättävät huomiota, ja sääntelyratkaisut vaikuttavat siihen, kenelle vaatimusten noudattamisen kustannukset lankeavat. Ng ei esittänyt turvallisuustyön lopettamista. Hän vastusti sitä, että sukupuuttoväitteitä pidettäisiin vakiintuneena tietona tai perusteena laajalle kehitystauolle.
Käytännön riskeihin tähtäävä turvallisuustyö
Ngin vaihtoehto on konkreettinen riskien vähentäminen. Haastattelua käsitellyt uutisointi nosti painopisteiksi kyberturvallisuuden ja muut käytännön suojaukset. 5
Tällainen lähestymistapa tarkoittaa esimerkiksi:
- Tiukkaa testausta ennen käyttöönottoa ja sen aikana.
- Suojauksia ja rajoitteita, joilla tunnettuja virhetilanteita ehkäistään.
- Jatkuvaa kehittämistä, kun uusia ongelmia havaitaan.
- Ennakoitavien haittojen huomioimista, kuten kyberriskien torjuntaa, sen sijaan että politiikan huomio keskitetään sukupuuttoskenaarioihin.
2
5
Malli ei lupaa täydellistä hallintaa. Sen ajatus on, että hyödyllisestä teknologiasta voidaan tehdä riittävän luotettavaa jatkuvalla arvioinnilla ja parantamisella, kuten muillakin insinöörialoilla.
Missä Ng eroaa kehityksen hidastamista kannattavista
Useat tunnetut AI-vaikuttajat ovat Ngin kanssa yhtä mieltä siitä, että turvallisuuteen tarvitaan enemmän huomiota. He päätyvät kuitenkin paljon jyrkempään johtopäätökseen kehittyneimpien mallien kehitysvauhdista.
Jacob Coxon: riskiarvio on paljon synkempi
Entinen Anthropicin ja OpenAI:n tutkija Jacob Coxon erosi Anthropicista ja varoitti, että nopea eteneminen kohti itseään parantavia järjestelmiä voi olla katastrofaalista. Hänen mukaansa kehitystä on hidastettava, ja hän suhtautui myöhemmin myönteisesti Anthropicin ehdotukseen tahdittaa kehitystä. 33
43
Dario Amodei: kehitysvauhtia pitäisi säädellä, jotta suojauksille jää aikaa
Anthropicin toimitusjohtaja Dario Amodei kehotti yrityksiä hidastamaan sitä vauhtia, jolla ne kasvattavat AI-mallien kyvykkyyksiä. Hänen tavoitteensa on saada lisäaikaa riskien hallintaan, myös mallien riippumattoman arvioinnin avulla. 18
Sam Altman: tuki kehittyneimmän AI-kehityksen tahdittamiselle
OpenAI:n toimitusjohtaja Sam Altman tuki Amodein ehdotuksen perusajatusta. Hän sitoutui myös yhteen ehdotetuista suojatoimista: ulkopuolisille arvioijille annetaan merkityksellinen pääsy turvallisuuskäytäntöjen arviointiin. 19
24
Geoffrey Hinton: huoli hallinnan menettämisestä
Geoffrey Hinton on sanonut, että tekoälyn karkaamisessa ihmisen hallinnasta on ”merkittävä riski”. Hän tukee kehityksen hidastamista ja esimerkiksi julkaisua edeltävää testausta, koska hänen mukaansa hallitukset ovat liikkuneet liian hitaasti. 20
Käytännön erimielisyys koskee siis sekä todennäköisyyttä että politiikkaa. Coxon, Amodei, Altman ja Hinton pitävät hallinnan menettämisen riskiä niin uskottavana, että kaikkein edistyneimpien järjestelmien kehitysvauhtia olisi tietoisesti säädeltävä. Ng taas pitää sukupuuttoväitteitä heikosti perusteltuina ja haluaa kohdistaa turvallisuustyön konkreettisiin, ratkottaviin ongelmiin. 2
18
20
Sama johtopäätös, eri perustelut
Ngin vastustus yleistä hidastamista kohtaan ei tarkoita, että hänen perustelunsa olisivat samat kuin poliitikoilla ja yritysjohtajilla, jotka myös vastustavat sitä.
- Jensen Huang: Nvidian toimitusjohtajan mukaan ala ei tarvitse uusia lakeja tai sääntelyä.
53
- Mark Zuckerberg: Metan toimitusjohtajan mukaan koko toimialan kattava hidastaminen ei ole tarpeen, sillä kilpailu ja markkinakannustimet ohjaavat yrityksiä tekemään malleistaan turvallisia.
55
- Presidentti Donald Trump: Trump kutsui hallitsemattomaan tekoälyyn liittyviä pelkoja ”huijaukseksi” ja sanoi Yhdysvalloilla olevan jo keinot säännellä ja asettaa AI-yrityksiä vastuuseen.
49
50
- Kiinan viranomaiset: Kiinan ulkoministeriön edustaja vastusti vaatimuksia hidastaa kehittyneimmän tekoälyn kehitystä.
Johtopäätös laajaa kehitystaukoa vastaan on samansuuntainen, mutta perustelut poikkeavat toisistaan. Ngin argumentti on ensisijaisesti tekninen: mitattavat haitat on tunnistettava ja hallintakeinoja parannettava. Huang, Zuckerberg, Trump ja Kiinan edustajat ovat korostaneet eri painotuksin uusien rajoitteiden vastustamista, markkinakannustimia, kilpailua ja kansallista strategiaa. 2
50
52
53
55
Kyberriskistä löytyy rajattu yhteinen näkemys
Keskustelu ei jakaudu yksinkertaisesti turvallisuudesta välittäviin ja välinpitämättömiin. Esimerkiksi Cohere-yhtiön toimitusjohtaja Aidan Gomez sanoi AI-mallien muuttuneen erittäin tehokkaiksi kyberaseiksi, koska ne voivat löytää ja hyödyntää haavoittuvuuksia laajassa mittakaavassa. 62 Tämä huoli on lähellä Ngin vaatimusta puuttua konkreettisiin kyberturvariskeihin, vaikka saatavilla oleva raportointi ei riitä määrittämään Gomezin kokonaiskantaa toimialan laajuiseen hidastamiseen tai kansainväliseen AI-hallintaan.
Saatavilla olevat lähteet eivät myöskään riitä kuvaamaan sijoittaja Steve Eismanin kantaa kehityksen hidastamiseen, turvallisuustutkimukseen, sääntelyyn ja kansainväliseen hallintaan.
Olennaisin johtopäätös
Ng muotoilee AI-turvallisuuskeskustelun uudelleen: kysymys ei ole siitä, pitäisikö tekoälystä tehdä turvallisempaa, vaan siitä, pitäisikö spekulatiivisten sukupuuttoskenaarioiden määrittää koko agenda. Hänen vastauksensa on ei. Etusijalle pitäisi asettaa testaus, suojaukset ja nykyisiin, tunnistettaviin haittoihin kohdistuva insinöörityö – eikä yleinen hidastaminen, jonka hän arvioi voivan jarruttaa sekä innovointia että turvallisuuden kehitystä. 1
2
Studio Global AI
Continue your research
This page includes a source-backed answer you can continue inside Studio Global.
People also ask
What is the short answer to "Andrew Ng tyrmää tekoälyn sukupuuttouhat – turvallisuustyö pitäisi kohdistaa todellisiin riskeihin"?
Andrew Ng sanoi Bloomberg TV:ssä 17. syyskuuta, että varoitukset tekoälyn aiheuttamasta ihmiskunnan sukupuutosta ovat ”paljon enemmän tieteisfiktiota kuin tiedettä”.
What are the key points to validate first?
Andrew Ng sanoi Bloomberg TV:ssä 17. syyskuuta, että varoitukset tekoälyn aiheuttamasta ihmiskunnan sukupuutosta ovat ”paljon enemmän tieteisfiktiota kuin tiedettä”. Ng ei pidä tekoälyä vaarattomana, vaan haluaa painottaa testejä, suojauksia ja käytännönläheistä turvallisuusinsinööriyttä – erityisesti kyberturvariskien torjuntaa.
What should I do next in practice?
Dario Amodei, Sam Altman, Jacob Coxon ja Geoffrey Hinton kannattavat kehittyneimpien AI mallien kehityksen tahdittamista, kun taas Ng vastustaa yleistä hidastamista eri perustein kuin sääntelyn vastustajat.