Ehdotuksen tekninen kynnys liittyy rekursiiviseen itsensä kehittämiseen. Tällä tarkoitetaan tilannetta, jossa tekoäly pystyy itsenäisesti suunnittelemaan, rakentamaan ja kouluttamaan aiempaa kyvykkäämpiä seuraajiaan ilman merkittävää ihmisen ohjausta .

Anthropic korostaa, ettei tätä kynnystä ole vielä ylitetty eikä sen saavuttaminen ole väistämätöntä. Yhtiön mukaan se voi kuitenkin tulla vastaan aiemmin kuin useimmat yhteiskunnalliset instituutiot ovat valmiita käsittelemään .

Huolen ydin on vauhti. Jos järjestelmät pystyvät kehittämään itseään nopeammin kuin hallitukset, tutkijat ja valvontaelimet ehtivät ymmärtää niiden toimintaa tai asettaa niille rajoja, ihmisten mahdollisuus hallita kehitystä voi heikentyä . Anthropic on varoittanut, että täysin rekursiivinen itsensä kehittäminen voisi lisätä riskiä ihmisten kontrollin menettämisestä, koska järjestelmien turvaaminen, valvominen ja käyttäytymisen ohjaaminen vaikeutuisivat niiden rakentaessa omia seuraajiaan .

Yhtiön mukaan yksittäisen laboratorion vapaaehtoinen hidastaminen ei riittäisi. Jos kilpailijat jatkaisivat kehitystä entiseen tahtiin, jarruttava yritys jäisi kaupallisesti alakynteen. Siksi tarvittaisiin yhteiset säännöt, valvonta ja kaikkien merkittävien laboratorioiden osallistuminen .

Anthropicin toimitusjohtaja Dario Amodei on aiemmin arvioinut Redditissä, että rekursiivinen itsensä kehittäminen voisi olla mahdollinen 6–12 kuukauden sisällä . Kyse on hänen henkilökohtaisesta arviostaan, mutta se auttaa selittämään, miksi yhtiö puhuu asiasta kiireisenä eikä kaukaisena teoreettisena riskinä.

OpenAI haluaa kansainvälisen elimen, jolla olisi jarrutusvalta

OpenAI liittyi keskusteluun 9. kesäkuuta. Toimitusjohtaja Sam Altmanin ja päätutkija Jakub Pachockin laatimassa muistiossa ehdotettiin kansainvälistä organisaatiota, joka mahdollistaisi koordinoidut toimet – mukaan lukien frontier-kehityksen hidastamisen, jos se olisi tarpeen .

OpenAI muotoili tavoitteeksi sen, että yhteiskunnan kriisinkestävyys, turvallisuus ja tekoälyn yhteensopivuus ihmisten tavoitteiden kanssa pysyisivät kehityksen tahdissa . Yhtiö arvioi lisäksi, että maaliskuuhun 2028 mennessä tekoälyjärjestelmät voisivat tehdä merkittävän osan omasta tutkimustyöstään ihmistutkijoiden rinnalla .

OpenAI on puhunut myös niin sanotusta demokraattisesta hallinnasta: yhtiön mukaan demokraattisten hallitusten, ei yksittäisten teknologiayritysten, pitäisi määrittää frontier-tekoälyn pelisäännöt . Yhdysvaltoja koskevassa erillisessä suunnitelmassa se ehdotti muun muassa osavaltioiden turvallisuussääntöjen kokoamista kansalliseksi kehykseksi, NISTin yhteydessä toimivan CAISIn aseman vahvistamista sekä laajempaa viranomaisten varautumissuunnitelmaa .

Ehdotus ei tarkoita, että tällainen kansainvälinen valvontaelin olisi jo olemassa. Se on OpenAIn poliittinen aloite. Käytännössä avoinna ovat sekä elimen kokoonpano että se, voisiko sen päätöksillä todella estää uuden mallin julkaisun tai pysäyttää koulutusajon.

Turvallisuuslupaukset ja listautumiskilpa törmäävät toisiinsa

Molempien yhtiöiden viestit saavat uuden sävyn rahoitusmarkkinoiden vuoksi.

• Anthropic jätti Yhdysvaltain arvopaperimarkkinoita valvovalle SEC:lle luottamuksellisen luonnoksen S-1-rekisteröintiasiakirjasta 1. kesäkuuta 2026. Tämä antaa yhtiölle mahdollisuuden listautua myöhemmin SEC:n tarkastuksen jälkeen, mutta osakkeiden määrää, hintaa tai lopullista aikataulua ei ole päätetty . Anthropic oli vain päiviä aiemmin saanut päätökseen 65 miljardin dollarin Series H -rahoituskierroksen, jossa sen arvoksi ilmoitettiin 965 miljardia dollaria .
• OpenAI jätti oman luottamuksellisen S-1-luonnoksensa 22. toukokuuta ja vahvisti asian julkisesti 8. kesäkuuta . Yhtiön maaliskuun 2026 rahoituskierros arvotti sen 852 miljardiin dollariin, ja mahdollisen listautumisen arvoksi on raportoitu yli biljoona dollaria .

Listautumisvalmistelu ei vielä merkitse varmaa pörssidebyyttiä. Molemmat yhtiöt ovat korostaneet, että päätös riippuu muun muassa markkinaolosuhteista ja viranomaiskäsittelystä. Silti ajoitus on huomionarvoinen. Yhtiöt yrittävät yhtä aikaa osoittaa sijoittajille kasvua ja vakuuttaa viranomaiset siitä, että kasvua on tarvittaessa rajoitettava.

Kokonaiskuvaa täydentää SpaceX, jonka kerrottiin jättäneen oman luottamuksellisen listautumisilmoituksensa huhtikuussa. Näin syntyi puhe kolmen jättiyhtiön noin 3 biljoonan dollarin tekoälylistautumiskilvasta .

Mitä yhtiöt oikeastaan pelkäävät?

Rekursiivinen itsensä kehittäminen

Tekoälyjärjestelmä voi jo nyt kirjoittaa koodia, ratkaista ongelmia ja auttaa tutkimuksessa. Rekursiivinen itsensä kehittäminen tarkoittaisi olennaisesti pidemmälle menevää kykyä: järjestelmä parantaisi itsenäisesti omaa koodiaan, rakennettaan tai koulutusmenetelmiään, ja seuraava versio olisi aiempaa kyvykkäämpi.

Anthropic on kertonut, että Claude-järjestelmä kirjoitti jo 80 prosenttia yhtiön omaan koodipohjaan yhdistetystä koodista . Tämä ei itsessään tarkoita, että Claude kehittäisi itsenäisesti uuden sukupolven tekoälyä. Se kuitenkin havainnollistaa, kuinka suuri osa kehitystyöstä voidaan jo antaa tekoälyn tehtäväksi.

OpenAI puolestaan arvioi, että tekoäly voisi tehdä merkittävän osan omasta tutkimuksestaan ihmisten rinnalla maaliskuuhun 2028 mennessä .

Yhteiskunnan hitaus

Toinen huoli koskee niin sanottua yhteiskunnallista tahtia. Lainsäädäntö, viranomaispäätökset, kansainväliset sopimukset ja demokraattinen keskustelu etenevät yleensä paljon hitaammin kuin tekoälymallien kyvykkyydet .

Jos järjestelmät alkavat parantaa itseään ennen kuin valvonta on valmis, päätöksenteolle voi jäädä liian vähän aikaa. OpenAI tiivisti saman ongelman tavoitteeksi pitää yhteiskunnan turvallisuus ja toimintakyky tekoälyn kehityksen vauhdissa .

Yhdysvalloissa on jo valmisteltu mahdollisia ulkoisen valvonnan malleja. Valkoisen talon kerrottiin toukokuussa pohtivan järjestelyä, jossa Anthropic, Google ja OpenAI joutuisivat toimittamaan uudet frontier-mallinsa liittovaltion arviointilautakunnalle ennen julkaisua . Lisäksi NISTin CAISI ilmoitti 5. toukokuuta ohjelmasta, jonka kerrottiin kattavan kaikki suuret yhdysvaltalaiset frontier-tekoälylaboratoriot .

CAISIn testausjärjestelyt eivät kuitenkaan lähteiden mukaan vielä anna viranomaisille valtaa estää mallia pääsemästä markkinoille . Valkoisen talon mahdollinen ennakkotarkastus menisi pidemmälle, mutta suunnitelma ei ollut valmis .

Suurin avoin kysymys: hyväksyvätkö yhtiöt sitovat rajat?

OpenAI ja Anthropic ovat yhtä mieltä siitä, että yksipuolinen hidastaminen olisi ongelmallista. Jos yksi yhtiö pysähtyy ja muut jatkavat, jarruttaja voi menettää markkinaosuutta ja teknologista etumatkaa . Siksi ne puhuvat koordinaatiosta ja ulkoisesta auktoriteetista.

Mutta juuri tähän liittyy ehdotusten vaikein testi. Hyväksyisikö Anthropic sitovan päätöksen, joka estäisi sen oman koulutusajon tai mallijulkaisun, jos yhtiö valmistautuu samalla pörssiin ja sen kasvuodotukset ovat sijoittajien tarkkailussa?

Entä OpenAI? Yhtiö laajentaa yrityksille suunnattuja palvelujaan, kuten Frontier-agenttipalvelua, ja kehittää valikoituun käyttöön perustuvia malleja kyberturvallisuuteen . Sen listautumisvalmistelut lisäävät painetta osoittaa jatkuvaa kaupallista kasvua. Sitova hidastus voisi tarkoittaa markkinaosuuden luovuttamista kilpailijoille ja sijoittajien odotusten pettämistä.

Kesäkuun linjapuheenvuorot muuttivat keskustelun sävyä. Kaksi maailman arvokkaimpiin kuuluvaa tekoäly-yhtiötä sanoi julkisesti, että kehityksen hidastaminen voi olla tarpeen ja että ulkopuolisella auktoriteetilla pitäisi olla siinä rooli.

Vielä ei kuitenkaan ole näyttöä siitä, että kumpikaan yhtiö olisi luovuttanut päätösvallan viranomaisille tai kansainväliselle elimelle. Seuraavat kuukaudet näyttävät, muuttuuko turvallisuuspuhe aidosti sitovaksi hallinnoksi – vai jääkö se vain uudeksi politiikkakerrokseksi kiihtyvän kaupallisen kilpailun päälle.

Ehdotuksen tekninen kynnys liittyy rekursiiviseen itsensä kehittämiseen. Tällä tarkoitetaan tilannetta, jossa tekoäly pystyy itsenäisesti suunnittelemaan, rakentamaan ja kouluttamaan aiempaa kyvykkäämpiä seuraajiaan ilman merkittävää ihmisen ohjausta .

Anthropic korostaa, ettei tätä kynnystä ole vielä ylitetty eikä sen saavuttaminen ole väistämätöntä. Yhtiön mukaan se voi kuitenkin tulla vastaan aiemmin kuin useimmat yhteiskunnalliset instituutiot ovat valmiita käsittelemään .

Huolen ydin on vauhti. Jos järjestelmät pystyvät kehittämään itseään nopeammin kuin hallitukset, tutkijat ja valvontaelimet ehtivät ymmärtää niiden toimintaa tai asettaa niille rajoja, ihmisten mahdollisuus hallita kehitystä voi heikentyä . Anthropic on varoittanut, että täysin rekursiivinen itsensä kehittäminen voisi lisätä riskiä ihmisten kontrollin menettämisestä, koska järjestelmien turvaaminen, valvominen ja käyttäytymisen ohjaaminen vaikeutuisivat niiden rakentaessa omia seuraajiaan .

Yhtiön mukaan yksittäisen laboratorion vapaaehtoinen hidastaminen ei riittäisi. Jos kilpailijat jatkaisivat kehitystä entiseen tahtiin, jarruttava yritys jäisi kaupallisesti alakynteen. Siksi tarvittaisiin yhteiset säännöt, valvonta ja kaikkien merkittävien laboratorioiden osallistuminen .

Anthropicin toimitusjohtaja Dario Amodei on aiemmin arvioinut Redditissä, että rekursiivinen itsensä kehittäminen voisi olla mahdollinen 6–12 kuukauden sisällä . Kyse on hänen henkilökohtaisesta arviostaan, mutta se auttaa selittämään, miksi yhtiö puhuu asiasta kiireisenä eikä kaukaisena teoreettisena riskinä.

OpenAI haluaa kansainvälisen elimen, jolla olisi jarrutusvalta

OpenAI liittyi keskusteluun 9. kesäkuuta. Toimitusjohtaja Sam Altmanin ja päätutkija Jakub Pachockin laatimassa muistiossa ehdotettiin kansainvälistä organisaatiota, joka mahdollistaisi koordinoidut toimet – mukaan lukien frontier-kehityksen hidastamisen, jos se olisi tarpeen .

OpenAI muotoili tavoitteeksi sen, että yhteiskunnan kriisinkestävyys, turvallisuus ja tekoälyn yhteensopivuus ihmisten tavoitteiden kanssa pysyisivät kehityksen tahdissa . Yhtiö arvioi lisäksi, että maaliskuuhun 2028 mennessä tekoälyjärjestelmät voisivat tehdä merkittävän osan omasta tutkimustyöstään ihmistutkijoiden rinnalla .

OpenAI on puhunut myös niin sanotusta demokraattisesta hallinnasta: yhtiön mukaan demokraattisten hallitusten, ei yksittäisten teknologiayritysten, pitäisi määrittää frontier-tekoälyn pelisäännöt . Yhdysvaltoja koskevassa erillisessä suunnitelmassa se ehdotti muun muassa osavaltioiden turvallisuussääntöjen kokoamista kansalliseksi kehykseksi, NISTin yhteydessä toimivan CAISIn aseman vahvistamista sekä laajempaa viranomaisten varautumissuunnitelmaa .

Ehdotus ei tarkoita, että tällainen kansainvälinen valvontaelin olisi jo olemassa. Se on OpenAIn poliittinen aloite. Käytännössä avoinna ovat sekä elimen kokoonpano että se, voisiko sen päätöksillä todella estää uuden mallin julkaisun tai pysäyttää koulutusajon.

Turvallisuuslupaukset ja listautumiskilpa törmäävät toisiinsa

Molempien yhtiöiden viestit saavat uuden sävyn rahoitusmarkkinoiden vuoksi.

• Anthropic jätti Yhdysvaltain arvopaperimarkkinoita valvovalle SEC:lle luottamuksellisen luonnoksen S-1-rekisteröintiasiakirjasta 1. kesäkuuta 2026. Tämä antaa yhtiölle mahdollisuuden listautua myöhemmin SEC:n tarkastuksen jälkeen, mutta osakkeiden määrää, hintaa tai lopullista aikataulua ei ole päätetty . Anthropic oli vain päiviä aiemmin saanut päätökseen 65 miljardin dollarin Series H -rahoituskierroksen, jossa sen arvoksi ilmoitettiin 965 miljardia dollaria .
• OpenAI jätti oman luottamuksellisen S-1-luonnoksensa 22. toukokuuta ja vahvisti asian julkisesti 8. kesäkuuta . Yhtiön maaliskuun 2026 rahoituskierros arvotti sen 852 miljardiin dollariin, ja mahdollisen listautumisen arvoksi on raportoitu yli biljoona dollaria .

Listautumisvalmistelu ei vielä merkitse varmaa pörssidebyyttiä. Molemmat yhtiöt ovat korostaneet, että päätös riippuu muun muassa markkinaolosuhteista ja viranomaiskäsittelystä. Silti ajoitus on huomionarvoinen. Yhtiöt yrittävät yhtä aikaa osoittaa sijoittajille kasvua ja vakuuttaa viranomaiset siitä, että kasvua on tarvittaessa rajoitettava.

Kokonaiskuvaa täydentää SpaceX, jonka kerrottiin jättäneen oman luottamuksellisen listautumisilmoituksensa huhtikuussa. Näin syntyi puhe kolmen jättiyhtiön noin 3 biljoonan dollarin tekoälylistautumiskilvasta .

Mitä yhtiöt oikeastaan pelkäävät?

Rekursiivinen itsensä kehittäminen

Tekoälyjärjestelmä voi jo nyt kirjoittaa koodia, ratkaista ongelmia ja auttaa tutkimuksessa. Rekursiivinen itsensä kehittäminen tarkoittaisi olennaisesti pidemmälle menevää kykyä: järjestelmä parantaisi itsenäisesti omaa koodiaan, rakennettaan tai koulutusmenetelmiään, ja seuraava versio olisi aiempaa kyvykkäämpi.

Anthropic on kertonut, että Claude-järjestelmä kirjoitti jo 80 prosenttia yhtiön omaan koodipohjaan yhdistetystä koodista . Tämä ei itsessään tarkoita, että Claude kehittäisi itsenäisesti uuden sukupolven tekoälyä. Se kuitenkin havainnollistaa, kuinka suuri osa kehitystyöstä voidaan jo antaa tekoälyn tehtäväksi.

OpenAI puolestaan arvioi, että tekoäly voisi tehdä merkittävän osan omasta tutkimuksestaan ihmisten rinnalla maaliskuuhun 2028 mennessä .

Yhteiskunnan hitaus

Toinen huoli koskee niin sanottua yhteiskunnallista tahtia. Lainsäädäntö, viranomaispäätökset, kansainväliset sopimukset ja demokraattinen keskustelu etenevät yleensä paljon hitaammin kuin tekoälymallien kyvykkyydet .

Jos järjestelmät alkavat parantaa itseään ennen kuin valvonta on valmis, päätöksenteolle voi jäädä liian vähän aikaa. OpenAI tiivisti saman ongelman tavoitteeksi pitää yhteiskunnan turvallisuus ja toimintakyky tekoälyn kehityksen vauhdissa .

Yhdysvalloissa on jo valmisteltu mahdollisia ulkoisen valvonnan malleja. Valkoisen talon kerrottiin toukokuussa pohtivan järjestelyä, jossa Anthropic, Google ja OpenAI joutuisivat toimittamaan uudet frontier-mallinsa liittovaltion arviointilautakunnalle ennen julkaisua . Lisäksi NISTin CAISI ilmoitti 5. toukokuuta ohjelmasta, jonka kerrottiin kattavan kaikki suuret yhdysvaltalaiset frontier-tekoälylaboratoriot .

CAISIn testausjärjestelyt eivät kuitenkaan lähteiden mukaan vielä anna viranomaisille valtaa estää mallia pääsemästä markkinoille . Valkoisen talon mahdollinen ennakkotarkastus menisi pidemmälle, mutta suunnitelma ei ollut valmis .

Suurin avoin kysymys: hyväksyvätkö yhtiöt sitovat rajat?

OpenAI ja Anthropic ovat yhtä mieltä siitä, että yksipuolinen hidastaminen olisi ongelmallista. Jos yksi yhtiö pysähtyy ja muut jatkavat, jarruttaja voi menettää markkinaosuutta ja teknologista etumatkaa . Siksi ne puhuvat koordinaatiosta ja ulkoisesta auktoriteetista.

Mutta juuri tähän liittyy ehdotusten vaikein testi. Hyväksyisikö Anthropic sitovan päätöksen, joka estäisi sen oman koulutusajon tai mallijulkaisun, jos yhtiö valmistautuu samalla pörssiin ja sen kasvuodotukset ovat sijoittajien tarkkailussa?

Entä OpenAI? Yhtiö laajentaa yrityksille suunnattuja palvelujaan, kuten Frontier-agenttipalvelua, ja kehittää valikoituun käyttöön perustuvia malleja kyberturvallisuuteen . Sen listautumisvalmistelut lisäävät painetta osoittaa jatkuvaa kaupallista kasvua. Sitova hidastus voisi tarkoittaa markkinaosuuden luovuttamista kilpailijoille ja sijoittajien odotusten pettämistä.

Kesäkuun linjapuheenvuorot muuttivat keskustelun sävyä. Kaksi maailman arvokkaimpiin kuuluvaa tekoäly-yhtiötä sanoi julkisesti, että kehityksen hidastaminen voi olla tarpeen ja että ulkopuolisella auktoriteetilla pitäisi olla siinä rooli.

Vielä ei kuitenkaan ole näyttöä siitä, että kumpikaan yhtiö olisi luovuttanut päätösvallan viranomaisille tai kansainväliselle elimelle. Seuraavat kuukaudet näyttävät, muuttuuko turvallisuuspuhe aidosti sitovaksi hallinnoksi – vai jääkö se vain uudeksi politiikkakerrokseksi kiihtyvän kaupallisen kilpailun päälle.