DeepSeek Harness ei todista AGI:ta – mutta sen arkkitehtuuri tekee agenttien kehittämisestä turvallisempaa

DeepSeek Harness (DSH) ei osoita, että DeepSeek olisi rakentanut autonomisen rekursiivisen itsensä kehittämisen järjestelmän tai saavuttanut yleisen tekoälyn eli AGI:n. Sen vakuuttavampi merkitys on arkkitehtuurissa: DSH:n ajonaikaisessa ympäristössä työkalut, mallisovittimet, istuntojen hallinta ja jopa agentin toimintasilmukka voidaan käsitellä vaihdettavina komponentteina. Tämä tekee toistuvasta kokeilusta turvallisempaa ja käytännöllisempää – juuri sellaista perustaa, jota rajattu itsensä kehittäminen tarvitsee. 2526

Ydinajatus: kehitä agenttikehystä, älä vain mallia

Rekursiivinen itsensä kehittäminen voi tarkoittaa useita eri asioita. Järjestelmä voi parantaa tiettyä tuotosta, kuten algoritmia, auttaa tutkijoita rakentamaan vahvemman seuraajamallin tai muokata uudelleenkäytettävää rakennetta, joka määrittää agentin toimintatavan. RSI-tutkimuksessa erotetaan tällainen rajattu, ulkoisesti arvioitu itsensä kehittäminen avoimen päädyn RSI:stä. Jälkimmäisessä järjestelmä muuttaa myös niitä koneistoja tai kriteerejä, joiden perusteella sitä itseään kehitetään. 1

DSH kohdistuu selvimmin tähän rakenteelliseen eli scaffolding-kerrokseen. Agentin ei tarvitse kirjoittaa neuroverkon painojaan uusiksi, vaan se voi kokeilla mallin ympärillä olevia komponentteja: kehotteita, työkaluja, muistia, toimintaperiaatteita, orkestrointia ja suoritusilmukoita. Parempi komponentti voidaan asentaa, arvioida ja säilyttää – tai poistaa, jos se toimii huonosti.

Tämä on merkittävä askel kohti insinöörivetoista RSI:tä. Se ei kuitenkaan tarkoita, että agentti suunnittelisi itsenäisesti aiempaa kyvykkäämmän seuraajansa, päättäisi omista tavoitteistaan tai käynnistäisi hallitsemattoman älykkyysräjähdyksen.

Miten Cordis tekee ajonaikaisista muutoksista palautettavia?

DSH rakentuu Cordisin päälle. Kyseessä on lisäosien ajonaikainen ympäristö, joka dokumentaation mukaan perustuu ”spatiotemporaaliseen koostettavuuteen” eli siihen, että muuttuvia ohjelmistokomponentteja voidaan yhdistää kahdella tavalla: ajan kuluessa sekä suhteessa toisiinsa. Kehys käsittelee kahta eri ongelmaa: mitä tapahtuu, kun komponentteja ladataan tai poistetaan, ja miten ne toimivat yhdessä järjestelmän kulloisessakin kokoonpanossa. 1718

Ajallinen koostettavuus: hallittujen vaikutusten peruminen

Lisäosa voi muuttaa yhteistä ajonaikaista ympäristöä rekisteröimällä resursseja, kuuntelijoita, palveluita tai muuta tilaa. Tavallisessa lisäosajärjestelmässä poistaminen riippuu usein käsin kirjoitetusta siivouskoodista, jolloin järjestelmään voi jäädä vuotoja tai niin sanottua haamutietoa.

Cordis liittää ajonaikaiset muutokset sen sijaan peruttaviin vaikutuksiin. Kun komponentti poistetaan, ympäristö voi suorittaa vastaavat käänteiset operaatiot oikeassa järjestyksessä. Tarkoitus ei ole ajaa lisäosaa takaperin tai perua kaikkia agentin tekemiä ulkoisia toimia, vaan palauttaa olennainen ajonaikainen rakenne toimivaan aiempaan kokoonpanoon. 2024

Ero on tärkeä. Lisäosien rekisteröinnin palautusmekanismi ei voi automaattisesti perua lähetettyä sähköpostia, poistettua tiedostoa, saastuneella datalla koulutettua mallia tai fyysisessä maailmassa tehtyä peruuttamatonta tekoa. Cordisin palautettavuus on siis rajattu ohjelmisto-ominaisuus, ei yleinen turvallisuustakuu.

Avaruudellinen koostettavuus: riippuvuuksien hallinta

Komponentit ovat riippuvaisia toisistaan. Työkalu voi tarvita rekisterin, muistimoduuli istuntojen hallinnan ja agentin toimintasilmukka sekä mallisovittimen että työkalurajapinnan.

Avaruudellinen koostettavuus antaa komponenteille mahdollisuuden ilmoittaa nämä suhteet. Ajonaikainen ympäristö voi tällöin koordinoida aktivointia, käytöstä poistamista, vaihtamista ja palautumista, kun palveluntarjoajat tai riippuvuudet muuttuvat. Näin modulaarinen agentti voi järjestellä itseään uudelleen ilman, että koko järjestelmää käsitellään yhtenä hauraana lohkona. 1820

Peruttavat vaikutukset ja riippuvuuksista tietoinen koostaminen tukevat yhdessä turvallisempia kokeita, komponenttien vaihtamista, virheistä palautumista ja transaktionaalisia ajonaikaisia päivityksiä. Ne ovat hyödyllisiä edellytyksiä itsensä kehittämiselle, koska ne pienentävät uusien muutosten kokeilemisen – ja huonojen muutosten hylkäämisen – kustannusta.

Mitä DSH kertoo DeepSeekin AGI-lähestymistavasta?

Arkkitehtuuri viittaa järjestelmätason strategiaan: yhä yleiskäyttöisempiä agentteja rakennetaan tekemällä niiden suoritusympäristöstä niin muokattava, että agentti voi kehittää myös niitä mekanismeja, joilla se tekee työnsä.

Huomio siirtyy tällöin pois pelkästä mallista. Kiinteäkin malli voi olla käytännössä aiempaa kyvykkäämpi, jos sen käytössä on parempia työkaluja, muistia, suunnittelua, arviointia ja virheistä palautumista. Jos agentti voi ehdottaa muutoksia näihin mekanismeihin, testata niitä ulkoisia kriteerejä vasten ja säilyttää vain onnistuneet versiot, kehittäminen voi edetä hallittuna silmukkana.

Arkkitehtuuri ei silti yksin osoita, että DSH toteuttaa autonomista rekursiivista itsensä kehittämistä. Saatavilla oleva näyttö kuvaa ajonaikaista ympäristöä ja avoimen lähdekoodin agenttikehystä, ei päästä päähän esitettyä silmukkaa, jossa DSH itsenäisesti tuottaa, arvioi, valitsee ja ottaa käyttöön itsestään yhä kyvykkäämpiä versioita. 2526

Vertailu muihin RSI-hankkeisiin

RSI-keskustelussa mainitut järjestelmät kohdistuvat eri kerroksiin kehitysprosessia. Niiden käsitteleminen suorina vaihtoehtoina hämärtää olennaiset tekniset erot.

Google DeepMindin AlphaEvolve: arviointivetoinen algoritmien evoluutio

AlphaEvolve on suoremmin optimointisilmukka. Gemini-pohjaiset agentit ehdottavat muutoksia koodiin, automaattiset arvioijat pisteyttävät tulokset ja evolutiivinen prosessi nostaa lupaavia ehdokkaita seuraaville kierroksille. Google on kertonut järjestelmän käytöstä algoritmien löytämiseen ja optimointiin muun muassa matematiikan ongelmissa ja laskentainfrastruktuurissa. 2314

Sen keskeinen vahvuus on palaute: ehdokas voidaan testata koneellisesti tarkistettavaa tavoitetta vasten. DSH puolestaan on ennen kaikkea ajonaikainen arkkitehtuuri, jonka avulla komponentteja voidaan yhdistää ja vaihtaa turvallisesti. AlphaEvolve keskittyy ratkaisujen kehittämiseen, Cordis siihen, että käynnissä oleva järjestelmä voidaan järjestellä uudelleen.

OpenAI:n RSI Index: mittari, ei mekanismi

Tässä käytettävissä oleva julkinen aineisto kuvaa RSI Indexin tekoälytutkimuksen arviointien koontimittariksi. Tämän kuvauksen perusteella se seuraa kyvykkyyksiä eikä itsessään muuta mallia tai pyöritä kehityssilmukkaa. Pistemäärä voi kertoa suoriutumisesta valituissa itsensä kehittämiseen liittyvissä tehtävissä, mutta se ei yksin osoita, että järjestelmä kehittää itseään autonomisesti tuotantokäytössä. 3435

Indexiä pitäisi siksi verrata DSH:hon mittauskerroksena, ei arkkitehtonisena kilpailijana. Tarjolla oleva julkinen aineisto ei riitä arvioimaan riippumattomasti mittarin rakennetta tai sitä, mitä pistemäärien muutokset tarkoittavat.

Anthropicin automatisoitu heikosta vahvaksi -tutkimus: tekoälytutkimuksen automatisointi

Anthropicin automatisoidut alignment-tutkijat käsittelevät toisenlaista pullonkaulaa: kuinka heikompaa valvontaa voidaan käyttää vahvemman mallin kouluttamiseen tai ohjaamiseen. Järjestelmän agentit ehdottavat ideoita, tekevät kokeita ja toistavat heikosta vahvaksi -valvonnan tutkimukseen liittyvää kehitystyötä. 4958

Työ on lähempänä tekoälytutkimuksen ja linjausturvallisuuden arvioinnin osittaista automatisointia kuin DSH:n ajonaikaista komponenttien vaihtamista. Menetelmät voisivat tulevaisuudessa täydentää toisiaan: tutkimusagentti voisi löytää parempia komponentteja, ja palautettava agenttikehys voisi testata ja ottaa ne käyttöön hallitun palautuksen turvin.

Anthropicin laajempi julkinen keskustelu sisältää myös tärkeän varauksen: yhtiön mukaan täysin autonomista rekursiivista itsensä kehittämistä ei vielä ole saavutettu, eikä RSI ole väistämätön. 59

Tencentin Hyra-1.0 ja MiniMaxin M2.7: tekniseen vertailuun ei ole riittävää näyttöä

Käytettävissä olevat lähteet eivät tarjoa Tencentin Hyra-1.0:sta tai MiniMaxin M2.7:stä luotettavaa ja riippumattomasti varmennettavaa teknistä dokumentaatiota. Siksi olisi harhaanjohtavaa liittää kumpaankaan tietty RSI-arkkitehtuuri tai asettaa ne saman näytön perustalle DSH:n, AlphaEvolen tai Anthropicin julkistetun työn kanssa.

Miksi ympäristöt ja palautesilmukat ovat tekoälykilpailun uusi rintama?

Kilpailuetu syntyy yhä useammin perusmallin ympärille rakennetusta järjestelmästä. Neljä asiaa on erityisen tärkeää:

1. Kyvykäs ympäristö. Hiekkalaatikot, koodivarastot, työkalut, simulaattorit, aineistot, laskenta ja käyttöönoton seuranta määrittävät, millaisia kokeita agentti voi käytännössä tehdä.
2. Automaattinen palaute. Testit, verifioijat, vertailuarvioinnit, palkkiofunktiot ja tuotantomittarit muuttavat ehdotetut muutokset mitattaviksi kokeiksi. AlphaEvolve havainnollistaa mallin tuottamien ideoiden ja automaattisten arvioijien yhdistelmän arvoa. 26
3. Palautettavuus. Versiointi, eristäminen, alkuperätiedot, palautus ja hyväksymisportit mahdollistavat useampien kokeiden ajamisen ilman, että yksi epäonnistuminen vaurioittaa järjestelmää pysyvästi. Cordisin palautettavat ajonaikaiset vaikutukset kohdistuvat suoraan tähän kerrokseen. 1720
4. Kertyvä iteraatio. Jos jokainen kierros parantaa ohjelmointia, arviointia, kokeilujen tekemistä tai infrastruktuuria, myöhemmät kierrokset voivat nopeutua tai halventua. Nykyinen näyttö tukee kuitenkin selkeämmin rajattua itsensä kehittämistä kuin avointa, itsestään ylläpitävää RSI:tä. 1

Tämän vuoksi hieman heikommin vertailutesteissä menestyvä malli voi silti olla kilpailukykyinen, jos se toimii paremmassa ympäristössä, jossa on vahvemmat työkalut, palaute ja palautumismekanismit. Tuotteeksi muodostuu kehityssilmukka – ei vain yksittäinen malliversio.

Ratkaisematon kontrolliongelma

Palautettavuus pienentää riskiä, mutta ei poista sitä. Palautuspainike ei takaa, että kaikki agentin toiminnan seuraukset ovat havaittavissa tai peruttavissa. Muutokset voivat vaikuttaa dataan, tunnistetietoihin, ulkoisiin palveluihin, turvallisuusrajoihin tai ihmisten päätöksiin, jotka ovat ajonaikaisen ympäristön ulkopuolella.

Nopeampi iteraatio voi lisäksi vahvistaa huonoja tavoitteita, määrittelyjen kiertämistä, piileviä regressioita ja vaikeasti hahmotettavia riippuvuuksia. Ihmisen kontrolli vaatii siis enemmän kuin teknisen palautuksen. Muutosten on oltava havaittavia, riippumattomasti arvioitavia, luvitettuja, jäljitettäviä ja aidosti peruttavia koko järjestelmässä – ei vain lisäosien muodostamassa verkossa.

Vahvin johtopäätös on siksi maltillinen: DSH ja Cordis osoittavat, miten agentti-infrastruktuuri voidaan suunnitella rajattua ja palautettavaa itsensä muokkaamista varten. AlphaEvolve näyttää arviointivetoisen evoluution voiman, ja Anthropicin työ osoittaa, kuinka tekoäly voi osallistua yhä suuremmassa määrin tutkimukseen. Yhdessä nämä hankkeet kertovat edistymisestä kohti tekoälyavusteisia kehityssilmukoita, mutta ne eivät todista täysin autonomista, avointa RSI:tä tai AGI:a. 14959