DeepSeek Harness: Det reversible fundamentet for kontrollert selvforbedring i AI

DeepSeek Harness (DSH) viser ikke at DeepSeek har bygget et autonomt system for rekursiv selvforbedring, eller at selskapet har oppnådd kunstig generell intelligens (AGI). Den mer holdbare tolkningen er arkitekturell: DSH gjør verktøy, modelltilkoblinger, øktlogikk og til og med selve agentløkken til utskiftbare komponenter. Det gjør gjentatte eksperimenter tryggere og mer praktiske – nettopp den typen grunnmur avgrenset selvforbedring trenger. 2526

Hovedideen: Forbedre rammeverket, ikke bare modellen

Rekursiv selvforbedring (RSI) kan bety flere ting. Et system kan forbedre et konkret resultat, for eksempel en algoritme. Det kan hjelpe forskere med å utvikle en sterkere etterfølgermodell. Eller det kan endre den gjenbrukbare infrastrukturen som bestemmer hvordan en agent arbeider.

Forskning på RSI skiller mellom slik avgrenset, eksternt evaluert selvforbedring og åpen RSI. I det siste tilfellet endrer systemet også selve mekanismen eller kriteriene som brukes til å forbedre det. 1

DSH retter seg tydeligst mot infrastrukturlaget. I stedet for at agenten må skrive om de nevrale vektene sine, kan arkitekturen brukes til å eksperimentere med komponenter rundt modellen: instruksjoner, verktøy, minne, regler, orkestrering og kjøringssløyfer. En bedre komponent kan installeres, testes og beholdes – eller fjernes dersom den fungerer dårlig.

Det er et meningsfullt skritt mot ingeniørstyrt RSI. Men det er ikke det samme som at en agent på egen hånd designer en mer kapabel etterfølger, bestemmer sine egne mål eller setter i gang en ukontrollert intelligenseksplosjon.

Slik gjør Cordis endringer i kjøretiden gjenopprettbare

DSH er bygget på Cordis, et plugin-kjøremiljø som dokumentasjonen beskriver med uttrykket «spatiotemporal composability», eller komponerbarhet på tvers av tid og struktur. Rammeverket håndterer to ulike problemer som oppstår når programvare endres mens den kjører: Hva skjer over tid når komponenter lastes inn eller fjernes, og hvordan samspiller komponentene i systemet slik det ser ut akkurat nå? 1718

Tidsmessig komponerbarhet: å trekke tilbake kontrollerte endringer

Et plugin kan endre et delt kjøremiljø ved å registrere ressurser, lyttere, tjenester eller annen tilstand. I mange tradisjonelle pluginsystemer er fjerning avhengig av manuelt skrevet oppryddingskode. Da kan det bli liggende igjen lekkasjer eller såkalt «spøkelsestilstand».

Cordis knytter i stedet endringer i kjøretiden til effekter som kan reverseres. Når en komponent fjernes, kan kjøremiljøet utføre de tilhørende omvendte operasjonene i riktig rekkefølge. Målet er ikke å kjøre pluginet baklengs, og heller ikke å reversere alle eksterne handlinger en agent har utført. Målet er å gjenopprette den relevante programstrukturen til en gyldig tidligere konfigurasjon. 2024

Dette skillet er avgjørende. En mekanisme for tilbakeføring av plugin-registreringer kan ikke automatisk angre en utsendt e-post, en slettet fil, en modell som er trent på forurensede data eller en irreversibel handling i den fysiske verden. Reversibiliteten i Cordis er derfor en avgrenset egenskap ved programvaren – ikke en universell sikkerhetsgaranti.

Romlig komponerbarhet: å håndtere avhengigheter

Komponenter er også avhengige av hverandre. Et verktøy kan trenge et register, en minnemodul kan trenge en øktbehandler, og agentløkken kan trenge både en modelltilkobling og et verktøygrensesnitt.

Romlig komponerbarhet lar komponenter erklære slike forhold. Kjøremiljøet kan dermed koordinere aktivering, deaktivering, utskifting og gjenoppretting når leverandører eller avhengigheter endres. Det gjør det mulig for en modulær agent å konfigurere seg på nytt uten at hele systemet behandles som én sårbar blokk. 1820

Til sammen legger reversible effekter og avhengighetsbevisst komposisjon til rette for tryggere forsøk, utskifting av komponenter, feilhåndtering og transaksjonelle oppdateringer i kjøretiden. Dette er nyttige forutsetninger for selvforbedring fordi terskelen blir lavere for å prøve ut – og forkaste – mulige endringer.

Hva DSH antyder om DeepSeeks AGI-strategi

Utformingen peker mot en systemorientert vei til stadig mer allmenne agenter: Gjør arbeidsmiljøet fleksibelt nok til at agenten kan forbedre mekanismene den bruker for å utføre oppgaver.

Denne tilnærmingen flytter oppmerksomheten bort fra modellen alene. En fast modell kan bli langt mer effektiv i praksis med bedre verktøy, minne, planlegging, evaluering og gjenoppretting. Hvis en agent kan foreslå endringer i disse mekanismene, teste dem mot eksterne kriterier og bare beholde versjonene som fungerer, kan forbedringen skje i en kontrollert sløyfe.

Arkitekturen alene viser likevel ikke at DSH utfører rekursiv selvforbedring autonomt. Det tilgjengelige materialet beskriver et kjøremiljø og et åpen kildekode-basert agent-rammeverk – ikke en demonstrert ende-til-ende-sløyfe der DSH på egen hånd genererer, evaluerer, velger og tar i bruk stadig mer kapable versjoner av seg selv. 2526

Hvordan DSH skiller seg fra andre RSI-relaterte initiativer

Systemene som inngår i den bredere RSI-debatten, retter seg mot ulike deler av forbedringsprosessen. Hvis de behandles som direkte alternativer, forsvinner viktige tekniske forskjeller.

Google DeepMinds AlphaEvolve: algoritmeutvikling styrt av evaluering

AlphaEvolve er mer direkte en optimaliseringssløyfe. Gemini-baserte agenter foreslår kodeendringer, automatiske evaluatorer gir kandidatene poeng, og en evolusjonær prosess viderefører lovende varianter. Google beskriver bruk av systemet til algoritmeoppdagelse og optimalisering, blant annet innen matematiske problemer og beregningsinfrastruktur. 2314

Den viktigste styrken er tilbakemeldingen: En kandidat kan testes mot et maskinlesbart mål. DSH er derimot først og fremst en kjøretidsarkitektur for trygg sammensetning og utskifting av komponenter. AlphaEvolve fokuserer på å utvikle løsninger; Cordis fokuserer på å gjøre et kjørende system trygt å konfigurere på nytt.

OpenAIs RSI-indeks: måling, ikke mekanisme

Det offentlige materialet som er tilgjengelig her, beskriver RSI-indeksen som et samlet mål basert på flere AI-forskningsevalueringer. På dette grunnlaget er den et verktøy for å følge kapabiliteter, ikke en motor som endrer en modell eller kjører en forbedringssløyfe. En poengsum kan si noe om prestasjoner på utvalgte oppgaver knyttet til selvforbedring, men viser ikke i seg selv at et system forbedrer seg autonomt i drift. 3435

Indeksen bør derfor sammenlignes med DSH som et målelag, ikke som en konkurrerende arkitektur. Det tilgjengelige materialet er ikke tilstrekkelig til å vurdere hvordan indeksen er konstruert, eller hva endringer i poengsummene faktisk betyr.

Anthropics automatiserte weak-to-strong-forskning: AI som forskningsassistent

Anthropics automatiserte alignment-forskere forsøker å løse en annen flaskehals: Hvordan kan svakere veiledning brukes til å trene eller styre en sterkere modell? Agentene foreslår ideer, gjennomfører eksperimenter og itererer på forskning innen weak-to-strong-veiledning. 4958

Dette ligger nærmere automatisering av deler av AI-forskning og alignment-evaluering enn DSHs utskifting av komponenter på kjøretidsnivå. Tilnærmingene kan likevel utfylle hverandre: En forskningsagent kan oppdage bedre komponenter, mens et reversibelt rammeverk kan teste og ta dem i bruk med kontrollert tilbakeføring.

Anthropics bredere offentlige omtale inneholder også en viktig presisering: Selskapet sier at det ennå ikke har nådd fullt autonom rekursiv selvforbedring, og at RSI ikke er uunngåelig. 59

Tencent Hyra-1.0 og MiniMax M2.7: for lite dokumentasjon til teknisk sammenligning

De oppgitte kildene gir ikke pålitelig og uavhengig etterprøvbar teknisk dokumentasjon om Tencent Hyra-1.0 eller MiniMax M2.7. Det ville derfor være misvisende å tilskrive noen av systemene en bestemt RSI-arkitektur, eller å plassere dem på samme dokumentasjonsnivå som DSH, AlphaEvolve eller Anthropics publiserte arbeid.

Hvorfor miljøer og tilbakemeldingssløyfer blir den nye konkurransefronten

Den viktigste konkurransefordelen ligger i økende grad i systemet rundt grunnmodellen. Fire elementer er særlig viktige:

1. Et kapabelt miljø. Sandkasser, kodearkiver, verktøy, simulatorer, datasett, beregningskraft og driftsdata avgjør hvilke eksperimenter agenten faktisk kan gjennomføre.
2. Automatiserte tilbakemeldinger. Tester, verifikatorer, referansetester, belønningsfunksjoner og produksjonsmålinger gjør foreslåtte endringer om til målbare eksperimenter. AlphaEvolve viser verdien av å kombinere modellgenererte ideer med automatiske evaluatorer. 26
3. Gjenopprettbarhet. Versjonskontroll, isolasjon, sporbarhet, tilbakeføring og godkjenningsporter gjør det mulig å kjøre flere eksperimenter uten at én feil ødelegger systemet permanent. Cordis’ reversible effekter retter seg direkte mot dette laget. 1720
4. Forbedring som bygger på seg selv. Hvis hver runde gjør koding, evaluering, eksperimentering eller infrastruktur litt bedre, kan senere runder bli raskere eller billigere. Dagens dokumentasjon støtter likevel tydeligere avgrenset selvforbedring enn åpen og selvopprettholdende RSI. 1

Dette er grunnen til at en modell med noe svakere resultater i en referansetest likevel kan være konkurransedyktig dersom den opererer i et bedre miljø, med sterkere verktøy, tilbakemeldinger og feilhåndtering. Det er forbedringssløyfen – ikke bare modellversjonen – som blir selve produktet.

Kontrollproblemet er fortsatt uløst

Gjenopprettbarhet reduserer risiko, men fjerner den ikke. En tilbakeføringsknapp kan ikke garantere at alle konsekvenser av en agents handlinger er synlige eller reversible. Endringer kan påvirke data, tilgangsnøkler, eksterne tjenester, sikkerhetsgrenser eller menneskelige beslutninger utenfor kjøremiljøets kontroll.

Raskere iterasjon kan dessuten forsterke dårlige mål, tilpasning til målemetoden, skjulte tilbakefall og uoversiktlige avhengigheter. Menneskelig kontroll krever derfor mer enn teknisk tilbakeføring. Endringer må være synlige, kunne evalueres uavhengig, være tillatelsesstyrte og kunne spores og reverseres gjennom hele systemet – ikke bare i plugin-grafen.

Den sterkeste konklusjonen er derfor nøktern: DSH og Cordis viser hvordan agentinfrastruktur kan utformes for avgrenset og gjenopprettbar selvmodifikasjon. AlphaEvolve viser kraften i evalueringsstyrt utvikling, mens Anthropics arbeid viser hvordan AI i økende grad kan delta i forskning. Til sammen viser initiativene fremgang mot AI-assisterte forbedringssløyfer, men de dokumenterer ikke fullt autonom, åpen RSI eller AGI. 14959