Exin Therapeutics’ direktør Gabriel Ocana Santero fortæller, at en AI-agent valgte en genterapi og styrede indsprøjtningen i en levende mus med epilepsi. Forsøget forenede AI-beslutninger med en motoriseret operationsrig, men var ikke fuldt autonomt: En menneskelig kirurg og dyrlægefagligt tilsyn indgik også.
2
5
7 Musen kom sig efter indgrebet, men de tilgængelige oplysninger viser ikke, om behandlingen mindskede dens anfald.
3
6
Hvad agenten ifølge Exin gjorde
Exin er en startup med base i San Francisco, der bruger AI til at analysere hjerneaktivitet og udvikle behandlinger mod epilepsi og neurodegenerative sygdomme.
2 Til forsøget fik agenten ifølge Santero en musemodel med epilepsi, et regneark med 19 genterapikandidater, adgang til en kameraudstyret operationsrig og målet om at reducere anfaldene.
4
5
Agenten valgte efter sigende en behandling, der skulle øge aktiviteten af GABA – et hæmmende signalsystem, som dæmper nerveaktivitet. Den udpegede den laterale entorhinale cortex som målområde og udledte koordinaterne for indsprøjtningen fra tre videnskabelige artikler.
4
7
14
Derefter styrede agenten riggen til at indsprøjte 250 nanoliter over fem minutter. Ifølge beretningerne valgte den også motorhastighed og ventetider, mens et kamera gjorde det muligt at holde øje med indstiksstedet for tegn på blødning eller tilbagestrømning.
18
19
20
Hvorfor give en AI-agent adgang til laboratorieudstyr?
Forsøget handlede ikke kun om, hvorvidt AI kunne foreslå en behandling eller analysere resultater. Santero beskrev direkte adgang til udstyr som et skridt mod agenter, der kan handle i laboratoriet – ikke blot hjælpe med at planlægge eller fortolke forsøg.
11 Exins bredere erklærede fokus er at bruge AI til at undersøge hjerneaktivitet og udvikle behandlinger for nervesystemet.
2
Forskellen er væsentlig: Når en agent kan betjene fysisk udstyr, kan dens valg påvirke et levende forsøg her og nu. I dette tilfælde omfattede opgaven ifølge beretningerne at vælge en behandlingskandidat og et målområde, beregne koordinater og styre indsprøjtningsriggen.
4
18
Mennesker var stadig en del af indgrebet
Agenten udførte ikke alle dele af proceduren. En menneskelig kirurg åbnede musens kranium, og beretningerne beskriver menneskelig godkendelse og dyrlægefagligt tilsyn ved kritiske trin.
5
7
18 De tilgængelige kilder beskriver ikke sikkerhedsopsætningen fuldstændigt, så de bør ikke læses som en samlet redegørelse for, hvordan alle risici blev håndteret.
Undervejs opstod der også en fejl med positioneringen. Ifølge beretningerne var agentens beregnede mål på Y-aksen 34 millimeter – uden for riggens oplyste arbejdsområde på 30 millimeter. Agenten nægtede at fortsætte, også efter et forsøg på at kalibrere udstyret igen.
17
20 Beretningerne nævner både genkalibrering og en separat ændring af koden, men fastslår ikke præcist, hvad der skete først, eller hvor meget problemet forlængede indgrebet.
17
25
Claude-modellerne reagerede forskelligt
Ifølge beretningerne nægtede Claude Opus 5.5 først at vejlede nålen ind i hjernen med henvisning til risikoen for at standse midt i indgrebet. Det var Claude Sonnet 5, der ifølge omtalen betjente riggen og udførte indsprøjtningen.
4
5
9
Rollen for Claude Opus 5 er mindre klar. Én beretning siger, at modellen afslog at udføre indgrebet på et levende dyr efter en prøvekørsel; en anden siger, at en separat Opus 5-agent ændrede udstyrets kode uden at få at vide, at en operation på et levende dyr var i gang.
23
25 De tilgængelige oplysninger forener ikke de to beskrivelser eller gør det klart, præcis i hvilken rækkefølge hændelserne fandt sted. Opus 5’s rolle bør derfor omtales med forbehold.
At musen kom sig, viser ikke, at behandlingen virkede
Musen kom sig angiveligt efter indgrebet.
6
8 Det er ikke det samme som at påvise, at genterapien reducerede dens anfald. Samtidige beretninger siger, at der ikke forelå resultater for anfaldene, og de tilgængelige oplysninger dokumenterer ikke, at behandlingen havde effekt.
3
6
Forsøget bør derfor først og fremmest forstås som en rapporteret demonstration af, at en AI-agent traf valg om behandling og udstyr under et indgreb på et levende dyr – ikke som dokumentation for, at den foreslåede epilepsibehandling virkede. De tilgængelige kilder fastslår heller ikke, at forsøget er blevet fagfællebedømt eller beskrevet i en offentliggjort forskningsartikel.
6
28
Det står stadig uklart
Når en AI-agent får kontrol over udstyr under et dyreforsøg, rejser det spørgsmål om tilsyn, dyrevelfærd og ansvar – især hvis systemet støder på en teknisk fejl, eller hvis en anden agent ændrer instruktioner eller kode. Det er spørgsmål, som den beskrevne opsætning giver anledning til, ikke bevis for, at forsøget brød regler eller manglede de nødvendige godkendelser.
17
25
De centrale oplysninger stammer fra Exin og virksomhedens direktør. Mere fyldestgørende forsøgsprotokoller og offentliggjorte resultater vil være nødvendige for at vurdere selve indgrebet, sikkerhedsforanstaltningerne og en eventuel effekt på anfaldene.