Generální ředitel Exin Therapeutics Gabriel Ocana Santero tvrdí, že AI agent vybral genovou terapii a ovládal její injekční podání do mozku živé myši s epilepsií. Pokus spojil rozhodování AI s motorickým chirurgickým zařízením, nešlo ale o zákrok zcela bez lidského zásahu: operatér myši otevřel lebku a podle zpráv na průběh dohlíželi lidé včetně veterináře.
2
5
7 Myš se údajně zotavila. Zda léčba snížila počet záchvatů, dostupné informace neukazují.
3
6
Co měl agent při pokusu na starosti
Exin Therapeutics je sanfranciský startup, který využívá AI k analýze mozkové aktivity a vývoji léčby epilepsie a neurodegenerativních onemocnění.
2 Pro popisovaný experiment tým agentovi podle Santera poskytl myší model epilepsie, tabulku s 19 kandidátními genovými terapiemi, kamerami vybavené motorické zařízení a cíl: omezit záchvaty.
4
5
Agent údajně vybral terapii zaměřenou na posílení signalizace GABA. Jde o inhibiční systém, který pomáhá tlumit nervovou aktivitu. Jako místo vpichu zvolil laterální entorhinální kortex a souřadnice odvodil ze tří odborných studií.
4
7
14
Poté měl řídit motorické zařízení a během pěti minut podat 250 nanolitrů látky. Zprávy uvádějí, že agent volil také rychlost pohybu a čekací intervaly. Kamerou sledoval místo vpichu a kontroloval například známky krvácení nebo zpětného úniku látky.
18
19
20
Proč dát AI přístup k laboratornímu zařízení?
Nešlo jen o to zjistit, zda AI dokáže navrhnout léčbu nebo vyhodnotit výsledky. Santero popsal přímé ovládání vybavení jako krok k agentům, kteří mohou v laboratoři také jednat, nejen pomáhat s plánováním a analýzou.
11 Širším cílem Exin Therapeutics je využívat AI ke studiu mozkové aktivity a vývoji léčby neurologických onemocnění.
2
Rozdíl je podstatný: pokud agent ovládá fyzické zařízení, jeho rozhodnutí mohou v reálném čase ovlivnit průběh pokusu na živém zvířeti. V tomto případě měl podle popisu vybírat kandidátní léčbu, určit cílovou oblast, vypočítat souřadnice a řídit injekční zařízení.
4
18
Lidé zůstali součástí zákroku
Agent neprovedl všechny kroky sám. Lidský operatér myši otevřel lebku a zprávy popisují lidské schvalování a veterinární dohled v důležitých fázích.
5
7
18 Dostupné zprávy ale neposkytují úplný popis bezpečnostních opatření, takže z nich nelze vyvozovat, jak přesně byla rizika řízena.
Při pokusu navíc nastal problém s polohováním. Vypočtená cílová souřadnice na ose Y měla být 34 milimetrů, což přesahovalo uváděný rozsah zařízení, tedy 30 milimetrů. Agent údajně odmítl pokračovat, a to i po pokusu o překalibraci.
17
20 Zprávy zmiňují překalibraci i samostatnou změnu kódu zařízení, neobjasňují však přesné pořadí těchto kroků ani to, o kolik se zákrok prodloužil.
17
25
Modely Claude reagovaly různě
Podle dostupných zpráv Claude Opus 5.5 nejprve odmítl navádět jehlu s odůvodněním, že přerušení uprostřed zákroku by mohlo zvíře ohrozit. Zařízení nakonec ovládal model Claude Sonnet 5.
4
5
9
Role modelu Claude Opus 5 je méně jasná. Jedna zpráva uvádí, že po zkušebním pokusu odmítl živý zákrok; jiná popisuje samostatného agenta Opus 5, který změnil kód zařízení, aniž věděl, že právě probíhá operace na živém zvířeti.
23
25 Dostupné informace tyto popisy nesjednocují ani neobjasňují přesnou posloupnost událostí, proto je třeba brát roli Opus 5 s rezervou.
Zotavení neznamená, že léčba zabrala
Myš se podle zpráv po zákroku zotavila.
6
8 To ale není totéž jako důkaz, že genová terapie snížila počet záchvatů. Dobové zprávy uvádějí, že výsledky měření záchvatů nebyly k dispozici, a předložené zdroje účinnost léčby nepotvrzují.
3
6
Pokus je proto přesnější chápat jako oznámenou demonstraci, při níž AI agent rozhodoval o léčbě a ovládání zařízení během zákroku na živém zvířeti — nikoli jako důkaz, že navržená léčba epilepsie funguje. Dostupné zdroje také nedokládají odborné recenzní řízení ani publikovanou výzkumnou studii.
6
28
Co zatím zůstává otevřené
Ovládání zařízení AI při pokusu na zvířeti vyvolává otázky ohledně dohledu, péče o zvíře a odpovědnosti — zejména když systém narazí na technickou závadu nebo když jeden agent upraví nastavení zařízení. Jde o otázky, které vyplývají z popsaného uspořádání, nikoli o důkaz, že pokus porušil pravidla nebo postrádal potřebné schválení.
17
25
Hlavní tvrzení jsou připisována Exin Therapeutics a jejímu šéfovi. K posouzení postupu, bezpečnostních opatření i případného vlivu léčby na záchvaty by byly potřeba podrobnější protokoly a zveřejněné výsledky.