AI rakovinu nevyléčí jen slibem. Altman chce větší vizi, Amodei důkazy

Slogan „AI vyléčí rakovinu“ se stal zkratkou pro optimistický pohled na umělou inteligenci. Ve sporu mezi šéfem OpenAI Samem Altmanem a šéfem Anthropicu Dariem Amodeiem ale nejde především o to, zda by medicínský průlom byl důležitý. Jde o to, co tomuto sloganu chybí: podle Altmana dostatečně široká vize pro lidi, podle Amodeie důkaz.

Shoda: samotné vyléčení rakoviny nestačí jako argument pro AI

Oba odmítají představu, že věta o rakovině sama o sobě rozhoduje veřejnou debatu o AI.

Altman říká, že technologický sektor velmi špatně vysvětloval, jaké pozitivní přínosy může AI přinést. Vyléčení rakoviny by podle něj bylo skvělé, ale samo o sobě není dost ambiciózní. AI má lidem přinést více samostatnosti a možností: rozvíjet kreativitu, podnikání a technické či vědecké schopnosti, nikoli soustředit moc do rukou několika institucí. 23

Amodeiho námitka je přísnější. Označil „AI vyléčí rakovinu“ za klišé, které mnoho lidí vnímá jako zavádějící. Nablýskaná pozitivní marketingová kampaň podle něj nemůže vyřešit hlubší krizi důvěry. Rozhodující je, zda obor skutečně přinese přínosy dost konkrétní na to, aby je veřejnost mohla rozpoznat; vyléčení rakoviny uvádí jako záměrně výrazný příklad. 49

Altman: přínos má být širší a bližší každodennímu životu

Altmanovi vadí hlavně omezený rozsah takového příslibu. Lékařský objev má velkou společenskou hodnotu, ale neodpovídá plně na otázku, co AI změní v běžném životě lidí.

Jeho argument stojí na tom, že schopnosti AI mají být dostupné uživatelům: nástroje mají pomáhat tvořit, zakládat firmy nebo dělat vědeckou práci. Důležité tedy není jen to, zda se jednou objeví průlom předaný veřejnosti, ale také zda lidé sami získají přístup k výkonným systémům a větší kontrolu nad tím, co mohou dělat. 29

Proto jeho odpověď na skepsi nezní jen „počkejte na lék“. Průmysl podle něj musí srozumitelně ukázat širší přínosy a prokázat, že AI lidskou samostatnost rozšiřuje, místo aby ji oslabovala. 23

Amodei: větší slib nenahrazuje důkaz

Amodei nepovažuje za řešení ani lepší marketing, ani delší seznam slibovaných výhod. Velké tvrzení ztrácí sílu, pokud za ním lidé nevidí věrohodné a skutečně dosažené výsledky.

Tady se oba přístupy rozcházejí. Altman vidí problém v tom, že slib o rakovině je příliš úzký. Amodei v tom, že není dostatečně podložený. Širší výčet možných přínosů — kreativní nástroje, podnikání, vědecký pokrok nebo vzdělávání — by Altmanovu argumentu pomohl jen tehdy, pokud budou tyto přínosy viditelné, spravedlivě dostupné a ověřitelné. Jinak by mohl posílit Amodeiho výhradu, že obor žádá veřejnost, aby uvěřila další velké prognóze. 249

Proč je slib o rakovině obzvlášť riskantní

AI se už zkoumá a používá v řadě oblastí onkologie a vývoje léčiv: při hledání biologických cílů, návrhu molekul, diagnostice i organizaci klinické péče. Pokrok ve výpočetním modelování nebo v raných fázích objevování však není důkazem, že léčba zlepší zdravotní výsledky pacientů.

Odborný přehled o AI v onkologii upozorňuje na potíže s propojováním dat, vysvětlitelností modelů, spravedlností, převodem do klinické praxe i regulatorním dohledem. Řada modelů navíc dosahuje dobrých výsledků na zpětně vyhodnocených datech, ale nemá prospektivní klinické ověření. 17

Vývoj léků je stále pomalý a nejistý: od vytipování kandidátní látky po schválení pro trh obvykle trvá zhruba 10 až 15 let. 1718 Novější hodnocení AI ve vývoji léčiv obdobně uvádějí, že AI může urychlit rané fáze práce, ale toto zrychlení se zatím nepromítá spolehlivě do vyšší úspěšnosti v pozdních klinických fázích. Limitem zůstávají reprodukovatelnost, transparentnost dat, regulace a ověřování v reálné klinické praxi. 22

Existují nadějné známky posunu: látky podpořené AI se dostaly do klinického hodnocení. Samotné studie ale ještě nedokládají definitivní účinnost, natož obecně použitelný lék na rakovinu. 19 Dostupné poznatky podporují opatrný optimismus ohledně AI jako výzkumného a klinického nástroje — nikoli jistý veřejný harmonogram, kdy má „vyléčit rakovinu“.

Důvěra závisí i na tom, kdo nese náklady

Lidé neposuzují AI jen podle vzdáleného příslibu vědeckého průlomu. Zvažují také bezprostřednější dopady na práci, dezinformace, soukromí, bezpečnost, školství a infrastrukturu nutnou pro provoz pokročilých systémů.

Část rozdílu mezi slíbenými přínosy a viditelnými náklady zachycují průzkumy. V šetření Reuters/Ipsos schvalovala rychlé tempo výstavby datových center podporujících AI jen zhruba třetina Američanů, zatímco 77 % se obávalo růstu cen elektřiny. 34 Globální zpráva zároveň zjistila, že 54 % respondentů je opatrných v důvěře k AI; obavy se týkají kybernetické bezpečnosti, soukromí, dezinformací, ztráty pracovních míst, ztráty dovedností i širších společenských dopadů. 38

Neznamená to, že veřejnost odmítá každé použití AI. Ukazuje to ale, proč vzdálený příslib medicínské proměny nemusí odpovědět lidem, kteří už dnes řeší spotřebu energie a vody, účty domácností, práci nebo kontrolu nad technologiemi.

Jak by mohl vypadat věrohodnější argument pro AI

Altman a Amodei pojmenovávají jiné selhání, jejich pohledy ale lze spojit do náročnějšího standardu.

Věrohodný argument pro AI by měl:

• Ukazovat konkrétní přínosy, ne jen budoucí možnosti. Tvrzení by měla být navázána na výsledky, které dokážou posoudit nezávislí výzkumníci, regulátoři, uživatelé i dotčené komunity.
• Rozlišovat objev od klinického přínosu. Rychlejší tvorba hypotéz nebo návrh molekul jsou důležité, nejsou však totéž co bezpečná, schválená a účinná léčba.
• Otevřeně říkat termíny i nejistoty. Medicínský výzkum vyžaduje ověření, které nenahradí působivá ukázka ani větší výpočetní kapacita.
• Dávat uživatelům větší samostatnost. Altmanův důraz na kreativitu a podnikání je nejsilnější tehdy, když nejsou přístup a přínosy soustředěné jen u několika hráčů. 29
• Zohledňovat škody a náklady na infrastrukturu. Důvěra vyžaduje jasnost ohledně bezpečnosti, dopadů na práci, soukromí i toho, kdo platí energii a další místní náklady. 3438

Nejpřesvědčivější odpovědí tedy není ani „věřte nám, AI vyléčí rakovinu“, ani „AI udělá všechny kreativnější“. Je jí soubor prokazatelných a nezávisle ověřitelných přínosů, doplněný o poctivé vymezení limitů, odpovědné nasazování a férový přístup k lidem a komunitám, které nesou náklady rozvoje AI.