Lonsdale varuje, že strach z AI může ovlivnit pravidla pro celý obor

Joe Lonsdale, spoluzakladatel Palantiru a investor společnosti Anthropic, na konferenci Reuters Momentum AI Austin varoval, že upozorňování na existenční rizika umělé inteligence může sloužit k ovlivňování veřejné politiky. Bezpečnost AI podle něj představuje skutečný problém, regulace by se ale neměla řídit strachem. 2

Obava z vlivu největších firem

Lonsdale vystoupil v Austinu 25. září. Kritizoval to, co popsal jako snahy lidí blízkých Anthropic a OpenAI financovat externí skupiny prosazující přísnější pravidla pro AI. Podle jeho názoru by takový postup mohl umožnit malé skupině největších vývojářů ovlivnit podobu regulace celého odvětví. 2

Jde o Lonsdaleovo hodnocení motivů a možných důsledků těchto aktivit, nikoli o nezávisle potvrzený závěr. Jeho výhrada se týkala způsobu, jakým mohou obavy o bezpečnost ovlivnit politiku; netvrdil, že bezpečnost AI není důležitá. 2

Kritika vedle chvály Anthropic

Lonsdaleova slova mají zvláštní kontext: do Anthropic investoval. Přesto společnost i jejího generálního ředitele Daria Amodeie chválil. Anthropic podle něj vede v kvalitě svých talentů, zároveň však kritizoval iniciativy spojené s lidmi blízkými firmě a OpenAI. 2

Amodei přitom samostatně vyzval společnosti vyvíjející AI, aby zpomalily vývoj modelů a vytvořily více času na zvládání souvisejících rizik. 1

Předpověď o ukrajinských obranných firmách

Lonsdale také předpověděl, že společnosti, do kterých investuje, pravděpodobně koupí ukrajinské obranné firmy. Dostupná zpráva však neuvádí, o které společnosti či potenciální cíle jde, ani kdy by k případným akvizicím mohlo dojít. Podrobnosti o možných partnerstvích rovněž neupřesňuje. 2

Co z dostupných informací nelze vyvodit

Dostupné podklady neumožňují přesně popsat Lonsdaleův postoj k odpovědnosti za autonomní zbraně ani potvrdit, zda mluvil o možnosti převzít vysokou funkci v Pentagonu. Tyto otázky proto nelze dovozovat z jeho obecných vyjádření o AI, regulaci nebo investicích do obrany.