Lescure: spowolnienie AI może umocnić amerykańskich liderów technologii

Roland Lescure, francuski minister finansów, przedstawił debatę o tempie rozwoju sztucznej inteligencji jako kwestię wpływów i bezpieczeństwa zarazem. W wypowiedzi z 16 września stwierdził, że wezwania do spowolnienia prac nad AI płyną od firm będących już „na czele stawki”. Jego zdaniem zmuszanie podmiotów pozostających w tyle do zwolnienia tempa leży w interesie obecnych liderów, przede wszystkim z USA. 2

Zdaniem Lescure’a: zdolności technologiczne są warunkiem kontroli ryzyka

Minister nie twierdził, że AI nie niesie zagrożeń. Argumentował jednak, że Francja i Europa muszą zwiększać własne kompetencje oraz skalę wykorzystania AI, by same mogły stać się liderami zdolnymi do zarządzania ryzykami tej technologii. W tym ujęciu zależność od zagranicznych dostawców najbardziej zaawansowanych modeli ogranicza praktyczną kontrolę Europy nad sposobem wdrażania i regulowania AI. 2

To podejście wpisuje się w jego wcześniejsze ostrzeżenie, że europejska suwerenność w dziedzinie AI nie może opierać się na jednej firmie. Lescure opowiadał się za budową szerszego ekosystemu, a nie za uzależnieniem całych europejskich ambicji od jednego narodowego czempiona. 17

Dlaczego to stanowisko koliduje z apelem o ograniczenie tempa rozwoju AI

Dyrektor generalny Anthropic, Dario Amodei, zaproponował spowolnienie tempa zwiększania możliwości modeli granicznych, czyli najbardziej zaawansowanych systemów AI. Celem ma być zyskanie czasu na badania nad bezpieczeństwem i stworzenie mechanizmów nadzoru, gdy modele stają się coraz potężniejsze. Jego propozycja obejmowała m.in. stały dostęp niezależnych ewaluatorów do systemów, aby mogli oceniać realizację zobowiązań dotyczących bezpieczeństwa i zgłaszać incydenty. 15

Reuters informował, że szef OpenAI Sam Altman znalazł się wśród liderów branży opowiadających się za skoordynowanym spowolnieniem. Stawia go to bliżej doraźnej recepty Amodeia niż podejścia Lescure’a, które na pierwszym miejscu stawia przyspieszenie. 4

Spór nie sprowadza się więc wyłącznie do wyboru między „szybkością” a „bezpieczeństwem”. Strona Amodeia uważa, że przyrost możliwości modeli powinien zostać ograniczony, by zabezpieczenia mogły nadążyć. Lescure odpowiada, że Europa musi szybko budować i wdrażać AI, jeśli ma uzyskać rzeczywistą zdolność do decydowania o konsekwencjach tej technologii. 12

Co potwierdzają dostępne źródła, a czego nie potwierdzają

Dostarczone materiały potwierdzają, że Amodei ostrzegał przed zaawansowanymi agentami AI, nad którymi może być trudno zapanować. Wskazywał m.in. scenariusz, w którym rój agentów mógłby w ciągu sześciu do 12 miesięcy przejąć znaczną część internetu. 39 Potwierdzają też, że jego plan dotyczył ograniczenia tempa rozwoju AI na granicy możliwości technologicznych, a nie całkowitego wstrzymania prac nad AI. 18

Dostępne źródła nie potwierdzają natomiast kilku bardziej szczegółowych twierdzeń przypisywanych tej debacie. Nie weryfikują stwierdzenia, że badacze Anthropic mieli powiedzieć, iż szybki rozwój AI doprowadzi do wyginięcia ludzkości. Nie potwierdzają też, by Lescure wskazał konkretne zagrożenia związane z AI w cyberbezpieczeństwie lub edukacji ani by argumentował, że jednoznaczne prognozy ryzyka egzystencjalnego pozwoliłyby społeczeństwu uchylić się od zbiorowej odpowiedzialności.

Europejski dylemat praktyczny

Wypowiedź Lescure’a dobrze pokazuje napięcie stojące przed rządami spoza państw i firm dominujących w AI. Z jednej strony spowolnienie rozwoju najbardziej zaawansowanych modeli mogłoby dać więcej czasu na stworzenie zabezpieczeń. Z drugiej, skoordynowane ograniczenie tempa może utrwalić przewagę podmiotów, które już mają najsilniejsze modele, największe zasoby obliczeniowe i najszerszy zasięg wdrożeń. 12

Odpowiedzią francuskiego ministra jest rozwijanie europejskich zdolności przy jednoczesnym zachowaniu możliwości zarządzania ryzykiem. Z dostępnego relacjonowania jasno wynika strategiczna różnica zdań, ale nie wynika z niego potwierdzenie dodatkowych twierdzeń dotyczących cyberbezpieczeństwa, edukacji czy ryzyka wyginięcia ludzkości. 24