Sam Altman: przypisywanie AI „religijnej mocy” to zagrożenie dla bezpieczeństwa

Sam Altman powiedział, że „bardzo niepokoi” go przypisywanie modelom AI „religijnej mocy” oraz oddawanie im ludzkiego osądu. Uznał takie podejście za „realny problem związany z bezpieczeństwem”. W swoim wpisie nie wymienił Anthropic, ale ponieważ opublikował go kilka dni po doniesieniach o rozmowach tej firmy z religijnymi uczonymi, wiele relacji odczytało go jako pośrednią krytykę jej działań. 71

Warto oddzielić dwie sprawy: zastanawianie się, jak AI powinna postępować i czy może być świadoma, nie oznacza jeszcze namawiania ludzi, by uznali ją za duchowy autorytet. Doniesienia opisują, że Anthropic badało te kwestie. Współzałożyciel firmy Christopher Olah mówił przy tym, że naprawdę nie wie, czy modele AI są świadome. 1

Przed czym ostrzega Altman?

W swoim wpisie Altman połączył dwa zjawiska: przypisywanie AI religijnego znaczenia oraz rezygnowanie z własnego osądu na rzecz odpowiedzi modelu. Nazwał je problemem bezpieczeństwa. Ponieważ nie wskazał wprost żadnej firmy ani projektu, wiązanie jego słów z Anthropic jest interpretacją wynikającą z kontekstu doniesień, a nie bezpośrednim oskarżeniem zawartym we wpisie. 7

Obawa dotyczy czegoś więcej niż samej religii. Jeśli ludzie uznają pewne siebie, brzmiące po ludzku odpowiedzi modelu za wiarygodny autorytet, mogą powierzać mu większy wpływ na decyzje, niż uzasadnia jego rzeczywiste rozumienie świata. Przywołane relacje opisują ostrzeżenie Altmana, ale nie ustalają, jak powszechne jest takie zjawisko ani jakie przynosi skutki. 67

Dlaczego uwagę zwróciły rozmowy Anthropic?

Anthropic konsultowało się z religijnymi uczonymi w sprawie tego, jak kształtować moralne zachowanie Claude’a i czy modele AI mogą być świadome. Tematy te pokrywały się z ostrzeżeniem Altmana, dlatego jego wypowiedź odczytano jako reakcję na działania firmy. 17

Istotne jest jednak rozróżnienie między badaniem tych pytań a przypisywaniem modelowi statusu religijnego. Olah powiedział: „Nie wiemy, czy modele AI są świadome. Ja nie wiem. Naprawdę nie mam pewności”. Rozważanie możliwości świadomości nie dowodzi, że model ma subiektywne doświadczenia. Podobnie konsultowanie z myślicielami religijnymi zasad moralnego postępowania samo w sobie nie czyni z niego duchowego autorytetu. 1

Świadomość to nie to samo co zasady działania

Model można projektować tak, by stosował się do określonych wskazówek dotyczących odpowiedzi. Nie dowodzi to jednak, że ma życie wewnętrzne. Opisywane rozmowy Anthropic dotyczyły zarówno zachowania Claude’a, jak i możliwej świadomości AI — tych zagadnień nie należy sprowadzać do jednego twierdzenia. 1

W relacjach odnotowano też zastrzeżenia wobec traktowania modeli tak, jakby były świadome, podczas ich trenowania. Przedstawiciel Microsoftu zajmujący się AI ostrzegł, że takie podejście może być niebezpieczne. To opis obawy, a nie rozstrzygnięcie szerszej debaty o świadomości maszyn. Według przytoczonej relacji stanowisko Olaha pozostawało niepewne. 91

W centrum debaty pozostaje człowiek

Encyklika papieża Leona XIV poświęcona AI stawia w centrum ludzką godność. Według doniesień dokument wzywał do silniejszego nadzoru nad firmami AI, ochrony pracowników narażonych na skutki zmian oraz przeciwdziałania fałszywym treściom generowanym przez sztuczną inteligencję. To argumenty za tym, by rozwój i użycie AI nadal podporządkowywać ludzkim potrzebom i odpowiedzialności. 152

OpenAI również znalazło się pod lupą

Spór rozgorzał w czasie, gdy pojawiły się osobne doniesienia o OpenAI. „Business Insider” informował, że z firmy odszedł David Robinson, szef ds. bezpieczeństwa, który skrytykował jej podejście do bezpieczeństwa. BBC podało z kolei, że OpenAI zwolniło trzech badaczy w związku z zarzutami niewłaściwego obchodzenia się z informacjami. Te wydarzenia nie odpowiadają na pytanie o świadomość AI, ale stanowią kontekst dla oceny deklaracji i zasad zarządzania w obu firmach. 1226

Najostrożniejszy wniosek jest węższy niż jednoznaczny osąd Anthropic czy OpenAI: Altman ostrzegł przed traktowaniem modeli jak religijnych autorytetów i przed oddawaniem im ludzkiego osądu. Opisywane konsultacje Anthropic dotyczyły moralnego zachowania Claude’a i możliwej świadomości, ale dostępne doniesienia nie dowodzą, że firma nadawała mu autorytet religijny — ani że kwestia świadomości AI została rozstrzygnięta. 71