AI jako doradca finansowy? Naukowcy i regulatorzy zgodnie ostrzegają: to wciąż zbyt ryzykowne

Lawina ostrzeżeń ze strony regulatorów

Wnioski płynące z badań akademickich nie są odosobnione. W ciągu ostatnich dwóch lat kilka amerykańskich agencji rządowych wydało równoległe ostrzeżenia dotyczące ryzyka związanego z AI w usługach finansowych.

Departament Skarbu USA (czerwiec 2026): W obszernym raporcie zalecił ujednolicenie definicji AI między organami nadzoru finansowego, doprecyzowanie standardów w zakresie prywatności i bezpieczeństwa danych, oraz zwrócił uwagę, że modele AI mogą potęgować ryzyko związane ze stronniczością, brakiem przejrzystości i dostawcami zewnętrznymi .

Wspólne oświadczenie FTC, EEOC, CFPB i Departamentu Sprawiedliwości (DOJ) (czerwiec 2026): Cztery agencje wspólnie ostrzegły, że wykorzystanie AI 'może utrwalać nielegalne uprzedzenia, automatyzować nielegalną dyskryminację i prowadzić do innych szkodliwych skutków' w finansach konsumenckich i ogłosiły skoordynowane działania egzekucyjne .

Rządowe Biuro Odpowiedzialności USA (GAO) (maj 2025): GAO zidentyfikowało siedem kategorii ryzyka dla AI w usługach finansowych: stronniczość w zakresie równego dostępu do kredytów, ochrona inwestorów, prywatność, ochrona konsumentów, ryzyko operacyjne i cyberbezpieczeństwo, ryzyko modelowe oraz ryzyko zgodności z przepisami. Zaleciło federalnym organom regulacyjnym wydanie zaktualizowanych wytycznych dotyczących przeciwdziałania stronniczości w systemach AI instytucji finansowych .

Przesłuchanie w Komisji Usług Finansowych Izby Reprezentantów USA (2024): Świadek zeznał, że AI niesie 'wielkie zagrożenia w zakresie utrwalania uprzedzeń, rozprzestrzeniania dezinformacji, wykluczania ludzi z niezbędnych usług i generowania innych szkód' .

Raport Departamentu Skarbu z grudnia 2024 r.: Po opublikowaniu zapytania o informacje (RFI) w 2024 r., Departament Skarbu podkreślił obawy dotyczące wzmacniania przez modele AI uprzedzeń zakorzenionych w danych historycznych, braku możliwości wyjaśnienia decyzji AI oraz ryzyka halucynacji (generowania fałszywych, ale pewnie brzmiących informacji) charakterystycznego dla generatywnej AI .

Eksperci o nadmiernej pewności siebie AI

Poza oficjalnymi raportami, niezależni eksperci alarmują o autorytatywnym, ale niewiarygodnym tonie porad finansowych AI. Profesor MIT Andrew Lo ostrzegł w marcu 2026 r., że modele LLM 'zawsze zwrócą odpowiedź, która brzmi autorytatywnie, nawet jeśli taka nie jest', i że w przypadku 'bardzo, bardzo konkretnych obliczeń dotyczących własnej sytuacji' AI nie może być traktowana jako ostateczny autorytet .

Osobne badanie z 2025 r. opublikowane w 'PLOS ONE', zatytułowane 'Biased echoes: Large language models reinforce investment biases and increase portfolio risks of private investors', wykazało, że modele LLM nie tylko pomagają w decyzjach inwestycyjnych – mogą aktywnie zwiększać ryzyko portfela, wzmacniając ludzkie uprzedzenia, takie jak gonienie za trendami i nadmierna koncentracja .

Luka regulacyjna: egzekwowanie nie nadąża za rozwojem

Wiele źródeł wskazuje na lukę w egzekwowaniu przepisów. GAO stwierdziło, że kluczowy organ nadzoru ostrożnościowego nie posiadał niezbędnych narzędzi nadzorczych dla AI . Komisarz CFTC Kristin Johnson zauważyła, że GAO zidentyfikowało sześć rosnących obszarów zastosowań AI w usługach finansowych – handel automatyczny, wykrywanie oszustw, ocenę zdolności kredytowej, obsługę klienta, zgodność z przepisami i zarządzanie ryzykiem – które wymagają zaktualizowanych ram regulacyjnych .

Organizacje konsumenckie, w tym Consumer Federation of America i Consumer Reports, wezwały do 'jasności i pewności regulacyjnej', że instytucje finansowe muszą aktywnie poszukiwać i wdrażać mniej dyskryminujące algorytmy przed wdrożeniem systemów AI .

Raport Departamentu Skarbu z 2026 r. w szczególności zaleca ujednolicenie definicji AI i doprecyzowanie standardów dotyczących prywatności, bezpieczeństwa i jakości danych we wszystkich organach nadzoru finansowego .