Nová studie odhaluje: Finanční rady od AI jsou nespolehlivé a plné předsudků. Regulátoři bijí na poplach

Kaskáda regulačních varování

Akademická zjištění nejsou ojedinělá. Během posledních dvou let vydalo několik amerických vládních agentur paralelní varování před riziky AI ve finančních službách.

Ministerstvo financí USA (červen 2026): V komplexní zprávě doporučilo sjednotit definice AI napříč finančními regulátory, poskytnout další upřesnění standardů ochrany soukromí a bezpečnosti dat a upozornilo, že modely AI mohou zesilovat rizika spojená s předpojatostí, vysvětlitelností rozhodnutí a třetími stranami .

Společné prohlášení FTC, EEOC, CFPB a DOJ (červen 2026): Tyto čtyři agentury společně varovaly, že používání AI "má potenciál udržovat nezákonnou předpojatost, automatizovat nezákonnou diskriminaci a vést k dalším škodlivým důsledkům" v oblasti spotřebitelských financí, a oznámily koordinované vymáhání práva .

Zpráva Účetního úřadu USA (GAO, květen 2025): GAO identifikovala sedm rizikových kategorií AI ve finančních službách: diskriminace při poskytování úvěrů, ochrana investorů, soukromí, ochrana spotřebitele, provozní a kybernetická bezpečnost, modelové riziko a riziko dodržování předpisů. Doporučila federálním regulátorům vydat aktualizované pokyny k řešení předpojatosti v AI systémech finančních institucí .

Svědectví před Výborem pro finanční služby Sněmovny reprezentantů USA (2024): Svědek vypověděl, že AI představuje "velká nebezpečí pro udržování předsudků, šíření dezinformací, vylučování lidí z nezbytných služeb a vytváření dalších škod" .

Zpráva ministerstva financí z prosince 2024: Po výzvě k poskytnutí informací z roku 2024 ministerstvo zdůraznilo obavy, že modely AI posilují předsudky obsažené v historických datech, že rozhodnutí AI jsou obtížně vysvětlitelná a že generativní AI je náchylná k halucinacím, tedy k vymýšlení si informací .

Odborníci varují před přílišnou sebedůvěrou AI

Kromě oficiálních zpráv nezávislí odborníci upozorňují na autoritativní, ale nespolehlivý tón finančních rad od AI. Profesor MIT Andrew Lo v březnu 2026 varoval, že jazykové modely "vždy přijdou s odpovědí, která zní autoritativně, i když tomu tak není," a že pro "velmi, velmi specifické výpočty vaší osobní situace" nelze AI považovat za konečnou autoritu .

Samostatná studie z roku 2025 publikovaná v časopise PLOS ONE s názvem "Biased echoes: Large language models reinforce investment biases and increase portfolio risks of private investors" zjistila, že jazykové modely nejen pomáhají s investičními rozhodnutími – mohou aktivně činit portfolia rizikovějšími tím, že posilují lidské předsudky, jako je honba za trendy a nadměrná koncentrace .

Regulační mezera: Vymáhání zaostává

Několik zdrojů poukazuje na takzvanou "enforcement gap" – mezeru ve vymáhání pravidel. GAO zjistila, že klíčovému regulátorovi chyběly zásadní nástroje pro dohled nad AI . Komisařka CFTC Kristin Johnson poznamenala, že GAO identifikovala šest rostoucích oblastí využití AI ve finančních službách – automatizované obchodování, odhalování podvodů, poskytování úvěrů, zákaznický servis, dodržování předpisů a řízení rizik – které vyžadují aktualizované regulační rámce .

Spotřebitelské organizace, včetně Consumer Federation of America a Consumer Reports, vyzvaly k "regulační jasnosti a jistotě" ohledně toho, že finanční instituce musí aktivně hledat a zavádět méně diskriminační algoritmy před nasazením systémů AI .

Zpráva ministerstva financí z roku 2026 konkrétně doporučuje sjednotit definice AI a vyjasnit standardy pro ochranu soukromí, bezpečnost a kvalitu dat napříč finančními regulátory .

Co to znamená pro spotřebitele a poradce

Vzkaz z akademické i regulační sféry je jasný: nespoléhejte se na AI jako na svůj primární zdroj pro osobní finanční rozhodnutí. Nástroje zatím nejsou dostatečně konzistentní a riziko předpojatých nebo jednoduše nesprávných rad je příliš vysoké. Finanční profesionálové mají odpovědnost ověřovat výstupy AI a Rada CFP (Certified Financial Planner Board) uvedla, že plánovači zůstávají odpovědní za všechny rady a pokyny generované AI .

Závěr: Studie z časopisu Journal of Financial Planning přináší nové empirické důkazy o tom, že finanční rady generované AI jsou nekonzistentní a obsahují rasovou a genderovou předpojatost. Toto zjištění je silně potvrzeno několika americkými regulačními agenturami, které v letech 2024–2026 varovaly, že neregulovaná AI ve finančních službách riskuje poškození spotřebitelů, udržování diskriminace a systémovou křehkost – a vyzvaly k jasnějším pravidlům, koordinovanému vymáhání a povinnému testování na předsudky.