Tato nerovnováha znamená, že týmy mohou akumulovat velké objemy funkčně správného, ale nedostatečně pochopeného softwaru, který je s postupem času stále obtížnější udržovat.

Správci open-source projektů již hlásí, že jsou zahlceni záplavou AI-generovaných příspěvků, což analytici někdy popisují jako vlnu „AI slopu“, která zatěžuje kapacitu review a governance projektu.

Bezpečnostní rizika: Více zranitelností v produkci

Jedním z nejvážnějších problémů je bezpečnost.

Bezpečnostní výzkumníci zdokumentovali měřitelný nárůst zranitelností spojených s AI-generovaným kódem. Například výzkumníci sledující hlášení zranitelností uvedli, že v březnu 2026 bylo zveřejněno nejméně 35 nových CVE položek přímo spojených s AI-generovaným kódem, přičemž skutečné číslo je pravděpodobně vyšší, protože mnoho případů postrádá detekovatelná metadata.

Více studií také naznačuje, že AI nástroje pro psaní kódu často reprodukují nejisté vzory ze svých trénovacích dat. Testování napříč hlavními modely zjistilo, že přibližně 45 % vygenerovaných vzorků kódu obsahovalo běžné bezpečnostní zranitelnosti, včetně problémů v kategoriích OWASP Top 10.

Další riziko zahrnuje únik tajných údajů (secret leakage). Analýza reálných vývojových workflow zjistila, že commity s asistencí AI vystavovaly přihlašovací údaje více než dvakrát častěji než commity pouze od lidí (3,2 % oproti 1,5 %), což přispívá k širšímu nárůstu pevně zakódovaných přihlašovacích údajů (hardcoded credentials) ve veřejných repozitářích.

Tyto trendy dohromady zvyšují pravděpodobnost, že se zranitelnosti, nejisté konfigurace nebo uniklé klíče dostanou do produkčních systémů.

Příklad OpenClaw: Když jsou AI systémy vystaveny internetu

Rizika jsou obzvláště patrná v systémech postavených kolem AI agentů a automatizačních nástrojů.

Open-source platforma pro AI asistenty OpenClaw je bezpečnostními výzkumníky uváděna jako hlavní příklad vystavené AI infrastruktury. Vyšetřování identifikovala desítky tisíc internetově přístupných nasazení, z nichž mnohá jsou zranitelná vůči převzetí kvůli chybné konfiguraci nebo zastaralému softwaru.

Při některých skenech bylo online nalezeno více než 21 000 veřejně přístupných instancí, přičemž nesprávně nakonfigurované systémy unikaly API klíče, OAuth tokeny a hesla v prostém textu.

Další analýza ekosystému platformy odhalila problémy i na jejím tržišti rozšíření: skenování téměř 4 000 dovedností (skills) odhalilo 283 balíčků – tedy asi 7,1 % – obsahujících kritické chyby při zacházení s přihlašovacími údaji, které by mohly vystavit citlivá data.

Tyto incidenty ilustrují širší problém: když jsou výkonní AI agenti nasazeni bez silných bezpečnostních praktik, mohou se efektivně stát veřejnými ovládacími panely pro systémy, s nimiž jsou integrováni.

Proč se inženýři obávají netrénovaných uživatelů

Mnoho vývojářů zdůrazňuje, že skutečné nebezpečí není v nástrojích samotných, ale v tom, kdo je používá a jak.

Tradiční vývoj softwaru předpokládá, že osoba, která píše kód, rozumí jeho architektuře, závislostem a bezpečnostním hranicím. Vibe coding tento předpoklad boří.

Pokud někdo není schopen přečíst nebo pochopit vygenerovaný kód, může být stále schopen nasadit funkční aplikaci – ale pravděpodobně nerozpozná:

• skryté zranitelnosti
• nebezpečné autentizační toky
• nejisté řetězce závislostí
• jemné selhání v okrajových případech

V praxi to může produkovat software, který funguje v demonstracích, ale selhává v reálných podmínkách. Inženýři tyto systémy často popisují jako „happy-path software“ – aplikace, které fungují pouze za ideálních scénářů, protože jejich tvůrci nejsou schopni plně vyhodnotit základní logiku.

Dlouhodobá cena: Technický dluh v masivním měřítku

Dokonce i když AI-generovaný kód funguje správně, může rychle akumulovat technický dluh.

Protože AI dramaticky zvyšuje množství kódu produkovaného na jednoho vývojáře, organizace nakonec spravují větší a složitější kódové základny. Pokud tento kód obsahuje redundantní logiku, nekonzistentní designové vzory nebo slabou dokumentaci, budoucí změny jsou dražší a riskantnější.

Bezpečnostní výzkumníci varují, že tato dynamika vytváří formu „bezpečnostního dluhu“, kdy zranitelnosti narůstají rychleji, než je organizace schopny identifikovat a opravit.

Jinými slovy, nárůst produktivity nastává okamžitě – ale náklady na údržbu se objeví později.

Paralelní problém vznikající ve vědeckém výzkumu

Stejná dynamika – levná generace kombinovaná s nákladným vyhodnocováním – se začíná objevovat i ve vědě.

AI systémy jsou stále více používány k prohledávání literatury, generování hypotéz, psaní článků a asistenci při recenzních řízeních.

V některých případech jsou výsledky slibné. Experimenty ukazují, že jazykové modely mohou generovat plausibilní a někdy i nové vědecké hypotézy, které mohou výzkumníci testovat experimentálně.

Rozsáhlé studie srovnávající lidské a AI-generované výzkumné nápady však naznačují, že AI-generované hypotézy si při experimentálním testování často vedou hůře.

Editori a výzkumníci jsou stále více znepokojeni možností „AI slop“ efektu i v akademické sféře. Redakční článek v časopise Science z roku 2026 varoval, že nezveřejněné nebo nadměrné používání AI při tvorbě rukopisů by mohlo degradovat spolehlivost vědeckého záznamu, pokud dohled nebude držet krok.

Skutečné úzké místo: Lidský úsudek

Napříč softwarovým inženýrstvím i výzkumem je jádro problému stejné.

AI dramaticky snižuje náklady na produkci výstupů – kódu, článků, hypotéz nebo návrhů. Ale náklady na vyhodnocení těchto výstupů stále závisí na expertním lidském úsudku.

Když se generace stane téměř zadarmo, ale vyhodnocení zůstává vzácné, systémy se mohou zaplavit plausibilní, ale nespolehlivou prací. V softwaru se to projevuje jako nejistý kód a křehké systémy. Ve vědě se to může projevit jako velké objemy slabých hypotéz nebo nekvalitních rukopisů.

Výzvou pro organizace a instituce není jen přijetí AI nástrojů – je to vybudování revizních procesů, bezpečnostních praktik a správy (governance) potřebných k tomu, aby se výsledná záplava výstupů nestala vibe slopem.

Tato nerovnováha znamená, že týmy mohou akumulovat velké objemy funkčně správného, ale nedostatečně pochopeného softwaru, který je s postupem času stále obtížnější udržovat.

Správci open-source projektů již hlásí, že jsou zahlceni záplavou AI-generovaných příspěvků, což analytici někdy popisují jako vlnu „AI slopu“, která zatěžuje kapacitu review a governance projektu.

Bezpečnostní rizika: Více zranitelností v produkci

Jedním z nejvážnějších problémů je bezpečnost.

Bezpečnostní výzkumníci zdokumentovali měřitelný nárůst zranitelností spojených s AI-generovaným kódem. Například výzkumníci sledující hlášení zranitelností uvedli, že v březnu 2026 bylo zveřejněno nejméně 35 nových CVE položek přímo spojených s AI-generovaným kódem, přičemž skutečné číslo je pravděpodobně vyšší, protože mnoho případů postrádá detekovatelná metadata.

Více studií také naznačuje, že AI nástroje pro psaní kódu často reprodukují nejisté vzory ze svých trénovacích dat. Testování napříč hlavními modely zjistilo, že přibližně 45 % vygenerovaných vzorků kódu obsahovalo běžné bezpečnostní zranitelnosti, včetně problémů v kategoriích OWASP Top 10.

Další riziko zahrnuje únik tajných údajů (secret leakage). Analýza reálných vývojových workflow zjistila, že commity s asistencí AI vystavovaly přihlašovací údaje více než dvakrát častěji než commity pouze od lidí (3,2 % oproti 1,5 %), což přispívá k širšímu nárůstu pevně zakódovaných přihlašovacích údajů (hardcoded credentials) ve veřejných repozitářích.

Tyto trendy dohromady zvyšují pravděpodobnost, že se zranitelnosti, nejisté konfigurace nebo uniklé klíče dostanou do produkčních systémů.

Příklad OpenClaw: Když jsou AI systémy vystaveny internetu

Rizika jsou obzvláště patrná v systémech postavených kolem AI agentů a automatizačních nástrojů.

Open-source platforma pro AI asistenty OpenClaw je bezpečnostními výzkumníky uváděna jako hlavní příklad vystavené AI infrastruktury. Vyšetřování identifikovala desítky tisíc internetově přístupných nasazení, z nichž mnohá jsou zranitelná vůči převzetí kvůli chybné konfiguraci nebo zastaralému softwaru.

Při některých skenech bylo online nalezeno více než 21 000 veřejně přístupných instancí, přičemž nesprávně nakonfigurované systémy unikaly API klíče, OAuth tokeny a hesla v prostém textu.

Další analýza ekosystému platformy odhalila problémy i na jejím tržišti rozšíření: skenování téměř 4 000 dovedností (skills) odhalilo 283 balíčků – tedy asi 7,1 % – obsahujících kritické chyby při zacházení s přihlašovacími údaji, které by mohly vystavit citlivá data.

Tyto incidenty ilustrují širší problém: když jsou výkonní AI agenti nasazeni bez silných bezpečnostních praktik, mohou se efektivně stát veřejnými ovládacími panely pro systémy, s nimiž jsou integrováni.

Proč se inženýři obávají netrénovaných uživatelů

Mnoho vývojářů zdůrazňuje, že skutečné nebezpečí není v nástrojích samotných, ale v tom, kdo je používá a jak.

Tradiční vývoj softwaru předpokládá, že osoba, která píše kód, rozumí jeho architektuře, závislostem a bezpečnostním hranicím. Vibe coding tento předpoklad boří.

Pokud někdo není schopen přečíst nebo pochopit vygenerovaný kód, může být stále schopen nasadit funkční aplikaci – ale pravděpodobně nerozpozná:

• skryté zranitelnosti
• nebezpečné autentizační toky
• nejisté řetězce závislostí
• jemné selhání v okrajových případech

V praxi to může produkovat software, který funguje v demonstracích, ale selhává v reálných podmínkách. Inženýři tyto systémy často popisují jako „happy-path software“ – aplikace, které fungují pouze za ideálních scénářů, protože jejich tvůrci nejsou schopni plně vyhodnotit základní logiku.

Dlouhodobá cena: Technický dluh v masivním měřítku

Dokonce i když AI-generovaný kód funguje správně, může rychle akumulovat technický dluh.

Protože AI dramaticky zvyšuje množství kódu produkovaného na jednoho vývojáře, organizace nakonec spravují větší a složitější kódové základny. Pokud tento kód obsahuje redundantní logiku, nekonzistentní designové vzory nebo slabou dokumentaci, budoucí změny jsou dražší a riskantnější.

Bezpečnostní výzkumníci varují, že tato dynamika vytváří formu „bezpečnostního dluhu“, kdy zranitelnosti narůstají rychleji, než je organizace schopny identifikovat a opravit.

Jinými slovy, nárůst produktivity nastává okamžitě – ale náklady na údržbu se objeví později.

Paralelní problém vznikající ve vědeckém výzkumu

Stejná dynamika – levná generace kombinovaná s nákladným vyhodnocováním – se začíná objevovat i ve vědě.

AI systémy jsou stále více používány k prohledávání literatury, generování hypotéz, psaní článků a asistenci při recenzních řízeních.

V některých případech jsou výsledky slibné. Experimenty ukazují, že jazykové modely mohou generovat plausibilní a někdy i nové vědecké hypotézy, které mohou výzkumníci testovat experimentálně.

Rozsáhlé studie srovnávající lidské a AI-generované výzkumné nápady však naznačují, že AI-generované hypotézy si při experimentálním testování často vedou hůře.

Editori a výzkumníci jsou stále více znepokojeni možností „AI slop“ efektu i v akademické sféře. Redakční článek v časopise Science z roku 2026 varoval, že nezveřejněné nebo nadměrné používání AI při tvorbě rukopisů by mohlo degradovat spolehlivost vědeckého záznamu, pokud dohled nebude držet krok.

Skutečné úzké místo: Lidský úsudek

Napříč softwarovým inženýrstvím i výzkumem je jádro problému stejné.

AI dramaticky snižuje náklady na produkci výstupů – kódu, článků, hypotéz nebo návrhů. Ale náklady na vyhodnocení těchto výstupů stále závisí na expertním lidském úsudku.

Když se generace stane téměř zadarmo, ale vyhodnocení zůstává vzácné, systémy se mohou zaplavit plausibilní, ale nespolehlivou prací. V softwaru se to projevuje jako nejistý kód a křehké systémy. Ve vědě se to může projevit jako velké objemy slabých hypotéz nebo nekvalitních rukopisů.

Výzvou pro organizace a instituce není jen přijetí AI nástrojů – je to vybudování revizních procesů, bezpečnostních praktik a správy (governance) potřebných k tomu, aby se výsledná záplava výstupů nestala vibe slopem.