Denne ubalance betyder, at teams kan akkumulere store mængder af funktionelt korrekt, men dårligt forstået software, som bliver stadig sværere at vedligeholde over tid.
Open-source-vedligeholdere har allerede rapporteret, at de bliver overvældet af en strøm af AI-genererede bidrag, et fænomen som analytikere nogle gange beskriver som en “AI slop”-bølge, der belaster review-kapaciteten og projektstyringen.
Et af de mest alvorlige problemer er sikkerheden.
Sikkerhedsforskere har dokumenteret en målbar stigning i sårbarheder, der er knyttet til AI-genereret kode. For eksempel sporede forskere sårbarhedsrapporter og rapporterede mindst 35 nye CVE-indgange i marts 2026, der direkte var resultatet af AI-genereret kode, og det reelle tal er sandsynligvis højere, fordi mange tilfælde mangler detekterbar metadata.
Flere studier antyder også, at AI-kodningsværktøjer ofte reproducerer usikre mønstre fra deres træningsdata. Test på tværs af store modeller viste, at omkring 45 % af de genererede kodeeksempler introducerede almindelige sikkerhedssårbarheder, herunder problemer i OWASP Top 10-kategorierne.
En anden risiko involverer lækage af hemmeligheder. Analyse af virkelige udviklingsworkflows viste, at AI-assisterede commits eksponerede legitimationsoplysninger mere end dobbelt så ofte som rent menneskelige commits (3,2 % mod 1,5 %), hvilket bidrager til en bredere stigning i hårdkodede legitimationsoplysninger i offentlige repositories.
Tilsammen øger disse tendenser sandsynligheden for, at sårbarheder, usikre konfigurationer eller lækkede nøgler når produktionssystemerne.
Risiciene bliver særligt tydelige i systemer bygget omkring AI-agenter og automationsværktøjer.
Den open-source AI-assistentplatform OpenClaw er blevet nævnt af sikkerhedsforskere som et stort eksempel på eksponeret AI-infrastruktur. Undersøgelser har identificeret ti tusinder af internet-tilgængelige installationer, hvoraf mange er sårbare over for overtagelse på grund af fejlkonfiguration eller forældet software.
I nogle scanninger blev der fundet mere end 21.000 offentligt tilgængelige instanser på nettet, hvor fejlkonfigurerede systemer lækkede API-nøgler, OAuth-tokens og almindelige tekst-legitimationsoplysninger.
Yderligere analyse af platformens økosystem afslørede også problemer i dens udvidelsesmarkedsplads: scanning af næsten 4.000 skills afslørede 283 pakker – omkring 7,1 % – der indeholdt kritiske fejl i håndteringen af legitimationsoplysninger, som kunne eksponere følsomme data.
Disse hændelser illustrerer et bredere problem: Når kraftfulde AI-agenter implementeres uden stærke sikkerhedspraksisser, kan de i praksis blive offentlige kontrolpaneler for de systemer, de integrerer med.
Mange udviklere understreger, at den virkelige fare ikke er selve værktøjerne, men hvem der bruger dem og hvordan.
Traditionel softwareudvikling antager, at den person, der skriver koden, forstår dens arkitektur, afhængigheder og sikkerhedsgrænser. Vibe coding bryder med denne antagelse.
Hvis nogen ikke kan læse eller ræsonnere om den genererede kode, kan de måske stadig implementere en fungerende applikation – men de vil muligvis ikke genkende:
I praksis kan dette producere software, der fungerer i demonstrationer, men som fejler under virkelige forhold. Ingeniører beskriver ofte disse systemer som “happy-path-software” – applikationer, der kun fungerer under ideelle scenarier, fordi deres skabere ikke fuldt ud kan evaluere den underliggende logik.
Selv når AI-genereret kode fungerer korrekt, kan den hurtigt akkumulere teknisk gæld.
Fordi AI dramatisk øger mængden af kode produceret pr. udvikler, ender organisationer med at administrere større og mere komplekse kodebaser. Hvis den kode indeholder redundant logik, inkonsistente designmønstre eller svag dokumentation, bliver fremtidige ændringer dyrere og mere risikable.
Sikkerhedsforskere advarer om, at denne dynamik skaber en form for “sikkerhedsgæld”, hvor sårbarheder akkumuleres hurtigere, end organisationer kan identificere og rette dem.
Med andre ord: produktivitetsforøgelsen sker med det samme – men vedligeholdelsesomkostningerne kommer senere.
Den samme dynamik – billig produktion kombineret med dyr evaluering – er begyndt at vise sig i videnskaben.
AI-systemer bliver i stigende grad brugt til at søge i litteratur, generere hypoteser, udkast til artikler og assistere i peer review-workflows.
I nogle tilfælde er resultaterne lovende. Eksperimenter viser, at sprogmodeller kan generere plausible og til tider nye videnskabelige hypoteser, som forskere kan teste eksperimentelt.
Men store studier, der sammenligner menneske- og AI-genererede forskningsideer, antyder, at AI-genererede hypoteser ofte klarer sig dårligere, når de testes eksperimentelt.
Redaktører og forskere er i stigende grad bekymrede over muligheden for en “AI slop”-effekt i akademia. En leder i Science fra 2026 advarede om, at uoplyst eller overdreven brug af AI i manuskriptproduktion kunne forringe pålideligheden af den videnskabelige optegnelse, hvis tilsynet ikke følger med.
På tværs af både softwareudvikling og forskning er kerneidéen den samme.
AI reducerer dramatisk omkostningerne ved at producere output – kode, artikler, hypoteser eller design. Men omkostningerne ved at evaluere disse output afhænger stadig af ekspert, menneskelig dømmekraft.
Når produktion bliver næsten gratis, men evaluering forbliver knap, kan systemer blive oversvømmet med plausibelt, men upålideligt arbejde. I software viser det sig som usikker kode og skrøbelige systemer. I videnskab kan det vise sig som store mængder svage hypoteser eller lavkvalitetsmanuskripter.
Udfordringen for organisationer og institutioner er ikke blot at tage AI-værktøjer i brug – det er at opbygge de nødvendige review-processer, sikkerhedspraksisser og styringsmekanismer for at forhindre, at den resulterende strøm af output bliver til vibe slop.