Denna obalans innebär att team kan ackumulera stora volymer av funktionellt korrekt men dåligt förstådd programvara, som blir allt svårare att underhålla över tid.

Underhållare av öppen källkod har redan rapporterat att de överväldigas av floder av AI-genererade bidrag, ett fenomen som analytiker ibland beskriver som en ”AI-slop”-våg som anstränger granskningskapaciteten och projektstyrningen.

Säkerhetsrisker: Fler sårbarheter når produktion

En av de allvarligaste farhågorna gäller säkerhet.

Säkerhetsforskare har dokumenterat en mätbar ökning av sårbarheter kopplade till AI-genererad kod. Till exempel rapporterade forskare som spårar sårbarhetsrapporter minst 35 nya CVE-poster i mars 2026 som direkt berodde på AI-genererad kod, där det verkliga antalet sannolikt är högre eftersom många fall saknar detekterbar metadata.

Flera studier tyder också på att AI-programmeringsverktyg ofta återger osäkra mönster från sin träningsdata. Tester över stora modeller visade att cirka 45 % av de genererade kodexemplen introducerade vanliga säkerhetsbrister, inklusive problem inom OWASP Top 10-kategorierna.

En annan risk är läckage av hemligheter. Analys av verkliga utvecklingsarbetsflöden visade att AI-assisterade incheckningar exponerade inloggningsuppgifter mer än dubbelt så ofta som enbart mänskliga incheckningar (3,2 % mot 1,5 %), vilket bidrar till en bredare ökning av hårdkodade inloggningsuppgifter i publika arkiv.

Tillsammans ökar dessa trender sannolikheten för att sårbarheter, osäkra konfigurationer eller läckta nycklar når produktionssystemen.

OpenClaw-exemplet: När AI-system exponeras för internet

Riskerna blir särskilt tydliga i system som bygger på AI-agenter och automatiseringsverktyg.

Den öppna AI-assistentplattformen OpenClaw har lyfts fram av säkerhetsforskare som ett typexempel på exponerad AI-infrastruktur. Utredningar har identifierat tiotusentals internetåtkomliga installationer, varav många är sårbara för övertagande på grund av felkonfiguration eller föråldrad programvara.

I vissa skanningar hittades mer än 21 000 offentligt tillgängliga instanser online, där felkonfigurerade system läckte API-nycklar, OAuth-token och klartextinloggningsuppgifter.

Ytterligare analys av plattformens ekosystem avslöjade problem även på dess tilläggsmarknad: en genomsökning av nästan 4 000 färdigheter visade 283 paket – cirka 7,1 % – som innehöll kritiska brister i hanteringen av inloggningsuppgifter, vilket kunde exponera känslig data.

Dessa incidenter belyser ett bredare problem: när kraftfulla AI-agenter distribueras utan starka säkerhetsrutiner kan de i praktiken bli offentliga kontrollpaneler för de system de är integrerade med.

Varför ingenjörer oroar sig för otränade användare

Många utvecklare betonar att den verkliga faran inte är verktygen i sig, utan vem som använder dem och hur.

Traditionell programvaruutveckling förutsätter att den som skriver koden förstår arkitekturen, beroenden och säkerhetsgränserna. Vibe coding bryter mot det antagandet.

Om någon inte kan läsa eller resonera kring den genererade koden, kan de fortfarande kunna distribuera en fungerande applikation – men de kanske inte upptäcker:

• dolda sårbarheter
• osäkra autentiseringsflöden
• osäkra beroendekedjor
• subtila gränsfallsfel

I praktiken kan detta producera programvara som fungerar i demonstrationer men fallerar under verkliga förhållanden. Ingenjörer beskriver ofta dessa system som ”happy-path-programvara” – applikationer som bara fungerar under idealiska scenarier eftersom deras skapare inte fullt ut kan utvärdera den underliggande logiken.

Den långsiktiga kostnaden: Tekniska skulder i stor skala

Även när AI-genererad kod fungerar korrekt kan den snabbt ackumulera teknisk skuld.

Eftersom AI dramatiskt ökar mängden kod som produceras per utvecklare, hamnar organisationer i situationer där de måste hantera större och mer komplexa kodbaser. Om den koden innehåller redundant logik, inkonsekventa designmönster eller svag dokumentation, blir framtida förändringar dyrare och mer riskfyllda.

Säkerhetsforskare varnar för att denna dynamik skapar en form av ”säkerhetsskuld”, där sårbarheter ackumuleras snabbare än organisationer kan identifiera och åtgärda dem.

Med andra ord: produktivitetsökningen kommer omedelbart – men underhållskostnaderna kommer senare.

Ett parallellt problem växer fram inom vetenskaplig forskning

Samma dynamik – billig generering kombinerad med dyr utvärdering – börjar nu synas inom vetenskapen.

AI-system används allt oftare för att söka litteratur, generera hypoteser, utkast till artiklar och assistera i granskningsprocesser.

I vissa fall är resultaten lovande. Experiment visar att språkmodeller kan generera trovärdiga och ibland nya vetenskapliga hypoteser som forskare kan testa experimentellt.

Däremot tyder stora studier som jämför mänskliga och AI-genererade forskningsidéer på att AI-genererade hypoteser ofta presterar sämre när de utvärderas experimentellt.

Redaktörer och forskare blir allt mer oroade över möjligheten av en ”AI-slop”-effekt även inom akademin. En ledare i Science från 2026 varnade för att oredovisad eller överdriven användning av AI vid framställning av manuskript kan försämra den vetenskapliga litteraturens tillförlitlighet om inte tillsynen håller jämna steg.

Den verkliga flaskhalsen: Mänskligt omdöme

Inom både programvaruteknik och forskning är kärnproblemet detsamma.

AI minskar dramatiskt kostnaden för att producera resultat – kod, artiklar, hypoteser eller designer. Men kostnaden för att utvärdera dessa resultat är fortfarande beroende av expertmänskligt omdöme.

När generering blir nästan gratis medan utvärdering förblir knapp, kan system översvämmas av trovärdigt men opålitligt arbete. Inom programvaruutveckling yttrar sig detta som osäker kod och sköra system. Inom vetenskapen kan det visa sig som stora mängder svaga hypoteser eller lågkvalitativa manuskript.

Utmaningen för organisationer och institutioner är inte bara att anta AI-verktyg – det är att bygga de granskningsprocesser, säkerhetsrutiner och styrningsmodeller som krävs för att hindra den resulterande flodvågen av output från att blir vibe slop.

Denna obalans innebär att team kan ackumulera stora volymer av funktionellt korrekt men dåligt förstådd programvara, som blir allt svårare att underhålla över tid.

Underhållare av öppen källkod har redan rapporterat att de överväldigas av floder av AI-genererade bidrag, ett fenomen som analytiker ibland beskriver som en ”AI-slop”-våg som anstränger granskningskapaciteten och projektstyrningen.

Säkerhetsrisker: Fler sårbarheter når produktion

En av de allvarligaste farhågorna gäller säkerhet.

Säkerhetsforskare har dokumenterat en mätbar ökning av sårbarheter kopplade till AI-genererad kod. Till exempel rapporterade forskare som spårar sårbarhetsrapporter minst 35 nya CVE-poster i mars 2026 som direkt berodde på AI-genererad kod, där det verkliga antalet sannolikt är högre eftersom många fall saknar detekterbar metadata.

Flera studier tyder också på att AI-programmeringsverktyg ofta återger osäkra mönster från sin träningsdata. Tester över stora modeller visade att cirka 45 % av de genererade kodexemplen introducerade vanliga säkerhetsbrister, inklusive problem inom OWASP Top 10-kategorierna.

En annan risk är läckage av hemligheter. Analys av verkliga utvecklingsarbetsflöden visade att AI-assisterade incheckningar exponerade inloggningsuppgifter mer än dubbelt så ofta som enbart mänskliga incheckningar (3,2 % mot 1,5 %), vilket bidrar till en bredare ökning av hårdkodade inloggningsuppgifter i publika arkiv.

Tillsammans ökar dessa trender sannolikheten för att sårbarheter, osäkra konfigurationer eller läckta nycklar når produktionssystemen.

OpenClaw-exemplet: När AI-system exponeras för internet

Riskerna blir särskilt tydliga i system som bygger på AI-agenter och automatiseringsverktyg.

Den öppna AI-assistentplattformen OpenClaw har lyfts fram av säkerhetsforskare som ett typexempel på exponerad AI-infrastruktur. Utredningar har identifierat tiotusentals internetåtkomliga installationer, varav många är sårbara för övertagande på grund av felkonfiguration eller föråldrad programvara.

I vissa skanningar hittades mer än 21 000 offentligt tillgängliga instanser online, där felkonfigurerade system läckte API-nycklar, OAuth-token och klartextinloggningsuppgifter.

Ytterligare analys av plattformens ekosystem avslöjade problem även på dess tilläggsmarknad: en genomsökning av nästan 4 000 färdigheter visade 283 paket – cirka 7,1 % – som innehöll kritiska brister i hanteringen av inloggningsuppgifter, vilket kunde exponera känslig data.

Dessa incidenter belyser ett bredare problem: när kraftfulla AI-agenter distribueras utan starka säkerhetsrutiner kan de i praktiken bli offentliga kontrollpaneler för de system de är integrerade med.

Varför ingenjörer oroar sig för otränade användare

Många utvecklare betonar att den verkliga faran inte är verktygen i sig, utan vem som använder dem och hur.

Traditionell programvaruutveckling förutsätter att den som skriver koden förstår arkitekturen, beroenden och säkerhetsgränserna. Vibe coding bryter mot det antagandet.

Om någon inte kan läsa eller resonera kring den genererade koden, kan de fortfarande kunna distribuera en fungerande applikation – men de kanske inte upptäcker:

• dolda sårbarheter
• osäkra autentiseringsflöden
• osäkra beroendekedjor
• subtila gränsfallsfel

I praktiken kan detta producera programvara som fungerar i demonstrationer men fallerar under verkliga förhållanden. Ingenjörer beskriver ofta dessa system som ”happy-path-programvara” – applikationer som bara fungerar under idealiska scenarier eftersom deras skapare inte fullt ut kan utvärdera den underliggande logiken.

Den långsiktiga kostnaden: Tekniska skulder i stor skala

Även när AI-genererad kod fungerar korrekt kan den snabbt ackumulera teknisk skuld.

Eftersom AI dramatiskt ökar mängden kod som produceras per utvecklare, hamnar organisationer i situationer där de måste hantera större och mer komplexa kodbaser. Om den koden innehåller redundant logik, inkonsekventa designmönster eller svag dokumentation, blir framtida förändringar dyrare och mer riskfyllda.

Säkerhetsforskare varnar för att denna dynamik skapar en form av ”säkerhetsskuld”, där sårbarheter ackumuleras snabbare än organisationer kan identifiera och åtgärda dem.

Med andra ord: produktivitetsökningen kommer omedelbart – men underhållskostnaderna kommer senare.

Ett parallellt problem växer fram inom vetenskaplig forskning

Samma dynamik – billig generering kombinerad med dyr utvärdering – börjar nu synas inom vetenskapen.

AI-system används allt oftare för att söka litteratur, generera hypoteser, utkast till artiklar och assistera i granskningsprocesser.

I vissa fall är resultaten lovande. Experiment visar att språkmodeller kan generera trovärdiga och ibland nya vetenskapliga hypoteser som forskare kan testa experimentellt.

Däremot tyder stora studier som jämför mänskliga och AI-genererade forskningsidéer på att AI-genererade hypoteser ofta presterar sämre när de utvärderas experimentellt.

Redaktörer och forskare blir allt mer oroade över möjligheten av en ”AI-slop”-effekt även inom akademin. En ledare i Science från 2026 varnade för att oredovisad eller överdriven användning av AI vid framställning av manuskript kan försämra den vetenskapliga litteraturens tillförlitlighet om inte tillsynen håller jämna steg.

Den verkliga flaskhalsen: Mänskligt omdöme

Inom både programvaruteknik och forskning är kärnproblemet detsamma.

AI minskar dramatiskt kostnaden för att producera resultat – kod, artiklar, hypoteser eller designer. Men kostnaden för att utvärdera dessa resultat är fortfarande beroende av expertmänskligt omdöme.

När generering blir nästan gratis medan utvärdering förblir knapp, kan system översvämmas av trovärdigt men opålitligt arbete. Inom programvaruutveckling yttrar sig detta som osäker kod och sköra system. Inom vetenskapen kan det visa sig som stora mängder svaga hypoteser eller lågkvalitativa manuskript.

Utmaningen för organisationer och institutioner är inte bara att anta AI-verktyg – det är att bygga de granskningsprocesser, säkerhetsrutiner och styrningsmodeller som krävs för att hindra den resulterande flodvågen av output från att blir vibe slop.