Sikkerhetshull i GPT-5.4: Forskere lurte ChatGPT til å generere grafisk vold og seksuelt innhold

I juni 2026 viste det britiske KI-sikkerhetsselskapet Mindgard at OpenAIs mest avanserte offentlige modell, GPT-5.4, kan lurees til å generere seksualiserte og voldelige bilder – ved hjelp av en tekstmelding som opprinnelig skulle være harmløs og morsom. Funnene, først omtalt av BBC, avdekker en grunnleggende svakhet i KI-sikkerhetssystemer som selv bransjens mest forsiktige aktører ikke klarer å tette helt .

Hva Mindgard fant

Mindgards såkalte 'red-team-testing' viste at GPT-5.4 – den nyeste offentlige versjonen av ChatGPT – kunne manipuleres til å lage bilder som bryter med OpenAIs egne retningslinjer. Bildene inkluderte scener med seksuell vold, blodige bilder og nakenhet, både med fiktive og virkelige personer. Det oppsiktsvekkende var at angrepet ikke krevde spesiell tilgang eller påloggingsinformasjon – det var bare snakk om å endre selve instruksjonsteksten .

De urovekkende bildene

BBC, som har sett bildene, beskriver følgende :

• Et "grusomt åsted" – en død ung kvinne i kort topp og shorts, med ansikt og kropp dekket av blod, med tegn på seksuell vold.
• "Forlatt i frykt og bundet" – en ung kvinne som er bundet og har munnbind i et tomt, skittent rom, og ser redd ut.
• En mann med et stort hodesår som ligger på gulvet omgitt av væpnede menn.
• Flere bilder med seksuelle positurer, nakenhet og seksualiserte stillinger.

Mindgards grunnlegger Peter Garraghan beskrev resultatene som "veldig grusomme, noen ganger seksualiserte, noen ganger begge deler" . Forsker Jim Nightingale, som ledet testingen, sa han ble "rystet og gråt" over det systemet produserte .

Slik fungerte omgåelsen

Angrepet er en form for adversarial prompting. Mindgard tok en mye delt, harmløs tekstmelding som var ment å være morsom, og gjorde små endringer i instruksjonen. Det avgjørende: den endrede meldingen spesifiserte ikke det urovekkende innholdet. KI-en genererte de blodige og seksualiserte bildene "av egen vilje" ut fra det som så ut som en uskyldig instruksjon .

Dette bygde på Mindgards tidligere forskning, som viste at ChatGPTs bildesikring også kunne omgås gjennom manipulering av minne – der tilpasset brukerminne og systeminstruksjoner overstyrer sikkerhetsfiltre uten at man trenger tilgang til baksiden eller endrer selve modellen .

OpenAIs respons

Mindgard varslet OpenAI om sårbarheten i mai 2026. Selskapet svarte først bare med en automatisk melding . Etter at BBC tok kontakt, sa OpenAI at de hadde "innført ekstra sikkerhetstiltak mot denne typen tekstmeldinger" . Selskapet opplyste at de bruker flere lag med bildesikkerhet, og kombinerer automatiske systemer med manuell gjennomgang .

Men Mindgard fant at med enda mindre endringer i teksten, kunne den samme omgåelsen fortsatt produsere urovekkende innhold – også etter OpenAIs oppdateringer .

Større bekymringer for KI-sikkerhet

Mindgard-oppdagelsen er del av et bredere mønster som er dokumentert i hele bransjen :

• Katt-og-mus-dynamikk: KI-sikkerhetsekspert Dr. Rumman Chowdhury kalte utfordringen "fjellstor" – etter hvert som beskyttelsen blir bedre, blir metodene for å omgå dem mer sofistikerte.
• Modellene mangler forståelse: KI-systemer forstår ikke intensjon, kontekst eller moral slik mennesker gjør, noe som gjør nyansert regelhåndheving ekstremt vanskelig.
• Treningsdataene speiler virkeligheten: Nightingale påpekte at resultatene henger sammen med ekte bilder som er hentet fra internett og brukt i treningsdataene.
• Tidligere sårbarhet: Mindgard hadde allerede i 2026 vist at ChatGPT kunne lurees til å lage nakenbilder av virkelige personer ved å bytte ansikter .
• Bransjeomfattende problem: Storbritannias AI Security Institute fant nylig såkalte 'jailbreaks' som overstyrte sikkerhetstiltak i alle KI-systemer de testet . OpenAIs GPT-5 ble tidligere avslørt for fortsatt å produsere homofobiske skjellsord, til tross for lovede sikkerhetsforbedringer .
• Politikkhull: OpenAIs egne retningslinjer forbyr erotikk, ulovlig seksuelt innhold og ekstrem vold, med mindre det er i vitenskapelig, historisk eller kunstnerisk sammenheng – men å håndheve disse nyansene i stor skala er et uløst ingeniørproblem som ingen selskap har klart å løse .