AnswersPublished13 sources
Metas deepfake-skydd döms ut som ”grundläggande otillräckligt”
Den 17 september 2026 slog Metas tillsynsnämnd fast att bolagets hantering av skadligt AI genererat material är ”konsekvent och grundläggande otillräcklig” och beordrade att två Facebook videor tas bort. Den ena videon gav sken av att en skotsk Labourpolitiker gjort grovt provocerande uttalanden om flyktingar.
Publicerad avRedigerad med GPT-5.6 TerraBilder genererade med GPT Image 2
Research answer
Key takeaways
- Den 17 september 2026 slog Metas tillsynsnämnd fast att bolagets hantering av skadligt AI genererat material är ”konsekvent och grundläggande otillräcklig” och beordrade att två Facebook videor tas bort.
- Den ena videon gav sken av att en skotsk Labourpolitiker gjort grovt provocerande uttalanden om flyktingar.
- Nämnden vill se bredare varningsmärkning för högrisk AI, minskad spridning och hårdare åtgärder mot återkommande spridare.
AI Prompt
openai.comCreate a landscape editorial hero image for this Studio Global article: What did Meta’s Oversight Board conclude about the company’s handling of AI-generated deepfakes in its September 17, 2026 decisions, and how. Article summary: Meta’s Oversight Board concluded that Meta’s rules and enforcement for harmful AI-generated media are “consistently and fundamentally inadequate.” It overturned Meta in both cases, ordering removal of the videos and argu. Topic tags: general, general web, news. Style: premium digital editorial illustration, source-backed research mood, clean composition, high detail, modern web publication hero. Use reference image context only for broad subject, composition, and topical grounding; do not copy the exact image. Avoid: logos, brand marks, copyrighted characters, real person likenesses, fake screenshots, UI text, readable text, watermarks, charts with fake numbers
AI-genererad imitation kan orsaka verklig skada även när materialet inte är sexuellt explicit eller kopplat till ett val. I två beslut som publicerades den 17 september 2026 slog Metas tillsynsnämnd, Oversight Board, fast att företagets skydd mot skadligt syntetiskt innehåll är ”konsekvent och grundläggande otillräckliga”. Nämnden upphävde Metas tidigare beslut att låta två Facebook-videor ligga kvar och krävde att de tas bort. 1
11
Två olika videor – samma grundproblem
Fallen rör olika personer och olika typer av manipulation, men pekar enligt nämnden på samma brist: Metas system för granskning och märkning reagerade inte tillräckligt på AI-material som användes för att vilseleda, förlöjliga eller väcka fientlighet mot kvinnor.
I det första fallet användes en skotsk Labourpolitikers utseende i en video som felaktigt framställde henne som om hon hade gjort uppseendeväckande uttalanden om flyktingar. Tillsynsnämnden bedömde att inlägget skulle tas bort enligt Metas regler om hatpropaganda, eftersom det tillskrev flyktingar som grupp grova brottsliga och rovgiriga handlingar. Meta hade först låtit innehållet ligga kvar. 1
Det andra fallet handlade om en AI-genererad video av en ung muslimsk kvinna som deltagit i arbete med menstruationshälsa. Videon gav felaktigt intryck av att hon gav hälsoråd, samtidigt som hon framställdes på ett sätt som var avsett att inbjuda till hån. Nämnden krävde att Meta skulle ta bort videon och bedömde den som mobbning av kvinnan som skildrades. 11
13
Deepfakes kan användas för att tysta kvinnor
Besluten visar att en övertygande förfalskning kan skada utan att innehålla nakenhet eller sexuellt material.
För en lokal politiker kan ett påhittat uttalande slå mot trovärdigheten och utlösa hat eller trakasserier, genom att få det att se ut som att personen står för åsikter hon aldrig uttryckt. I fallet med politikern förstärktes skadan av att videon också innehöll ett hatiskt påstående om flyktingar – vilket både kunde lura tittare och skada en skyddad grupp. 1
För en lokal opinionsbildare kan en falsk video göra hennes utseende och offentliga roll till föremål för förlöjligande. Fallet med volontären visar hur syntetiskt material kan användas för att undergräva en kvinnas auktoritet och öppna för angrepp på hennes utseende, även när religion är en del av fientligheten runt inlägget. 11
Nämndens bredare invändning är att kvinnor i offentliga roller – politiker, aktivister och andra personer med mindre resurser eller lägre kändisskap – kan vara särskilt utsatta när billiga AI-verktyg gör trovärdiga imitationer enkla att skapa och sprida. Problemet är alltså inte begränsat till välkända personer eller desinformation under valrörelser. 1
13
Kritiken gäller systemet, inte bara två missar
Tillsynsnämnden riktar inte bara kritik mot att Meta fattade fel beslut i de enskilda fallen. I politikerns fall fick anmälningarna ingen prioriterad mänsklig granskning. Meta ansåg dessutom, fram till nämndens ingripande, att videon varken bröt mot reglerna eller behövde AI-märkas. 1
I de två besluten pekar nämnden på brister i hur Meta identifierar skadligt AI-material, skickar anmälningar vidare för granskning, definierar övergrepp och förklarar riskerna med syntetiskt innehåll för tittare. En etikett räcker inte nödvändigtvis när innehållet används för att trakassera en person eller spä på fientlighet mot en grupp. I vissa fall är borttagning den rimliga åtgärden. 1
11
Åtgärderna som Meta uppmanas att införa
För manipulerat innehåll som får ligga kvar vill nämnden att Meta stärker sin märkning för ”High Risk AI”, alltså AI-innehåll med hög risk. Rekommendationerna omfattar bland annat en lägre tröskel för sådan märkning även utanför val och krissituationer, varningssidor som användaren måste klicka sig igenom samt minskad räckvidd eller möjlighet till intäkter för skadligt syntetiskt material.
Nämnden vill också se tydligare konsekvenser för konton som upprepade gånger delar sådant innehåll och mer öppen, sökbar information om hur AI-märkningar används. Den upprepar dessutom att Meta bör klargöra vilka påföljder som gäller när användare inte självmant märker ändrat eller AI-genererat material. 1
Besluten att ta bort de enskilda inläggen är bindande för Meta. De bredare policyrekommendationerna är däremot inte automatiskt bindande, men Meta förväntas svara på dem inom 60 dagar. 1
Betydelsen sträcker sig längre än de två fallen
Besluten kommer samtidigt som granskningen av AI-driven nätmobbning och annonser för verktyg som kan skapa sexualiserade bilder utan samtycke har skärpts. Det ger tyngd åt nämndens huvudpoäng: riskerna med syntetiskt innehåll är inte begränsade till valpåverkan.
AI-manipulation kan också användas för att skada någons rykte, förstärka hat, sexualisera personer utan samtycke och få kvinnor att dra sig undan från offentliga sammanhang. För plattformarna är den avgörande frågan därför inte enbart om ett AI-inlägg ser äkta ut, utan om systemen kan upptäcka när en förfalskad framställning används för att orsaka verklig skada – och agera innan den hinner få stor spridning.
Studio Global AI
Continue your research
This page includes a source-backed answer you can continue inside Studio Global.
People also ask
What is the short answer to "Metas deepfake-skydd döms ut som ”grundläggande otillräckligt”"?
Den 17 september 2026 slog Metas tillsynsnämnd fast att bolagets hantering av skadligt AI genererat material är ”konsekvent och grundläggande otillräcklig” och beordrade att två Facebook videor tas bort.
What are the key points to validate first?
Den 17 september 2026 slog Metas tillsynsnämnd fast att bolagets hantering av skadligt AI genererat material är ”konsekvent och grundläggande otillräcklig” och beordrade att två Facebook videor tas bort. Den ena videon gav sken av att en skotsk Labourpolitiker gjort grovt provocerande uttalanden om flyktingar.
What should I do next in practice?
Nämnden vill se bredare varningsmärkning för högrisk AI, minskad spridning och hårdare åtgärder mot återkommande spridare.