Twitch slog på Amazons AI-träning som standard

Twitch har gjort användningen av kanalernas innehåll för Amazons generativa AI-träning till standard. Om en kreatör inte själv stänger av reglaget Training for Generative AI kan Amazon använda material från kanalen i framtida modeller som skapar eller syntetiserar text, ljud, bilder eller video. Det gäller bland annat streams, VOD:er, klipp, streamchatt samt bilder och text på kanalen.

Det var framför allt standardinställningen som väckte kritik – inte enbart att AI-träning förekommer. Kreatörer förväntades själva hitta sekretessinställningen och tacka nej, i stället för att först behöva ge ett aktivt godkännande.

Vilket Twitch-innehåll omfattas?

Inställningen är kopplad till en kanal. När den är aktiverad kan Twitchs angivna innehåll användas för träning av Amazons generativa AI-modeller, bland annat:

• livestreamar och inspelade sändningar;
• VOD:er, klipp och annat videomaterial på kanalen;
• innehåll från streamchatten; samt
• bilder och text som visas på kanalen.

Det handlar alltså om mer än kamerabilden eller kreatörens kommentarer. Kanalbeskrivningar, visuellt material och chattinlägg som hör till kanalen kan också omfattas av definitionen.

Så stänger du av Amazons AI-träning på Twitch

På webben går du till:

Settings → Security and Privacy → Training for Generative AI → stäng av reglaget.

I Twitchs mobilapp börjar du i stället via Profile → Settings → Security and Privacy.

Avstängningen är avsedd att undanta kanalens innehåll från framtida träning av Amazons generativa AI-modeller. Den beskrivs däremot inte som ett generellt verktyg för att radera material eller som ett återkallande av alla former av databehandling på Twitch.

Varför gäller avstängningen inte alla chattmeddelanden du skriver?

Reglaget följer kanalen – inte den enskilda personen som skriver. Om du stänger av funktionen på ditt eget konto styr det innehållet som publiceras på din kanal. Det ger dig inte ett kontoövergripande veto över meddelanden du skriver i en annan streamers chatt.

Om du deltar i någon annans stream är det den kanalens inställning som avgör om chattinnehållet kan ingå. En tittare kan därför ha stängt av AI-träning för sin egen kanal men ändå förekomma i chattdata från en kanal där ägaren inte har gjort det.

Det är en viktig praktisk begränsning: att stänga av reglaget på den egna kanalen ger dig inte kontroll över material som ligger under någon annans kanalinställningar.

Twitch-chefens förklaring: ”Ingen skulle välja det”

Under en Patch Notes-livestream fick Twitchs produktchef Mike Minton frågan varför funktionen var opt-out – alltså aktiverad tills användaren själv tackar nej – i stället för opt-in.

”Om det här hade varit opt-in skulle ingen välja det. Det är ärligt talat svaret.”

Kommentaren gjorde samtyckesfrågan tydligare. Twitchs upplägg utgick från deltagande om användaren inte agerade, medan Mintons förklaring antydde att ett system med aktivt godkännande skulle ge liten eller ingen medverkan. Nästan 3 000 personer tittade på sändningen, och chatten fylldes av AI-kritiska meddelanden.

Twitchs communitychef Mary Kish försvarade att det fanns en möjlighet att tacka nej. Enligt henne var funktionen ett svar på användare som inte ville att deras material skulle användas för generativ AI-träning. Det undanröjde dock inte kreatörernas huvudinvändning: att tillstånd borde ha efterfrågats innan deltagandet började, inte i efterhand.

Varför kallade den nederländska tillsynsmyndigheten upplägget ”mycket riskabelt”?

Den nederländska dataskyddsmyndigheten uppmanade Twitch-användare att stänga av datadelning för Amazons AI-träning och beskrev tillvägagångssättet som ”mycket riskabelt”. Myndigheten varnade för att AI-modeller kan exponera personuppgifter för nätbedragare, som sedan kan missbruka dem.

Livestreamar kan innehålla identifierbara röster, ansikten och namn, liksom detaljer om en persons omgivning eller privatliv. När sådant material väl har hamnat i ett AI-träningsflöde kan det i praktiken vara svårt att veta var det finns eller få det borttaget ur system som byggts med hjälp av materialet. Den nederländska varningen lyfte dessa integritetsrisker i samband med tvisten.

Den tillgängliga rapporteringen fastslår inte alla detaljer om hur Amazon tidigare har använt Twitch-material. Minton sade också att han inte kunde bekräfta vad Amazon redan hade använt innan det nya reglaget infördes. Därför är skillnaden mellan att stoppa framtida träning och att försöka återkalla tidigare användning central.

Kreatörernas reaktion

Standardinställningen ledde snabbt till en reaktion från Twitchs kreatörscommunity. AI-kritiska kommentarer syntes under Patch Notes-sändningen, och en forumdiskussion om policyn samlade mer än 16 000 deltagare som motsatte sig att innehåll användes automatiskt.

Kritiken handlade därför lika mycket om samtycke och transparens som om själva AI-träningen. Kreatörer ifrågasatte varför ansvaret att hitta och ändra inställningen lades på dem, särskilt eftersom materialet kan innehålla deras röst, utseende, kanalidentitet och interaktioner med tittare.

Vad stoppar en avstängning – och vad stoppar den inte?

Att stänga av Training for Generative AI är en avgränsad begränsning. Den ska hålla den egna kanalens innehåll utanför framtida träning av Amazons generativa AI-modeller för innehåll.

Det innebär inte nödvändigtvis att Twitch:

• raderar material som redan har samlats in eller återställer tidigare AI-träning;
• slutar använda kanalens innehåll på alla andra sätt;
• kan styra chattmeddelanden som skrivs i en annan streamers kanal; eller
• stänger av alla AI-stödda funktioner på Twitch.

Twitchs integritetsinformation tillåter fortfarande andra användningar av kanalens innehåll, bland annat funktioner för sponsringshjälp, rekommendationer och community-säkerhet eller moderering, såsom AutoMod.

Den praktiska slutsatsen är enkel men begränsad: kreatörer som inte vill att kanalens material ska användas för Amazons specificerade generativa AI-träning bör kontrollera inställningen och stänga av den. De bör däremot inte utgå från att avstängningen raderar innehåll ur Twitchs bredare databehandlingssystem – eller att den gäller allt de skriver på plattformen.