Kina forbyr AI-kjærester: Verdens første regulering av emosjonelle chatboter trer i kraft

Reguleringen

Reglene ble kunngjort 10. april 2026 av Cyberspace Administration of China (CAC), National Development and Reform Commission, Ministry of Industry and Information Technology, Ministry of Public Security og State Administration for Market Regulation . De trådte i kraft 15. juli 2026 .

Sentrale krav til tilbyderne:

• Obligatorisk AI-merking – Brukere må tydelig informeres ved innlogging og gjennom hele samtalen om at de kommuniserer med en AI, ikke et menneske .
• Innsending av algoritmer og sikkerhetsvurdering – Tilbydere må sende inn algoritmene til CAC og gjennomgå påkrevde sikkerhetsgjennomganger .
• Innholdsmoderering – Systemene må hindre opprettelse eller spredning av innhold som bryter med sosialistiske kjerneverdier, oppmuntrer til avhengighet eller skader mindreårige .
• Aldersverifisering og alderstilpassede moduser – Plattformene må verifisere brukernes alder og tilby alderstilpassede interaksjonsmoduser, med strengere kontroll for brukere under 14 år .

Sentrale forbud:

• Ingen virtuelle partnere for mindreårige – AI-følgesvenner, romantiske partnere eller virtuelle familiemedlemmer er totalforbudt for brukere under 18 år .
• Ingen fremming av emosjonell avhengighet – Tjenestene må ikke utformes for å skape avhengighet eller vedvarende romantisk/emosjonell tilknytning .
• Ingen simulering av ekte personer uten samtykke – AI kan ikke etterligne spesifikke virkelige personer uten tillatelse .
• Ingen utnyttende deepfakes eller skadelig innhold – Reglene forbyr bruk av antropomorf AI til pornografi, svindel eller innhold som undergraver offentlig orden .

Hvordan teknologiselskapene reagerte

Selskapene fikk ingen overgangsperiode – fristen for å overholde reglene var selve ikrafttredelsesdatoen.

• ByteDance (Doubao) – Kinas mest populære AI-chatbot stengte ned sin funksjon for egendefinerte AI-personaer 15. juli 2026. Brukerne ble omdirigert til en frittstående følgesvenn-app som ikke lenger tillater tilpasning . Brukergenererte agentdata ble slettet; ByteDance oppfordret brukerne til å sikkerhetskopiere samtalene før 15. juli .
• Alibaba (Qwen) – Deaktiverte sine funksjoner for egendefinerte AI-personaer innen samme frist. Brukernes chatthistorikk og agentkonfigurasjoner ble ikke bevart .
• Tencent (Yuanbao) – Fjernet også sine lignende AI-følgesvenn-funksjoner før fristen .
• Arbeids- og produktivitets-AI-agenter var uttrykkelig unntatt – reglene retter seg mot chatboter for vedvarende emosjonell interaksjon, ikke assistenter for arbeidsoppgaver .

Demografiske bekymringer som ligger bak innstrammingen

Beijings viktigste motivasjoner var:

• Synkende fødselsrater – Wall Street Journal rapporterer at myndighetene ser på AI-romantiske følgesvenner som en trussel mot virkelige forhold, ekteskap og barnefødsler, noe som direkte undergraver politiske mål om å øke fødselsraten .
• Ungdoms psykiske helse og avhengighet – Utoverte rapporter om unge mennesker (spesielt tenåringsgutter) som blir emosjonelt avhengige av AI-kjærester/virtuelle partnere, noe som fører til sosial isolasjon og skolevegring .
• 345 millioner brukere – Anslagsvis 345 millioner kinesiske brukere hadde benyttet AI-følgesvenn-tjenester innen midten av 2026, noe som gjorde det til et massivt sosialt fenomen som regulatorer så på som et folkehelseproblem .
• Beskyttelse av mindreårige – Reglene er tydelige på at å hindre skade på mindreårige var en sentral pilar; forbudet mot virtuelle partnere for personer under 18 år er det strengeste tiltaket .

Overgangsperioder og konsekvenser for brukerne

Det var ingen formell overgangs- eller karensperiode for brukerne etter 15. juli. Reglene trådte i kraft umiddelbart denne datoen . Brukerne fikk kort varsel (uker til dager) fra plattformene om at deres tilpassede agenter og chatthistorikk ville bli slettet. ByteDance og Alibaba oppfordret brukerne til å eksportere eller sikkerhetskopiere samtalene før nedstengningen, men etter fristen ble personlig tilpasset følgesvenn-data slettet .

Mange brukere la ut følelsesladde avskjeder på nettet, og noen beskrev tapet som å miste en ekte kjær .