Cina, primo ban al mondo per i compagni virtuali AI: cosa cambia per 345 milioni di utenti

Obblighi principali per i fornitori:

• Trasparenza obbligatoria sull'AI — Gli utenti devono essere chiaramente informati all'accesso e durante l'interazione che stanno comunicando con un'AI, non con un essere umano .
• Registrazione e valutazione di sicurezza dell'algoritmo — I fornitori devono registrare gli algoritmi presso la CAC e completare le necessarie revisioni di sicurezza .
• Moderazione dei contenuti — I sistemi devono impedire la creazione o la diffusione di contenuti che violino i valori socialisti fondamentali, incoraggino la dipendenza o danneggino i minori .
• Verifica dell'età e modalità differenziate — Le piattaforme devono verificare l'età degli utenti e attivare modalità di interazione adeguate, con controlli più severi per gli under 14 .

Divieti principali:

• Niente partner virtuali per i minori — I servizi di compagnia AI, partner romantico o familiare virtuale sono completamente vietati per gli utenti sotto i 18 anni .
• Niente creazione di dipendenza emotiva — I servizi non devono essere progettati per creare dipendenza o attaccamento romantico/emotivo persistente .
• Niente simulazione di persone reali senza consenso — L'AI non può impersonare specifici individui reali senza autorizzazione .
• Niente deepfake o contenuti dannosi — Le norme vietano l'uso dell'AI antropomorfa per pornografia, frode o contenuti che minano l'ordine pubblico .

Reazioni delle aziende tecnologiche

Le aziende non hanno avuto un periodo di grazia: la scadenza per la conformità coincideva con la data di entrata in vigore.

• ByteDance (Doubao) — Il chatbot AI più popolare in Cina ha spento la sua funzione di agente/persona AI personalizzata il 15 luglio 2026, citando "adeguamenti delle funzioni del prodotto". Gli utenti sono stati reindirizzati a un'app di compagnia separata che non consente più la personalizzazione . I dati degli agenti generati dagli utenti sono stati cancellati; ByteDance aveva consigliato di fare il backup delle chat prima del 15 luglio .
• Alibaba (Qwen) — Ha disattivato le sue funzioni di agente AI personalizzato nella stessa tempistica. Le cronologie chat e le configurazioni degli agenti non sono state conservate .
• Tencent (Yuanbao) — Ha anch'essa rimosso le funzioni di compagnia AI prima della scadenza .
• Gli agenti AI per lavoro e produttività sono stati esplicitamente esentati: le norme colpiscono i bot per interazioni emotive continue, non gli assistenti per le attività lavorative .

Le preoccupazioni demografiche alla base della stretta

Le motivazioni principali di Pechino sono state:

• Crollo delle nascite — Il Wall Street Journal riferisce che le autorità vedono i compagni romantici AI come un fattore che scoraggia le relazioni reali, il matrimonio e la procreazione, minando direttamente gli obiettivi pronatalisti .
• Salute mentale e dipendenza dei giovani — Ampie segnalazioni di giovani (soprattutto ragazzi adolescenti) diventati emotivamente dipendenti da fidanzate o partner virtuali AI, con conseguente ritiro sociale e abbandono scolastico .
• 345 milioni di utenti — Si stima che 345 milioni di utenti cinesi avessero interagito con servizi di compagnia AI entro metà 2026, rendendolo un fenomeno sociale di massa che i regolatori hanno considerato un problema di salute pubblica .
• Protezione dei minori — Le norme sono esplicite: la prevenzione dei danni ai minori è stato un pilastro centrale; il divieto di partner virtuali per gli under 18 è la disposizione più severa .

Periodi di grazia e impatto sugli utenti

Non c'è stato nessun periodo di transizione o di grazia formale per gli utenti dopo il 15 luglio. Le norme sono entrate in vigore immediatamente . Gli utenti hanno ricevuto un breve preavviso (settimane o giorni) dalle piattaforme che i loro agenti personalizzati e le cronologie chat sarebbero stati cancellati. ByteDance e Alibaba avevano consigliato di esportare o fare il backup delle conversazioni prima dello spegnimento, ma dopo la scadenza i dati dei compagni personalizzati sono stati cancellati .

Molti utenti hanno pubblicato addii commoventi online, con alcuni che hanno descritto la perdura come simile a quella di una persona cara .