Xiaomi ha dichiarato il 3 agosto che la polizia aveva sanzionato due utenti dei social media per aver generato e diffuso video AI fabbricati che mostravano le sue auto in incidenti. I media cinesi hanno riportato la nota dell'azienda intorno alle 18:30 ora di Pechino.

Quali erano le sanzioni

Un utente, identificato solo come 旧**口, è stato descritto come qualcuno che aveva fatto uso prolungato dell'AI per generare falsi filmati di incidenti diffamando i veicoli Xiaomi e insultando i dirigenti dell'azienda. A quell'utente sono stati inflitti sette giorni di detenzione amministrativa e l'ordine di cancellare ogni link lesivo. Un secondo utente, 花**车, ha prodotto analoghi filmati fabbricati e ha ricevuto una multa amministrativa e un ordine di rimozione.

Come l'azienda ha inquadrato la vicenda

Il responsabile delle relazioni pubbliche di Xiaomi, Xu Jieyun, ha detto che l'AI è una buona tecnologia, ma che non dovrebbe essere usata in modo improprio — "soprattutto non usate l'AI per diffondere voci, o pagherete sicuramente il prezzo" — e l'azienda ha ripetuto la formula standard secondo cui internet non è uno spazio senza legge.

Non si tratta di una sentenza sui deepfake

Si legge come un intervento sull'uso di media sintetici; è almeno altrettanto una misura di protezione del marchio. Le sanzioni sono amministrative, emesse dalla polizia senza un tribunale, contro account pseudonimi, su una soglia probatoria bassa. Qui non viene stabilito alcun test giuridico per i video generati dall'AI. Viene invece stabilito un percorso: una denuncia aziendale che si trasforma in detenzione nel giro di pochi giorni, senza che un giudice sia chiamato a valutare se il filmato fosse satira, critica o falsificazione. La detenzione amministrativa in Cina è uno strumento che la polizia applica direttamente, e sette giorni rientrano nell'intervallo che può imporre senza rivolgersi ad altre autorità.

Non confonderlo con il caso di Xi'an

Un caso Xiaomi molto più ampio è stato annunciato il 17 giugno — un procedimento penale che coinvolgeva tre agenzie MCN, 14 persone finite nel mirino, quattro detenuti penalmente, oltre 340.000 yuan tracciati e 29 computer sequestrati. Si tratta di un procedimento separato. Fondere i due casi, come fanno alcune cronache, sovrastima l'azione di questa settimana di un ordine di grandezza.