Xiaomi a déclaré le 3 août que la police avait sanctionné deux utilisateurs des réseaux sociaux pour avoir généré et diffusé des vidéos IA fabriquées montrant ses voitures en train de s’écraser. Des médias chinois ont relayé la déclaration de l’entreprise vers 18 h 30, heure de Pékin.

Quelles étaient les sanctions

Un utilisateur, identifié seulement comme 旧**口, aurait eu recours de manière prolongée à l’IA pour générer de fausses images de crash diffamant les véhicules de Xiaomi et insultant des dirigeants de l’entreprise. Cet utilisateur a reçu sept jours de détention administrative et l’ordre de supprimer tous les liens portant atteinte aux droits. Un deuxième utilisateur, 花**车, a produit des images fabriquées similaires et a reçu une amende administrative ainsi qu’un ordre de suppression.

Comment l’entreprise a présenté l’affaire

Le responsable des relations publiques de Xiaomi, Xu Jieyun, a déclaré que l’IA est une bonne technologie, mais qu’elle ne doit pas être détournée — « surtout, n’utilisez pas l’IA pour répandre des rumeurs, sinon vous en paierez certainement le prix » — et l’entreprise a répété la formule habituelle selon laquelle Internet n’est pas une zone de non-droit.

Il ne s’agit pas d’une décision sur les deepfakes

On est davantage face à une application de sanctions contre des médias synthétiques ; il s’agit au moins autant de protection de la marque. Les sanctions sont administratives, prononcées par la police sans tribunal, contre des comptes pseudonymes, sur la base d’un seuil de preuve faible. Rien ici n’établit un test juridique pour les vidéos générées par IA. Ce que cela établit, en revanche, c’est un mode opératoire : une plainte d’entreprise se transformant en garde à vue en quelques jours, sans juge chargé d’évaluer si la vidéo relevait de la satire, de la critique ou de la fabrication. La détention administrative en Chine est un instrument que la police applique directement, et sept jours entrent dans la fourchette qu’elle peut infliger sans saisir une autorité supérieure.

Ne pas confondre avec l’affaire de Xi'an

Une affaire Xiaomi bien plus importante a été annoncée le 17 juin — une procédure pénale impliquant trois agences MCN, 14 personnes interpellées, quatre détentions pénales, plus de 340 000 yuans retracés et 29 ordinateurs saisis. Il s’agit d’une procédure distincte. Les amalgamer, comme le font certains articles, surestime l’action de cette semaine d’un ordre de grandeur.