A Xiaomi disse em 3 de agosto que a polícia puniu dois usuários de redes sociais por gerar e divulgar vídeos falsos com IA mostrando seus carros sofrendo acidentes. Veículos de imprensa chineses repercutiram a nota da empresa por volta das 18:30, horário de Pequim.

Quais foram as punições

Um usuário, identificado apenas como 旧**口, foi descrito como alguém que, ao longo de um período, usou IA para gerar imagens falsas de acidentes, difamando os veículos da Xiaomi e insultando executivos da empresa. Esse usuário recebeu sete dias de detenção administrativa e uma ordem para apagar todos os links infratores. Um segundo usuário, 花**车, produziu conteúdo falso semelhante e recebeu uma multa administrativa e uma ordem de exclusão.

Como a empresa enquadrou o caso

O chefe de relações públicas da Xiaomi, Xu Jieyun, disse que a IA é uma boa tecnologia, mas que não deve ser mal utilizada — "especialmente não use IA para espalhar boatos, ou você certamente pagará o preço" — e a empresa repetiu a fórmula padrão de que a internet não é um espaço sem lei.

Isso não é uma decisão sobre deepfake

Trata-se de uma aplicação de medidas contra mídia sintética; ao mesmo tempo, é uma proteção de marca. As punições são administrativas, emitidas pela polícia sem tribunal, contra contas pseudônimas, com um limiar de prova baixo. Nada aqui estabelece um teste jurídico para vídeo gerado por IA. O que isso estabelece é um caminho: uma reclamação corporativa que se transforma em custódia em poucos dias, sem que um juiz avalie se o vídeo era sátira, crítica ou fabricação. A detenção administrativa na China é um instrumento aplicado diretamente pela polícia, e sete dias está dentro da faixa que ela pode impor sem encaminhar o caso a instâncias superiores.

Não confunda com o caso de Xi'an

Um caso muito maior envolvendo a Xiaomi foi anunciado em 17 de junho — um processo criminal envolvendo três agências MCN, 14 pessoas detidas, quatro detenções criminais, mais de 340.000 yuans rastreados e 29 computadores apreendidos. Esse é um procedimento separado. Misturar os dois, como faz parte da cobertura, exagera a ação desta semana em uma ordem de grandeza.