Le procureur municipal de San Francisco, David Chiu, a ordonné à Apple et Google le 17 juillet de retirer de leurs boutiques 13 applications d’IA « nudify » — des outils qui utilisent des modèles d’image génératifs pour déshabiller numériquement de vraies personnes sans leur consentement — dans ce qui est présenté comme la première injonction de ce type au niveau municipal aux États-Unis visant le retrait d’applications.
Les applications
Les 13 applications — huit sur l’App Store d’Apple et cinq sur Google Play — se présentent pour l’essentiel comme de simples outils de "face-swap", tout en offrant discrètement la possibilité de fabriquer des deepfakes sexuels une fois installées. Chiu estime que cet habillage n’est qu’un écran de fumée destiné à masquer le véritable produit.
La théorie juridique
Les mises en demeure s’appuient sur la California's Unfair Competition Law et sur des textes interdisant les images intimes non consensuelles, accusant les plateformes de "aiding and abetting" des atteintes en distribuant les applications et en prélevant une part de leurs revenus. Les entreprises disposent de 28 jours pour répondre, faute de quoi elles s’exposent à des sanctions civiles d’au moins 25 000 $ par infraction. Chiu a déclaré que les deux sociétés avaient été "informées" depuis environ un an.
La réponse des entreprises
Les deux ont réagi rapidement. Apple a indiqué avoir "supprimé trois des applications en question et être en train de résilier leurs comptes développeur", et a précisé être en contact au sujet de quatre autres. Google a déclaré que les cinq applications Play signalées avaient été suspendues et qu’elle avait supprimé au total "des centaines" d’applications nudify.
Une première municipale
L’importance de cette action tient à son cadre. En s’appuyant sur le droit existant de protection des consommateurs au niveau de la ville, Chiu contourne une législation fédérale lente à avancer et s’en prend aux deux gardiens qui ont réellement le pouvoir de retirer les applications. Si cette approche tient, elle sera facile à reproduire pour d’autres procureurs de ville et d’État. Chiu a également soutenu que les plateformes ont probablement engrangé des millions de dollars de frais intégrés grâce à des outils qu’elles interdisent officiellement toutes les deux — un écart entre la politique écrite et son application réelle que les lettres visent à combler.