El fiscal de la ciudad de San Francisco, David Chiu, ordenó a Apple y Google el 17 de julio retirar de sus tiendas 13 apps de IA "nudify" —herramientas que utilizan modelos de imagen generativa para desvestir digitalmente a personas reales sin su consentimiento— en lo que se presenta como la primera orden de este tipo de retirada de apps a nivel municipal en Estados Unidos.
Las apps
Las 13 apps —ocho en la App Store de Apple y cinco en Google Play— se comercializan en gran medida como herramientas inocuas de "face-swap", mientras que, de forma menos visible, ofrecen la posibilidad de fabricar deepfakes sexuales una vez instaladas. Chiu sostiene que ese encuadre es una cortina de humo para ocultar el verdadero producto.
La teoría jurídica
Las cartas de cese y desistimiento se apoyan en la California's Unfair Competition Law y en estatutos contra las nonconsensual intimate imagery, y acusan a las plataformas de "aiding and abetting" el daño al distribuir las apps y quedarse con una parte de sus ingresos. Las compañías tienen 28 días para responder o se enfrentarán a sanciones civiles de al menos $25,000 por infracción. Chiu dijo que ambas habían estado "on notice" durante aproximadamente un año.
La respuesta de las compañías
Ambas actuaron con rapidez. Apple dijo que había "removed three of the apps in question and are in the process of terminating their developer accounts," y que estaba en contacto por otras cuatro. Google dijo que las cinco apps señaladas en Play habían sido suspendidas y que ha eliminado "hundreds" de apps nudify en total.
Un precedente municipal
La importancia de la medida reside en el lugar donde se produce. Al recurrir a la legislación existente sobre protección del consumidor a nivel municipal, Chiu evita una legislación federal que avanza con lentitud y apunta a los dos intermediarios que tienen el poder de retirar realmente las apps. Si prospera, la estrategia será fácil de replicar para otros fiscales de ciudades y estados. Chiu también argumentó que las plataformas probablemente obtuvieron millones en comisiones dentro de las apps a partir de herramientas que ambas prohíben oficialmente —una brecha entre la política escrita y la aplicación real que las cartas buscan cerrar por la fuerza.