Il procuratore della città di San Francisco David Chiu ha ordinato a Apple e Google il 17 luglio di rimuovere dai propri store 13 app AI "nudify" — strumenti che usano modelli di immagini generative per spogliare digitalmente persone reali senza consenso — in quella che viene presentata come la prima ingiunzione di questo tipo, a livello municipale, per la rimozione di app store negli Stati Uniti.

Le app

Le 13 app — otto sull'App Store di Apple e cinque su Google Play — si presentano in gran parte come innocui strumenti di "face-swap", offrendo però in modo poco evidente la possibilità di fabbricare deepfake sessuali una volta installate. Chiu sostiene che questa descrizione sia un paravento per il vero prodotto.

La teoria giuridica

Le lettere di diffida fanno leva sulla California's Unfair Competition Law e sulle norme contro le immagini intime non consensuali, accusando le piattaforme di "aiding and abetting" il danno distribuendo le app e trattenendo una quota dei loro ricavi. Le aziende hanno 28 giorni per rispondere, altrimenti rischiano sanzioni civili di almeno $25,000 per violation. Chiu ha detto che entrambe erano "on notice" da circa un anno.

Le risposte delle aziende

Entrambe si sono mosse rapidamente. Apple ha dichiarato di aver "removed three of the apps in question and are in the process of terminating their developer accounts", e di essere in contatto per altre quattro. Google ha affermato che tutte e cinque le app segnalate su Play sono state sospese e che ha cancellato complessivamente "hundreds" di app nudify.

Una prima municipale

La rilevanza dell'azione sta nel contesto. Usando le norme esistenti sulla tutela dei consumatori a livello cittadino, Chiu aggira la lentezza della legislazione federale e prende di mira i due gatekeeper che hanno il potere di rimuovere davvero le app. Se reggerà, il modello sarà facile da replicare per altri procuratori cittadini e statali. Chiu ha inoltre sostenuto che le piattaforme abbiano probabilmente incassato milioni in commissioni in-app da strumenti che entrambe vietano ufficialmente — una distanza tra policy scritta e applicazione concreta che le lettere intendono colmare.