旧金山市检察官 David Chiu 于 7月17日 责令 Apple 和 Google 从其应用商店中移除 13款 AI “nudify” 应用——这类工具利用生成式图像模型，在未经同意的情况下为真人“脱衣”——据称这是美国首个同类市级应用商店下架命令。

这些应用

这 13款应用——其中 8款在 Apple 的 App Store，5款在 Google Play——大多把自己包装成无害的 “face-swap” 工具，但安装后却可悄然提供制作色情深度伪造内容的能力。Chiu 认为，这种说法只是掩饰其真实产品的遮羞布。

法律依据

这些停止侵权函援引了 加州不正当竞争法 以及针对 非自愿亲密影像 的相关法规，指控平台通过分发这些应用并抽取收入分成，构成对侵害行为的 “aiding and abetting”。两家公司有 28天 时间作出回应，否则每项违规至少将面临 25,000美元 的民事罚款。Chiu 表示，两家公司大约已有一年时间处于“被通知”状态。

公司回应

两家公司都迅速作出反应。Apple 表示，已“移除了涉事应用中的三款，并正着手终止相关开发者账户”，同时正就另外四款应用保持沟通。Google 表示，所有被标记的 5款 Play 应用都已被暂停，并称其已累计删除“数百”款 nudify 应用。

市级先例

这项行动的意义在于其发生的地点。Chiu 通过在市级层面动用现有消费者保护法律，绕开了推进缓慢的联邦立法，并瞄准了真正有能力下架应用的两大守门人。如果这一做法站得住脚，其他城市和州检察官也很容易照搬这套路径。Chiu 还称，这些平台很可能从这些工具中赚取了数百万美元的应用内费用——这与书面政策和实际执行之间存在差距，而这些函件正是要迫使这种差距被填平。