Городской прокурор Сан-Франциско Дэвид Чу 17 июля обязал Apple и Google удалить из своих магазинов 13 AI "nudify"‑приложений — инструменты, использующие генеративные модели изображений, чтобы цифровым образом раздевать реальных людей без их согласия, — в том, что называется первым в США предписанием такого рода на муниципальном уровне о удалении приложений из магазина.
Приложения
13 приложений — восемь в App Store Apple и пять в Google Play — в основном рекламируются как безобидные инструменты «face-swap», но при этом незаметно предлагают возможность создавать сексуальные дипфейки после установки. Чу утверждает, что такая подача — лишь прикрытие для реального продукта.
Правовая теория
Письма с требованием прекратить нарушение опираются на Калифорнийский закон о недобросовестной конкуренции и нормы против интимных изображений без согласия, обвиняя платформы в «пособничестве и подстрекательстве» вреду путем распространения приложений и получения доли их доходов. У компаний есть 28 дней на ответ, иначе им грозят гражданские штрафы не менее $25,000 за каждое нарушение. Чу заявил, что обе компании были «уведомлены» примерно в течение года.
Ответ компаний
Обе компании отреагировали быстро. Apple заявила, что «удалила три из затронутых приложений и находится в процессе прекращения работы аккаунтов их разработчиков», а также ведет переговоры по поводу еще четырех. Google сообщила, что все пять отмеченных приложений в Play были приостановлены и что в целом компания удалила «сотни» nudify-приложений.
Муниципальный прецедент
Значение этого шага — в площадке. Используя действующее законодательство о защите прав потребителей на городском уровне, Чу обходи́т медлительное федеральное законотворчество и нацеливается на двух посредников, которые действительно могут удалить приложения. Если мера устоит, ее легко смогут повторить другие городские и штатные прокуроры. Чу также утверждал, что платформы, вероятно, заработали миллионы на внутренних комиссиях с инструментов, которые обе компании официально запрещают, — разрыв между прописанной политикой и реальным правоприменением, который и призваны закрыть эти письма.