أمر المدعي العام لمدينة سان فرانسيسكو David Chiu يوم 17 يوليو Apple وGoogle بإزالة 13 تطبيق "nudify" للذكاء الاصطناعي من متاجرهما — وهي أدوات تستخدم نماذج توليد الصور لخلع ملابس أشخاص حقيقيين رقميًا من دون موافقتهم — في خطوة توصف بأنها أول إلزام من نوعه على مستوى البلدية بإزالة تطبيقات من المتاجر في الولايات المتحدة.
التطبيقات
تُسوّق التطبيقات الـ13 — ثمانية في App Store التابعة لـApple وخمسة في Google Play — نفسها إلى حد كبير على أنها أدوات "face-swap" غير ضارة، بينما تتيح بهدوء إمكانية تصنيع صور جنسية عميقة بعد تثبيتها. ويقول Chiu إن هذا الإطار ليس سوى ستار يخفي المنتج الحقيقي.
الأساس القانوني
تعتمد رسائل وقف وكف على قانون المنافسة غير العادلة في California وعلى نصوص قانونية ضد الصور الحميمة غير الرضائية، متهمة المنصتين بـ"المساعدة والتحريض" على الضرر من خلال توزيع التطبيقات والحصول على حصة من إيراداتها. ولدى الشركتين 28 يومًا للرد أو مواجهة غرامات مدنية لا تقل عن $25,000 لكل مخالفة. وقال Chiu إن كليهما كانا "على علم" منذ نحو عام.
رد الشركتين
تحركت الشركتان بسرعة. وقالت Apple إنها "أزالت ثلاثة من التطبيقات المعنية وهي بصدد إنهاء حسابات المطورين الخاصة بها"، وأنها على اتصال بشأن أربعة أخرى. وقالت Google إن جميع تطبيقات Play الخمسة التي تم الإبلاغ عنها جرى تعليقها، وإنها حذفت "مئات" من تطبيقات nudify إجمالًا.
سابقة بلدية
تكمن أهمية هذه الخطوة في الجهة التي صدرت عنها. فباستخدام قانون حماية المستهلك القائم على مستوى المدينة، يلتف Chiu على التشريعات الفيدرالية البطيئة ويستهدف بوابتَي الدخول اللتين تملكان القدرة الفعلية على سحب التطبيقات. وإذا نجحت هذه الخطوة، فسيكون من السهل على مدّعين عامين آخرين على مستوى المدن والولايات نسخ هذا النهج. كما جادل Chiu بأن المنصتين ربما حققتا ملايين الدولارات من رسوم داخل التطبيق من أدوات تحظرها كلتاهما رسميًا — وهي فجوة بين السياسة المكتوبة والإنفاذ الفعلي صُممت الرسائل لإجبارهم على سدّها.