샌프란시스코 시 검사장 David Chiu는 7월 17일 Apple과 Google에 자사 스토어에서 AI "nudify" 앱 13개를 삭제하라고 명령했습니다. 이들 도구는 생성형 이미지 모델을 이용해 실제 사람의 옷을 동의 없이 디지털 방식으로 벗긴 이미지를 만드는 것으로, 미국에서 이런 종류의 앱스토어 삭제 의무화가 시 차원에서 내려진 첫 사례로 소개되고 있습니다.
The apps
13개 앱 가운데 8개는 Apple의 App Store에, 5개는 Google Play에 올라 있습니다. 이들 앱은 대체로 무해한 "face-swap" 도구로 홍보되지만, 설치 후에는 성적 딥페이크를 제작할 수 있는 기능을 은밀히 제공합니다. Chiu는 이런 포장이 실제 제품의 본질을 가리는 허울에 불과하다고 주장합니다.
The legal theory
이 중지·중단 서한은 California's Unfair Competition Law와 nonconsensual intimate imagery 금지 법령에 근거를 두고 있으며, 플랫폼이 앱을 배포하고 수익 일부를 가져가면서 피해를 "aiding and abetting"했다고 비난합니다. 두 회사는 28일 안에 응답해야 하며, 그렇지 않으면 위반 건당 최소 $25,000의 민사 제재를 받을 수 있습니다. Chiu는 두 회사 모두 약 1년 동안 "on notice" 상태였다고 말했습니다.
The companies respond
두 회사는 신속히 대응했습니다. Apple은 "문제의 앱 3개를 제거했으며, 개발자 계정을 종료하는 절차를 진행 중"이라고 밝히고, 나머지 4개와도 접촉 중이라고 했습니다. Google은 지적된 Play 앱 5개 모두를 정지시켰으며, 전체적으로 "hundreds"개의 nudify 앱을 삭제했다고 말했습니다.
A municipal first
이번 조치의 의미는 적용 무대에 있습니다. Chiu는 시 차원의 기존 소비자보호법을 활용해 움직임이 느린 연방 입법을 우회하고, 실제로 앱을 내려받을 수 있는 권한을 가진 두 관문 사업자를 겨냥했습니다. 이 시도가 유지된다면 다른 시·주 검사가 쉽게 따라 할 수 있는 방식이 됩니다. Chiu는 또한 두 플랫폼이 공식적으로는 금지하는 도구들로부터 앱 내 수수료 수백만 달러를 벌었을 가능성이 있다고 주장했습니다. 서면 정책과 실제 집행 사이의 간극을, 이 서한들이 메우도록 강제하려는 것입니다.