Власти Сан-Франциско потребовали убрать «раздевалки»
Власти Сан-Франциско потребовали от Apple и Google удалить из их магазинов приложений десятки программ-«раздевалок» — приложений, которые с помощью цифровой обработки снимков «снимают одежду» с изображённых на них людей.
Законодательство Калифорнии признаёт преступлением любые действия, которые «сознательно способствуют» или «неосторожно помогают» созданию дипфейк-порнографии без согласия. В 2025 году Калифорния также приняла закон, позволяющий жертвам подавать гражданские иски против третьих лиц, способствующих распространению таких материалов. Власти города отмечают, что, несмотря на наличие этих широко известных норм, обе технологические компании продолжают размещать подобные программы и зарабатывать на них.
«Apple и Google получают прибыль от приложений, которые эксплуатируют женщин и девочек, создавая интимные дипфейки без их согласия», — заявил городской прокурор Сан-Франциско Дэвид Чиу в электронном письме для TechCrunch. «Хотя компании и разорвали отношения с некоторыми сомнительными приложениями, Apple и Google обязаны действовать на опережение и проявлять бдительность, чтобы предотвратить сексуализированное насилие».
История предупреждений и угроза штрафов
В письмах, направленных офисом Чиу в Google и Apple и с которыми ознакомился TechCrunch, говорится, что компании «были уведомлены» о своей роли в «обработке платежей за незаконные покупки почти год назад», но, тем не менее, продолжали этим заниматься.
Согласно письмам, обе компании неоднократно предупреждали о том, что они размещают такие приложения. В январе и апреле организация Tech Transparency Project выпустила отчёты и направила письма компаниям, указав, что в их магазинах приложений находятся «десятки программ», которые «продают дипфейк-изображения интимного характера без согласия [NCII] за плату», обрабатываемую этими же компаниями.
В апрельском отчёте TTP утверждается, что Google и Apple намеренно «направляли» пользователей к таким приложениям, и назвал обе компании «ключевыми участниками распространения ИИ-инструментов, способных превращать реальных людей в сексуализированные изображения».
Кроме того, в беседе с Wired Чиу отметил, что обе компании, вероятно, заработали «миллионы долларов на комиссиях» от приложений, предоставлявших подобные услуги.
В письмах офиса Чиу содержится предупреждение, что Apple и Google могут быть подвергнуты гражданским штрафам за нарушение закона, и требование связаться с властями города в течение 28 дней. TechCrunch обратился к Apple и Google за комментариями.
Контекст проблемы дипфейк-порнографии
Дипфейк-порнография долгое время была проблемой преимущественно для знаменитых женщин, однако приложения-«раздевалки» делают возможной атаку на любого человека, чья фотография находится в открытом доступе.