Городской прокурор Сан-Франциско обязал Apple и Google удалить AI-приложения для «раздевания» из соответствующих магазинов приложений, утверждая, что обе компании получили прибыль — предположительно, миллионы долларов в виде комиссионных — от инструментов, предназначенных для создания интимных изображений без согласия.
Ключевые выводы
- Городской прокурор Сан-Франциско направил официальные предписания Apple и Google с требованием удалить AI-приложения для «раздевания» из App Store и Google Play.
- По официальным оценкам, обе платформы в совокупности заработали миллионы на комиссионных от этих приложений.
- Действие направлено против платформ как коммерческих выгодоприобретателей, а не только против разработчиков приложений.
- Это наиболее прямое давление со стороны властей на крупные магазины приложений с требованием контролировать AI-инструменты генерации изображений, создающие интимный контент без согласия.
- Ни Apple, ни Google публично не подтвердили выполнение требований на момент выхода предписания.
Аргумент «платформа как получатель прибыли»
По данным Ars Technica, офис городского прокурора выстроил дело именно вокруг денег: Apple и Google не просто пассивно размещают эти приложения — они получают стандартные 15–30% от покупок внутри приложений и платы за подписку. Когда приложения для «раздевания» монетизируются через подписки, эта выручка напрямую поступает платформам. Правовая теория состоит в том, что принятие этих комиссионных делает обе компании активными участниками причинения вреда, а не нейтральными посредниками.
Эта трактовка важна для более широкой экосистемы AI-арта. Регуляторы всё чаще рассматривают инфраструктурный уровень — магазины приложений, провайдеров API, облачных хостеров — как юридически ответственный за то, что на нём работает. Та же логика, которая применяется к приложениям для «раздевания», в будущих делах может распространиться на любой инструмент генерации изображений, который регуляторы признают создающим вредоносный контент в масштабе.
Что на самом деле делают приложения для «раздевания» — и чем они отличаются
Приложения для «раздевания» — это особая категория AI-инструментов для работы с изображениями: они берут фотографию одетого реального человека и генерируют синтетическую обнажённую версию без его ведома и согласия. Это принципиально отличает их от универсальных AI-генераторов изображений, где пользователь создаёт изображение по текстовому запросу или загружает референсные материалы, которыми сам управляет. Использование внешности реального человека без его согласия — это ключевая правовая и этическая проблема, и именно она отделяет данную категорию от более широких творческих инструментов, которыми создатели AI-арта ежедневно пользуются на таких платформах, как генератор Charmloop.
Важно сохранять чёткое разграничение: это действие не является атакой на генерацию AI-изображений как таковую. Оно направлено против узкого сценария использования, нарушающего согласие. Однако регуляторный импульс, который оно создаёт, вполне реален, и любая платформа, размещающая инструменты генерации изображений, сейчас внимательно следит за тем, как отреагируют Apple и Google.
Политика магазинов приложений всегда была слабым звеном
И у Apple, и у Google существуют политики, номинально запрещающие приложения, генерирующие интимные изображения без согласия. Действие городского прокурора — это по сути обвинение в том, что эти политики не соблюдались: приложения проходили проверку, оставались активными достаточно долго, чтобы генерировать существенный доход от подписок, и удалялись (если вообще удалялись) лишь под внешним давлением.
Для создателей AI-контента этот пробел в правоприменении имеет практические последствия: магазины приложений являютсяненадёжным каналом дистрибуции для любого AI-инструмента работы с изображениями, действующего на грани контентной политики. Разработчики, создающие легитимные творческие инструменты, давно жалуются на непоследовательность и непрозрачность процесса проверки Apple. Это дело создаёт политическое давление, которое может подтолкнуть Apple и Google к огульным ограничениям на приложения для генерации AI-изображений — тот вид избыточной коррекции, при котором легитимные инструменты попадают в ту же сеть, что и вредоносные.
Что будет дальше
Городской прокурор Сан-Франциско не обладает федеральной юрисдикцией, поэтому правовая сила предписания зависит от законодательства Калифорнии и готовности Apple и Google выполнить требования, а не вступать в судебные тяжбы. Ни одна из компаний публично не подтвердила, что удалит указанные приложения. Если они будут сопротивляться, дело может создать прецедент — или обнажить пределы полномочий муниципальных властей в отношении глобальных платформ дистрибуции приложений.
Для создателей, выстраивающих рабочие процессы на основе AI-инструментов для работы с изображениями, более непосредственным сигналом является законодательный: несколько штатов и федеральное правительство продвигают законопроекты, которые прямо криминализируют создание AI-сгенерированных интимных изображений без согласия. Эти законы, в отличие от письма городского прокурора, будут предусматривать исполнимые санкции и могут изменить то, что моделям генерации изображений будет разрешено делать, — а также то, какие фильтры безопасности провайдеры будут обязаны встраивать по закону. Следить за этой регуляторной дугой не менее важно, чем отслеживать выходы новых моделей. Наш предыдущий материал о судебном иске xAI против пользователей Grok за генерацию CSAM показывает, насколько стремительно меняется правовой ландшафт вокруг AI-сгенерированных вредоносных изображений.
