Міський прокурор Сан-Франциско зобов'язав Apple і Google видалити AI-додатки для «роздягання» з їхніх магазинів застосунків, стверджуючи, що обидві компанії отримали прибуток — імовірно, мільйони доларів у вигляді комісій — від інструментів, призначених для створення інтимних зображень без згоди.
Ключові висновки
- Міський прокурор Сан-Франциско видав офіційні розпорядження Apple і Google з вимогою видалити AI-додатки для «роздягання» з App Store і Google Play.
- За офіційними оцінками, обидві платформи разом заробили мільйони доларів комісій від цих додатків.
- Дія спрямована проти платформ як комерційних вигодонабувачів, а не лише проти самих розробників додатків.
- Це найбільш прямий урядовий тиск на великі магазини застосунків з вимогою контролювати AI-інструменти генерації зображень, що створюють інтимні матеріали без згоди.
- Жодна з компаній — ні Apple, ні Google — публічно не підтвердила виконання розпорядження на момент його оприлюднення.
Аргумент «платформа як отримувач прибутку»
За даними Ars Technica, офіс міського прокурора сформулював справу чітко навколо грошей: Apple і Google не просто пасивно розміщують ці додатки — вони стягують стандартні 15–30% від покупок у додатках і плати за підписку. Коли додатки для «роздягання» монетизуються через підписки, цей дохід надходить безпосередньо на платформи. Правова теорія полягає в тому, що прийняття такої комісії робить обидві компанії активними учасниками заподіяння шкоди, а не нейтральними посередниками.
Це формулювання має значення для ширшої екосистеми AI-арту. Регулятори дедалі частіше розглядають інфраструктурний рівень — магазини застосунків, постачальників API, хмарних хостів — як юридично відповідальний за те, що на ньому працює. Та сама логіка, що застосовується до додатків для «роздягання», може в майбутніх діях поширитися на будь-який інструмент генерації зображень, який регулятори визнають таким, що у великих масштабах виробляє шкідливий контент.
Що насправді роблять додатки для «роздягання» — і чим вони відрізняються
Додатки для «роздягання» — це окрема категорія AI-інструментів для роботи із зображеннями: вони беруть фотографію реальної людини в одязі та генерують синтетичну оголену версію без відома чи згоди цієї людини. Це різко відрізняє їх від універсальних AI-генераторів зображень, де користувач створює зображення за текстовим запитом або завантажує референсні матеріали, якими сам керує. Використання зовнішності реальної людини без її згоди є основною правовою та етичною проблемою, і саме це відокремлює цю категорію від ширших творчих інструментів, якими щодня користуються творці AI-арту на таких платформах, як генератор Charmloop.
Варто чітко зберігати це розмежування: ця дія не є атакою на генерацію AI-зображень як практику. Вона спрямована проти вузького випадку використання, що порушує згоду. Але регуляторний імпульс, який вона створює, є реальним, і будь-яка платформа, що розміщує інструменти генерації зображень, тепер уважно стежить за тим, як відреагують Apple і Google.
Політика магазинів застосунків завжди була слабкою ланкою
І Apple, і Google мають чинні правила, які номінально забороняють додатки, що генерують інтимні зображення без згоди. Дія міського прокурора — це фактично звинувачення в тому, що ці правила не виконувалися: додатки проходили перевірку, залишалися активними достатньо довго, щоб генерувати суттєвий дохід від підписок, і видалялися (якщо взагалі видалялися) лише під зовнішнім тиском.
Для творців AI-контенту ця прогалина у правозастосуванні має практичні наслідки: магазини застосунків є ненадійним каналом розповсюдження для будь-якого AI-інструменту роботи із зображеннями, що діє поблизу меж контентної політики. Розробники, що створюють легітимні творчі інструменти, давно скаржаться на непослідовність і непрозорість процесу перевірки Apple. Ця справа додає політичного тиску, який може підштовхнути Apple і Google до загальних обмежень на AI-додатки для генерації зображень — тобто до надмірної корекції, що захоплює в ту саму мережу легітимні інструменти разом із шкідливими.
Що буде далі
Міський прокурор Сан-Франциско не має федеральної юрисдикції, тому правова сила розпорядження залежить від законодавства Каліфорнії та готовності Apple і Google виконати його, а не судитися. Жодна з компаній публічно не підтвердила, що видалить позначені додатки. Якщо вони чинитимуть опір, справа може створити прецедент — або виявити межі муніципальних повноважень щодо глобальних платформ розповсюдження застосунків.
Для творців, що будують робочі процеси навколо AI-інструментів для роботи із зображеннями, більш безпосереднім сигналом є законодавчий: кілька штатів і федеральний уряд просувають законопроєкти, що прямо криміналізують AI-генеровані інтимні зображення без згоди. Ці закони, на відміну від листа міського прокурора, матимуть виконувані санкції та можуть змінити те, що дозволено робити моделям генерації зображень, — і які фільтри безпеки постачальники зобов'язані вбудовувати за законом. Стежити за цією регуляторною дугою так само важливо, як і відстежувати випуски нових моделей. Наш попередній матеріал про позов xAI проти користувачів Grok за генерацію CSAM показує, наскільки швидко розвивається правовий ландшафт навколо AI-генерованих шкідливих зображень.
