Рекламна платформа Meta показувала платні промоматеріали застосунку, який відверто обіцяв генерувати неконсенсуальні оголені дипфейки реальних жінок-політиків — причому щонайменше одне оголошення містило порнографічне відео із зображенням того, що схоже на чинного американського політика.
Ключові висновки
- Рекламна система Meta схвалила та показувала оголошення застосунку, який відверто просував можливість створювати оголені дипфейки названих жінок-політиків.
- Щонайменше одне оголошення містило порнографічне відео з дипфейком, що разюче нагадує реального американського політика, — за даними Ars Technica.
- Цей інцидент є прямим збоєм інфраструктури перевірки реклами Meta, а не просто граничним випадком модерації контенту.
- Неконсенсуальні інтимні зображення (NCII), згенеровані штучним інтелектом, є незаконними у дедалі більшій кількості штатів США та кількох країнах, а отже, платформи, що розміщують таку рекламу, несуть зростаючі правові ризики.
- Для творців зображень зі штучним інтелектом цей епізод загострює регуляторне середовище: очікуйте суворіших обмежень щодо ідентичності та використання образів на основних платформах генерації в найближчі місяці.
Як реклама пройшла систему перевірки Meta
За даними Ars Technica, оголошення не були завуальованими — вони відверто називали можливість і щонайменше в одному випадку демонстрували її за допомогою порнографічного дипфейку. Це означає, що автоматизована перевірка реклами Meta, яка має виявляти порушення політики до публікації оголошення, зазнала збою на найбазовішому рівні виявлення контенту. Застосунок не приховував свого призначення.
Meta має політику, яка забороняє рекламу продуктів, що сприяють створенню неконсенсуальних інтимних зображень. Те, що ці оголошення все одно пройшли перевірку, вказує на розрив між задекларованою політикою та інфраструктурою її виконання — розрив, який стає дедалі серйознішим у міру того, як якість генерації зображень покращується, а вартість створення переконливих дипфейків наближається до нуля.
Ширша проблема виконання норм щодо NCII
Це не поодинокий випадок. Справа Grok CSAM на початку цього року — коли інструмент генерації зображень xAI використовувався для сексуалізації дитячої фотографії — показала, що захисні бар'єри безпеки зображень ШІ можуть катастрофічно відмовляти навіть на спеціалізованих платформах генерації. Ситуація з Meta є, мабуть, гіршою: збій стався на рівні розповсюдження реклами, тобто платформі заплатили за те, щоб вона посилювала доступ до інструменту.
На законодавчому рівні ситуація стрімко змінюється. Федеральний закон США DEFIANCE Act і мозаїка законів штатів тепер криміналізують розповсюдження NCII, згенерованих ШІ, а Закон ЄС про штучний інтелект покладає зобов'язання на платформи, які розміщують або просувають такі інструменти. Розміщення реклами застосунку, що пропонує дипфейк-оголення названих осіб, у кількох юрисдикціях вже є не просто питанням порушення умов надання послуг.
Що це означає для платформ і творців зображень ШІ
Для всіх, хто працює з генерацією зображень за допомогою ШІ — чи то ви створюєте персонажів, генеруєте портрети, чи експериментуєте з промптами на основі образів реальних людей — регуляторні наслідки таких інцидентів, як правило, торкаються всього сектору, а не лише зловмисників. Коли така відома платформа, як Meta, потрапляє на розповсюдженні реклами застосунку для оголення, реакція законодавців та інших платформ зазвичай полягає у загальному посиленні правил щодо ідентичності та використання образів.
Практично це означає кілька речей, за якими варто стежити. Платформи, що наразі дозволяють гнучкі функції заміни облич або підбору схожості, можуть додати додаткові перешкоди — додаткові прапорці згоди, суворішу фільтрацію промптів із названими особами або повне видалення певних можливостей. Якщо ви використовуєте інструмент, що дозволяє посилатися на реальних людей за іменем у промптах, задокументуйте свої поточні робочі процеси зараз; саме ці можливості зникають першими, коли платформи поспішають продемонструвати відповідність вимогам.
Більш стійкий урок стосується розриву в інфраструктурі. Застосунки для дипфейк-оголення не є новинкою, але їхня якість перетнула поріг, за яким результат є достатньо переконливим, щоб бути використаним як зброя проти реальних людей у масштабі. Цей якісний стрибок — той самий, що робить зображення, згенеровані ШІ, кориснішими для творчої роботи, — також робить цю категорію шкоди серйознішою. Регулятори та платформи наздоганяють, і регуляторне середовище на наступні 12 місяців відображатиме це.
На момент публікації Meta не оприлюднила жодної заяви щодо конкретних оголошень. Назва застосунку не була вказана у матеріалі Ars Technica.
