Переглянь моделі та стилі, що стоять за такими історіями — безкоштовний акаунт, галерея одразу.
Відкрити каталог
Сім із дев'яти найпопулярніших моделей редагування зображень, розміщених на Hugging Face, генерують зображення оголеності без згоди на запит — такий висновок містить новий звіт європейської некомерційної організації AI Forensics, що ставить політику відкритих моделей платформи під пряму перевірку.
Платформи відкритих моделей зазнають дедалі більшого тиску щодо модерації інструментів генерації зображень, які використовуються для дипфейків без згоди.
Зображення: The Verge / The Verge AI
Звіт AI Forensics, висвітлений The Verge, зосередився саме на найбільш завантажуваних моделях редагування зображень на Hugging Face — не на маловідомих, захованих репозиторіях, а на лідерах за популярністю. Дослідники виявили, що ці моделі виконували підказки, призначені для видалення одягу з фотографій реальних людей, зокрема неповнолітніх. Реакція платформи, згідно зі звітом, була мінімальною.
Hugging Face займає унікальне місце в екосистемі AI: це одночасно найбільший у світі хаб моделей з відкритими вагами та критична частина інфраструктури для незалежних творців, які хочуть запускати моделі локально або дообробляти їх для конкретних завдань. Ця подвійна роль робить модерацію контенту справді складною. Видалення моделі, завантаженої сотні тисяч разів, порушує легітимні сценарії використання поряд із шкідливими — але залишення її означає, що платформа фактично поширює інструмент для зловживань.
Закриті платформи — Midjourney, Adobe Firefly, інструменти зображень OpenAI — застосовують політику контенту на рівні інференсу. Кожен запит на генерацію проходить через фільтр. Моделі з відкритими вагами, розміщені на Hugging Face, працюють інакше. Після завантаження моделі оператор контролює, що вона робитиме, а що ні. Єдиний реальний важіль платформи — вирішувати, чи розміщувати модель взагалі.
Саме на цю прогалину вказує звіт AI Forensics. Hugging Face має політику контенту, яка забороняє моделі, призначені для генерації матеріалів сексуального насильства над дітьми та інтимних зображень без згоди, однак правозастосування виглядає непослідовним. Некомерційна організація виявила, що проблемні моделі не були приховані — вони посідали перші місця в результатах пошуку за кількістю завантажень.
Для творців, які покладаються на Hugging Face для доступу до дифузійних моделей і файнтюнів, це має практичне значення. Регуляторна реакція проти платформи може прискорити обмеження щодо того, які моделі можна розміщувати публічно, що своєю чергою звужує пул доступних відкритих варіантів для легітимної творчої роботи. Закон ЄС про AI та різні національні закони про дипфейки вже рухаються в цьому напрямку; резонансний звіт на кшталт цього зазвичай прискорює цей процес.
Це не перший раз, коли Hugging Face зазнає критики через розміщений контент — попередні суперечки стосувалися безпеки моделей і несанкціонованого доступу — але висновки AI Forensics є більш конкретними, оскільки документують певну, відтворювану шкоду, а не теоретичний ризик.
Практичні наслідки для творців варті пильної уваги. Якщо Hugging Face відреагує ширшою автоматизованою фільтрацією або суворішими вимогами до завантаження, це тертя торкнеться кожної моделі на платформі, а не лише шкідливих. Творці, які зараз завантажують моделі генерації зображень безпосередньо з хабу для локальних робочих процесів, можуть виявити, що доступних варіантів стало менше, або зіткнутися з новими вимогами верифікації для доступу до певних класів моделей.
Звіт також з'являється в момент, коли спільнота відкритих ваг вже долає галузевий тиск щодо обмежень моделей. Додавання проблеми дипфейків без згоди до цієї дискусії дає регуляторам конкретну шкоду, на яку можна посилатися, — а це інший вид тиску, ніж абстрактні аргументи щодо безпеки.
