Створи безкоштовний акаунт Charmloop — без картки й без обмежень на перегляд. Почни створювати ШІ-арт за лічені хвилини.
Федеральний позов, поданий проти xAI, стверджує, що користувач її AI-моделі Grok згенерував приблизно 7 000 зображень сексуального насильства над дитиною — своєю падчеркою — і що xAI повідомила Національний центр зниклих та експлуатованих дітей (NCMEC) лише про один запит із зображенням групового зґвалтування, поки насильство тривало.
Згідно з позовом, про який повідомила Ars Technica, користувач протягом тривалого часу надсилав сотні запитів, перш ніж насильство ескалувало і він помер внаслідок суїциду. Скарга стверджує, що звіт xAI до NCMEC — федерально визначеного центру збору повідомлень про CSAM — охоплював лише один запит, залишивши переважну більшість стверджуваних випадків генерації матеріалів незафіксованими та нерозслідуваними.
Федеральне законодавство відповідно до PROTECT Our Children Act зобов'язує постачальників електронних послуг повідомляти NCMEC про очевидні CSAM-матеріали, щойно вони стають про них обізнані. Ключова претензія позову полягає в тому, що обізнаність xAI щодо цієї діяльності була значно ширшою, ніж свідчить єдиний звіт. xAI публічно не підтвердила і не спростувала конкретні цифри щодо звітування, наведені у скарзі, а судовий процес триває.
Окремі позови від додаткових жертв також подано проти X — платформи, яка володіє Grok і поширює його — причому позивачі звинувачують X у захисті педофілів замість співпраці з правоохоронними органами.
Цифра у 7 000 зображень — ось що робить цю справу юридично та технічно значущою. Один поганий запит — це інцидент безпеки; тисячі згенерованих зображень протягом тривалої сесії — це закономірність, яку класифікатори безпеки та конвеєри звітування мали б, у принципі, виявляти та позначати. Позов імпліцитно стверджує, що архітектура безпеки Grok зазнала збою у масштабі — а не лише на межі допустимого.
Для AI-платформ генерації зображень загалом це формулювання має значення. Регулятори та адвокати позивачів дедалі частіше розглядають обсяг як свідчення системного збою, а не поодинокого зловживання. Модель, яка блокує очевидний запит, але дозволяє ітеративне, ескалаційне зловживання протягом тисяч генерацій, з цієї правової точки зору не є моделлю з належними засобами контролю безпеки.
Справа також висвітлює структурну прогалину: зобов'язання щодо звітування до NCMEC технічно виникають, коли постачальник стає «обізнаним» про CSAM, але що саме становить обізнаність — позначений запит, спрацювання класифікатора, перевірка людиною — не визначено однаково на різних платформах. Позов щодо Grok може змусити надати цьому визначенню чіткіших правових обрисів.
Часовий збіг незручний для xAI. Grok агресивно розширює функції генерації зображень, а xAI позиціонувала модель як менш обмежену альтернативу конкурентам. Саме це позиціонування — яке приваблювало користувачів, що вважали інші моделі надто відфільтрованими — тепер є центральним у теорії відповідальності позивачів. Аргумент, по суті, полягає в тому, що послаблені обмеження створили дозвільне середовище, яке уможливило зловживання у масштабі, який більш консервативна система перервала б.
Цей аргумент матиме резонанс за межами цієї конкретної справи. Кожна AI-платформа генерації зображень, що конкурує на основі творчої свободи, стикається з тим самим базовим протиріччям: менш жорсткі обмеження контенту приваблюють творців, які хочуть гнучкості, але водночас знижують бар'єр для зловживань. Судовий процес щодо Grok — це найгостріший на сьогодні тест того, де суди проведуть цю межу.
Очікується більше позовів. Ars Technica повідомила, що додаткові жертви вже подали позови, що свідчить про скоординовану правову стратегію, а не про єдину ізольовану скаргу. Те, як відреагує xAI — і чи визнають суди платформи відповідальними за CSAM, згенерований їхніми моделями — створить прецедент, який формуватиме контентну політику в усій індустрії AI-генерації зображень на роки вперед.
