Создай бесплатный аккаунт Charmloop — без карты и без ограничений на просмотр. Начни создавать ИИ-арт за пару минут.
Федеральный иск, поданный против xAI, утверждает, что пользователь её ИИ-модели Grok создал приблизительно 7000 изображений сексуального насилия над детьми со своей падчерицей — и что xAI сообщила в Национальный центр по пропавшим и эксплуатируемым детям только об одном запросе с групповым изнасилованием, пока насилие продолжалось.
Согласно иску, как сообщает Ars Technica, пользователь отправил сотни запросов в течение длительного периода, прежде чем насилие эскалировало и он покончил с собой. Жалоба утверждает, что отчётность xAI в NCMEC — федерально назначенный центр обработки сообщений о CSAM — покрыла только один запрос, оставив подавляющее большинство предполагаемого создания материалов насилия незарегистрированным и нерасследованным.
Федеральный закон в рамках Закона о защите наших детей требует от поставщиков электронных услуг сообщать о явных CSAM в NCMEC, когда они узнают об этом. Основное утверждение иска состоит в том, что осведомлённость xAI о деятельности была гораздо шире, чем предполагает её единственный отчёт. xAI публично не подтвердила и не опровергла конкретные цифры отчётности, указанные в жалобе, и судебное разбирательство продолжается.
Отдельные иски от дополнительных жертв также были поданы против X — платформы, которая владеет и распространяет Grok — при этом истцы обвиняют X в защите детских хищников вместо сотрудничества с правоохранительными органами.
Цифра в 7000 изображений делает это дело юридически и технически значимым. Один плохой запрос — это инцидент безопасности; тысячи созданных изображений в течение длительной сессии — это паттерн, который классификаторы безопасности и конвейеры отчётности должны, в принципе, обнаруживать и помечать. Иск неявно утверждает, что архитектура безопасности Grok провалилась в масштабе — не только на границе.
Для платформ создания ИИ-изображений в целом эта формулировка имеет значение. Регуляторы и адвокаты истцов всё чаще рассматривают объём как доказательство системного сбоя, а не изолированного неправильного использования. Модель, которая блокирует очевидный запрос, но позволяет итеративное, эскалирующее насилие в течение тысяч генераций, не является, с этой правовой точки зрения, моделью с адекватными средствами контроля безопасности.
Дело также подчёркивает структурный пробел: обязательства отчётности NCMEC технически возникают, когда поставщик становится «осведомлённым» о CSAM, но что составляет осведомлённость — помеченный запрос, срабатывание классификатора, человеческий обзор — не определено единообразно на всех платформах. Иск против Grok может заставить это определение стать более чётким в правовом отношении.
Время неудачное для xAI. Grok агрессивно расширяла свои функции создания изображений, и xAI позиционировала модель как менее ограничительную альтернативу конкурентам. Это позиционирование — которое привлекло пользователей, считавших другие модели слишком отфильтрованными — теперь является центральным в теории ответственности истцов. Аргумент, по сути, заключается в том, что сокращённые ограничения создали разрешительную среду, которая позволила насилие в масштабе, который более консервативная система прервала бы.
Этот аргумент найдёт отклик за пределами этого конкретного дела. Каждая платформа ИИ-изображений, которая конкурирует на творческой свободе, сталкивается с тем же основным напряжением: более свободные ограждения контента привлекают создателей, которые хотят гибкости, но они также снижают барьер для неправильного использования. Судебное разбирательство по Grok — это самый острый тест того, где суды проведут эту линию.
Ожидается больше исков. Ars Technica сообщила, что дополнительные жертвы уже подали иски, что предполагает скоординированную правовую стратегию, а не единичную изолированную жалобу. То, как отреагирует xAI — и признают ли суды платформы ответственными за CSAM, созданные их моделями — установит прецедент, который будет формировать политику контента во всей индустрии создания ИИ-изображений на годы.
