София следит за деньгами, политикой и платформами, которые определяют, что могут создавать авторы.
Получай на почту главные истории недели об ИИ и ИИ-арте — отобранные, краткие, бесплатно.
Бесплатно. Отписаться можно в любой момент.
Выбери компаньона и узнай его мнение об этой истории
Недавно рассекреченные судебные материалы по делу New York Times против OpenAI раскрывают: и OpenAI, и Microsoft зафиксировали во внутренних документах, что их практики обучения ИИ рискуют создать «петлю гибели», которая деградирует открытый веб, — а как минимум один руководитель Microsoft охарактеризовал скрейпинг как «крупнейшую кражу труда в истории человечества».
Фраза «петля гибели» фигурирует в собственной документации компаний, а не в жалобе Times. Логика проста и самообличительна: ИИ-системы скрейпят веб для обучения на контенте, затем выдают ответы пользователям напрямую, не направляя их на исходные сайты, — это лишает издателей трафика и рекламных доходов, необходимых для создания нового контента, что деградирует тот самый веб, на котором эти же ИИ-системы будут обучаться в следующий раз. С каждым поколением моделей петля затягивается.
Страница из рассекреченных судебных материалов, на которой директор Microsoft по прикладным наукам описывает получение данных для ИИ как 'поразительную кражу беспрецедентного масштаба'.
Изображение: The Verge / The Verge AI
Показания Сатьи Наделлы особенно красноречивы. По данным The Verge, Наделла под присягой согласился, что взаимодействие с чат-ботами «заменяет» посещение соответствующих сайтов — уступка, которая напрямую подкрепляет теорию ущерба, выдвинутую Times. Это не утверждение из иска истца; это слова генерального директора ответчика, зафиксированные в протоколе.
Со стороны OpenAI внутренние документы показывают, что компания знала ещё в 2021 году: её API может дословно воспроизводить существующий контент, а предотвращение меморизации важно «для соблюдения принципа добросовестного использования и минимизации» правовых рисков. Компания также отметила, что при получении обучающих данных обходила платные барьеры и нарушала условия использования сервисов — и что отдельные сотрудники организации считали эти проблемы приемлемыми издержками.
«Это дело касается того, что директор Microsoft по прикладным наукам назвал 'поразительной кражей беспрецедентного масштаба'; возможно, 'крупнейшей кражей труда в истории человечества'.»
— Судебный документ, NYT против OpenAI
Это не первый случай, когда крупная ИИ-компания сталкивается с расплатой за источники обучающих данных. Когда Stability AI столкнулась с аналогичными обвинениями в 2023 году, позиция компании сводилась к тому, что правовой статус скрейпинга остаётся неурегулированным. Структурное отличие ситуации с OpenAI и Microsoft состоит в том, что уличающие формулировки исходят изнутри — от руководителей и прикладных учёных, а не от экспертов противоборствующей стороны.
Рассекреченный документ, фиксирующий признание OpenAI в 2021 году того, что её API может дословно воспроизводить существующий контент, — обозначенное как проблема соблюдения принципа добросовестного использования.
Изображение: The Verge / The Verge AI
Для создателей ИИ-арта реальные последствия ощутимы уже сейчас. Обучающие датасеты, лежащие в основе моделей генерации изображений, сталкиваются с аналогичными вопросами о скрейпинге визуального контента из сети без компенсации. Если дело NYT завершится решением суда — или мировым соглашением с условиями лицензирования, — устанавливающим прецедент для текста, ожидайте, что этот механизм будет применён к изображениям практически незамедлительно. Платформы, уже перешедшие на лицензированные или синтетические обучающие данные, получат структурное преимущество; те, кто по-прежнему опирается на нефильтрованный веб-скрейпинг, столкнутся с той же правовой ответственностью, которая сейчас рассматривается в суде на Манхэттене.
Каталог доступных моделей Charmloop уже отражает часть этого сдвига: провайдеры всё чаще разграничивают модели, обученные на лицензированных и скрейпинговых датасетах, — различие, которое вот-вот приобретёт юридическое, а не только этическое значение.
В нашем предыдущем материале о нередактированных документах Microsoft были изложены первоначальные раскрытия документов; вновь рассекреченные материалы идут дальше, помещая формулировку «петля гибели» и признания о меморизации непосредственно в судебный протокол.
Дата судебного разбирательства пока не назначена. Следующий ключевой момент — решение суда по ходатайствам о вынесении решения в порядке упрощённого судопроизводства: оно либо вынудит стороны к мировому соглашению, либо отправит документы о «петле гибели» на рассмотрение присяжных.