Получай на почту главные истории недели об ИИ и ИИ-арте — отобранные, краткие, бесплатно.
Бесплатно. Отписаться можно в любой момент.
Anthropic требует судебного наказания для Alibaba, утверждая, что китайский технологический гигант организовал систематическую операцию по клонированию возможностей Claude с помощью 25 000 фиктивных аккаунтов в ходе 28,8 миллиона обменов — то, что Anthropic называет крупнейшей атакой по извлечению модели из всех, что компания когда-либо наблюдала.
Двадцать пять тысяч аккаунтов. Двадцать восемь целых восемь десятых миллиона обменов. Эти цифры очерчивают масштаб того, в чём обвиняет Anthropic: речь идёт не об исследователе-одиночке, нагружающем API, а о скоординированных крупномасштабных усилиях по систематическому извлечению поведения Claude в ходе достаточного количества взаимодействий, чтобы воссоздать его возможности в конкурирующей модели. По данным Ars Technica, первой сообщившей подробности иска, Anthropic утверждает, что Alibaba намеренно нарушила экспортные ограничения администрации Трампа при проведении атаки.
Метод — иногда называемый дистилляцией модели или извлечением возможностей — работает путём подачи целевой модели огромного объёма тщательно подобранных запросов и использования её ответов в качестве обучающих данных для модели-ученика. При 28,8 миллиона обменов предполагаемый датасет был бы достаточно обширным, чтобы охватить тонкие паттерны рассуждений, стилистические особенности и предметные знания по широкому кругу тем. Именно колоссальный объём отличает это от типичного злоупотребления API.
На протяжении многих лет дискуссия о безопасности ИИ была сосредоточена на защите весов модели — исходных параметров, определяющих принцип её работы. Но веса сложно похитить напрямую через облачный API. Выходные данные — нет. Каждый ответ, генерируемый моделью, в принципе является точкой данных, которую можно собрать и использовать для обучения более дешёвой имитации.
Именно эту угрозу извлечения иск Anthropic выводит на первый план. Ответы Claude — то, что делает его коммерчески ценным, — это именно то, что нужно конкуренту для создания функционального клона без многолетних инвестиций в вычислительные мощности и исследования. Если 28,8 миллиона обменов представляют собой правдоподобный датасет для значимого переноса возможностей, это означает, что любой достаточно мотивированный участник с доступом к API и достаточным количеством фиктивных аккаунтов имеет реальный путь к клонированию поведения передовой модели.
Для создателей ИИ-инструментов, работающих на базе Claude, практические последствия не являются немедленными — сервис Anthropic продолжает работать, — однако иск сигнализирует о том, что провайдеры движутся к более строгому поведенческому мониторингу и верификации аккаунтов. Ограничения частоты запросов, обнаружение аномалий и соблюдение условий использования, по всей видимости, ужесточатся во всей отрасли в результате подобных дел.
Утверждение Anthropic о том, что Alibaba нарушила экспортные ограничения эпохи Трампа, добавляет геополитическое измерение, выходящее за рамки стандартного спора об условиях использования. Экспортный контроль в сфере ИИ-технологий является активным полем политических сражений — как освещалось в более ранних материалах Charmloop о мерах администрации Трампа в отношении Anthropic и запрете на экспорт Fable 5 и Mythos 5. Если суд примет трактовку Anthropic, это может установить, что извлечение возможностей модели через скрейпинг API является нарушением экспортных ограничений — правовая теория с широкими последствиями для классификации выходных данных ИИ в рамках торгового законодательства.
Это стало бы значимым прецедентом. Фактически это означало бы признание усвоенного поведения модели контролируемым экспортным товаром — не только её весов или кода. Примут ли суды этот аргумент — открытый вопрос, однако сама попытка демонстрирует, насколько агрессивно Anthropic отстаивает правовые границы защиты модели.
Для создателей, выстраивающих рабочие процессы на основе Claude или любого другого передового API, последствия, скорее всего, выразятся в большем количестве препятствий. Провайдеры, отслеживающие атаки по извлечению, будут помечать высокообъёмные программные паттерны использования — те же паттерны, которые генерируют легитимные опытные пользователи и конвейеры автоматизации. Ожидайте более строгих квот API, более агрессивного обнаружения ботов и, возможно, требований верификации личности, повышающих барьер для анонимного или псевдонимного доступа.
Дело Anthropic против Alibaba не разрешится быстро, однако его исход определит, как каждый крупный провайдер ИИ будет осмыслять границу между открытым доступом к API и безопасностью модели — границу, которая напрямую влияет на то, что могут создавать разработчики и насколько свободно они могут это делать.
