Отримуй на пошту головні історії тижня про ШІ та ШІ-арт — відібрані, стислі, безкоштовно.
Безкоштовно. Відписатися можна будь-коли.
Anthropic вимагає судового покарання для Alibaba, стверджуючи, що китайський технологічний гігант організував систематичну операцію з клонування можливостей Claude через 25 000 фіктивних акаунтів у 28,8 мільйона обмінів — те, що Anthropic називає найбільшою атакою з видобутку моделі, яку компанія будь-коли спостерігала.
Двадцять п'ять тисяч акаунтів. Двадцять вісім і вісім мільйона обмінів. Ці цифри окреслюють масштаб того, що стверджує Anthropic: не поодинокий дослідник-зловмисник, що тестує API, а скоординована широкомасштабна спроба систематично виявляти поведінку Claude у достатній кількості взаємодій, щоб відтворити її можливості у конкуруючій моделі. За даними Ars Technica, яке першим повідомило про деталі позову, Anthropic стверджує, що Alibaba навмисно порушила експортні обмеження адміністрації Трампа під час проведення атаки.
Цей метод — який іноді називають дистиляцією моделі або видобутком можливостей — полягає у подачі цільовій моделі великого обсягу ретельно підібраних запитів і використанні її відповідей як навчальних даних для моделі-учня. При 28,8 мільйона обмінів стверджуваний набір даних був би достатньо великим, щоб охопити тонкі патерни міркування, стилістичні тенденції та предметні знання в широкому діапазоні тем. Саме колосальний обсяг відрізняє це від типового зловживання API.
Протягом багатьох років дискусія про безпеку ШІ зосереджувалася на захисті ваг моделі — необроблених параметрів, що визначають спосіб мислення моделі. Але ваги важко вкрасти безпосередньо через хмарний API. Результати — ні. Кожна відповідь, яку генерує модель, є, по суті, точкою даних, яку можна зібрати й використати для навчання дешевшої імітації.
Саме цю загрозу видобутку чітко висвітлює позов Anthropic. Відповіді Claude — те, що робить його комерційно цінним — це саме те, що потрібно конкуренту для створення функціонального клону без років обчислювальних і дослідницьких інвестицій. Якщо 28,8 мільйона обмінів є правдоподібним набором даних для значущої передачі можливостей, це означає, що будь-який достатньо мотивований суб'єкт з доступом до API і достатньою кількістю фіктивних акаунтів має реальний шлях до клонування поведінки передової моделі.
Для творців ШІ, які покладаються на інструменти на основі Claude, практичні наслідки не є негайними — сервіс Anthropic продовжує працювати — але позов сигналізує про те, що провайдери рухаються до суворішого моніторингу поведінки та верифікації акаунтів. Обмеження швидкості, виявлення аномалій і забезпечення дотримання умов використання — все це, ймовірно, посилиться в усій галузі внаслідок таких справ.
Твердження Anthropic про те, що Alibaba порушила експортні обмеження часів Трампа, додає геополітичний вимір, що виходить за рамки стандартного спору щодо умов використання. Експортний контроль над технологіями ШІ є активним полем політичних баталій — як висвітлювалося в попередніх матеріалах Charmloop про заходи адміністрації Трампа щодо Anthropic та заборону на експорт Fable 5 і Mythos 5. Якщо суд прийме трактування Anthropic, це може встановити, що видобуток можливостей моделі через збір даних API є порушенням експортних обмежень — правова теорія з широкими наслідками для того, як результати роботи ШІ класифікуються відповідно до торговельного законодавства.
Це стало б значним прецедентом. Фактично це означало б ставлення до вивченої поведінки моделі як до контрольованого експорту, а не лише до її ваг або коду. Чи приймуть суди цей аргумент — відкрите питання, але сама спроба демонструє, наскільки агресивно Anthropic переслідує правові межі захисту моделей.
Для творців, які будують робочі процеси на основі Claude або будь-якого іншого передового API, наслідком є, ймовірно, більше перешкод. Провайдери, що стежать за атаками видобутку, будуть позначати шаблони використання з великим обсягом і програмним характером — ті самі шаблони, які генерують легітимні досвідчені користувачі та конвеєри автоматизації. Очікуйте суворіших квот API, агресивнішого виявлення ботів і, можливо, вимог верифікації особи, що підвищують бар'єр для анонімного або псевдонімного доступу.
Справа Anthropic проти Alibaba не вирішиться швидко, але її результат визначить, як кожен великий ШІ-провайдер думає про межу між відкритим доступом до API і безпекою моделі — межу, яка безпосередньо впливає на те, що творці можуть будувати і наскільки вільно вони можуть це робити.
