Otrzymuj na maila najważniejsze historie tygodnia o AI i sztuce AI — wyselekcjonowane, zwięzłe, za darmo.
Za darmo. Wypisz się w każdej chwili.
Wybierz towarzysza i poznaj jego zdanie na temat tej historii
Anthropic domaga się prawnych konsekwencji wobec Alibaba, zarzucając chińskiemu gigantowi technologicznemu zorganizowanie systematycznej operacji klonowania możliwości Claude za pomocą 25 000 fałszywych kont i 28,8 miliona wymian — co Anthropic określa jako największy atak ekstrakcji modelu, jaki kiedykolwiek odnotował.
Dwadzieścia pięć tysięcy kont. Dwadzieścia osiem i osiem dziesiątych miliona wymian. Te liczby określają zakres tego, co zarzuca Anthropic: nie chodzi o nieuczciwego badacza testującego API, lecz o skoordynowane, zakrojone na szeroką skalę działania mające na celu systematyczne wydobywanie zachowania Claude w trakcie wystarczającej liczby interakcji, by odtworzyć jego możliwości w modelu konkurencji. Według Ars Technica, które jako pierwsze opisało szczegóły pozwu, Anthropic twierdzi, że Alibaba celowo zlekceważył kontrole eksportu administracji Trumpa, przeprowadzając ten atak.
Metoda — nazywana niekiedy destylacją modelu lub ekstrakcją możliwości — polega na zadawaniu docelowemu modelowi ogromnej liczby starannie dobranych promptów i wykorzystaniu jego odpowiedzi jako danych treningowych dla modelu ucznia. Przy 28,8 miliona wymian rzekomy zbiór danych byłby wystarczająco duży, by uchwycić niuanse rozumowania, tendencje stylistyczne i wiedzę dziedzinową w szerokim zakresie tematów. To właśnie ogromna skala odróżnia tę sprawę od typowego nadużycia API.
Przez lata dyskusja o bezpieczeństwie AI koncentrowała się na ochronie wag modelu — surowych parametrów definiujących sposób myślenia modelu. Jednak wagi trudno ukraść bezpośrednio z API w chmurze. Wyniki — już nie. Każda odpowiedź generowana przez model jest w zasadzie punktem danych, który można zebrać i wykorzystać do wytrenowania tańszej imitacji.
To właśnie zagrożenie ekstrakcją, które pozew Anthropic stawia w ostrym świetle. Odpowiedzi Claude — to, co czyni go wartościowym komercyjnie — są dokładnie tym, czego konkurent potrzebuje, by zbudować funkcjonalny klon bez lat nakładów obliczeniowych i badawczych. Jeśli 28,8 miliona wymian stanowi wiarygodny zbiór danych umożliwiający znaczący transfer możliwości, oznacza to, że każdy wystarczająco zmotywowany podmiot z dostępem do API i odpowiednią liczbą fałszywych kont ma realną ścieżkę do sklonowania zachowania modelu granicznego.
Dla twórców AI korzystających z narzędzi opartych na Claude bezpośrednie konsekwencje nie są natychmiastowe — usługa Anthropic nadal działa — jednak pozew sygnalizuje, że dostawcy zmierzają ku ściślejszemu monitorowaniu zachowań i weryfikacji kont. Limity żądań, wykrywanie anomalii i egzekwowanie warunków korzystania z usług prawdopodobnie zaostrzą się w całej branży w wyniku takich spraw.
Twierdzenie Anthropic, że Alibaba zlekceważył kontrole eksportu wprowadzone za czasów Trumpa, dodaje geopolityczny wymiar wykraczający poza standardowy spór o warunki korzystania z usług. Kontrole eksportu technologii AI były żywym polem bitwy politycznej — jak opisywano we wcześniejszych materiałach Charmloop dotyczących działań administracji Trumpa wobec Anthropic oraz zakazu eksportu Fable 5 i Mythos 5. Jeśli sąd przyjmie argumentację Anthropic, mogłoby to ustanowić precedens, że ekstrakcja możliwości modelu poprzez scrapowanie API stanowi naruszenie ograniczeń eksportowych — teoria prawna o szerokich implikacjach dla sposobu klasyfikowania wyników AI w prawie handlowym.
Byłby to znaczący precedens. Skutecznie traktowałby wyuczone zachowanie modelu jako kontrolowany eksport — nie tylko jego wagi czy kod. Czy sądy przyjmą ten argument, pozostaje otwartą kwestią, ale sama próba pokazuje, jak agresywnie Anthropic dąży do wyznaczenia prawnych granic ochrony modelu.
Dla twórców budujących przepływy pracy na bazie Claude lub innego granicznego API efektem ubocznym będzie prawdopodobnie większe tarcie. Dostawcy obserwujący ataki ekstrakcji będą flagować wzorce użytkowania o dużym wolumenie i charakterze programistycznym — te same wzorce, które generują uprawnieni zaawansowani użytkownicy i potoki automatyzacji. Należy spodziewać się surowszych limitów API, bardziej agresywnego wykrywania botów, a możliwie też wymogów weryfikacji tożsamości podnoszących barierę dla dostępu anonimowego lub pseudonimowego.
Sprawa Anthropic kontra Alibaba nie rozstrzygnie się szybko, ale jej wynik ukształtuje sposób, w jaki każdy główny dostawca AI myśli o granicy między otwartym dostępem do API a bezpieczeństwem modelu — granicy, która bezpośrednio wpływa na to, co twórcy mogą budować i jak swobodnie mogą to robić.