Haftanın en iyi yapay zekâ ve yapay zekâ sanatı haberlerini gelen kutuna al — seçkin, kısa ve ücretsiz.
Ücretsiz. İstediğin zaman çık.
Anthropic, Çinli teknoloji devi Alibaba'nın 25.000 sahte hesap ve 28,8 milyon alışveriş aracılığıyla Claude'un yeteneklerini klonlamaya yönelik sistematik bir operasyon düzenlediğini öne sürerek yasal yaptırım talep ediyor — Anthropic'in şimdiye kadar gördüğü en büyük model çıkarma saldırısı olarak nitelendirilen bu dava, sektörde büyük yankı uyandırdı.
Yirmi beş bin hesap. Yirmi sekiz virgül sekiz milyon alışveriş. Bu rakamlar, Anthropic'in iddiasının kapsamını ortaya koyuyor: başıbozuk bir araştırmacının API'yi stres testine tabi tutması değil, rakip bir modelde Claude'un davranışlarını yeniden oluşturmaya yetecek kadar etkileşim üzerinden yeteneklerini sistematik biçimde çıkarmaya yönelik koordineli ve büyük ölçekli bir girişim. Davayı ilk kez haberleştiren Ars Technica'ya göre Anthropic, Alibaba'nın saldırıyı gerçekleştirirken Trump yönetiminin ihracat kontrollerine kasıtlı olarak meydan okuduğunu iddia ediyor.
Model damıtma ya da yetenek çıkarma olarak da bilinen bu yöntem; hedef modele büyük hacimde özenle seçilmiş istemler yönelterek elde edilen yanıtları bir öğrenci modeli için eğitim verisi olarak kullanmaya dayanıyor. 28,8 milyon alışveriş hacmiyle, iddia edilen veri kümesi; geniş bir konu yelpazesinde nüanslı akıl yürütme kalıplarını, üslup eğilimlerini ve alana özgü bilgileri yakalamaya yetecek büyüklükte olurdu. Bu operasyonu tipik API kötüye kullanımından ayıran şey de tam olarak bu muazzam hacim.
Yıllarca yapay zeka güvenliği tartışmaları, modelin nasıl düşündüğünü tanımlayan ham parametreler olan model ağırlıklarını korumaya odaklandı. Ancak ağırlıkları bir bulut API'sinden doğrudan çalmak güçtür. Çıktılar ise öyle değil. Bir modelin ürettiği her yanıt, prensipte toplanıp daha ucuz bir taklidi eğitmek için kullanılabilecek bir veri noktasıdır.
Anthropoc'un davası, bu çıkarma tehdidini çarpıcı biçimde gün yüzüne çıkarıyor. Claude'un yanıtları — onu ticari açıdan değerli kılan şey — tam da bir rakibin yıllarca süren hesaplama ve araştırma yatırımı olmaksızın işlevsel bir klon oluşturmak için ihtiyaç duyduğu şey. 28,8 milyon alışveriş, anlamlı bir yetenek transferi için makul bir veri kümesiyse bu, API erişimine ve yeterli sayıda sahte hesaba sahip yeterince motive olmuş her aktörün sınır bir modelin davranışını klonlamak için güvenilir bir yola sahip olduğu anlamına geliyor.
Claude destekli araçlara güvenen yapay zeka yaratıcıları için pratik sonuç anlık değil — Anthropic'in hizmeti çalışmaya devam ediyor — ancak dava, sağlayıcıların daha sıkı davranışsal izleme ve hesap doğrulamasına yöneldiğinin sinyalini veriyor. Hız sınırları, anomali tespiti ve hizmet koşulları uygulaması, bu tür davalar sonucunda sektör genelinde sıkılaşacak.
Anthropoc'un Alibaba'nın Trump dönemi ihracat kontrollerine meydan okuduğu iddiası, standart bir hizmet koşulları anlaşmazlığının ötesine geçen jeopolitik bir katman ekliyor. Yapay zeka teknolojisine yönelik ihracat kontrolleri, canlı bir politika mücadele alanı olageldi — daha önce Charmloop'un Trump yönetiminin Anthropic'e yönelik kısıtlamaları ve Fable 5 ile Mythos 5 ihracat yasağı haberlerinde de ele alındığı gibi. Bir mahkeme Anthropic'in çerçevesini kabul ederse, API kazıma yoluyla model yeteneklerinin çıkarılmasının ihracat kısıtlamalarının ihlali sayılabileceğini tesis edebilir — bu, yapay zeka çıktılarının ticaret hukuku kapsamında nasıl sınıflandırıldığı konusunda geniş kapsamlı sonuçları olan bir hukuki teori.
Bu önemli bir emsal oluştururdu. Bir modelin öğrenilmiş davranışını, yalnızca ağırlıkları veya kodu değil, kontrollü bir ihracat olarak fiilen ele alırdı. Mahkemelerin bu argümanı kabul edip etmeyeceği açık bir soru olmakla birlikte, girişimin kendisi Anthropic'in model korumasının hukuki sınırlarını ne kadar agresif biçimde zorladığını gösteriyor.
Claude veya başka bir sınır API'si üzerine iş akışları inşa eden yaratıcılar için aşağı yönlü etki muhtemelen daha fazla sürtünme anlamına gelecek. Çıkarma saldırılarını izleyen sağlayıcılar, yüksek hacimli ve programatik kullanım kalıplarını işaretleyecek — meşru güç kullanıcılarının ve otomasyon hatlarının da ürettiği kalıpların aynısı. Daha sıkı API kotaları, daha agresif bot tespiti ve anonim ya da takma adlı erişimin önündeki engeli yükselten kimlik doğrulama gereksinimleri bekleniyor.
Anthropic-Alibaba davası hızlı sonuçlanmayacak; ancak sonucu, her büyük yapay zeka sağlayıcısının açık API erişimi ile model güvenliği arasındaki sınırı nasıl düşündüğünü şekillendirecek — yaratıcıların neler inşa edebileceğini ve bunu ne kadar özgürce yapabileceğini doğrudan etkileyen bir sınır.
