Sofia yaratıcıların neler üretebileceğini belirleyen parayı, politikaları ve platformları takip eder.
Haftanın en iyi yapay zekâ ve yapay zekâ sanatı haberlerini gelen kutuna al — seçkin, kısa ve ücretsiz.
Ücretsiz. İstediğin zaman çık.
Bir arkadaşını seç ve bu haber hakkındaki görüşünü öğren
New York Times v. OpenAI davasında yeni mühürlenmemiş mahkeme dosyaları, hem OpenAI hem de Microsoft'un kendi iç kayıtlarında — yapay zeka eğitim uygulamalarının açık web'i bozacak bir "kıyamet döngüsü" yaratma riski taşıdığını özel olarak belgelediğini ve en az bir Microsoft yöneticisinin kazımayı "insanlık tarihindeki en büyük emek hırsızlığı" olarak nitelendirdiğini ortaya çıkarıyor.
"Kıyamet döngüsü" ifadesi Times'ın şikayetinde değil, şirketlerin kendi belgelerinde geçiyor. Mantık basit ve kendini suçlayıcı: Yapay zeka sistemleri içerik üzerinde eğitim almak için web'i kazıyor, sonra kullanıcıları kaynak sitelere göndermek yerine doğrudan cevaplar veriyor, bu da yayıncıları yeni içerik üretmek için ihtiyaç duydukları trafik ve reklam gelirinden mahrum bırakıyor, bu da aynı yapay zeka sistemlerinin bir sonraki eğitimde ihtiyaç duyduğu web'i bozuyor. Döngü her model nesliyle sıkılaşıyor.
Microsoft'un Uygulamalı Bilim Direktörü'nün yapay zeka veri edinimini 'eşi görülmemiş boyutlarda şaşırtıcı bir hırsızlık' olarak tanımladığını gösteren mühürlenmemiş mahkeme dosyalarından bir sayfa.
Görsel: The Verge / The Verge AI
Satya Nadella'nın ifadesi özellikle keskin. The Verge'e göre, Nadella yemin altında chatbot etkileşimlerinin temel web sitelerini ziyaret etmenin "yerine geçtiğini" kabul etti — Times'ın zarar teorisini doğrudan destekleyen bir taviz. Bu davacının özetinden bir iddia değil; davalının CEO'sunun kayıtta olan ifadesi.
OpenAI tarafında, iç kayıtlar şirketin 2021'de API'sinin mevcut içeriği kelimesi kelimesine yeniden üretebileceğini bildiğini ve ezberlemeden korunmanın "adil kullanım uyumluluğu ve" yasal maruziyeti "en aza indirmek" için önemli olduğunu gösteriyor. Şirket ayrıca eğitim verilerini edinirken ödeme duvarlarını aştığını ve hizmet şartlarını ihlal ettiğini — ve organizasyon içindeki bireylerin bu sorunları kabul edilebilir maliyetler olarak gördüğünü kaydetti.
"Bu dava, Microsoft'un Uygulamalı Bilim Direktörü'nün dediği gibi, 'eşi görülmemiş boyutlarda şaşırtıcı bir hırsızlık'; belki de 'insanlık tarihindeki en büyük emek hırsızlığı' hakkında."
— Mahkeme dosyası, NYT v. OpenAI
Bu, büyük bir yapay zeka şirketinin eğitim verisi kaynaklama konusunda hesaplaşmayla karşılaştığı ilk sefer değil. Stability AI 2023'te benzer iddialarla karşılaştığında, şirketin pozisyonu esasen kazımanın yasal olarak çözülmemiş bir alan olduğuydu. OpenAI-Microsoft durumunu yapısal olarak farklı kılan şey, zarar verici dilin evden içeriden gelmesi — yöneticiler ve uygulamalı bilim insanları, düşman uzmanlar değil.
OpenAI'nin 2021'de API'sinin mevcut içeriği kelimesi kelimesine çıktı verebileceğini fark ettiğini gösteren mühürlenmemiş dosya, adil kullanım uyumluluğu endişesi olarak işaretlenmiş.
Görsel: The Verge / The Verge AI
Yapay zeka sanatı yaratıcıları için, aşağı akış riskleri gerçek. Görüntü üretim modellerinin arkasındaki eğitim veri setleri, tazminat ödemeden web'den görsel içerik kazıma konusunda benzer sorularla karşı karşıya. NYT davası metin için bir emsal oluşturan bir karar — veya lisanslama şartlarıyla bir anlaşma — üretirse, bu çerçevenin görüntü verilerine neredeyse anında uygulanmasını bekleyin. Lisanslı veya sentetik eğitim verilerine doğru zaten hareket etmiş platformlar yapısal bir avantaj kazanacak; hala filtrelenmemiş web kazımalarına güvenenler Manhattan'da dava edilen aynı sorumluluk maruziyetiyle karşılaşacak.
Charmloop mevcut modeller kataloğu bu değişimin bir kısmını zaten yansıtıyor, sağlayıcılar lisanslı ve kazınmış veri setleri üzerinde eğitilmiş modeller arasında giderek daha fazla ayrım yapıyor — sadece etik olarak değil, yasal olarak da önemli olmak üzere olan bir ayrım.
Sansürlenmemiş Microsoft dosyaları hakkındaki önceki haberimiz ilk belge açıklamalarını ortaya koydu; bu yeni mühürlenmemiş kayıtlar daha da ileri gidiyor, "kıyamet döngüsü" çerçevesini ve ezberleme kabullenmelerini doğrudan mahkeme kaydına yerleştiriyor.
Davanın henüz belirlenen bir duruşma tarihi yok. Bir sonraki belirleyici an, mahkemenin özet yargı önergeleri hakkında nasıl karar vereceği — ya bir anlaşmayı zorlayacak ya da "kıyamet döngüsü" belgelerini jüri önüne gönderecek bir karar.