Anthropic, Tüm Claude Tarafından Üretilen Metin ve Görselleri C2PA Meta Verileriyle Filigranlandıracak

Anthropic, Claude tarafından üretilen tüm metin ve görsellere görünmez makine tarafından okunabilir filigranlar ekliyor; Avrupa yapay zeka şeffaflık gerekliliklerine uymak için dijital olarak imzalanmış C2PA köken meta verilerini dosyalara yerleştiriyor. Bu değişiklik, Claude çıktılarının, içerik üreticilerin bunu isteyip istemediğinden bağımsız olarak, C2PA uyumlu herhangi bir araç tarafından tespit edilebilir hale gelmesini sağlayacak.

Öne çıkan noktalar

• Anthropic, Claude tarafından üretilen metinlere görünmez filigranlar ve Claude tarafından üretilen görsel dosyalara dijital olarak imzalanmış C2PA köken meta verileri yerleştirecek.
• Filigranlar makine tarafından okunabilir ancak insan gözüyle görünmez; görselleri veya metinleri görsel olarak değiştirmiyor.
• Bu adım, yapay zeka tarafından üretilen içeriklerin açıklanmasını zorunlu kılan AB Yapay Zeka Yasası şeffaflık gereklilikleri tarafından yönlendiriliyor.
• TechCrunch'a göre Anthropic, desteği yalnızca en son sürümlerle sınırlı tutmayıp eski Claude modellerine de genişleteceğini belirtiyor.
• C2PA meta verileri, bir görseli yeniden kaydederek veya ekran görüntüsü alarak silinebilir; dolayısıyla filigranlar kurcalamaya karşı dayanıklı değil.

C2PA köken meta verisi çıktılarınıza gerçekte ne yapıyor?

C2PA — İçerik Kökeni ve Özgünlüğü Koalisyonu standardı — bir dosyaya kriptografik olarak imzalanmış bir manifesto ekleyerek çalışır. Bu manifesto, dosyayı oluşturan aracı, oluşturulma zamanını ve yapılan düzenlemeleri kaydeder. Claude tarafından üretilen bir görsel, C2PA destekli bir görüntüleyicide açıldığında veya köken denetimi yapan bir platforma yüklendiğinde, gözetim zinciri görünür hale gelir. Yapay zeka sanatı üreticileri için bu şu anlama gelir: Claude'un API'si veya tüketici ürünleri aracılığıyla oluşturulan görseller, Anthropic'in modelinin bunları ürettiğine dair kalıcı ve doğrulanabilir bir kayıt taşıyacak; sonucu düzenlemiş veya ölçeklendirmiş olsanız bile, dosya yeniden kodlanmadığı sürece bu kayıt geçerliliğini koruyacak.

Metin filigranlaması farklı çalışır. The Verge'e göre, yerleşik metin filigranları, eğitilmiş bir dedektörün okuyabileceği ancak insan okuyucunun fark etmeyeceği şekilde kelime seçimlerine ve cümle yapısına işlenmiş istatistiksel örüntülerdir. Anthropic'in kendi destek sayfası şunu belirtiyor: «Üretilen metinler yerleşik filigranlar taşıyacak ve üretilen dosyalar, desteklenen durumlarda dijital olarak imzalanmış köken meta verilerini içerecek.»

«Üretilen metinler yerleşik filigranlar taşıyacak ve üretilen dosyalar, desteklenen durumlarda dijital olarak imzalanmış köken meta verilerini içerecek.»

— Anthropic

AB uyum etkeni — ve Avrupa dışındaki anlamı

AB Yapay Zeka Yasası, yapay zeka tarafından üretilen içeriklerin son kullanıcılara açıklanmasını zorunlu kılıyor; filigranlandırma ise düzenleyicilerin işaret ettiği uyum mekanizmalarından biri. Anthropic'in bu adımı, diğer büyük sağlayıcıların benzer hamlelerini takip ediyor ve sektörün genel yönelimini yansıtıyor: Adobe'nin Content Credentials'ı, Google'ın SynthID'si ve şimdi Anthropic'in C2PA uygulaması, aynı birlikte çalışabilir standart üzerinde birleşiyor.

Avrupa dışındaki içerik üreticiler için pratik etki, bulundukları yerden bağımsız olarak aynı: Claude kullanarak görsel oluşturuyorsanız veya metin taslağı hazırlıyorsanız, bu çıktı etiketlenecek. C2PA manifestolarını denetleyen platformlar — ve bu yeteneği ekleyen platform sayısı artıyor — bunu yapay zeka tarafından üretilmiş olarak işaretleyecek. Kendi insan emeğiyle üretilmiş çalışmanızın özgünlüğünü kanıtlamak istiyorsanız bu faydalı; ancak köken denetiminin sürtüşme yaratabildiği iş akışlarına Claude çıktıları entegre ediyorsanız, göz önünde bulundurmanız gereken gerçek bir etken.

Eski modeller de filigran alıyor

API kullananlar için önemli bir ayrıntı: Anthropic, filigranlandırma dağıtımının yalnızca mevcut nesille sınırlı kalmayıp eski Claude modellerini de kapsayacağını belirtiyor. Bu, yalnızca amiral gemisi sürümlere uygulanan bazı önceki sağlayıcı uygulamalarından daha geniş bir kapsam. İş akışınız maliyet nedeniyle eski bir Claude uç noktasına dayanıyorsa, orada da filigranlanmış çıktılar beklemeniz gerekiyor.

Sistemin sınırları

C2PA meta verisi, yalnızca dosya kapsayıcısı kadar dayanıklıdır. Bir görselin ekran görüntüsünü almak, çoğu görsel düzenleyici aracılığıyla yeniden dışa aktarmak veya dosya biçimini dönüştürmek, imzalı manifestoyu genellikle siler. Metin filigranları hafif düzenlemelere karşı daha dayanıklıdır; ancak yoğun yeniden ifadelendirme ile bozulabilir. Her iki sistem de yenilmez olmak üzere tasarlanmamıştır; uyumlu platformlar ve iyi niyetli kullanıcılar için varsayılan bir belge izi oluşturmak amacıyla tasarlanmıştır, adli kilit olmak için değil.

Claude tarafından üretilen varlıkları içeren yapay zeka sanatı iş akışları oluşturan içerik üreticiler için pratik sonuç açıktır: çıktılarınızın artık varsayılan olarak köken verisi taşıdığını anlayın, yapay zeka açıklamasının bir husus olduğu müşteri teslimatlarında bunu göz önünde bulundurun ve son işleme adımlarınızın bu meta veriyi koruyup korumadığını ya da silip silmediğini kontrol edin. Yapay zeka dedektörleri ortamı zaten karmaşık; C2PA en azından insan yazısında sürekli hata yapan istatistiksel sınıflandırıcılara kıyasla daha güvenilir bir sinyal sunuyor.

Anthropics'in özelliğe ait destek sayfası şu anda yayında ve eski modeller için dağıtım takvimi henüz belirli bir tarihe bağlanmadı.