Bu hikâye ilham mı verdi? Fikrini saniyeler içinde kendi yapay zekâ sanatına dönüştür — ücretsiz başla, kart gerekmez.
Meta'nın yeni Content Seal sistemi Facebook ve Instagram'daki yapay zeka tarafından üretilen görselleri tespit edebiliyor — ancak yalnızca bu görseller Meta'nın kendi Muse modeliyle oluşturulmuşsa; diğer her şey neredeyse tamamen tespit dışı kalıyor.
Denetim Kurulu, Mart ayında Meta'yı aldatıcı üretken yapay zeka içeriklerinin yayılmasını azaltmak için «kamuya verdiği taahhütleri yerine getirmeye ve kendi araçlarını kullanmaya» davet etti. Meta'nın Temmuz ayındaki yanıtı — Content Seal — teknik açıdan işlevsel ancak operasyonel olarak oldukça dar kapsamlı. Tespit aracı, Muse tarafından üretilmiş bir görsel bulduğunda model ve oluşturulma tarihi gibi meta verilerle birlikte açık bir işaret gösteriyor.
Meta'nın Content Seal aracı kendi Muse modeliyle yapılmış bir görseli başarıyla tanımladığında görüntülenen bilgiler.
Görsel: The Verge / The Verge AI
Yapay zeka sanatı üreticileri için pratik uçurum son derece belirgin. Facebook ve Instagram'da dolaşan yapay zeka görsellerinin büyük çoğunluğu Muse ile yapılmadı — Midjourney, DALL-E 3, Flux veya Stable Diffusion türevlerinden geldi. Content Seal bunların hiçbirine dokunamıyor. The Verge'e göre, Google'ın SynthID'si çok daha geniş bir üretici yelpazesini destekliyor ve daha güvenilir platformlar arası tespit yaklaşımını temsil ediyor.
Meta'nın aracı, Content Seal işareti bulunamadığında bu mesajı gösteriyor — ancak işaretin yokluğu, görselin özgün olduğunun kanıtı değildir.
Görsel: The Verge / The Verge AI
Google'ın filigranlama standardı SynthID, başından itibaren üreticiler genelinde çalışacak şekilde tasarlandı — dahil olmayı tercih eden üçüncü taraf modeller de dahil. Bu mimari, tek bir dedektörün yapay zeka tarafından üretilen içeriklerin anlamlı bir dilimini kapsayabileceği anlamına geliyor. Content Seal ise tasarım gereği ya da kısıtlama nedeniyle yalnızca birini kapsıyor: Muse. Kendi çalışmalarının doğru şekilde atıflandırılmasını isteyen ya da çevrimiçi buldukları bir referans görselin yapay zeka tarafından üretilip üretilmediğini öğrenmek isteyen üreticiler için bu ayrım son derece önemli.
Araç ayrıca temel son işleme adımlarına da dayanamıyor. Yoğun sıkıştırma, kırpma veya renk düzenlemesi görünmez filigranları silebilir ya da bozabilir. Meta, sosyal medya paylaşımında rutin olan bu dönüşümlere karşı Content Seal'ın dayanıklılığına ilişkin ayrıntıları henüz yayınlamadı.
Flux veya Midjourney gibi araçlarla görsel üretip bunları Instagram'a yüklerseniz, Content Seal bunları yapay zeka tarafından üretilmiş olarak etiketlemeyecek — bunu siz istemiş olsanız bile. Bu durum iki yönde de keskin sonuçlar doğuruyor: yapay zeka çalışmalarının şeffaf biçimde işaretlenmesini isteyen üreticiler bu sistemden hiçbir destek alamıyor; Meta dışı herhangi bir üretici kullanan kötü niyetli kişiler ise sıfır engelle karşılaşıyor.
Charmloop görsel üreticisi ve çoğu üçüncü taraf araç da benzer şekilde Content Seal'ın kapsamı dışında kalıyor. Atıf ve özgünlük sorularıyla boğuşan üreticiler için şu an daha işlevsel alışkanlık, yapay zeka üretimini açıklamalarda ve meta verilerde manuel olarak belirtmektir — çünkü hiçbir platform taraflı tespit sistemi şu anda aktif kullanımdaki araçların tamamını kapsamamaktadır.
Meta'nın kapsamlı yapay zeka model kataloğu, Muse'u diğer üretken araçlarıyla birlikte barındırıyor; ancak Content Seal'ın dedektörü yalnızca kapsadığı ekosistem kadar işe yarıyor. Meta, SynthID'yi lisanslamadığı, modeller arası ortaklıklar kurmadığı ya da filigranlama standardını üçüncü taraflara açmadığı sürece Content Seal, ölçekte yapay zeka içerik aldatmacasına anlamlı bir çözümden çok Muse için bir marka koruma katmanı olarak işlev görmeye devam edecek.
Denetim Kurulu, Temmuz'daki lansmanı henüz kamuoyu önünde değerlendirmedi — ve Content Seal'ın orijinal görevi ne kadar dar kapsamda ele aldığı göz önüne alındığında, bu değerlendirme geldiğinde oldukça sert olabilir.
