Meta'nın reklam platformu, gerçek kadın politikacıların rızası alınmadan çıplak deepfake görüntülerini oluşturmayı açıkça vaat eden bir uygulamanın ücretli tanıtımlarını yayınladı — reklamlardan en az birinde, görevdeki bir ABD'li politikacıya benzediği değerlendirilen bir kişiyi konu alan pornografik bir video yer alıyordu.
Öne Çıkan Noktalar
- Meta'nın reklam sistemi, adı geçen kadın politikacıların çıplak deepfake görüntülerini oluşturma kapasitesini açıkça pazarlayan bir uygulamanın reklamlarını onaylayarak yayınladı.
- Ars Technica'ya göre reklamlardan en az biri, gerçek bir ABD'li politikacıya yakından benzeyen bir deepfake içeren pornografik bir video barındırıyordu.
- Bu olay, yalnızca bir içerik moderasyonu sınır vakası değil; Meta'nın reklam inceleme altyapısının doğrudan bir başarısızlığıdır.
- Yapay zeka tarafından üretilen rızasız mahrem görüntüler (NCII), giderek artan sayıda ABD eyaletinde ve birçok ülkede yasadışı hale geliyor; bu da söz konusu reklamlara ev sahipliği yapan platformların hukuki riskini artırıyor.
- Yapay zeka görüntüsü oluşturanlar için bu olay, politika ortamını keskinleştiriyor: Önümüzdeki aylarda büyük üretim platformlarında kimlik ve benzerlik kısıtlamalarının sıkılaşması bekleniyor.
Reklamlar Meta'nın İnceleme Sisteminden Nasıl Geçti?
Ars Technica'ya göre, reklamlar hiç de ince değildi — kapasiteyi açıkça adlandırıyor ve en az bir durumda bunu pornografik bir deepfake ile kanıtlıyordu. Bu durum, bir reklamın yayına girmeden önce politika ihlallerini yakalaması gereken Meta'nın otomatik reklam inceleme sisteminin, içerik tespitinin en temel düzeyinde başarısız olduğu anlamına geliyor. Uygulama, ne yaptığını gizlemiyordu.
Meta'nın, rızasız mahrem görüntüleri kolaylaştıran ürünlerin reklamlarını yasaklayan politikaları bulunuyor. Bu reklamların yine de incelemeyi geçmiş olması, yazılı politika ile uygulama altyapısı arasındaki bir boşluğa işaret ediyor — görüntü oluşturma kalitesi iyileştikçe ve ikna edici deepfake üretmenin maliyeti sıfıra yaklaştıkça bu boşluk daha da kritik bir hal alıyor.
Daha Geniş Kapsamlı NCII Uygulama Sorunu
Bu izole bir olay değil. Bu yılın başlarındaki Grok CSAM vakası — xAI'ın görüntü aracının bir çocukluk fotoğrafını cinselleştirmek için kullanıldığı olay — yapay zeka görüntü güvenliği korumalarının özel üretim platformlarında bile feci biçimde başarısız olabileceğini gösterdi. Meta'nın durumu tartışmasız daha kötü: Başarısızlık reklam dağıtım katmanında yaşandı; yani platform, araca erişimi yaymak için para aldı.
Yasama cephesinde zemin hızla kayıyor. ABD federal DEFIANCE Yasası ve bir dizi eyalet yasası artık yapay zeka tarafından üretilen NCII'nin dağıtımını suç olarak tanımlıyor; AB'nin Yapay Zeka Yasası ise bu tür araçlara ev sahipliği yapan veya bunları tanıtan platformlara yükümlülükler getiriyor. Adı geçen bireylerin deepfake çıplaklaştırmasını pazarlayan bir uygulamanın reklamlarını yayınlamak, pek çok yargı bölgesinde artık yalnızca hizmet şartları meselesi olmaktan çıkmış durumda.
Bu Durum Yapay Zeka Görüntü Platformları ve İçerik Üreticileri İçin Ne Anlama Geliyor?
Yapay zeka görüntü üretimiyle çalışan herkes için — ister karakter oluşturuyor, ister portre üretiyor, ister benzerlik tabanlı yönlendirme denemeleri yapıyor olun — bu tür olaylardan kaynaklanan düzenleyici tepkiler genellikle yalnızca kötü aktörlere değil, sektörün tamamına yansır. Meta gibi yüksek profilli bir platform, çıplaklaştırma uygulamasının reklamlarını dağıtırken yakalandığında, yasa koyucuların ve diğer platformların tepkisi genellikle kimlik ve benzerlik kurallarını genel olarak sıkılaştırmak yönünde olur.
Pratik açıdan, dikkat edilmesi gereken birkaç nokta var. Şu anda esnek yüz değiştirme veya benzerlik eşleştirme özellikleri sunan platformlar, ek sürtüşme ekleyebilir — ek onay onay kutuları, adı geçen bireyler için daha katı yönlendirme filtrelemesi veya belirli özelliklerin tamamen kaldırılması gibi. İstemlerinizde gerçek kişilere adlarıyla atıfta bulunmanıza olanak tanıyan bir araç kullanıyorsanız, mevcut iş akışlarınızı şimdi belgeleyin; platformlar uyumu kanıtlamak için acele ettiğinde ilk kaldırılanlar bu kolaylıklar oluyor.
Daha kalıcı ders, altyapı boşluğuyla ilgili. Deepfake çıplaklaştırma uygulamaları yeni değil; ancak kaliteleri, çıktının gerçek insanlara karşı büyük ölçekte silah olarak kullanılabilecek kadar ikna edici olduğu bir eşiği aştı. Bu kalite sıçraması — yapay zeka tarafından üretilen görüntüleri yaratıcı çalışmalar için daha kullanışlı kılan aynı sıçrama — bu tür zararları da daha ağır hale getiriyor. Düzenleyiciler ve platformlar yetişmeye çalışıyor; önümüzdeki 12 ayın politika ortamı bunu yansıtacak.
Meta, raporlama anında söz konusu reklamlara ilişkin kamuoyuna herhangi bir açıklama yapmamıştı. Ars Technica haberinde söz konusu uygulamanın adına yer verilmedi.
