Bir arkadaşını seç ve bu haber hakkındaki görüşünü öğren
İlgili makaleler
Aktris Mia Goth'un yapay zeka ile üretilmiş bir görseli, mavi onay rozeti taşıyan sahte bir hesaptan Instagram'a yayıldı; platform görseli kaldırmadan önce temsilcileri olayı «anlaşılmaz» olarak nitelendirdi.
Öne çıkan noktalar
miagoth_ adlı Instagram hesabı — Goth'un gerçek hesabı değil — mavi onay rozeti taşıyor ve aktrisin kışkırtıcı bir slogan tişörtü giydiği yapay zeka üretimi bir görsel paylaşıyordu; paylaşım, gerçek hayattaki boşanma başvurusuyla eş zamanlı olarak yapıldı.
Goth'un temsilcileri The Verge'e görselin uydurma olduğunu söyledi ve Instagram'ın bunu fark edememesini «anlaşılmaz» olarak nitelendirdi.
Görselin gerçekçiliği ve onay rozetinin varlığı, viral yayılımı tetikleyen iki temel faktördü — bu kombinasyon, yapay zeka benzerlikleriyle çalışan her içerik üreticisini endişelendirmeli.
Meta Verified abonelikleri aracılığıyla satılan Instagram'ın onay sistemi, bir hesabın temsil ettiği kişiye gerçekten ait olduğunu güvenilir biçimde doğrulamıyor.
Instagram'da yükleme anında bu görseli işaretleyecek, platform tarafından zorunlu kılınan bir yapay zeka içerik etiketi gereksinimi şu an mevcut değil.
Sahte onaylı Instagram hesabı miagoth_'tan yayılan ve Goth'un gerçek boşanma haberiyle eş zamanlı paylaşılan yapay zeka üretimi görsel.
Sahte bir onay rozeti deepfake'i nasıl haber yaptı
Buradaki mekanizmayı tam olarak anlamak gerekiyor. Bu ayın başında Mia Goth, Shia LaBeouf'tan boşanma davası açtı — gerçek ve geniş çapta haberleştirilen bir gelişme. Ardından miagoth_ hesabı, Goth'un kalın siyah harflerle «MY EX IS MY BIGGEST FAN» yazan bir tişört giydiği yapay zeka üretimi bir fotoğraf paylaştı. Mavi tik, paylaşıma anında güvenilirlik kazandırdı. Sıradan kullanıcılar, hatta bazı gazeteciler bile görseli gerçek sandı. The Verge'e göre, temsilcileri Instagram'ın görselin yayılmasına izin vermesini anlaşılmaz olarak nitelendirdi.
Onay rozeti meselenin özünde yatıyor. Meta Verified — Instagram'ın ücretli doğrulama kademesi — devlet kimliği sunan abonelere tiki veriyor; ancak kimliği başvuran kişiye göre doğruluyor, hesabın görüntülediği isim ya da görünüme göre değil. Kötü niyetli biri abonelik ücretini ödeyip kendi kimliğiyle doğrulanabilir, ardından başka birini taklit eden bir hesap işletebilir. Kullanıcıların «bu gerçekten o» diye okuduğu rozet aslında çok daha dar bir anlam taşıyor.
Gerçekçilik sorunu artık içerik üreticisinin sorumluluğu
Gerçek kişilerin yapay zeka görsellerini üreten herkes için — editoryal illüstrasyonlar, hayran sanatı, hiciv amaçlı kompozitler — bu olay, teknik olarak mümkün olanla hukuki ve etik açıdan savunulabilir olan arasına keskin bir çizgi çiziyor. Goth'un görseli, gerçekmiş gibi dolaşacak kadar ikna edici olduğu bildiriliyor. Bu düzeyde bir fotogerçekçilik artık tüketici sınıfı görsel üreticilerle elde edilebilir durumda; bu da bağlamı ve etiketlemeyi zorunlu kılan tam da bu yetenektir.
Herhangi bir amaçla gerçek bir kişinin gerçekçi görselini üretirseniz, mevcut platform ortamı neredeyse hiç güvenlik ağı sunmuyor. Instagram'ın yükleme sırasında zorunlu bir yapay zeka açıklama gereksinimi yok. Google'ın SynthID dedektörü belirli üreticilerin yapay zeka filigranlarını tespit edebiliyor; ancak yalnızca görsel oluşturulurken filigranlandıysa — ve çoğu iş akışı bunu varsayılan olarak zorunlu kılmıyor. Google'ın SynthID dedektör sitesine ilişkin önceki haberimizde artık birden fazla sağlayıcının filigranlarını okuyabildiğini belirtmiştik; ancak içerik üreticisi tarafında benimseme gönüllülük esasına dayanıyor ve tutarsız kalıyor.
Pratik sonuç şu: iş akışınız adlandırılmış bireylerin fotogerçekçi görsellerini üretmeyi kapsıyorsa — açıkça hiciv amaçlı olsa bile — bu görselleri açıkça başlık ve alternatif metinde etiketlemelisiniz; bunu sizin yerinize yapması için platforma güvenmemelisiniz. Bu, bir platform özelliği değil, istem düzeyinde ve dışa aktarma düzeyinde bir alışkanlıktır.
Platform hesap verebilirliği boşluğu şu an ne anlama geliyor
Goth olayı, Instagram'ın gözle görülür biçimde başarısız olduğu bir stres testidir. İkna edici bir yapay zeka görseli, onay rozeti ve zamanında gerçek bir haber kancasının bir araya gelmesi nadir bir uç durum değil — tekrarlanabilir bir formül. Yapay zeka görsel kalitesi iyileşmeye devam ettikçe, üretilmiş bir fotoğrafla gerçek bir fotoğraf arasındaki görsel fark çoğu izleyici için sıfıra yaklaşıyor.
Bu durum meşru içerik üreticileri için de önem taşıyor. Bu tür olaylardan kaynaklanan tepkiler genellikle kaba platform politikaları doğuruyor: yapay zeka üretimi benzerliklere yönelik daha geniş yasaklar, daha katı yükleme filtreleri ya da niyetten bağımsız olarak her içerik üreticiyi etkileyen zorunlu filigran gereksinimleri. Yapay zeka telif hakkı ve gizlilik kuralları konusundaki süregelen kongre tıkanıklığı, platform düzeyindeki uygulamanın — ne kadar tutarsız olursa olsun — öngörülebilir gelecekte birincil denetim mekanizması olmaya devam edeceği anlamına geliyor.
Yapay zeka görsel üretimini keşfediyorsanız ve mevcut araçların gerçekçilik ve etiketleme konusunda nerede durduğunu anlamak istiyorsanız, Charmloop model kataloğu hangi üreticilerin varsayılan olarak filigran uyguladığını, hangilerinin uygulamadığını belgeliyor — her geçen hafta daha az akademik hale gelen bir ayrım.
