Ücretsiz Charmloop hesabını oluştur — kart yok, gezinmede sınır yok. Dakikalar içinde yapay zekâ sanatı yapmaya başla.
Google'ın deepfake tespit sistemi, Senatör Mitch McConnell'ı bir hastane yatağında görünürde ciddi tıbbi sıkıntı içinde gösteren sahte bir yapay zeka üretimi görüntüyü başarıyla bir aldatmaca olarak tanımladı; bu bilgi TechCrunch tarafından aktarıldı. Bu vaka, yapay zeka görüntü doğrulamasının bugüne kadarki en kamuoyuna açık gerçek dünya testlerinden biri olma özelliği taşıyor ve bu araçlarla görüntü üreten herkes için doğrudan sonuçlar doğuruyor.
Görüntü bu haftanın başında yayıldı; Kentucky senatörünü tüpler ve tıbbi ekipmanlarla ciddi sıkıntı içinde gösteriyordu. Gerçek denetçiler devreye girmeden önce sosyal medyada dolaşacak kadar ikna ediciydi. Google'ın tespit sistemi — sentetik medyayla mücadele etmeye yönelik daha kapsamlı çabasının bir parçası — görüntüyü analiz etti ve yapay zeka üretimi olarak tanımladı; böylece aldatmacanın çürütülmesi için somut teknik bir dayanak sağladı.
Google'ınki gibi tespit araçları genellikle üretim modellerinin geride bıraktığı artefaktları tarayarak çalışır: doğal olmayan cilt dokusu desenleri, tutarsız aydınlatma fiziği, piksel dağılımlarındaki istatistiksel düzensizlikler ve gerçek fotoğraflarda bulunmayan, kenarlardaki belirgin yumuşatma. Bu imzalar çoğunlukla insan gözüne görünmez, ancak veri düzeyinde tespit edilebilir.
Yapay zeka sanatı yaratıcıları için bu olay, nadiren açıkça dile getirilen bir şeyi gözler önüne seriyor: ürettiğiniz her görüntü bir parmak izi taşıyor ve bu parmak izini okuma altyapısı giderek daha yetenekli ve yaygın biçimde kullanılır hale geliyor. Bu, varsayımsal bir gelecek durumu değil — Google'ın sistemi bunu ulusal çapta dolaşıma giren bir görüntü üzerinde az önce kanıtladı.
Pratik çıkarım her iki yönde de keskin. Bir yanda, gelişmiş tespit gerçekten yararlı; yaratıcı bir yapay zeka sanat eserini siyasi bir dezenformasyon kampanyasından ayırt edebilecek mekanizma bu. Öte yanda, tespit sistemleri kusurlu olup hata yapabilir. McConnell sahte görüntüsünü yakalayan piksel düzeyindeki analiz, teorik olarak, bilinen dezenformasyonla üretim imzalarını paylaşması durumunda meşru yaratıcı çalışmaları da işaretleyebilir.
Model seçimi, yaratıcıların her zaman göz önünde bulundurmadığı biçimlerde burada önem taşıyor. Farklı üretim mimarileri — difüzyon modelleri, GAN'lar, otoregresif görüntü modelleri — farklı artefakt imzaları bırakır. Bir model ailesinin çıktıları üzerinde yoğun biçimde eğitilmiş bir dedektör, başka bir ailede daha az doğru olabilir. Flux, Stable Diffusion varyantları ve Midjourney gibi modellerin her biri farklı istatistiksel parmak izleri ürettikçe, tespit ortamı evrensel olmaktan ziyade parçalı bir hal alıyor.
Takip etmeye değer ikincil bir etki daha var. Tespit sistemleri geliştikçe, model geliştiriciler işaretlenmesi daha zor çıktılar üretme baskısıyla karşılaşıyor — bu da pratikte daha az belirgin artefaktla daha temiz, fiziksel açıdan daha tutarlı görüntüler anlamına geliyor. Bu baskı, daha yeni model sürümlerinin eller, dişler, kumaş dokusu ve arka plan tutarlılığı gibi ince ayrıntıları nasıl ele aldığında zaten görünür. Tespit ve üretim fiilen birlikte evrimleşiyor.
McConnell vakası aynı zamanda ölçekte yapay zeka görüntülerine bağlı itibar risklerini de gözler önüne seriyor. Bir kamu figürünün tek bir ikna edici sahte görüntüsü, düzeltme yapılmadan önce saatlerce dolaşımda kalabilir. Bu gerçeklik, tespit altyapısına kurumsal yatırımı hızlandırıyor — Google'ın sisteminden, görüntülere oluşturulma anında kriptografik meta veri gömen Content Authenticity Initiative'in C2PA köken standartlarına kadar.
C2PA imzalamayı destekleyen platformlarda — giderek büyüyen bir liste — çalışan yaratıcılar, çalışmalarının meşru kökenini kanıtlamak için daha iyi bir konumda. Herhangi bir köken katmanı olmadan görüntü üretip dağıtanların ise, niyet tamamen sanatsal olsa bile, çıktılarını kötü niyetli bir sahteciliğin ürününden teknik olarak ayırt etmenin yolu yok.
McConnell olayı, bu altyapının son yüksek profilli testi olmayacak. Siyasi figürler, son dakika haber olayları ve viral anlar hedef olmaya devam edecek; her biri tespit sistemlerini daha hızlı gelişmeye zorlayacak. Sistemin nasıl çalıştığını — ve tercih ettikleri araçların hangi sinyalleri geride bıraktığını — anlayan yaratıcılar, gelenin üstesinden gelmek için daha iyi bir konumda olacak.
