Böyle hikâyelerin ardındaki modelleri ve stilleri keşfet — ücretsiz hesap, anında galeri.
Kataloğu keşfet
Avrupa merkezli kâr amacı gütmeyen kuruluş AI Forensics'in yeni raporuna göre, Hugging Face'te barındırılan en popüler dokuz görüntü düzenleme modelinin yedisi, istek üzerine rızasız çıplak görüntü üretiyor; bu bulgu, platformun açık model politikalarını doğrudan mercek altına alıyor.
Açık model platformları, rızasız deepfake üretimi için kullanılan görüntü oluşturma araçlarını denetleme konusunda artan baskıyla karşı karşıya.
Görsel: The Verge / The Verge AI
AI Forensics raporu, The Verge tarafından da haberleştirildi; rapor, gözden kaçmış belirsiz depolar değil, listenin zirvesindeki en çok indirilen Hugging Face görüntü düzenleme modellerine odaklandı. Araştırmacılar, bu modellerin gerçek kişilerin —çocuklar dahil— fotoğraflarından giysileri kaldırmaya yönelik komutlara uyduğunu tespit etti. Rapora göre platformun tepkisi son derece sınırlı kaldı.
Hugging Face, yapay zeka ekosisteminde eşsiz bir konuma sahip: Aynı anda hem dünyanın en büyük açık ağırlıklı model merkezi hem de modelleri yerel olarak çalıştırmak ya da belirli görevler için ince ayar yapmak isteyen bağımsız yaratıcılar için kritik bir altyapı unsuru. Bu ikili rol, içerik denetimini gerçek anlamda karmaşık kılıyor. Yüz binlerce kez indirilen bir modeli kaldırmak, zararlı kullanım senaryolarının yanı sıra meşru kullanım senaryolarını da sekteye uğratıyor; ancak modeli yerinde bırakmak, platformun pratikte bir istismar aracı dağıttığı anlamına geliyor.
Kapalı platformlar —Midjourney, Adobe Firefly, OpenAI'ın görüntü araçları— içerik politikalarını çıkarım katmanında uygular. Her üretim talebi bir filtreden geçer. Hugging Face'te barındırılan açık ağırlıklı modeller bu şekilde çalışmaz. Model indirildikten sonra, neye izin verip vermeyeceğine operatör karar verir. Platformun elindeki tek gerçek koz, modeli barındırıp barındırmamaktır.
AI Forensics raporunun işaret ettiği boşluk tam da budur. Hugging Face'in, çocuk cinsel istismar materyali ve rızasız mahrem görüntü üretmek amacıyla tasarlanmış modelleri yasaklayan içerik politikaları mevcut; ancak uygulama tutarsız görünüyor. Kâr amacı gütmeyen kuruluş, sorunlu modellerin gizlenmediğini, aksine indirme sayısına göre arama sonuçlarının en üstünde yer aldığını tespit etti.
Difüzyon modellerine ve ince ayarlara erişmek için Hugging Face'e güvenen yaratıcılar açısından bu durum pratik bir önem taşıyor. Platforma yönelik düzenleyici tepkiler, hangi modellerin kamuya açık biçimde barındırılabileceğine ilişkin kısıtlamaları hızlandırabilir; bu da meşru yaratıcı çalışmalar için mevcut açık ağırlıklı seçeneklerin havuzunu daraltır. AB'nin Yapay Zeka Yasası ve çeşitli ulusal düzeydeki deepfake yasaları zaten bu yönde ilerliyor; bu türden yüksek profilli bir rapor ise söz konusu takvimi genellikle hızlandırır.
Hugging Face'in barındırılan içerik nedeniyle eleştirilmesi ilk kez yaşanmıyor —önceki tartışmalar model güvenliği ve yetkisiz erişim konularına değinmişti— ancak AI Forensics bulguları daha çarpıcı; zira teorik bir riski değil, belgelenmiş, tekrarlanabilir somut bir zararı ortaya koyuyor.
Yaratıcılar açısından pratik sonuçları yakından izlemek gerekiyor. Hugging Face daha kapsamlı otomatik filtreleme veya daha katı yükleme gereksinimleriyle yanıt verirse, bu ek yük yalnızca zararlı modellere değil, platformdaki tüm modellere uygulanacak. Yerel iş akışları için doğrudan merkezden görüntü üretim modelleri çeken yaratıcılar, daha az seçenekle karşılaşabilir ya da belirli model sınıflarına erişmek için yeni doğrulama gereksinimlerine tabi tutulabilir.
Rapor aynı zamanda açık ağırlıklı topluluğun model kısıtlamalarına ilişkin sektör baskısıyla zaten boğuştuğu bir dönemde gün yüzüne çıkıyor. Rızasız deepfake kaygılarının bu tartışmaya eklenmesi, düzenleyicilere soyut güvenlik argümanlarından çok farklı bir baskı unsuru olan somut bir zarar örneği sunuyor.
