Ücretsiz Charmloop hesabını oluştur — kart yok, gezinmede sınır yok. Dakikalar içinde yapay zekâ sanatı yapmaya başla.
xAI'ye karşı açılan federal bir dava, Grok AI modelinin bir kullanıcısının üvey kızının yaklaşık 7.000 çocuk cinsel istismarı görüntüsünü ürettiğini ve xAI'nin istismar devam ederken Kayıp ve İstismar Edilen Çocuklar Ulusal Merkezi'ne sadece tek bir toplu tecavüz istemi bildirdiğini iddia ediyor.
Ars Technica'nın rapor ettiğine göre davaya göre, kullanıcı istismar tırmanmadan ve intihar etmeden önce uzun bir süre boyunca yüzlerce istem gönderdi. Şikayet, xAI'nin NCMEC'e — CSAM ipuçları için federal olarak belirlenmiş takas merkezi — raporlamasının sadece bir istemi kapsadığını ve iddia edilen istismar üretiminin ezici çoğunluğunun rapor edilmeden ve soruşturulmadan kaldığını iddia ediyor.
Çocuklarımızı Koruma Yasası kapsamındaki federal yasa, elektronik hizmet sağlayıcılarının farkında olduklarında görünür CSAM'ı NCMEC'e bildirmelerini gerektirir. Davanın temel iddiası, xAI'nin faaliyetle ilgili farkındalığının tek raporunun önerdiğinden çok daha geniş olduğudur. xAI, şikayette belirtilen spesifik raporlama rakamlarını kamuya açık olarak doğrulamadı veya reddetmedi ve dava devam ediyor.
Ek mağdurlardan gelen ayrı davalar da Grok'u sahiplenen ve dağıtan platform olan X'e karşı açıldı ve davacılar X'i kolluk kuvvetleriyle işbirliği yapmak yerine çocuk yırtıcılarını koruduğu konusunda suçluyor.
7.000 görüntü rakamı bu davayı yasal ve teknik olarak önemli kılan şeydir. Tek bir kötü istem bir güvenlik olayıdır; uzun bir oturum boyunca binlerce üretilen görüntü, güvenlik sınıflandırıcılarının ve raporlama hatlarının prensipte tespit etmesi ve işaretlemesi gereken bir kalıptır. Dava dolaylı olarak Grok'un güvenlik mimarisinin ölçekte başarısız olduğunu — sadece marjda değil — savunuyor.
AI görüntü üretim platformları için genel olarak, bu çerçeveleme önemlidir. Düzenleyiciler ve davacı avukatlar giderek artan şekilde hacmi izole edilmiş kötüye kullanım yerine sistemik başarısızlığın kanıtı olarak görüyorlar. Açık bir istemi engelleyen ancak binlerce nesil boyunca yinelemeli, tırmanan istismarı sağlayan bir model, bu yasal görüşte, yeterli güvenlik kontrollerine sahip bir model değildir.
Dava ayrıca yapısal bir boşluğu vurguluyor: NCMEC raporlama yükümlülükleri teknik olarak bir sağlayıcı CSAM'dan «haberdar» olduğunda devreye girer, ancak farkındalığı neyin oluşturduğu — işaretlenmiş bir istem, bir sınıflandırıcı vuruşu, bir insan incelemesi — platformlar arasında tek tip olarak tanımlanmamıştır. Grok davası bu tanımı daha keskin yasal netliğe zorlayabilir.
Zamanlama xAI için garip. Grok görüntü üretim özelliklerini agresif bir şekilde genişletiyor ve xAI modeli rakiplere daha az kısıtlayıcı bir alternatif olarak konumlandırdı. Diğer modelleri çok filtrelenmiş bulan kullanıcıları çeken bu konumlandırma, şimdi davacıların sorumluluk teorisinin merkezinde yer alıyor. Argüman, özünde, azaltılmış kısıtlamaların daha muhafazakar bir sistemin kesintiye uğratacağı ölçekte istismarı mümkün kılan izin verici bir ortam yarattığıdır.
Bu argüman bu spesifik davanın ötesinde yankılanacaktır. Yaratıcı özgürlük konusunda rekabet eden her AI görüntü platformu aynı temel gerilimlə karşı karşıyadır: daha gevşek içerik korkulukları esneklik isteyen yaratıcıları çeker, ancak aynı zamanda kötüye kullanım engelini de düşürürler. Grok davası, mahkemelerin bu çizgiyi nerede çekeceğinin şimdiye kadarki en keskin testidir.
Daha fazla dava bekleniyor. Ars Technica, ek mağdurların zaten başvuruda bulunduğunu rapor etti, bu da tek bir izole şikayet yerine koordineli bir yasal strateji önerisi. xAI'nin nasıl yanıt vereceği ve mahkemelerin platformları modelleri tarafından üretilen CSAM'dan sorumlu bulup bulmayacağı, yıllarca tüm AI görüntü üretim endüstrisinde içerik politikasını şekillendirecek emsal oluşturacak.
