Kaynaklar
Kendine göre yap
Bu hikâye ilham mı verdi? Fikrini saniyeler içinde kendi yapay zekâ sanatına dönüştür — ücretsiz başla, kart gerekmez.
Ücretsiz başla
Maya her yeni modeli benchmark'tan geçirir — önce rakamlar, asla abartı.
Bu hikâye ilham mı verdi? Fikrini saniyeler içinde kendi yapay zekâ sanatına dönüştür — ücretsiz başla, kart gerekmez.
Ücretsiz başlaBir arkadaşını seç ve bu haber hakkındaki görüşünü öğren
Bir güvenlik araştırmacısı, kişisel olarak tanımlanabilir bilgiler de dahil olmak üzere özel kullanıcı verilerinin, halka açık yapay zeka modellerinin çıktısından çıkarılabileceğini göstererek yapay zeka tedarik zincirinde kritik bir güvenlik açığını ortaya koydu. Bu, görüntü veya karakter oluşturmak için yapay zeka modellerini kullanan içerik oluşturucuların, eğitim verilerine dahil edilmişse, özel verilerinin istemeden ifşa olabileceği anlamına geliyor.
Anonim kalmayı tercih eden araştırmacı, yapay zeka modeli eğitimi için yaygın olarak kullanılan çeşitli genel veri kümelerine sistematik olarak yaklaşık 2 milyon benzersiz 'kanarya' enjekte etti. Bu kanaryalar, gerçek dünya özel veri noktalarını taklit ederek farklı ve izlenebilir olacak şekilde tasarlandı. Amaç, bu yerleştirilen sırların, bu veri kümeleri üzerinde eğitilmiş yapay zeka modellerinin çıktılarında yeniden ortaya çıkıp çıkmayacağını görmekti. Deney, büyük dil modelleri (LLM'ler) ve görüntü oluşturma modelleri de dahil olmak üzere birden fazla modelden önemli bir çıkarma oranıyla yeniden ortaya çıktıklarını doğruladı. Bu teorik değil; belirli isimler, e-posta adresleri ve diğer hassas bilgiler kurtarıldı.
Bu sızıntıların arkasındaki mekanizma genellikle eğitim sırasında yetersiz veri anonimleştirme ve modellerin eğitim verilerinin bazı kısımlarını ezberleme ve yeniden üretme eğiliminin birleşimidir. Yapay zeka geliştiricileri genellikle hassas bilgileri filtrelediklerini veya anonimleştirdiklerini iddia etseler de, bu araştırma bu önlemlerin yeterince sağlam olmadığını göstermektedir. İçerik oluşturucular için bu, kişisel verilerinin veya hatta tescilli görüntü varlıklarının bir şekilde bir modelin eğitim setine girmesi durumunda, bu verilerin başka bir kullanıcı tarafından oluşturulan bir çıktıda yeniden üretilme riskinin somut olduğu anlamına gelir.
Bu güvenlik açığı basit metin istemlerinin ötesine uzanır. Görüntü veya karakter oluşturan yapay zeka sanatı yaratıcıları için çıkarımlar doğrudandır: eğitim verilerine giren herhangi bir benzersiz stilistik öğe, tescilli motif veya hatta gömülü meta veriler potansiyel olarak yeniden üretilebilir. Bu, veriler bir model tarafından alındıktan sonra denetlenmesi zor bir şekilde fikri mülkiyet ve gizlilik arasındaki çizgileri bulanıklaştırır. Ayrıca, konuşma verilerinin teorik olarak ezberlenebileceği ve tekrarlanabileceği yapay zeka arkadaşı kullanıcıları için de endişeleri vurgulamaktadır.
Yapay zeka görüntü oluşturma araçları sağlayan Charmloop gibi platformlar genellikle temel modellere güvenir veya bunları ek veri kümeleriyle ince ayar yapar. Bu temel veri kümelerinin şeffaflığı ve veri yönetimi politikaları çok önemli hale gelir. İçerik oluşturucular, birçok yapay zeka modelinin 'kara kutu' doğasının, veriler bir kez emildiğinde kaderinin büyük ölçüde kendi kontrolleri dışında olduğu anlamına geldiğinin farkında olmalıdır. Bu, model ve platform seçimini sadece yaratıcı bir karar değil, aynı zamanda kritik bir gizlilik kararı haline getirir.
Ars Technica'ya göre, araştırmacının bulguları, gizli kullanıcı verilerini endişe verici bir oranda ifşa eden "sızıntı yapan bir yapay zeka tedarik zincirine" işaret ediyor. Bu, daha sıkı veri yönetimi uygulamalarına, daha iyi anonimleştirme tekniklerine ve yapay zeka geliştiricilerinden eğitim veri kaynakları ve gizlilik önlemleri hakkında daha net açıklamalara acil bir ihtiyaç olduğunu vurgulamaktadır. Düzenleyici kurumlar yapay zeka veri uygulamalarını giderek daha fazla inceliyor, ancak teknik çözümler geride kalıyor. Daha güçlü korumalar sağlanana kadar, içerik oluşturucular, ne kadar belirsiz görünse de herhangi bir verinin potansiyel olarak bir yapay zeka modelinin çıktısından çıkarılabileceğini varsaymalıdır. Bu, özellikle benzersiz stillere veya kişisel markalaşmaya güvenenler için, içerik oluşturucuların çalışmalarını nasıl lisanslayacaklarını veya genel veri kümelerine nasıl katkıda bulunacaklarını etkileyebilir.
Araştırma, yapay zeka çağında veri gizliliğinin, kullanıcıların, geliştiricilerin ve düzenleyicilerin uyanıklığını gerektiren ortak bir sorumluluk olduğu fikrini pekiştiriyor. Yapay zeka modelleri daha karmaşık hale geldikçe ve günlük yaratıcı iş akışlarına entegre edildikçe, temel verilerin güvenliğini sağlamak sürekli bir zorluk olacaktır. Şeffaf veri politikalarına sahip modeller arayan içerik oluşturucular, eğitim veri kaynakları hakkında daha fazla bilgi sunan açık ağırlıklı yapay zeka modellerini keşfedebilirler.