Theo yapay zekâ haberlerini bu akşam deneyebileceğiniz şeylere dönüştürür.
Haftanın en iyi yapay zekâ ve yapay zekâ sanatı haberlerini gelen kutuna al — seçkin, kısa ve ücretsiz.
Ücretsiz. İstediğin zaman çık.
Bir arkadaşını seç ve bu haber hakkındaki görüşünü öğren
Yeni bir sektör değerlendirmesi, önde gelen AI laboratuvarlarının — milyonlarca yaratıcının her gün kullandığı görsel üreticilere, video araçlarına ve yaratıcı API'lere güç veren şirketlerin — modellerinden birinin tehlikeli ve istenmeyen biçimlerde davranması durumunda ne yapacaklarına dair neredeyse hiç kamuya açık belgelenmiş planlarının olmadığını ortaya koyuyor.
Rapor, sınır laboratuvarlarının Control standardındaki altı öncelikli uygulamayı karşılayıp karşılamadığını değerlendiren Guidelight'tan geliyor. Bu standart; bir şirketin yapmaması gereken şeyler yapmaya başlayan bir modeli tespit edip edemeyeceğini, izole edip edemeyeceğini ve kapatıp kapatamayacağını ölçen bir çerçeve. TechCrunch'a göre değerlendirme yalnızca kamuya açık bilgilere dayanıyor; sorunun özü de tam olarak bu: Laboratuvarların dahili protokolleri olabilir, ancak bunların ne olduğunu söylemiyorlar.
Guidelight'ın kamuya açık bilgilere dayanarak sınır AI laboratuvarlarını Control standardındaki altı öncelikli uygulamaya göre puanlaması.
Görsel: TechCrunch / TechCrunch AI
«Plan yok» ile «kamuya açık plan yok» arasındaki ayrım önemli; ancak göründüğü kadar belirleyici değil. Bir laboratuvar kontrol yaklaşımını tanımlayamıyorsa, düzenleyiciler, denetçiler ve bu API'lerin üzerine inşa eden geliştiriciler de bunu doğrulayamaz. Belirli bir modelin proje boyunca tutarlı kalmasına — aynı stil, aynı davranış, aynı çıktı aralığı — bel bağlayan bir yaratıcı için bu opaklaşma, salt bir politika soyutlaması değil, somut bir risk kaynağıdır.
«Başıbozuk model davranışı»nın bir yaratıcının gözünden nasıl göründüğünü bir düşünün. Bu, mutlaka bir bilim kurgu senaryosu değil. Daha önce kabul ettiği istemleri reddeden bir model olabilir; ya da bir güvenlik güncellemesi önceden haber verilmeksizin yayınlandığı için kampanya ortasında estetik varsayımlarını değiştiren bir model. Bir hizalama yaması planlı değil de reaktif biçimde devreye alındığı için beklenmedik çıktılar döndürmeye başlayan bir API de olabilir.
Bu tür aksaklıklar zaten tanıdık. Bu yılın başındaki Grok Lite saçmalama kesintisi, içerik üretimi için kullanan herkes için bir model arızasının yaratıcı süreçleri ne kadar hızlı çökerttiğini gözler önüne serdi. Başıbozuk model kontrol protokolleri — ya da bunların yokluğu — bu sorunun yukarı akıştaki versiyonudur.
Üçüncü taraf bir API üzerinden karakter sanatı hattı veya toplu render işliyorsanız, yayımlanmış kontrol planlarının yokluğu şu anlama gelir: Bir laboratuvarın bir olaya nasıl yanıt vereceğini, bir modelin ne kadar süre çevrimdışı kalabileceğini ya da geri alınıp alınmayacağını, yeniden eğitilip eğitilmeyeceğini veya sessiz sedasız değiştirilip değiştirilmeyeceğini öngörmenin hiçbir yolu yok. Pratik adım, yığınınızda en az bir yedek model bulundurmaktır — görsel üretim iş akışınızı sıfırdan yeniden kurmak zorunda kalmadan devreye alabileceğiniz bir şey.
Guidelight'ın çerçevesi şunları talep ediyor: model kapatmayı tetikleyen belgelenmiş eşik değerleri, kontrol kararları için net yetki zincirleri ve düzenli tatbikatlar. Bunların hiçbiri alışılmadık değil. Kritik hizmetler yürüten herhangi bir altyapı ekibinin sahip olacağı türden olay müdahale planlaması. Gezegenin en yaygın kullanılan yaratıcı araçlarından bazılarını inşa eden laboratuvarların eşdeğer planları yayımlamamış olması gerçek bir boşluk.
Bazı laboratuvarlar, kontrol ayrıntılarını yayımlamanın bizzat bir güvenlik riski oluşturabileceğini öne sürüyor — kötü niyetli aktörlere hangi eşik değerlerinden kaçınacaklarını söylemek gibi. Bu meşru bir gerilim; ancak üst düzey çerçevelerin neden paylaşılamayacağını açıklamıyor. Anthropic, model davranış yönergeleri konusunda çoğundan daha şeffaf davranmış olsa da Guidelight'ın değerlendirmesi orada bile boşluklar tespit ediyor.
Hangi platformlar ve API'ler üzerine inşa edeceğini seçen yaratıcılar için bu araştırma yeni bir değişken ekliyor: Güvenlik altyapısı şeffaflığı artık bir seçim kriteri, yalnızca arka planda kalan bir endişe değil. Seçenekleri değerlendirirken model kataloğuna göz atın ve altta yatan laboratuvarın model olaylarını nasıl ele aldığına dair anlamlı bir şey yayımlayıp yayımlamadığını göz önünde bulundurun — çünkü bir sonraki olay «eğer» değil, «ne zaman» meselesi.