Açık ağırlık yapay zeka modelleri artık yaklaşık dört ayda sınır seviye kabiliyete ulaşıyor ve çalıştırması yaklaşık beş kat daha az maliyetli oluyor, Ars Technica tarafından önizlenen Mozilla raporuna göre — bu sıkıştırma oranı, çoğu yaratıcı iş akışı için premium API fiyatları ödemenin savunulmasını zorlaştırıyor.
Ana çıkarımlar
- Mozilla'nın raporu, açık ağırlık modellerinin zaman içindeki kıyaslama karşılaştırmalarına dayanarak yaklaşık dört ayda sınır yapay zeka modelleriyle kabiliyet farkını kapattığını ortaya koyuyor.
- Sınır modeller için ödeme yapmak, aynı kabiliyet seviyesinde karşılaştırılabilir açık ağırlık alternatiflerini çalıştırmaktan yaklaşık 5 kat daha pahalı.
- Fark kapanması büyük ölçüde Çin açık modelleri tarafından yönlendiriliyor, bunlar Silikon Vadisi'nin en iyi tescilli sistemleriyle kıyaslama eşitliğini hızlandırdı.
- Yapay zeka sanatı ve görüntü üretimi iş akışları için pratik sonuç, bugün mevcut açık ağırlık görüntü modellerinin dört ay önce kapalı sınır modellerinin bulunduğu yeri zaten yakalamış olabileceği.
- Kendi sunucularında barındıran veya açık model API'leri kullanan yaratıcılar, sınır fiyatlandırması olmadan sınıra yakın kaliteye erişebilir — ancak takas, altyapı yükü ve bir sonraki kapalı model tekrar öne geçmeden önce daha kısa raf ömrü.
Dört aylık saat
Temel bulgu spesifik: Ars Technica'ya göre, Mozilla'nın analizi, bir sınır modelin lansmanında sahip olduğu kabiliyet liderliğinin yaklaşık dört ay içinde önde gelen açık ağırlık alternatifleriyle kabaca eşitliğe ererek aşındığını gösteriyor. Bu belirsiz bir eğilim değil — somut bir planlama sayısı. Kapalı bir model Mayıs'ta lansmanını yaptıysa, açık bir alternatif muhtemelen Eylül'e kadar ona yetişiyor.
Maliyet farkı bu bulguyu birleştiriyor. Sınır model erişimi, eşdeğer açık ağırlık çıkarımının yaklaşık 5 katı fiyatında çalışıyor. Yüzlerce üretim işi çalıştıran solo bir yaratıcı için bu gerçek bir bütçe kalemi. Binlerce karakter render'ı veya konsept sayfası toplu işleyen bir stüdyo için bu bir tedarik kararı.
Sıkıştırmayı yönlendiren şey
Mozilla'nın raporu özellikle Çin açık modellerini yakalama sürecinin birincil motoru olarak işaret ediyor. Açık olarak yayınlanan modeller — Hugging Face veya doğrudan indirme yoluyla — GPT-4 sınıfı ve Claude sınıfı sistemlere çoğu Batı yorumunun kabul ettiğinden daha yakın kıyaslamalar yapıyor. Sonuç, sınır laboratuvarlarının durgunlaştığı değil; tekniklerin, eğitim verilerinin ve mimari iyileştirmelerin yayılmasının premium fiyatlandırmanın varsaydığından daha hızlı olduğu.
Özellikle görüntü üretimi için bu dinamik bir süredir görülüyor. Charmloop'taki Stable Diffusion ekosistemi uzun süredir sınır kapalı modelleri yıllar değil haftalar geride bırakan açık ağırlık sürümlerinden faydalanıyor. Mozilla verileri bu gecikmenin artık metin ve çok modlu görevlerde de aylarla ölçüldüğünü öne sürüyor.
Bu hafta model seçimini nasıl yeniden şekillendiriyor
Kapalı API ile açık ağırlık alternatifi arasında seçim yapan bir konsept sanatçısı veya karakter tasarımcısıysanız, dört aylık rakam size somut bir buluşsal yöntem veriyor: karşılaştırdığınız sınır modelin ne zaman lansmanını yaptığını kontrol edin. Dört ay veya daha fazla olduysa, iyi seçilmiş açık bir model — yerel olarak veya açık model API'si aracılığıyla çalıştırılan — muhtemelen görüntü istemi, başlık üretimi veya karakter açıklaması taslağı için önemli olan görevlerde çarpıcı mesafede.
Yine de takas gerçek. Açık ağırlık modeller daha fazla kurulum gerektirir: kapalı bir API'nin soyutladığı model ağırlıkları, kuantizasyon seçimleri ve donanım kısıtlamalarını yönetiyorsunuz. Yerel altyapı kurmadan açık model kataloğuyla denemek isteyen yaratıcılar, zaten entegre edilmiş olanları görmek için Charmloop'un kataloğundaki mevcut modellere göz atabilir.
Metinle ilgili yaratıcı görevler için — ayrıntılı istemler yazma, karakter geçmişleri üretme, stil açıklamaları taslağı hazırlama — açık ağırlık modele geçiş için maliyet argümanı artık görmezden gelinmesi zor. Dört ay önce sınır fiyatlandırmasını haklı çıkaran kalite farkı artık mevcut olmayabilir.
Raf ömrü sorunu
Hızlı yakalanmanın diğer yüzü hızlı eskime. Açık modeller dört ayda bugünün sınırını yakalıyorsa, sınır tekrar hareket etmiş olacak. Mutlak son teknoloji çıktı için optimize eden yaratıcılar — fotorealistik büyütme, karmaşık çok özneli kompozisyonlar veya nüanslı stil transferi — o ilk pencere sırasında sınır erişiminde hala değer bulabilir. Mozilla raporu açık modellerin her zaman daha iyi olduğunu savunmuyor; premiumun fiyatın ima ettiğinden daha kısa kullanışlı ömrü olduğunu savunuyor.
Bu, kendi üretim kurulumunuzu düşünmek için yararlı bir çerçeve: sınır erişim, büyük model sürümünden sonraki ilk haftalarda, kabiliyet farkının gerçek olduğu ve iş akışınızın gerçekten buna ihtiyaç duyduğu zamanlarda en mantıklı. Bu pencereden sonra maliyet matematiği kesin olarak açık alternatiflere doğru kayıyor.
