Theo yapay zekâ haberlerini bu akşam deneyebileceğiniz şeylere dönüştürür.
Haftanın en iyi yapay zekâ ve yapay zekâ sanatı haberlerini gelen kutuna al — seçkin, kısa ve ücretsiz.
Ücretsiz. İstediğin zaman çık.
Bir arkadaşını seç ve bu haber hakkındaki görüşünü öğren
Özyinelemeli AI kendini geliştirme — AI sistemlerinin yakında kendi kodlarını yeniden yazacağı, kendi eğitim verilerini üreteceği ve az insan girdisiyle süper zeka yönünde ilerleyeceği fikri — en cesur tahminlerin öngördüğünden daha sert duvarlarla karşılaşıyor, MIT Technology Review'a göre.
Vaat kağıt üzerinde temiz görünüyor: bir AI daha iyi eğitim verisi yazıyor, kendisinin daha iyi bir versiyonunu eğitiyor, o da daha da iyi eğitim verisi yazıyor, böyle devam ediyor. Pratikte, geri bildirim gürültülü. Bir model tarafından üretilen sentetik veri, o modelin kör noktalarını miras alma eğiliminde, ve bir AI'nin kendini optimize etmek için yazdığı kod, ancak birkaç iterasyon sonra ortaya çıkan ince hatalar getirebiliyor. MIT Technology Review'un analizi, bu birleşen hata problemini araştırmacıların çözemediği merkezi engellerden biri olarak tanımlıyor.
Bu hiçbir şey olmadığı anlamına gelmiyor. LLM'ler zaten çip tasarım iş akışlarına katkıda bulunuyor ve üretim hatlarında kullanılan eğitim setleri üretiyor. Ancak bu katkılar denetimli — bir hatanın önemli olacağı her aşamada insanlar hala döngüde. Tamamen özerk özyinelemeli geliştirme, AI'nin insan kontrol noktası olmadan kendi hatalarını yakalayıp düzelttiği durum, hala bir araştırma problemi, sevk edilen bir özellik değil.
Özyinelemeli kendini geliştirme döngüsü: teoride umut verici, pratikte kırılgan.
Bir sahne paketi toplu işleme yapan karakter sanatçısı veya günde yüzlerce varyasyon isteyen konsept tasarımcısı için pratik soru daha basit: modeller ne zaman anlamlı şekilde daha iyi hale geliyor ve ne kadar hızlı? Özyinelemeli geliştirme tezi, eğer geçerli olsaydı, patlayıcı yetenek sıçramaları anlamına gelirdi — bir aydan diğerine niteliksel olarak farklı hissedilen yeni modeller.
Bu bulgular göz önüne alındığında daha olası yörünge, kademeli: mimari iyileştirmeler, daha iyi ince ayar verisi (hala insanlar tarafından küratörlüğü yapılan) ve daha akıllı çıkarım optimizasyonları. Bu hala gerçek ilerleme — bugünün görüntü üreticileri ile 18 ay öncekiler arasındaki kalite farkı onları kullanan herkes tarafından görülebilir — ancak bazı tahminlerin tanımladığından farklı türde bir ilerleme.
Hangi modelleri öğrenmeye zaman yatıracaklarına karar veren yaratıcılar için bu aslında hesaplamayı basitleştiriyor. Gelecek çeyrekte kendini yeniden icat edebilecek bir sisteme karşı yarışmıyorsunuz. Bugün üzerinde çalıştığınız model kataloğu evrimleşecek, ama bir gecede değil. Mevcut araçlar etrafında geliştirilen beceriler — belirli bir stil hattını ustalaşmak, hassas istemlerle belirli bir mimariyi yönlendirmeyi öğrenmek — değerlerini abartı döngüsünün ima ettiğinden daha uzun süre koruyor.
Ayrıca açık ağırlık ekosistemine daha fazla ağırlık veriyor. Eğer kapalı öncü laboratuvarlar yakında özyinelemeli kendini geliştirmeyi açmayacaksa, rekabet avantajı dikkatli, insan denetimli ince ayar yapan ve ağırlıkları halka açık yayınlayan ekiplere geri dönüyor. Hugging Face yıl ortası açık modeller raporu tam da bu trendi belgeledi — açık modellerin kalite farkını beklenenden daha hızlı kapatması — ve MIT analizi bu yörüngeye özyinelemeli geliştirme anlatısının izin vereceğinden daha fazla pist veriyor.
MIT analizinin ortaya çıkardığı ikinci bir engel var: AI tarafından yazılan kod veya sentetik veri iyi olduğunda bile, araştırmacılar onu ağır doğrulama olmadan eğitime geri besleme konusunda temkinli. Bu temkin kısmen teknik, kısmen kurumsal. Yıllarca güvenlik inceleme süreçleri geliştirmiş laboratuvarlar, bir model kendi çıktısının temiz olduğunu iddia ettiği için bunları atlayacak değil.
Yaratıcılar için bu kurumsal sürtünme sessizce faydalı. Bu, kullandığınız modellerin en önemli aşamalarda insanların döngüde olduğu anlamına geliyor — bu, /learn'deki istem ve iş akışı kılavuzlarının hala geçerli olmasının bir parçası: altta yatan model davranışı etrafında güvenilir teknikler geliştirmek için yeterince kararlı ve kendini geliştirme abartısının önerdiğinden daha uzun süre böyle kalacak.