Sofia yaratıcıların neler üretebileceğini belirleyen parayı, politikaları ve platformları takip eder.
Haftanın en iyi yapay zekâ ve yapay zekâ sanatı haberlerini gelen kutuna al — seçkin, kısa ve ücretsiz.
Ücretsiz. İstediğin zaman çık.
Bir arkadaşını seç ve bu haber hakkındaki görüşünü öğren
Dünya modeli girişimleri, devasa finansman turlarına ve devasa bir ilgiye sahip — ve kendi veri tedarikçileri de dahil olmak üzere neredeyse kimseye gerçekte ne inşa ettiklerini söylemiyorlar.
TechCrunch'a göre, bu sektördeki opaklık yapay zeka sektörü standartlarına göre bile alışılmadık düzeyde. Kurucular mimarilerini açıklamayı reddediyor. Veri tedarikçileri anlaşmalar imzaladıklarını ancak içeriklerinin nasıl kullanıldığına dair hiçbir görünürlüklerinin olmadığını söylüyor. Potansiyel kurumsal müşterilerden teknik belgeler görmeksizin ilgi taahhüdünde bulunmaları isteniyor.
Dünya modelleri — yalnızca statik çıktılar üretmek yerine ortamları, fiziği veya etkileşimli sahneleri simüle etmek üzere eğitilmiş yapay zeka sistemleri — gelecekteki üretici araçların altındaki altyapı katmanı olarak konumlandırılıyor. Bu durum, gizliliği bugün yapay zeka görüntü veya video üretimi üzerine inşa eden herkes için doğrudan ilgili kılıyor. Temel dünya modeli platformları eğitim verileri konusunda opak davranıyorsa, sonunda bu sistemlere bağımlı hale gelen içerik üreticileri, bunları değerlendirmek için gereken bilgiye sahip olmaksızın aynı hukuki ve kalite risklerini miras alıyor.
Dünya modeli şirketleri, mimarilerini ve eğitim süreçlerini neredeyse tamamen gizli tutarken önemli miktarda sermaye topluyor.
Görsel: TechCrunch / TechCrunch AI
Buradaki finansman dinamiğini açıkça adlandırmak gerekiyor. Yatırımcılar bu şirketleri doğrulanabilir teknik iddialara değil, vizyona ve ekibe göre fiyatlandırıyor — çünkü masada neredeyse hiç doğrulanabilir teknik iddia yok. Bu, bir girişim turu için işe yarar bir konum; ancak riski aşağı akışa aktarıyor. Dünya modeli API'lerini üretim süreçlerine entegre eden şirketler ve bunların üzerine inşa edilen yaratıcı araçlar, eninde sonunda bu sistemlerin içinde gerçekte ne olduğunu hesaba katmak zorunda kalacak.
Veri tedarikçileri özellikle zayıf bir konumda. Bir şirket verilerinizin neyi eğittiğini söyleyemiyorsa, telif hakları, atıf veya münhasırlık konusunda anlamlı bir müzakere yürütemezsiniz. Microsoft ve OpenAI veri kazıma anlaşmazlığı, veri kaynaklama anlaşmazlıklarının dava aşamasına geldiğinde ne kadar kötü tırmanabileceğini gösterdi — ve dünya modeli şirketleri, çok daha kalın bir sessizlik duvarının arkasında aynı gizli riski biriktiriyor.
Gizlilik aynı zamanda sınır ötesi alanda canlı bir tartışma haline gelen bağımsız güvenlik değerlendirmesinin önünü de kapatıyor. Anthropic'in üçüncü taraf denetimleri için baskısı ve OpenAI'ın kendi açıklanan hizalama sorunları en azından bir miktar kamuya açık kayıt üretti. Dünya modeli şirketleri ise aksine hiç böyle bir kayıt oluşturmuyor.
Charmloop'un yapay zeka üreticisi gibi platformlarda yapay zeka görüntü ve video araçları kullanan içerik üreticileri için pratik sonuç, bir durum tespiti boşluğu. Yeni bir üretici araç dünya modeli yeteneklerini duyurduğunda — daha zengin 3D tutarlılık, kalıcı sahne belleği, etkileşimli ortam üretimi — bu iddiayı değerlendirmek için şu anda kamuya açık bir kıyaslama veya mimari açıklama bulunmuyor. İçerik üreticilerinden inanç temelinde test etmeleri ve benimsemeleri isteniyor.
Bu emsalsiz değil. 2022-23 difüzyon modeli dalgası benzer bir örüntü yarattı: kapalı süreçler, tartışmalı eğitim verileri ve yalnızca içerik üreticileri belirli araçların etrafında iş akışları oluşturduktan sonra görünür hale gelen kalite açıkları. Şimdiki fark ölçek. Dünya modeli şirketleri, yalnızca uygulama değil altyapı haline geleceklerini ima eden değerlemelerle fon topluyor — bu da opaklığın yığının aşağısına indikçe katlandığı anlamına geliyor.
İzlenecek somut bağımlılık, kıyaslama yayınlama. Dünya modeli şirketleri — sahne tutarlılığı, fiziksel makullük ve eğitim verisi kaynağı konusunda — yeniden üretilebilir değerlendirmeler yayınlayana kadar, içerik üreticileri ve bunların üzerine inşa eden platformlar, savunulabilir seçimler yapmak için gereken bilgiden yoksun şekilde faaliyet gösteriyor. Bu açıklamayı önce rekabet baskısının mı yoksa düzenleyici denetimin mi zorlayacağı sorusu, zaman çizelgesini belirleyen soru.
