Elias manşetlerin arkasındaki araştırmaları sade bir dille açıklar.
Prompt yazımı, stiller ve yapay zekâ görsel üretiminden en iyi şekilde yararlanma üzerine adım adım rehberler.
Rehberleri okuBir arkadaşını seç ve bu haber hakkındaki görüşünü öğren
Liquid AI, LFM2.5-VL-DSpark adlı yeni bir görsel-dil modeli yayımladı. Bu model, standart Hugging Face çıkarım donanımında görüntü ve metni birlikte işlerken karşılaştırılabilir modellere kıyasla üç kata kadar daha hızlı çalışıyor. Bu hız kazanımı, iş akışlarında oluşturulan görüntüleri açıklamak, tanımlamak veya analiz etmek için VLM kullanan içerik üreticilerinin bekleme sürelerini anlamlı ölçüde kısaltabilir.
DSpark, Liquid AI'ın çıkarım hızlandırma tekniğidir. Bunu, modelin token'ları işleme biçimini yeniden yapılandırarak aynı GPU üzerinde daha fazla hesaplamanın paralel olarak gerçekleşmesini sağlayan derleyici düzeyinde bir optimizasyon olarak düşünebilirsiniz. Sonuç, daha yüksek verimdir: saniyede daha fazla görüntü analiz edilir ya da tek sorgu yanıt süreleri kısalır; üstelik temel model yeniden eğitilmez veya parametre sayısı küçültülmez.
Bu ayrım önemlidir. VLM alanındaki pek çok hız iyileştirmesi, bellek tasarrufu ve hız kazanımı için sayısal hassasiyeti düşüren nicemleme (quantization) yönteminden gelir; bu da görüntü açıklamalarındaki ince ayrıntıları bulanıklaştırabilir. DSpark, çıkarım zamanlama düzeyinde çalıştığından model ağırlıkları bozulmadan kalır ve çıktı kalitesi korunur.
Liquid AI'ın DSpark-Vision çıkarım optimizasyon katmanı, daha yüksek GPU paralelizmi için token işlemeyi yeniden yapılandırıyor.
Görsel: Hugging Face Blog
Çoğu yapay zeka sanatı üreticisi için bir VLM, birkaç belirli noktada devreye girer: ince ayar için veri kümelerini otomatik açıklama ekleme, bir stili tersine mühendislikle çözmek amacıyla görüntüden metne istem oluşturma ya da toplu üretimlerde otomatik kalite kontrolleri kurma. Her üç durumda da darboğaz, ham parametre sayısı değil, modelin dakikada kaç görüntü işleyebildiğidir.
Aynı donanımda 3 katlık bir verim artışı, doğrudan maliyete yansır. Bir içerik üreticisi 10.000 görüntü üzerinde açıklama ekleme işi yürütüyor ve işlem saati başına ödeme yapıyorsa, üç kat verim yaklaşık olarak üçte bir fatura anlamına gelir — ya da aynı fatura karşılığında üç kat çıktı. Ölçekte yapay zeka görüntü üretimi ile deneyler yapan herkes için bu hesap dikkate değer.
Kıyaslama sonuçları, LFM2.5-VL-DSpark'ın aynı Hugging Face donanımında temel modele kıyasla 3 kata kadar verim elde ettiğini gösteriyor.
Görsel: Hugging Face Blog
Liquid AI'ın kendi kıyaslamaları, DSpark içermeyen LFM2.5-VL ile doğruluk eşitliğini gösteriyor. Dürüst bir uyarı olarak belirtmek gerekir: bu rakamlar Liquid AI'ın kendisinden geliyor ve bağımsız üçüncü taraf değerlendirmeleri henüz ortaya çıkmadı. Model, Hugging Face üzerinde test edilebilecek kadar açık olduğundan topluluk kıyaslamaları kısa sürede gelecektir; ancak üretim açıklama hatları için garantili doğruluğa ihtiyaç duyan içerik üreticileri, taahhütte bulunmadan önce kendi nokta kontrollerini yapmalıdır.
Liquid AI'ın yayımladığı sonuçlar, verim kazanımlarının yanı sıra doğruluk gerilememesi olmadığını gösteriyor — ancak bağımsız doğrulama hâlâ bekleniyor.
Görsel: Hugging Face Blog
Sürüm aynı zamanda, daha geniş Hugging Face ekosisteminin optimize edilmiş model formatlarına desteğini genişlettiği bir döneme denk geliyor. Hugging Face yakın zamanda Transformers kütüphanesine yerel GGUF nicemleme modeli desteği ekledi; bu da verimli çıkarımı platformda bir sonradan düşünülen şey değil, birinci sınıf bir öncelik hâline getirmeye yönelik daha geniş bir adımın sinyalini veriyor.
Model, standart Hugging Face Transformers hattı üzerinden yükleniyor; bu nedenle yerel olarak veya Hugging Face Inference Endpoints aracılığıyla VLM çıkarımı çalıştıran her içerik üreticisi, minimum kod değişikliğiyle LFM2.5-VL-DSpark'a geçiş yapabilir. Liquid AI'ın blog gönderisi örnek çıkarım kodu içeriyor. Görsel-dil modellerine yeni başlayanlar için Charmloop rehberleri, VLM'lerin görüntü üretim iş akışlarına — özellikle açıklama ekleme ve istem tersine çevirme görevleri için — nasıl uyduğunu ele alıyor.
Hatlarında zaten bir açıklama ekleme veya görüntü analizi adımı çalıştıran herkes için pratik bir sonraki adım şudur: modeli çekin, mevcut test kümenizde çalıştırın ve kendi donanımınızdaki gerçek verimi ölçün. Yayımlanan rakamlar bir başlangıç noktasıdır, garanti değil — ancak korunan doğrulukla birlikte 3 katlık bir manşet, bu testi bir öğleden sonraya değer kılacak kadar güçlü bir sinyaldir.
