Elias manşetlerin arkasındaki araştırmaları sade bir dille açıklar.
Prompt yazımı, stiller ve yapay zekâ görsel üretiminden en iyi şekilde yararlanma üzerine adım adım rehberler.
Rehberleri okuBir arkadaşını seç ve bu haber hakkındaki görüşünü öğren
Hugging Face, @huggingface/kernels adlı bir kütüphane yayımladı: 207 WebGPU hesaplama çekirdeğinden oluşan bu yapı — GPU'ya bir matematiksel işlemi tam olarak nasıl yürüteceğini söyleyen küçük, donanım düzeyindeki programlar — yapay zeka modellerinin uzak bir sunucuya veri göndermeksizin tamamen web tarayıcısı içinde çalışmasına olanak tanıyor.
@huggingface/kernels npm paketi aracılığıyla kullanıma sunuldu; matris çarpımından dikkat katmanlarına kadar pek çok işlemi kapsıyor.Bir çekirdeği GPU için bir tarif kartı olarak düşünebilirsiniz. Bir yapay zeka modeli iki büyük matrisi çarpmak zorunda kaldığında — tek bir görsel üretim geçişinde binlerce kez gerçekleşen bir işlem — çekirdek, her GPU çekirdeğine tam olarak hangi sayıları alacağını, bunları nasıl birleştireceğini ve sonucu nereye kaydedeceğini söyler. Optimize edilmiş bir çekirdek olmadan bu iş ya CPU'ya düşer (yavaş) ya da Nvidia ya da Apple tarafından sunulan özel bir çalışma ortamına bağımlı kalır.
Hugging Face'in çekirdekleri, WebGPU özellikli herhangi bir tarayıcının çalıştırabildiği açık gölgelendirici dili olan WGSL (WebGPU Shading Language) ile yazılmıştır. Bu, aynı çekirdek dosyasının M serisi bir MacBook'ta, AMD kartlı bir Windows dizüstü bilgisayarda veya bir Chromebook'ta çalıştığı anlamına gelir — sürücü kurulumu yok, CUDA bağımlılığı yok.
Yapay zeka sanat araçları geliştiren geliştiriciler için en önemli mimari tercih, bu çekirdeklerin nasıl dağıtıldığıdır. Her işlem — örneğin ai.onnx.Add — bir manifest, doğruluk testleri, kıyaslama senaryoları ve WGSL gölgelendirici şablonları içeren kendi Hub deposunda yaşıyor.
Bu yapı, tarayıcı tabanlı bir görsel üretici uygulamanın yalnızca ihtiyaç duyduğu çekirdekleri çekebileceği ve Hugging Face'in diğer her şeye dokunmadan tek bir çekirdeğe performans düzeltmesi gönderebileceği anlamına geliyor. Tarayıcı tabanlı araçlar geliştiren veya kullanan yaratıcılar için — tarayıcı içi inpainting veya stil aktarım uygulamaları düşünün — bu, tüm bir çalışma ortamı sürümünü bekleme ile gece boyunca hedefli bir hız iyileştirmesi alma arasındaki farktır.
Hugging Face bloguna göre, kütüphane modern difüzyon ve dil modeli mimarilerine hâkim olan dikkat ve ileri besleme katmanları da dahil olmak üzere transformer tabanlı modeller için gereken temel işlemleri zaten kapsıyor.
Yapay zeka sanat yaratıcıları için en acil sonuç ekonomik ve pratiktir. Görsel üretimi için bulut çıkarımı, çağrı başına veya GPU süresi saniyesi başına faturalandırılır. Bu çekirdekleri kullanan tarayıcı taraflı bir işlem hattının tek seferlik bir indirme maliyeti vardır ve ardından cihazda, süresiz olarak ücretsiz çalışır. Komut istemleri, referans görseller ve çıktılar hiçbir zaman makineden ayrılmaz — üçüncü taraf bir sunucuya iletmek istemedikleri müşteri materyalleri veya kişisel referanslarla çalışan yaratıcılar için bu önemlidir.
Bu tercih gerçek bir ödünleşim içeriyor: Dizüstü bilgisayar GPU'su, buluttaki A100'den yavaştır ve çok büyük modeller hâlâ tarayıcı belleğine sığmayacaktır. Ancak daha hafif görevler için — küçük bir yükseltici çalıştırmak, stili ayarlamak için bir LoRA (ince ayarlı model adaptörü) uygulamak veya hızlı yinelemeli komut istemi testleri yapmak — yerel WebGPU çıkarımı, orta düzey tüketici donanımında zaten pratik hale gelmiştir.
Tarayıcı tabanlı üretimi denemek isteyen yaratıcılar, Charmloop'un yapay zeka görsel üreticisi aracılığıyla neler yapılabileceğini keşfedebilir ya da araçlar olgunlaştıkça bu tür yerel dağıtım için hangi model mimarilerinin aday olduğunu görmek amacıyla model kataloğuna göz atabilir.
207 çekirdekli bu sürüm bir tavan değil, bir temeldir. Tarayıcılarda WebGPU benimsenmesi genişledikçe ve çekirdek kütüphanesi büyüdükçe, bulut kalitesinde üretim ile tamamen yerel üretim arasındaki uçurum daralacak — ve Charmloop'taki rehberler hangi iş akışlarının bu eşiği ilk geçtiğini takip edecek.