Elias tłumaczy badania stojące za nagłówkami prostym językiem.
Poradniki krok po kroku o promptach, stylach i tym, jak wycisnąć maksimum z generowania obrazów AI.
Czytaj poradnikiWybierz towarzysza i poznaj jego zdanie na temat tej historii
Hugging Face opublikował @huggingface/kernels — bibliotekę 207 jąder obliczeniowych WebGPU, czyli małych programów działających na poziomie sprzętowym, które mówią GPU dokładnie, jak wykonać daną operację matematyczną. Dzięki nim modele AI mogą działać w całości wewnątrz przeglądarki internetowej, bez przesyłania danych na zdalny serwer.
@huggingface/kernels od Hugging Face, obejmując operacje od mnożenia macierzy po warstwy uwagi.Pomyśl o jądrze jak o karcie z przepisem dla GPU. Gdy model AI musi pomnożyć dwie duże macierze — co zdarza się tysiące razy podczas jednego przebiegu generowania obrazu — jądro mówi każdemu rdzeniowi GPU dokładnie, które liczby pobrać, jak je połączyć i gdzie zapisać wynik. Bez zoptymalizowanego jądra ta praca albo spada na CPU (wolno), albo opiera się na zastrzeżonym środowisku uruchomieniowym dostarczanym przez Nvidię lub Apple.
Jądra Hugging Face są napisane w WGSL (WebGPU Shading Language) — otwartym języku shaderów, który może wykonać każda przeglądarka obsługująca WebGPU. Oznacza to, że ten sam plik jądra działa na MacBooku z układem M-series, laptopie z Windows z kartą AMD lub Chromebooku — bez instalowania sterowników, bez zależności od CUDA.
Najważniejszy dla deweloperów tworzących narzędzia do generowania obrazów AI jest sposób dystrybucji tych jąder. Każda operacja — na przykład ai.onnx.Add — żyje we własnym repozytorium Hub zawierającym manifest, testy poprawności, przypadki benchmarkowe i szablony shaderów WGSL.
Taka struktura oznacza, że przeglądarkowy generator obrazów może pobierać tylko potrzebne jądra, a Hugging Face może wdrożyć poprawkę wydajności do pojedynczego jądra bez dotykania reszty. Dla twórców budujących lub używających narzędzi natywnych dla przeglądarki — takich jak aplikacje do inpaintingu czy przenoszenia stylu — to różnica między czekaniem na całe wydanie środowiska uruchomieniowego a otrzymaniem ukierunkowanej poprawy szybkości z dnia na dzień.
Według bloga Hugging Face biblioteka obejmuje już podstawowe operacje potrzebne dla modeli opartych na transformerach, w tym warstwy uwagi i warstwy feed-forward, które dominują w nowoczesnych architekturach modeli dyfuzyjnych i językowych.
Dla twórców sztuki AI najważniejszą konsekwencją jest ta ekonomiczna i praktyczna. Wnioskowanie w chmurze przy generowaniu obrazów jest rozliczane za wywołanie lub za sekundę czasu GPU. Potok działający po stronie przeglądarki z użyciem tych jąder wiąże się z jednorazowym kosztem pobrania, a następnie działa bezpłatnie, lokalnie na urządzeniu, bez ograniczeń czasowych. Prompty, obrazy referencyjne i wyniki nigdy nie opuszczają maszyny — co ma znaczenie dla twórców pracujących z materiałami klientów lub osobistymi referencjami, których woleliby nie przesyłać na serwer zewnętrzny.
Kompromis jest realny: GPU laptopa jest wolniejszy niż chmurowy A100, a bardzo duże modele nadal nie zmieszczą się w pamięci przeglądarki. Jednak przy lżejszych zadaniach — uruchamianiu małego upskalera, stosowaniu LoRA (adaptera modelu z dostrajaniem) do zmiany stylu czy szybkich iteracyjnych testach promptów — lokalne wnioskowanie WebGPU jest już praktyczne na sprzęcie konsumenckim średniej klasy.
Twórcy chcący eksperymentować z generowaniem w przeglądarce mogą odkrywać możliwości za pomocą generatora obrazów AI Charmloop lub przeglądać katalog modeli, aby zobaczyć, które architektury modeli są kandydatami do tego rodzaju lokalnego wdrożenia w miarę dojrzewania narzędzi.
Wydanie 207 jąder to fundament, nie sufit. W miarę jak adopcja WebGPU w przeglądarkach rośnie, a biblioteka jąder się rozrasta, przepaść między generowaniem w jakości chmurowej a w pełni lokalnym generowaniem będzie się zmniejszać — a poradniki na Charmloop będą śledzić, które przepływy pracy jako pierwsze przekroczą ten próg.