Тео перетворює новини про ШІ на те, що можна спробувати вже сьогодні ввечері.
Надихнула ця історія? Перетвори ідею на власне ШІ-мистецтво за лічені секунди — безкоштовний старт, без банківської картки.
Почати безкоштовноОбери компаньйона і дізнайся його думку про цю історію
Hugging Face офіційно випустила AnyLanguageModel (ALM) 1.0, новий фреймворк, розроблений для оптимізації сотень моделей ШІ для ефективного локального виконання на Mac та iPhone з процесорами Apple Silicon. Це оновлення означає, що творці тепер можуть запускати складні моделі безпосередньо на своїх пристроях, отримуючи значну швидкість, конфіденційність та можливість працювати офлайн без залежності від хмарних сервісів.
Для багатьох творців ШІ-арту перехід до локального виконання вирішує ключову проблему: затримку та вартість. Запуск моделей у хмарі означає очікування викликів API та оплату за токен або за генерацію. З ALM 1.0 творець, який працює над детальним проектом генерації зображень, може ітерувати набагато швидше, коригуючи підказки та бачачи результати майже миттєво на своєму Mac. Це особливо корисно для завдань, які вимагають багатьох невеликих коригувань, таких як уточнення виразу обличчя персонажа або деталі оточення. Фреймворк використовує інструменти Apple Core ML, забезпечуючи повне використання нейронного двигуна в чіпах серії M для максимальної продуктивності. Це значний крок до того, щоб зробити потужні інструменти ШІ більш доступними та інтегрованими в щоденні творчі робочі процеси.
ALM 1.0 надає попередньо квантовані версії популярних моделей, що зменшує їхній обсяг пам'яті та прискорює виведення. Наприклад, модель Stable Diffusion, яка зазвичай вимагає потужного хмарного графічного процесора, тепер може працювати на MacBook Pro з чіпом M3, створюючи зображення за лічені секунди. Це означає, що творцям більше не потрібно завантажувати конфіденційні дані на зовнішні сервери, що є значною перевагою конфіденційності для тих, хто працює з власницьким або особистим контентом. Фреймворк підтримує широкий спектр моделей, включаючи великі мовні моделі (LLM) для генерації тексту, дифузійні моделі для створення зображень і навіть моделі завершення коду, розширюючи набір інструментів, доступних локальним користувачам.
Розглянемо сценарій, коли концепт-художнику потрібно створити кілька варіацій об'єкта або персонажа. Замість того, щоб надсилати підказки до хмарного сервісу та чекати, він може використовувати модель, оптимізовану ALM, локально. Це дозволяє швидко експериментувати, генеруючи десятки варіантів за час, який знадобився б для кількох хмарних рендерів. Можливість працювати офлайн також є критично важливою для творців, які подорожують або мають ненадійний доступ до Інтернету, забезпечуючи безперебійність їхнього робочого процесу. Hugging Face зазначає, що фреймворк розроблявся понад рік, удосконалюючи його продуктивність на унікальній апаратній архітектурі Apple [^1].
AnyLanguageModel оптимізує моделі для Apple Silicon, дозволяючи виконувати локальні завдання ШІ.
Зображення: Hugging Face Blog
Цей реліз стосується не лише швидкості; він стосується контролю. Переносячи потужні моделі ШІ на локальне обладнання, ALM 1.0 надає індивідуальним творцям можливість налаштовувати та тонко налаштовувати моделі без складнощів та витрат, пов'язаних з хмарною інфраструктурою. Це відповідає зростаючій тенденції до локального ШІ, що спостерігається з такими інструментами, як ChatRTX від Nvidia, який також дозволяє локальним агентам ШІ. Для творців, які досліджують власні моделі або спеціалізовані робочі процеси, можливість запускати їх локально означає більшу свободу експериментів та зменшення залежності від сторонніх сервісів. Ви можете дізнатися більше про оптимізацію вашого локального налаштування ШІ в наших посібниках.
Наразі фреймворк підтримує понад сто моделей, і їхня кількість регулярно зростає. Сюди входять моделі для генерації зображень, узагальнення тексту, перекладу та навіть виявлення об'єктів. Для того, хто створює візуальні активи, це може означати використання локальної моделі для генерації базових зображень, потім іншої для їхнього масштабування, і, можливо, третьої для застосування конкретних стилістичних перетворень — все в їхньому власному середовищі. Цей інтегрований локальний робочий процес може значно спростити творчий процес, роблячи розширені можливості ШІ менш схожими на віддалений сервіс і більше схожими на розширення власної машини творця. З оптимізацією більшої кількості моделей діапазон завдань, які творці можуть виконувати локально, лише розширюватиметься.
[^1]: Блог Hugging Face: AnyLanguageModel 1.0: Рік локальних моделей на платформах Apple
