Выбери компаньона и узнай его мнение об этой истории
Похожие статьи
Hugging Face официально выпустила AnyLanguageModel (ALM) 1.0 — новый фреймворк, разработанный для оптимизации сотен моделей ИИ для эффективного локального выполнения на Mac и iPhone с процессорами Apple Silicon. Это обновление означает, что создатели теперь могут запускать сложные модели непосредственно на своих устройствах, получая значительное увеличение скорости, конфиденциальности и возможность работать в автономном режиме, не полагаясь на облачные сервисы.
Ключевые выводы
AnyLanguageModel (ALM) 1.0 — это новый фреймворк от Hugging Face, который позволяет более чем 100 моделям ИИ эффективно работать локально на устройствах Apple Silicon.
Это обновление позволяет создателям ИИ-арта выполнять такие задачи, как генерация изображений, обработка текста и завершение кода, непосредственно на своих Mac и iPhone.
Локальное выполнение предлагает такие преимущества, как более быстрая обработка, повышенная конфиденциальность данных и возможность работать в автономном режиме без подключения к интернету.
ALM 1.0 поддерживает различные типы моделей, включая большие языковые модели (LLM) и диффузионные модели, с оптимизированной производительностью для нейронного движка Apple.
Для многих создателей ИИ-арта переход к локальному выполнению решает основную проблему: задержку и стоимость. Запуск моделей в облаке означает ожидание вызовов API и оплату за токен или за генерацию. С ALM 1.0 создатель, работающий над детальным проектом по генерации изображений, может итерировать гораздо быстрее, корректируя подсказки и видя результаты почти мгновенно на своем Mac. Это особенно полезно для задач, требующих множества небольших корректировок, таких как уточнение выражения лица персонажа или детали окружающей среды. Фреймворк использует инструменты Apple Core ML, гарантируя, что модели полностью используют нейронный движок в чипах серии M для максимальной производительности. Это значительный шаг к тому, чтобы сделать мощные инструменты ИИ более доступными и интегрированными в повседневные творческие рабочие процессы.
Ускоренные рабочие процессы на оборудовании Apple
ALM 1.0 предоставляет предварительно квантованные версии популярных моделей, что уменьшает их объем памяти и ускоряет вывод. Например, модель Stable Diffusion, которая обычно требует мощного облачного графического процессора, теперь может работать на MacBook Pro с чипом M3, создавая изображения за считанные секунды. Это означает, что создателям больше не нужно загружать конфиденциальные данные на внешние серверы, что является важным преимуществом конфиденциальности для тех, кто работает с проприетарным или личным контентом. Фреймворк поддерживает широкий спектр моделей, включая большие языковые модели (LLM) для генерации текста, диффузионные модели для создания изображений и даже модели завершения кода, расширяя набор инструментов, доступных локальным пользователям.
Рассмотрим сценарий, когда концепт-художнику необходимо сгенерировать несколько вариантов объекта или персонажа. Вместо того чтобы отправлять подсказки в облачный сервис и ждать, он может использовать модель, оптимизированную для ALM, локально. Это позволяет быстро экспериментировать, генерируя десятки вариантов за то время, которое потребовалось бы для нескольких облачных рендеров. Возможность работать в автономном режиме также критически важна для создателей, которые путешествуют или имеют ненадежный доступ к интернету, обеспечивая бесперебойность их рабочего процесса. Hugging Face отмечает, что фреймворк находится в разработке более года, совершенствуя свою производительность на уникальной аппаратной архитектуре Apple [^1].
AnyLanguageModel оптимизирует модели для Apple Silicon, обеспечивая локальные задачи ИИ.
Этот выпуск — это не только скорость; это контроль. Перенося мощные модели ИИ на локальное оборудование, ALM 1.0 дает отдельным создателям возможность настраивать и тонко настраивать модели без сложностей и затрат, связанных с облачной инфраструктурой. Это соответствует растущей тенденции к локальному ИИ, что видно на примере таких инструментов, как Nvidia ChatRTX, который также позволяет использовать локальных ИИ-агентов. Для создателей, исследующих пользовательские модели или специализированные рабочие процессы, возможность запускать их локально означает большую свободу экспериментов и снижение зависимости от сторонних сервисов. Вы можете узнать больше об оптимизации вашей локальной настройки ИИ в наших руководствах.
В настоящее время фреймворк поддерживает более сотни моделей, и их число регулярно пополняется. Это включает модели для генерации изображений, суммаризации текста, перевода и даже обнаружения объектов. Для того, кто создает визуальные активы, это может означать использование локальной модели для генерации базовых изображений, затем другой для их масштабирования и, возможно, третьей для применения определенных стилистических преобразований — все в их собственной среде. Этот интегрированный локальный рабочий процесс может значительно упростить творческий процесс, делая расширенные возможности ИИ менее похожими на удаленный сервис и более похожими на расширение собственной машины создателя. По мере оптимизации большего количества моделей диапазон задач, которые создатели могут выполнять локально, будет только расширяться.
