Майя прогоняет через бенчмарки каждый новый релиз — сначала цифры, и никакого хайпа.
Вдохновила эта история? Преврати идею в собственное ИИ-искусство за секунды — бесплатный старт, без банковской карты.
Начать бесплатноВыбери компаньона и узнай его мнение об этой истории
Ник Каммарата, исследователь стартапа в области ИИ Goodfire, вызвал дебаты в сообществе ИИ, опубликовав статью объемом 26 000 слов, в которой утверждается, что нейронным сетям может потребоваться значительно меньше обучающих данных, чем принято считать. Это утверждение может привести к созданию более эффективных и доступных моделей ИИ для авторов.
Основной аргумент Каммараты, подробно изложенный в его статье под названием «Я думаю, у меня есть хорошие новости о природе нейронных сетей», заключается в том, что текущие методологии обучения больших моделей неэффективны. Он предполагает, что модели ИИ достигают оптимальной производительности с долей данных, которые им сейчас подаются, и что большая часть дополнительного обучения избыточна. Для создателей ИИ-арта это может напрямую означать более гибкие модели, которые быстрее итерируются и потенциально дешевле в эксплуатации, открывая новые возможности для пользовательских стилей и специализированной генерации контента без массивных вычислительных затрат.
Преобладающее мнение в разработке ИИ, часто руководствующееся установленными законами масштабирования, заключалось в том, что больше данных обычно приводит к лучшим моделям. Контринтуитивное открытие Каммараты предполагает, что это может быть не всегда верно, или, по крайней мере, что кривая эффективности выходит на плато гораздо раньше, чем ожидалось. Если его гипотеза подтвердится, это фундаментально переопределит наш подход к архитектуре и обучению моделей, потенциально смещая акцент с чистого объема данных на качество данных и более совершенные методы обучения. Это может быть особенно важно для нишевых стилей ИИ-арта или конкретных дизайнов персонажей, где получение обширных, разнообразных наборов данных может быть узким местом. Представьте себе обучение высокоспециализированной модели для уникальной эстетики всего на нескольких тысячах тщательно отобранных изображений, а не на миллионах.
«Мы смотрели на это неправильно».
— Ник Каммарата
Эта переоценка требований к данным может напрямую повлиять на экономику разработки моделей ИИ. Меньшие, более эффективно обученные модели потребуют меньше вычислительной мощности, что снизит как финансовые затраты, так и экологический след создания ИИ. Для таких платформ, как Charmloop, это может означать более быстрое развертывание моделей и более разнообразные варианты в каталоге моделей Charmloop, поскольку разработчики смогут выводить новые концепции на рынок без необходимости обеспечения ресурсов суперкомпьютерного масштаба. Это также повышает вероятность запуска более мощных моделей локально на потребительском оборудовании, улучшая творческий контроль и конфиденциальность для отдельных художников.
Визуальная метафора оптимизированного обучения нейронной сети, где меньшее количество данных приводит к более эффективным связям.
Изображение: MIT Technology Review / MIT Technology Review AI
В настоящее время многие генераторы ИИ-арта используют модели, обученные на колоссальных наборах данных, что позволяет им интерпретировать сложные подсказки и генерировать широкий спектр стилей. Если Каммарата прав, будущие модели могут достичь аналогичного или даже превосходного качества вывода при значительно меньшем количестве обучающих данных, при условии, что эти данные будут оптимально выбраны. Это может упростить процесс подсказок, сделав модели более чувствительными к конкретным инструкциям, поскольку они не будут «разбавлены» подавляющим объемом менее релевантной информации. Создатели могут обнаружить, что очень специфические подсказки дают более точные результаты, уменьшая необходимость в обширной инженерии подсказок для направления модели через море обобщенных обучающих данных.
Хотя утверждения Каммараты в настоящее время являются теоретическими и еще не прошли официальное рецензирование, они вызвали значительную дискуссию в исследовательском сообществе ИИ. Если эти выводы будут подтверждены, они могут положить начало новой эре разработки моделей ИИ, ориентированной на эффективность и целевое обучение, фундаментально изменив ландшафт создания ИИ-арта. Этот сдвиг может дать возможность небольшим командам и отдельным создателям разрабатывать высокоспециализированные инструменты, выходя за рамки текущей зависимости от моделей, обученных несколькими крупными корпорациями. Это может привести к всплеску инноваций в пользовательском ИИ-арте, предлагая создателям беспрецедентный контроль над их цифровым результатом и открывая новые возможности для художественного самовыражения. Этот сдвиг парадигмы также может сделать расширенные возможности ИИ более доступными, потенциально снижая стоимость высококачественной генерации изображений и создания персонажей для более широкой аудитории.
