Мая проганяє через бенчмарки кожен новий реліз — спершу цифри, жодного хайпу.
Надихнула ця історія? Перетвори ідею на власне ШІ-мистецтво за лічені секунди — безкоштовний старт, без банківської картки.
Почати безкоштовноОбери компаньйона і дізнайся його думку про цю історію
Нік Каммарата, дослідник стартапу ШІ Goodfire, розпалив дискусію в спільноті ШІ, опублікувавши допис у блозі обсягом 26 000 слів, в якому стверджує, що нейронні мережі можуть потребувати значно менше даних для навчання, ніж широко вважається. Ця заява може призвести до створення ефективніших та доступніших моделей ШІ для творців.
Основний аргумент Каммарати, детально викладений у його дописі під назвою «Я думаю, у мене є хороші новини про природу нейронних мереж», полягає в тому, що поточні методології навчання для великих моделей є неефективними. Він припускає, що моделі ШІ досягають оптимальної продуктивності з часткою даних, які їм зараз подаються, і що значна частина додаткового навчання є надлишковою. Для творців ШІ-арту це може безпосередньо означати більш гнучкі моделі, які швидше ітерувати та потенційно дешевше експлуатувати, відкриваючи нові можливості для індивідуальних стилів та спеціалізованої генерації контенту без масивних обчислювальних витрат.
Панівна думка в розробці ШІ, часто керована встановленими законами масштабування, полягала в тому, що більше даних зазвичай призводить до кращих моделей. Контрінтуїтивне відкриття Каммарати припускає, що це може бути не універсально вірно, або принаймні, що крива ефективності вирівнюється набагато раніше, ніж очікувалося. Якщо його гіпотеза підтвердиться, це фундаментально переосмислить наш підхід до архітектури та навчання моделей, потенційно зміщуючи фокус з чистого обсягу даних на якість даних та більш витончені методи навчання. Це може бути особливо важливим для нішевих стилів ШІ-арту або конкретних дизайнів персонажів, де отримання величезних, різноманітних наборів даних може бути вузьким місцем. Уявіть собі навчання високоспеціалізованої моделі для унікальної естетики лише з кількома тисячами ретельно відібраних зображень, а не мільйонами.
«Ми дивилися на це неправильно.»
— Нік Каммарата
Ця переоцінка вимог до даних може безпосередньо вплинути на економіку розробки моделей ШІ. Менші, ефективніше навчені моделі вимагатимуть меншої обчислювальної потужності, зменшуючи як фінансові витрати, так і екологічний слід створення ШІ. Для таких платформ, як Charmloop, це може означати швидше розгортання моделей та більше різноманітних варіантів у каталозі моделей Charmloop, оскільки розробники зможуть виводити нові концепції на ринок без необхідності забезпечувати ресурси суперкомп'ютерного масштабу. Це також підвищує ймовірність запуску більш потужних моделей локально на споживчому обладнанні, покращуючи творчий контроль та конфіденційність для окремих художників.
Візуальна метафора для оптимізованого навчання нейронної мережі, де менше даних призводить до більш ефективних зв'язків.
Зображення: MIT Technology Review / MIT Technology Review AI
Наразі багато генераторів ШІ-арту виграють від моделей, навчених на колосальних наборах даних, що дозволяє їм інтерпретувати складні підказки та генерувати широкий спектр стилів. Якщо Каммарата правий, майбутні моделі можуть досягти подібної або навіть кращої якості виводу зі значно меншою кількістю даних для навчання, за умови, що ці дані оптимально відібрані. Це може спростити процес підказок, зробивши моделі більш чутливими до конкретних інструкцій, оскільки вони не будуть «розбавлені» переважним обсягом менш релевантної інформації. Творці можуть виявити, що високоспецифічні підказки дають більш точні результати, зменшуючи потребу в широкому інженерінгу підказок для керування моделлю через море узагальнених даних для навчання.
Хоча заяви Каммарати наразі є теоретичними та ще не пройшли офіційного рецензування, вони викликали значні дискусії в дослідницькій спільноті ШІ. Якщо ці висновки будуть підтверджені, вони можуть започаткувати нову еру розробки моделей ШІ, зосереджену на ефективності та цільовому навчанні, фундаментально змінюючи ландшафт створення ШІ-арту. Цей зсув може дати можливість меншим командам та окремим творцям розробляти високоспеціалізовані інструменти, виходячи за рамки поточної залежності від моделей, навчених кількома великими корпораціями. Це може призвести до вибуху інновацій у користувацькому ШІ-арті, пропонуючи творцям безпрецедентний контроль над їхнім цифровим виводом та відкриваючи нові шляхи для художнього вираження. Ця зміна парадигми також може зробити розширені можливості ШІ більш доступними, потенційно знижуючи вартість високоякісної генерації зображень та створення персонажів для ширшої аудиторії.
