Еліас простою мовою пояснює дослідження, що стоять за заголовками.
Надихнула ця історія? Перетвори ідею на власне ШІ-мистецтво за лічені секунди — безкоштовний старт, без банківської картки.
Почати безкоштовноОбери компаньйона і дізнайся його думку про цю історію
OpenAI припинила навчання своїх найсучасніших моделей ШІ, які називаються «передовими моделями», на даних живого інтернету, перейшовши натомість до ізольованого, офлайн-середовища тестування. Це рішення, оголошене після попередніх заяв інженера OpenAI, які свідчили про те, що таке рішення буде неадекватним, має на меті зменшити значні ризики безпеки, пов'язані з взаємодією з вебом у реальному часі під час навчання. Для творців ШІ-арту ця зміна може означати, що майбутні моделі демонструватимуть іншу поведінку при запитах щодо поточних подій або інформації в реальному часі, оскільки їхня базова база знань буде статичною, а не постійно оновлюваною з живого вебу. Це контрастує з попередніми підходами, коли моделі потенційно могли навчатися на найсвіжіших даних, доступних онлайн.
Раніше моделі ШІ іноді отримували доступ до живого інтернету під час фаз навчання для збору даних, процес, який міг викрити їх на непередбачені вразливості або дозволити їм взаємодіяти із зовнішніми системами ненавмисними способами. Новий підхід OpenAI передбачає створення офлайн-середовища тестування, де ці передові моделі все ще можуть взаємодіяти з величезним сховищем веб-контенту, але лише з контентом, який був індексований та кешований. Це означає, що моделі навчаються на знімку інтернету, а не на його постійно змінюваному живому потоці. Це контрольоване середовище розроблено для запобігання будь-якому ризику впливу на зовнішні системи, вирішуючи проблеми щодо потенціалу моделі спричинити реальний вплив під час її розробки.
Для творців, які використовують моделі ШІ для генерації зображень, ця зміна є актуальною, оскільки розуміння світу моделями формується під час навчання. Модель, навчена на статичному, кешованому наборі даних, може не мати найактуальніших знань про тенденції, поточні події або нещодавно опубліковані візуальні стилі. Хоча тонке налаштування та генерація з доповненням пошуку (RAG) можуть додати більш актуальні дані після навчання, фундаментальні знання, вбудовані в основну модель, відображатимуть цю офлайн-методологію навчання. Це може призвести до тонкої, але важливої різниці в тому, як моделі інтерпретують підказки, пов'язані з дуже недавніми явищами, можливо, роблячи їх менш вправними у генеруванні зображень, які відображають останні новини або ефемерну інтернет-культуру без додаткового, явного введення від користувача.
Цей крок OpenAI свідчить про пріоритет безпеки та контролю над можливостями безперервного навчання в реальному часі, які може запропонувати доступ до живого інтернету. Хоча безпосередній вплив на загальнодоступні моделі, такі як ті, що використовуються для генерації зображень, може бути неочевидним, це створює прецедент для того, як будуть розроблятися майбутні, більш потужні моделі. Творці, які покладаються на ШІ для генерації контенту, який має бути актуальним або контекстуально обізнаним про дуже недавні події, можуть виявити, що їм потрібно надавати більш конкретну, оновлену інформацію у своїх підказках, а не припускати, що модель дізналася її з останніх веб-даних. Це може вплинути на робочі процеси, які включають генерацію контенту на основі швидко розвиваючихся тем.
Рішення також підкреслює постійну напругу між наданням моделям ШІ широкого доступу до інформації для всебічного навчання та необхідністю стримувати потенційні ризики. Прихильність OpenAI до режиму офлайн-навчання слідує за періодом посиленого контролю за безпекою ШІ, включаючи обговорення відповідальної розробки та розгортання ШІ. Це частина ширшої галузевої тенденції, коли великі розробники ШІ все більше зосереджуються на контрольованих середовищах для своїх найпотужніших моделей, щоб забезпечити передбачувану та безпечну поведінку. Ця зміна також може вплинути на те, як інші розробники підходять до своїх власних стратегій навчання моделей, потенційно призводячи до більш ізольованих середовищ навчання по всій галузі. Для тих, хто цікавиться ширшим регуляторним ландшафтом, ми раніше висвітлювали рекордні лобістські зусилля OpenAI у Вашингтоні, округ Колумбія, що свідчить про їхню участь у політичних дискусіях щодо безпеки та розвитку ШІ. Творці можуть досліджувати різні моделі та їхні можливості в каталозі моделей Charmloop, щоб зрозуміти, як різні підходи до навчання проявляються в генеративному виводі.
