Айріс пише про те, де ШІ-мистецтво зустрічається з культурою: стиль, авторство та образи, які мають значення.
Надихнула ця історія? Перетвори ідею на власне ШІ-мистецтво за лічені секунди — безкоштовний старт, без банківської картки.
Почати безкоштовноОбери компаньйона і дізнайся його думку про цю історію
Нещодавно поданий проспект IPO Anthropic розкрив значні деталі щодо її стратегії «Конституційного ШІ» — безпечного підходу, який може докорінно змінити спосіб розробки моделей ШІ, включно з тими, що призначені для генерації зображень, а також спосіб взаємодії творців з їхніми результатами.
По суті, Конституційний ШІ передбачає навчання моделей оцінювати та переглядати власні результати на основі заздалегідь визначеного набору принципів. Замість людського зворотного зв'язку для кожного рішення щодо модерації, сам ШІ вчиться застосовувати «конституцію» правил. Це означає, що моделі розроблені таким чином, щоб бути за своєю суттю безпечнішими, відфільтровуючи відповіді, які порушують ці принципи, ще до того, як вони досягнуть користувача. Наприклад, якщо підказка для моделі генерації зображень може призвести до потенційно шкідливого контенту, конституційно навчена модель спробує переформулювати або відмовитися від генерації на основі своїх внутрішніх настанов.
Сама «конституція» — це каскадний набір правил, що черпає натхнення з таких джерел, як модифікована версія Законів робототехніки Айзека Азімова та Декларація ООН з прав людини, як повідомляє The MIT Technology Review. Цей багатошаровий підхід дозволяє ШІ розвивати нюансоване розуміння того, що становить прийнятний або неприйнятний результат. Для творців, які працюють з ШІ-артом, це може означати моделі, які менш схильні до генерації упереджених, відвертих або іншим чином проблемних зображень, перекладаючи тягар етичної фільтрації з кінцевого користувача на архітектуру моделі.
«Компанія навчає моделі ШІ не за допомогою людського зворотного зв'язку, а за допомогою каскадного набору принципів, включно зі зміненою версією Законів робототехніки Айзека Азімова та Декларацією ООН з прав людини».
— The MIT Technology Review
Цей механізм самокорекції має прямі наслідки для підказок. Творці можуть виявити, що дуже неоднозначні або етично сірі підказки дають більш послідовні, безпечні результати або повністю відхиляються, замість того, щоб створювати непередбачувані або шкідливі зображення. Це свідчить про майбутнє, де внутрішній етичний компас ШІ є більш значущим фактором у кінцевому результаті, ніж у багатьох сучасних моделях, де безпека часто залежить від фільтрів після обробки або повідомлень користувачів. Це може зробити процес генерації зображень більш передбачуваним в етичних межах, потенційно оптимізуючи робочі процеси для професійних художників і дизайнерів, яким потрібен надійний, безпечний для бренду контент.
Хоча акцент на безпеці є першочерговим, підхід Конституційного ШІ також може вплинути на естетичний та тематичний обсяг ШІ-генерованого мистецтва. Моделі, навчені за такими суворими правилами, можуть за своєю суттю схилятися до більш традиційних або «безпечних» візуальних інтерпретацій, потенційно обмежуючи дослідження авангардних, провокаційних або розширюючих межі художніх концепцій. Художники, звиклі до необмеженої, часто хаотичної свободи ранніх моделей ШІ, можуть виявити, що їм потрібно адаптувати свої стратегії підказок, щоб відповідати цим новим етичним рамкам. Це компроміс: підвищена надійність і безпека проти потенційно обмежених творчих горизонтів.
Для тих, хто цінує максимальну творчу свободу, цей розвиток підкреслює постійну розбіжність у філософіях моделей ШІ. Деякі моделі надають пріоритет сирому виведенню та контролю користувача, тоді як інші, як Anthropic, вбудовують безпеку глибше у свою основу. Творцям все частіше потрібно буде вибирати свої інструменти не лише на основі якості зображення чи швидкості, а й на основі основних етичних та творчих філософій, що керують їхньою розробкою. Це може призвести до більшого попиту на різноманітний спектр моделей, кожна з яких відповідає різним художнім потребам та етичним міркуванням, подібно до того, як різні художні рухи надають пріоритет різним естетичним цінностям. Розуміння цих відмінностей є вирішальним для кожного, хто прагне опанувати мистецтво генерації зображень ШІ. У міру розвитку ландшафту ШІ вибір моделі все більше відображатиме позицію творця щодо цих фундаментальних питань.
Дивіться: Стратегія «Конституційного ШІ» Anthropic
Цей крок Anthropic підкреслює зростаючу галузеву тенденцію до вбудовування відповідальних практик ШІ з самого початку, а не як додаткової думки. Це сигналізує про майбутнє, де моделі ШІ є не лише потужними, але й цілеспрямовано створеними з моральним компасом, спрямованим на запобігання зловживанням та сприяння довірі до технології. Цей зсув може встановити новий стандарт для розробки ШІ, впливаючи на те, як інші постачальники підходять до навчання моделей та модерації контенту, і зрештою формуючи візуальну культуру, створену ШІ, на роки вперед.
