Недавно поданный проспект IPO Anthropic раскрыл важные детали ее стратегии «Конституционного ИИ» — подхода, ориентированного на безопасность, который может фундаментально изменить то, как разрабатываются модели ИИ, включая модели для генерации изображений, и как создатели взаимодействуют с их результатами.
Основные выводы
- Проспект IPO Anthropic публично детализирует ее концепцию «Конституционного ИИ» — метод обучения моделей ИИ самоцензуре и соблюдению этических норм.
- Этот подход использует каскадный набор принципов, включая модифицированную версию Законов робототехники Айзека Азимова и Всеобщую декларацию прав человека, для фильтрации вредоносных результатов.
- Для художников, работающих с ИИ, это означает, что будущие модели могут отдавать приоритет безопасности и этическому соответствию, потенциально ограничивая творческую свободу, но также снижая риск генерации проблемного контента.
- Стратегия направлена на повышение устойчивости моделей ИИ к враждебным подсказкам путем встраивания безопасности непосредственно в их обучение, а не полагаясь исключительно на постгенерационные фильтры.
По своей сути, Конституционный ИИ включает обучение моделей оценивать и пересматривать свои собственные результаты на основе заранее определенного набора принципов. Вместо человеческой обратной связи для каждого решения о модерации, сам ИИ учится применять «конституцию» правил. Это означает, что модели разработаны так, чтобы быть изначально более безопасными, отфильтровывая ответы, которые нарушают эти принципы, еще до того, как они достигнут пользователя. Например, если подсказка для модели генерации изображений может привести к потенциально вредоносному контенту, конституционно обученная модель попытается переформулировать или отказаться от генерации на основе своих внутренних руководящих принципов.
Самокоррекция и этические барьеры
Сама «конституция» представляет собой каскадный набор правил, черпающих вдохновение из таких источников, как модифицированная версия Законов робототехники Айзека Азимова и Всеобщая декларация прав человека, как сообщает The MIT Technology Review. Этот многоуровневый подход позволяет ИИ развивать тонкое понимание того, что представляет собой приемлемый или неприемлемый результат. Для создателей, работающих с ИИ-артом, это может означать модели, которые менее склонны генерировать предвзятые, откровенные или иным образом проблемные изображения, перекладывая бремя этической фильтрации с конечного пользователя на архитектуру модели.
«Компания обучает модели ИИ не с помощью человеческой обратной связи, а с помощью каскадного набора принципов, включая модифицированную версию Законов робототехники Айзека Азимова и Всеобщую декларацию прав человека».
— The MIT Technology Review
Этот механизм самокоррекции имеет прямые последствия для подсказок. Создатели могут обнаружить, что очень неоднозначные или этически серые подсказки дают более последовательные, безопасные результаты или полностью отклоняются, вместо того чтобы производить непредсказуемые или вредоносные изображения. Это предполагает будущее, в котором внутренний этический компас ИИ является более значимым фактором в конечном результате, чем во многих современных моделях, где безопасность часто зависит от пост-обработки фильтров или сообщений пользователей. Это может сделать процесс генерации изображений более предсказуемым в этических рамках, потенциально оптимизируя рабочие процессы для профессиональных художников и дизайнеров, которым нужен надежный, безопасный для бренда контент.
Влияние на творческую свободу и выбор модели
Хотя акцент на безопасности имеет первостепенное значение, подход Конституционного ИИ также может повлиять на эстетический и тематический охват искусства, созданного ИИ. Модели, обученные в соответствии с такими строгими правилами, могут по своей сути склоняться к более традиционным или «безопасным» визуальным интерпретациям, потенциально ограничивая исследование авангардных, провокационных или раздвигающих границы художественных концепций. Художники, привыкшие к неограниченной, часто хаотичной свободе ранних моделей ИИ, могут обнаружить, что им необходимо адаптировать свои стратегии подсказок, чтобы соответствовать этим новым этическим рамкам. Это компромисс: повышенная надежность и безопасность против потенциально ограниченных творческих горизонтов.
Для тех, кто ценит максимальную творческую свободу, это развитие подчеркивает продолжающееся расхождение в философиях моделей ИИ. Некоторые модели отдают приоритет чистому выводу и контролю пользователя, в то время как другие, такие как Anthropic, встраивают безопасность глубже в свою основу. Создателям все чаще придется выбирать свои инструменты не только по качеству изображения или скорости, но и по основным этическим и творческим философиям, управляющим их разработкой. Это может привести к большему спросу на разнообразный спектр моделей, каждая из которых удовлетворяет различные художественные потребности и этические соображения, подобно тому, как различные художественные движения отдают приоритет различным эстетическим ценностям. Понимание этих различий имеет решающее значение для любого, кто хочет освоить искусство генерации изображений ИИ. По мере развития ландшафта ИИ выбор модели будет все больше отражать позицию создателя по этим фундаментальным вопросам.
Смотреть: Стратегия «Конституционного ИИ» Anthropic
Этот шаг Anthropic подчеркивает растущую отраслевую тенденцию к внедрению ответственных практик ИИ с самого начала, а не в качестве второстепенной мысли. Он сигнализирует о будущем, в котором модели ИИ будут не только мощными, но и целенаправленно созданными с моральным компасом, стремясь предотвратить неправомерное использование и способствовать доверию к технологии. Этот сдвиг может установить новый стандарт для разработки ИИ, влияя на то, как другие поставщики подходят к обучению моделей и модерации контента, и в конечном итоге формируя визуальную культуру, создаваемую ИИ, на долгие годы.
