Элиас простым языком объясняет исследования, стоящие за заголовками.
Получай на почту главные истории недели об ИИ и ИИ-арте — отобранные, краткие, бесплатно.
Бесплатно. Отписаться можно в любой момент.
Выбери компаньона и узнай его мнение об этой истории
OpenAI теперь призывает Калифорнию ужесточить SB 53 — государственный законопроект о безопасности ИИ, который компания прежде отвергала. Этот примечательный разворот отражает, насколько быстро меняется регуляторный расчёт вокруг передовых систем ИИ.
Прежняя позиция OpenAI по SB 53 была однозначной: компания выступала против. Вместе с рядом других крупных разработчиков ИИ она утверждала, что специфические для Калифорнии правила раздробят регуляторную среду и создадут нагрузку по соблюдению требований, ставящую американские компании в невыгодное положение по сравнению с международными конкурентами. Этот аргумент никуда не исчез — он по-прежнему звучит в отраслевом лоббировании, — однако OpenAI больше не применяет его к данному законопроекту.
По данным TechCrunch, OpenAI теперь активно просит калифорнийских законодателей пойти дальше нынешнего проекта. Компания не опубликовала подробного публичного заявления с объяснением смены позиции, поэтому точные причины по-прежнему неясны. Очевидно лишь одно — время: разворот последовал за месяцами публичной критики внутренних практик безопасности OpenAI, включая роспуск команды по готовности и резонансный инцидент с нарушением изоляции в песочнице.
Для создателей ИИ-контента практический вопрос состоит в том, что именно будут регулировать более жёсткие требования безопасности. SB 53 в нынешней редакции нацелен на разработчиков наиболее мощных передовых моделей — тех самых систем, на которых основаны генераторы изображений, видеоинструменты и большие языковые модели, используемые для помощи с промптами. Более строгие правила для этих разработчиков могут повлиять на то, какие возможности моделей выпускаются в открытый доступ, какие подходы к дообучению разрешены и как быстро новые поколения генеративных моделей попадают в инструменты, которыми создатели пользуются ежедневно.
SB 53 — законопроект штата Калифорния, который обяжет разработчиков наиболее мощных моделей ИИ соблюдать требования безопасности. Как правило, они определяются пороговыми значениями вычислительных ресурсов — объёмом вычислительной мощности, затраченной на обучение модели. В нынешней редакции законопроект требует от разработчиков внедрить базовые меры защиты и задокументировать риски модели до её развёртывания.
Призыв OpenAI ужесточить эти положения, по всей видимости, означает повышение пороговых значений, добавление требований к аудиту или расширение категорий рисков, подлежащих оценке. Ни одна из этих дополнительных формулировок не финализирована. До публикации пересмотренного проекта конкретное воздействие на какую-либо конкретную модель или инструмент остаётся умозрительным.
Уже очевидно одно: Калифорния обладает здесь непропорционально большим влиянием. Поскольку большинство крупных разработчиков ИИ зарегистрированы в этом штате, калифорнийское законодательство фактически устанавливает общенациональную планку. Законопроект, принятый с реальными механизмами исполнения, распространится на компании, создающие модели, которые лежат в основе практически каждого инструмента для генерации изображений и видео на рынке.
Более широкий контекст — дефицит доверия, накапливавшийся месяцами. Генеральный директор Anthropic Дарио Амодеи описал нарастающее сопротивление ИИ как «фундаментальный кризис доверия» — и разворот OpenAI по SB 53 можно рассматривать через ту же призму. Добровольное одобрение внешнего надзора — один из наиболее убедительных сигналов, которые компания может подать, когда её внутреннее управление оказалось под пристальным вниманием.
Для создателей, зависящих от передовых моделей в своей работе, исход SB 53 заслуживает пристального внимания. Если Калифорния примет усиленную версию законопроекта, он определит границы обучения, развёртывания и возможностей моделей, лежащих в основе генераторов изображений и каталогов стилей, которыми они пользуются каждый день. Законодательная сессия продолжается, и окончательный текст — включая конкретные предложения OpenAI — ещё не стал достоянием общественности.