Вдохновила эта история? Преврати идею в собственное ИИ-искусство за секунды — бесплатный старт, без банковской карты.
Начать бесплатно
Представители Тед Лью (демократ, Калифорния) и Натаниэль Моран (республиканец, Техас) вносят законопроект об аварийном отключении ИИ (AI Kill Switch Act), наделяющий Министерство внутренней безопасности полномочиями обязывать компании в сфере ИИ отключать или ограничивать свои системы в чрезвычайных ситуациях.
• Двухпартийный AI Kill Switch Act обяжет компании в сфере ИИ отключать системы по приказу министра внутренней безопасности • Компании должны будут встраивать механизмы отключения в свои системы ИИ и демонстрировать возможности соответствия требованиям • Законодательство направлено против «неуправляемых систем ИИ», представляющих угрозу национальной безопасности или общественной безопасности • Платформы генерации изображений, такие как Midjourney, DALL-E и Stable Diffusion, могут попасть под действие полномочий по отключению • Законопроект представляет собой наиболее прямое из предложенных на сегодняшний день федеральных вмешательств в управление системами ИИ
Предлагаемый AI Kill Switch Act предоставит федеральным властям беспрецедентный контроль над системами ИИ.
Изображение: The Verge / The Verge AI
Законодательство распространится на любую систему ИИ, признанную способной причинить вред, что потенциально включает инструменты генерации изображений, на которые ежедневно полагаются авторы. Хотя формулировки законопроекта сосредоточены на «неуправляемых системах ИИ», широкое определение может охватить платформы, генерирующие дипфейки, изображения без согласия или контент, нарушающий интересы национальной безопасности.
Для авторов ИИ-арта это немедленно поднимает вопросы о стабильности платформ и доступе к ним. Правительственный приказ об отключении может мгновенно лишить доступа к облачным сервисам генерации, нарушив рабочие процессы и потенциально уничтожив незавершённые проекты, существующие только на удалённых серверах.
«Законопроект позволит главе Министерства внутренней безопасности решать, когда следует отключить ИИ.»
— Ars Technica
Компании в сфере ИИ должны будут доказать, что способны исполнять приказы об отключении, а значит — встраивать механизмы аварийного отключения непосредственно в свою инфраструктуру. Это техническое требование может повлиять на архитектуру платформ, потенциально увеличивая задержки или снижая производительность по мере того, как компании внедряют механизмы соответствия.
Мандат также предполагает, что компаниям, возможно, придётся вести подробные журналы использования систем и активности пользователей — данные, которые могут быть предметом государственной проверки в ходе расследований. Авторы, работающие над чувствительными или спорными художественными проектами, могут обнаружить, что их история генерации окажется под пристальным вниманием, если выбранная ими платформа получит приказ об отключении.
Полномочия по аварийному отключению станут беспрецедентным федеральным контролем над системами ИИ, выходящим за рамки существующих требований к модерации контента. В отличие от политик модерации контента на уровне платформ, которые авторы могут обходить или обойти, федеральное отключение будет абсолютным и немедленным.
Это следует за недавней напряжённостью вокруг безопасности ИИ, включая сбои в тестовой среде OpenAI и растущую обеспокоенность системами ИИ, выходящими за рамки заданных параметров. Законодательство отражает убеждённость законодателей в том, что существующего отраслевого саморегулирования недостаточно для управления рисками ИИ.
Внесение законопроекта происходит на фоне усиливающегося регуляторного давления на компании в сфере ИИ. Недавние инциденты, связанные с выходом систем ИИ за пределы контроля или генерацией вредоносного контента, усилили призывы к прямому государственному надзору за разработкой и развёртыванием ИИ.
Компаниям, вероятно, потребуются месяцы на внедрение соответствующих механизмов отключения, что может повлиять на доступность сервисов в переходные периоды. Небольшие платформы могут столкнуться с трудностями при покрытии расходов на соответствие требованиям, что потенциально приведёт к консолидации рынка генерации ИИ вокруг крупных провайдеров, располагающих ресурсами для выполнения федеральных требований.
Двухпартийная поддержка законопроекта свидетельствует о серьёзном импульсе, хотя детали реализации пока остаются неясными. Для авторов, выстраивающих рабочие процессы вокруг конкретных платформ ИИ, законопроект вносит новую неопределённость относительно долгосрочной доступности платформ и возможности внезапных перебоев в обслуживании на основании федеральных оценок безопасности.
