София следит за деньгами, политикой и платформами, которые определяют, что могут создавать авторы.
Получай на почту главные истории недели об ИИ и ИИ-арте — отобранные, краткие, бесплатно.
Бесплатно. Отписаться можно в любой момент.
Выбери компаньона и узнай его мнение об этой истории
Генеральный директор Anthropic Дарио Амодеи публично изложил план намеренного замедления темпа разработки передового ИИ — и Сэм Альтман из OpenAI выразил согласие, что является редким совпадением позиций между двумя самыми влиятельными лабораториями, формирующими модели, от которых зависят создатели ИИ-арта.
По данным TechCrunch, план Амодеи сосредоточен на координации графиков выпуска между лабораториями, чтобы ни один участник не чувствовал себя вынужденным поставлять продукт преждевременно только для сохранения конкурентоспособности. Логика проста: если Anthropic замедлится, а OpenAI нет, Anthropic потеряет рыночные позиции. Взаимная сдержанность, в теории, устраняет это давление.
Практическая форма такой сдержанности пока остается неясной. Амодеи не назвал конкретные пороги возможностей, которые запустили бы паузу, и не предложил независимый орган для их обеспечения. То, что существует сейчас — это заявленное намерение и риторическое рукопожатие от Альтмана, а не подписанное соглашение.
Это имеет огромное значение для всех, чей творческий рабочий процесс зависит от постоянного потока обновлений моделей. Мультимодальные возможности, встроенные в Claude, GPT-4o и их преемников, — это то, что питает инструменты генерации, которые создатели используют ежедневно. Более медленный темп передового края означает более медленные улучшения в согласованности изображений, точности промптов и контроле стиля — метрики, которые фактически определяют, стоит ли переходить на новую модель.
Это не первый раз, когда руководители лабораторий передового края призывают к сдержанности. В марте 2023 года открытое письмо, подписанное Илоном Маском, Йошуа Бенжио и другими — включая некоторых исследователей Anthropic — требовало шестимесячной паузы в обучении систем более мощных, чем GPT-4. Никакой паузы не произошло. Лаборатории, которые не подписали, продолжали поставки; лаборатории, которые подписали, тоже продолжали поставки. Письмо стало примером разрыва между заявленными ценностями и конкурентной реальностью.
Разница на этот раз в том, что две крупнейшие коммерческие лаборатории объединились, а не разделились. Это устраняет наиболее очевидный стимул к отступлению. Но и Anthropic, и OpenAI сжигают капитал с такой скоростью, что устойчивая сдержанность становится коммерчески болезненной — только Anthropic привлекла 7,5 миллиарда долларов в 2024 году, а инвесторы ожидают доходности, которую добровольные замедления осложняют.
Дарио Амодеи позиционировал Anthropic как лабораторию, ставящую безопасность на первое место — теперь он предлагает отрасли координировать время выпуска.
Изображение: TechCrunch / TechCrunch AI
Для создателей ИИ-арта лаборатории передового края — это не прямые инструменты, а основа. Генераторы изображений, видеомодели и слои рассуждений, которые интерпретируют сложные промпты, — все это построено поверх прогресса базовых моделей. Когда этот прогресс замедляется, улучшения в генерации изображений ИИ замедляются вместе с ним: лучшая анатомия, более надежная отрисовка текста, более тонкий контроль стиля — все это восходит к скачкам базовых моделей.
Координированная пауза или замедление также могут сконцентрировать власть. Если крупнейшие лаборатории замедлятся добровольно, хорошо финансируемые игроки среднего уровня — Mistral, xAI или китайские лаборатории, не участвующие в джентльменском соглашении — не сталкиваются с такими ограничениями. Передовой край может просто сместиться в другое место, оставив западные творческие платформы зависимыми от моделей, которые отстают по возможностям.
Математики, которые недавно обвинили лаборатории ИИ в искажении возможностей, вероятно, отметили бы, что риторика «регулирования темпа» может служить двойной цели: подлинной заботе о безопасности и управлению ожиданиями относительно того, что модели действительно могут делать.
Амодеи не объявил конкретную дату реализации, партнерскую организацию для надзора за соблюдением или эталон возможностей, который запустил бы механизм регулирования темпа. Пока не существует хотя бы одного из этих трех элементов, план остается политической позицией, а не политикой. Следите за тем, превратит ли Альтман свое словесное согласие в совместное заявление — это был бы первый конкретный шаг к чему-то обязательному.