Эта статья написана с помощью AI и проверена редакцией Charmloop.
Полистай модели и стили, что стоят за такими историями — бесплатный аккаунт, галерея сразу.
Внезапное отключение самых продвинутых ИИ-моделей Anthropic — Fable 5 и Mythos 5 — по распоряжению правительства произошло из-за внутреннего исследования Amazon по кибербезопасности и прямых переговоров между генеральным директором Amazon Энди Джесси и Белым домом, сообщает The Wall Street Journal.
Директива Министерства торговли, которая заставила Anthropic полностью прекратить глобальный доступ к обеим моделям в пятницу, была вызвана обнаружением Amazon потенциальных уязвимостей безопасности, которые могут представлять риски для национальной безопасности. Исследование якобы выявило то, что официальные лица назвали «джейлбрейком» — методом обхода защитных механизмов моделей.
Для создателей, которые полагались на эти продвинутые модели для генерации изображений, немедленное воздействие очевидно: две из самых сложных ИИ-систем теперь полностью недоступны. Fable 5 и Mythos 5 были среди самых способных моделей для сложного визуального рассуждения и тонкой художественной интерпретации, что делает их потерю особенно значимой для профессиональных рабочих процессов.
Отключение затрагивает не только прямой доступ к API, но и все коммерческие приложения, построенные на этих моделях. Создателям, которые интегрировали Fable 5 или Mythos 5 в свои рабочие процессы генерации, необходимо немедленно переключиться на альтернативные модели.
Anthropic выразила решительное несогласие с решением правительства, заявив, что «узкий потенциальный джейлбрейк не должен быть причиной для отзыва коммерческой модели, развернутой для сотен миллионов людей». Это напряжение между исследованиями безопасности ИИ и коммерческим развертыванием подчеркивает сложные отношения между технологическими компаниями, правительственным надзором и доступностью моделей.
Участие Amazon — которая имеет значительные партнерства в области облачной инфраструктуры и правительственные контракты — добавляет еще один уровень сложности. Исследование Amazon, по-видимому, выявило уязвимости, которые Anthropic либо не обнаружила, либо не считала достаточно серьезными для отзыва модели.
Этот инцидент создает тревожный прецедент для создателей ИИ. Если внутреннее исследование одного технологического гиганта может спровоцировать правительственные действия против моделей конкурента, это поднимает вопросы о стабильности доступа к ИИ-моделям. Создатели, строящие бизнес вокруг конкретных моделей, теперь сталкиваются с дополнительной неопределенностью относительно долгосрочной доступности.
Отключение также демонстрирует, как быстро продвинутые ИИ-возможности могут исчезнуть с рынка. В отличие от традиционного программного обеспечения, где устаревшие версии часто остаются доступными, ИИ-модели могут быть полностью отключены с немедленным эффектом.
При недоступности Fable 5 и Mythos 5 создателям следует оценить свои варианты моделей и рассмотреть диверсификацию своего инструментария среди нескольких провайдеров. Полагаться на одну продвинутую модель — независимо от того, насколько она способна — теперь кажется более рискованным, чем предполагалось ранее.
Инцидент также подчеркивает важность понимания корпоративных отношений и правительственных связей провайдеров ИИ. Двойная роль Amazon как облачного провайдера и исследователя ИИ в сочетании с ее правительственными связями создала уникальную ситуацию, где внутреннее исследование могло напрямую повлиять на доступность продукта конкурента.
Пока что создателям необходимо адаптироваться к ландшафту, где даже самые продвинутые коммерческие ИИ-модели могут исчезнуть за одну ночь из-за проблем безопасности, выявленных отраслевыми конкурентами и эскалированных через правительственные каналы.
