София следит за деньгами, политикой и платформами, которые определяют, что могут создавать авторы.
Получай на почту главные истории недели об ИИ и ИИ-арте — отобранные, краткие, бесплатно.
Бесплатно. Отписаться можно в любой момент.
Выбери компаньона и узнай его мнение об этой истории
Федеральный суд постановил, что Министерство обороны США вправе на законных основаниях отстранить Anthropic от государственных контрактов, если компания откажется включить функции Claude, заблокированные её политикой безопасности, — решение, которое ставит архитектуру ИИ-безопасности в прямое противостояние с военной закупочной властью.
По данным Ars Technica, логика суда строилась на операционном риске: судьи написали, что «чрезмерно ограниченные модели ИИ» могут привести к провалу военных операций. Такая трактовка рассматривает ограничения безопасности не как принципиальное проектное решение, а как недостаток производительности — существенный риторический сдвиг, который даёт правительству рычаг влияния, применимый теперь к любому поставщику ИИ.
Решение не обязывает Anthropic изменить Claude. Оно лишь подтверждает право Пентагона выбирать поставщиков, которые на это согласятся. Это различие принципиально: Anthropic теряет контракт, но не аргумент — однако потеря контрактов масштаба Министерства обороны сама по себе является серьёзным давлением.
Спор касается не цены и не сроков поставки. Отказ Anthropic основан на конституционном ИИ-фреймворке Claude и опубликованной политике допустимого использования, которая ограничивает определённые выходные данные вне зависимости от того, кто задаёт запрос. Компания последовательно придерживается этой позиции с момента основания — когда в 2023 году Stability AI столкнулась с давлением инвесторов, требовавших смягчить политику в отношении контента, она в итоге уступила; Anthropic пока держит оборону.
Проблема для Anthropic состоит в том, что её архитектура безопасности не является модульной в том смысле, который, по всей видимости, нужен Пентагону. Включение ограниченных функций для одной категории клиентов при сохранении запрета для других потребовало бы создания отдельного варианта модели или многоуровневой системы политик — оба пути несут собственные риски для безопасности и репутации лаборатории, весь бренд которой построен на надёжном ИИ.
Наиболее очевидный краткосрочный эффект решения — конкурентный. OpenAI уже работает в партнёрстве с Министерством обороны в рамках различных оборонных инициатив, а её модели предлагаются в конфигурациях для государственных нужд. Anthropic теперь находится за пределами этой контрактной экосистемы — по крайней мере до тех пор, пока не изменит свою политику или не добьётся успеха в апелляции.
Для создателей ИИ-арта и разработчиков, работающих с Claude через API, непосредственное практическое воздействие минимально — потребительские и корпоративные уровни Anthropic данное решение не затрагивает. Однако долгосрочный структурный риск вполне реален: если оборонные контракты станут значимым источником дохода для ИИ-лабораторий, те из них, кто выиграет эти контракты, получат больше капитала для инвестиций в разработку передовых моделей. Это определяет, какие модели будут обучаться, как быстро и на каком уровне возможностей — что в конечном счёте влияет на инструменты, которыми пользуются создатели.
Аналитики отрасли заметят, что это зеркальное отражение споров о политике контента, потрясших платформы генерации изображений в 2022–2023 годах: тогда давление исходило от гражданского общества, требовавшего большего числа ограничений; сейчас оно исходит от государства, требующего меньшего. Вектор иной; механизм — использование закупочной власти для изменения поведения модели — тот же.
Следующий шаг Anthropic — апелляция или пересмотр политики, и ни для того, ни для другого подтверждённых сроков нет. Что подтверждено: решение остаётся в силе до его отмены, а значит, Пентагон может действовать на его основании немедленно. Открытым остаётся вопрос о том, последуют ли другие ведомства примеру Министерства обороны — или Конгресс вмешается и установит, какую политику безопасности ИИ обязаны соблюдать федеральные поставщики, — и именно это определит следующий этап противостояния.
Создателям, следящим за релизами Anthropic Claude, стоит наблюдать за тем, породит ли это давление отдельную модель для государственного сектора — что стало бы сигналом о существенном расхождении в подходе компании к управлению своими обязательствами в области безопасности.