София следит за деньгами, политикой и платформами, которые определяют, что могут создавать авторы.
Получай на почту главные истории недели об ИИ и ИИ-арте — отобранные, краткие, бесплатно.
Бесплатно. Отписаться можно в любой момент.
Выбери компаньона и узнай его мнение об этой истории
Генеральный директор Anthropic Дарио Амодеи заявил TechCrunch, что растущее общественное сопротивление ИИ является «фундаментально кризисом доверия» — формулировка, которая переносит дебаты с вопросов возможностей на то, как ИИ-компании управляют, общаются и защищают людей, использующих их инструменты.
Позиция Амодеи более точна, чем общий призыв к доброй воле. Он утверждает, что общественный скептицизм по отношению к ИИ — включая законодательное противодействие и протесты создателей по поводу обучающих данных — проистекает не из разумной оценки вреда ИИ, а из того, что институты и компании не говорят людям правду. Подразумевается, что лучшая прозрачность, а не более медленная разработка, является основным решением.
Это удобный аргумент для передовой лаборатории, которая хочет продолжать поставки. Но он не пустой. Когда Stability AI столкнулась со своим первым крупным лицензионным кризисом в 2023 году, негативная реакция была усилена уклончивостью компании относительно того, какие данные она использовала — сама непрозрачность стала историей. Ставка Anthropic заключается в том, что опережение этой динамики через такие инструменты, как метаданные происхождения и публичные раскрытия безопасности, является как этически правильным, так и коммерчески рациональным.
Генеральный директор Anthropic Дарио Амодеи представил негативную реакцию на ИИ как проблему доверия, а не технологий.
Изображение: TechCrunch / TechCrunch AI
Недавнее решение Anthropic встраивать водяные знаки C2PA во все текстовые и графические материалы, генерируемые Claude, является наиболее четким операционным выражением этой философии — и тем, что оказывает наиболее прямое влияние на создателей. Как освещалось в наших предыдущих репортажах, система водяных знаков C2PA от Anthropic помечает выходные данные в момент генерации, создавая машиночитаемую цепочку происхождения. Это удовлетворяет требованиям прозрачности Закона ЕС об ИИ, но также означает, что создатели, использующие Claude в своих конвейерах, генерируют следы происхождения независимо от того, хотят они этого или нет.
Для создателей ИИ-арта, которые используют Claude для написания промптов, генерации описаний изображений или редактирования подписей, вопрос водяных знаков не является абстрактным. Предыдущее освещение Charmloop того, как работают водяные знаки C2PA от Claude — и что может их удалить, остается наиболее практическим руководством для понимания того, какие правки нарушают цепочку метаданных, а какие нет.
Если аргумент доверия Амодеи закрепится как доминирующая рамка в Вашингтоне и Брюсселе, это будет благоприятствовать компаниям, которые могут продемонстрировать инфраструктуру прозрачности, а не тем, которые не могут. У Anthropic есть водяные знаки, опубликованные исследования безопасности и структура корпорации общественной пользы. У более мелких провайдеров открытых весов и платформ генерации изображений меньше таких полномочий.
Эта асимметрия важна для создателей, выбирающих, где строить свои рабочие процессы. Платформы, которые могут указать на конкретные механизмы доверия, с меньшей вероятностью столкнутся с внезапными регулятивными закрытиями или оттоком рекламодателей — тем видом платформенного риска, который может мгновенно оставить весь инструментарий создателя без поддержки. Выбор инструментов от провайдеров с четкими политиками происхождения и безопасности все больше становится решением стабильности рабочего процесса, а не только этическим.
Конкретным следующим тестом станет то, как регуляторы ЕС отреагируют на первую волну документов о соответствии Закону об ИИ, ожидаемых до конца 2026 года. То, переведется ли аргумент Амодеи о приоритете доверия в регулятивную благосклонность или будет отклонен как лоббирование, определит, сколько времени у передовых лабораторий действительно есть для работы так, как они хотят.