Выбери компаньона и узнай его мнение об этой истории
Похожие статьи
Anthropic подтвердила, что система невидимой текстовой маркировки Claude представляет собой прямую реализацию SynthID-Text от Google DeepMind — технологии с открытым исходным кодом, которая скрывает машиночитаемые сигналы внутри статистического паттерна выбора слов, а не в каких-либо видимых элементах разметки.
Ключевые выводы
Текстовая маркировка Claude построена на SynthID-Text — системе с открытым исходным кодом, разработанной Google DeepMind.
SynthID-Text работает, незаметно смещая вероятности выбора слов в Claude, создавая обнаруживаемый статистический паттерн без изменения читаемого смысла.
Водяной знак разработан для соответствия требованиям прозрачности Европейского закона об ИИ в отношении текстов, созданных искусственным интеллектом.
Поскольку сигнал существует в вероятностях выбора слов, интенсивное редактирование или перефразирование может ослабить или уничтожить его.
Авторы, использующие Claude для создания черновиков, редактирования или подписей к изображениям, созданным ИИ, должны понимать, что водяной знак прикрепляется к любому тексту, который Claude создаёт в значительной мере.
Как SynthID-Text на самом деле встраивает сигнал
Большие языковые модели — системы ИИ, обученные предсказывать наиболее вероятное следующее слово, — не выбирают слова с абсолютной определённостью: они присваивают оценки вероятности тысячам кандидатов и делают выборку из этого распределения. SynthID-Text работает, подталкивая эти вероятности структурированным, секретным образом до того, как происходит выборка. Полученный текст воспринимается человеком естественно, но несёт статистический отпечаток, который алгоритм обнаружения может идентифицировать даже в абзацах, слегка перефразированных.
Представьте это как текстовый эквивалент водяного знака, встроенного в шумовой пол аудиофайла: неслышимого при обычном прослушивании, но восстанавливаемого с помощью подходящего инструмента анализа. Эта аналогия охватывает самую сложную часть — во всём остальном техническая картина яснее.
Что это означает на практике: водяной знак носит вероятностный, а не абсолютный характер. По данным The Verge, Anthropic объявила о системе в пятницу, представив её как меру соответствия Европейскому закону об ИИ, который требует раскрытия информации о контенте, созданном ИИ. Короткий вывод Claude — одна подпись, двухстрочное описание продукта — несёт более слабый сигнал, чем полный абзац, поскольку решений о выборе слов для кодирования паттерна меньше.
Что меняется для авторов, работающих с Claude
Для создателей ИИ-арта наиболее очевидная точка трения — это подписи и метаданные. Если Claude пишет подпись к изображению, описание промпта или предысторию персонажа, этот текст будет нести отпечаток SynthID-Text. Инструменты обнаружения, построенные на той же спецификации с открытым исходным кодом, могут его пометить — что важно в контекстах, где требуется раскрытие информации об ИИ или где платформа сканирует текст на предмет создания искусственным интеллектом.
Интенсивное редактирование ослабляет сигнал. Переписывание черновика Claude предложение за предложением, изменение порядка слов, замена синонимами — всё это разрушает вероятностный паттерн, на который опирается SynthID-Text. Это не лазейка, которую Anthropic скрывает; это признанное ограничение любого подхода к статистической маркировке. Система разработана для маркировки явно созданного ИИ текста в масштабе, а не для того, чтобы выдерживать намеренное переписывание.
Строить систему на основе опубликованной спецификации Google DeepMind, а не на проприетарной разработке, имеет очевидную стратегическую логику: регуляторы и сторонние аудиторы могут проверить, что маркировка действительно работает, не полагаясь исключительно на слово Anthropic. Открытый характер SynthID-Text также означает, что инструменты обнаружения могут создаваться и развёртываться независимо — платформами, работодателями или академическими учреждениями — без каких-либо соглашений с Anthropic.
Эта открытость работает в обе стороны. Поскольку алгоритм общедоступен, исследователи могут изучить именно то, как его обойти, — и инструменты обхода не заставят себя ждать. Anthropic не заявляла, что система защищена от взлома; она позиционируется как масштабируемая мера прозрачности, а не криминалистический замок.
Для авторов, ориентирующихся в требованиях к раскрытию информации об ИИ — особенно тех, кто публикуется на европейских рынках или на платформах, начинающих вводить обязательную маркировку ИИ, — понимание того, какие выходные данные несут водяной знак, а какие нет, теперь является практическим вопросом рабочего процесса, а не абстрактным политическим. Раздел руководств Charmloop охватывает практики раскрытия информации и работы с метаданными по мере того, как эти требования продолжают развиваться.
SynthID-Text уже развёрнут в собственных продуктах Google; принятие Claude той же спецификации означает, что два крупнейших генератора текста на основе ИИ теперь используют общую инфраструктуру маркировки — тихий, но значимый шаг к совместимой экосистеме обнаружения.
