Полистай модели и стили, что стоят за такими историями — бесплатный аккаунт, галерея сразу.
Открыть каталог
Pangram привлекла $9 миллионов нового финансирования и выпустила два инструмента обнаружения — Pangram 4 для ИИ-текста и новую модель обнаружения ИИ-изображений в режиме исследовательского превью, — которые могут изменить подход к идентификации и маркировке ИИ-сгенерированного искусства в интернете.
Основным продуктом Pangram всегда было обнаружение текста, однако модель для изображений — более значимое объявление для визуальных авторов. По данным TechCrunch, детектор изображений Pangram создан для маркировки ИИ-сгенерированного контента даже после лёгкого редактирования человеком — то есть быстрая обрезка, цветокоррекция или ретушь могут не помочь его обойти. Это весомое техническое заявление, которое исследовательскому превью ещё предстоит подтвердить в масштабе.
Pangram 4, обновлённая текстовая модель, следует той же философии: выявлять синтетический контент, прошедший лёгкую «очеловечивающую» обработку. Вместе оба инструмента позиционируют Pangram как полноценный слой обнаружения для платформ, которым необходимо проверять смешанные конвейеры контента, созданного людьми и ИИ.
По заявлению компании, детектор изображений Pangram маркирует ИИ-сгенерированный контент даже после лёгкого редактирования человеком.
Изображение: TechCrunch / TechCrunch AI
Раунд финансирования отражает реальный сдвиг на рынке. По мере того как генерация ИИ-изображений становится стандартной частью творческих рабочих процессов — будь то специализированные платформы или встроенные инструменты, — параллельно растёт спрос на подтверждение происхождения и обнаружение. Стоковые агентства, новостные издатели, социальные сети и рекламные платформы испытывают давление с требованием раскрывать или ограничивать синтетический контент, и у большинства из них нет собственных инструментов для надёжного решения этой задачи.
Для авторов, которые генерируют изображения с помощью ИИ, это обратная сторона того же инфраструктурного строительства. Та же волна внедрения, которая расширяет творческие возможности, финансирует и инструменты, которые будут проверять публикуемый контент. Pangram делает ставку на то, что обнаружение станет стандартным уровнем соответствия требованиям — а не опциональной надстройкой.
Модели обнаружения Pangram разработаны для работы как с текстовым, так и с визуальным контентом в масштабе платформы.
Изображение: TechCrunch / TechCrunch AI
Конкретное заявление о том, что Pangram способна обнаруживать ИИ-изображения даже после лёгкого редактирования человеком, заслуживает серьёзного внимания. Модели обнаружения, обученные на артефактах, которые оставляют генераторы на основе диффузии и GAN, — тонких частотных паттернах, текстурных несоответствиях и композиционных признаках, — способны «пережить» многие распространённые этапы постобработки. Цветокоррекция не стирает отпечатки латентного пространства; обрезка не устраняет статистическую сигнатуру расписания шума конкретной модели.
Это имеет прямые последствия для всех, кто отправляет работы с использованием ИИ на платформы с требованиями о раскрытии информации. Лёгкая ретушь изображения с целью выдать его за созданное человеком может стать надёжно обнаруживаемой — и не только этически сомнительной. Авторам, заинтересованным в понимании того, какие подходы к генерации оставляют наименьший обнаруживаемый след, стоит внимательно следить за результатами исследовательского превью Pangram.
Пробелы в модерации Hugging Face, задокументированные в недавних репортажах, показывают, что происходит, когда платформы полагаются на самораскрытие. Инструменты обнаружения, подобные разработкам Pangram, представляют собой автоматизированную альтернативу — и, судя по привлечённым $9 млн, в их точность вкладываются серьёзные инфраструктурные инвестиции.
Модель изображений Pangram всё ещё находится в исследовательском превью, а значит, бенчмарки производительности на реальном ИИ-арте — особенно на результатах последних моделей в каталоге — пока не опубликованы. Эти цифры, когда они появятся, станут настоящим испытанием того, способен ли детектор не отставать от качества генерации, которое улучшается каждые несколько месяцев.
