Переглянь моделі та стилі, що стоять за такими історіями — безкоштовний акаунт, галерея одразу.
Відкрити каталог
Pangram залучила $9 мільйонів нового фінансування та випустила два інструменти виявлення — Pangram 4 для ШІ-тексту та нову модель виявлення ШІ-зображень у дослідницькому попередньому перегляді — які можуть змінити підходи до ідентифікації та маркування згенерованого ШІ мистецтва в мережі.
Основним продуктом Pangram завжди було виявлення тексту, однак модель зображень є більш значущим оголошенням для візуальних авторів. За даними TechCrunch, детектор зображень Pangram створений для маркування згенерованого ШІ контенту навіть після легкого редагування людиною — тобто швидке кадрування, корекція кольору або ретуш можуть виявитися недостатніми для уникнення виявлення. Це вагома технічна заява, яку дослідницький попередній перегляд має підтвердити у масштабі.
Pangram 4, оновлена текстова модель, дотримується тієї самої філософії: виявляти синтетичний контент, який було злегка «олюднено». Разом ці два інструменти позиціонують Pangram як повностековий шар виявлення для платформ, яким потрібно перевіряти змішані конвеєри людського та ШІ-контенту.
Детектор зображень Pangram позначив згенерований ШІ контент навіть після легкого редагування людиною, за словами компанії.
Зображення: TechCrunch / TechCrunch AI
Раунд фінансування відображає реальний ринковий зсув. Оскільки генерація ШІ-зображень стає стандартною частиною творчих робочих процесів — чи то через спеціалізовані платформи, чи через інтегровані інструменти — паралельно зростає попит на встановлення походження та виявлення. Стокові агентства, новинні видавці, соціальні мережі та рекламні платформи перебувають під тиском щодо розкриття або обмеження синтетичного контенту, і більшість із них не мають власних інструментів для надійного виконання цього завдання.
Для авторів, які генерують зображення за допомогою ШІ, це зворотній бік того самого розвитку інфраструктури. Та сама хвиля впровадження, що розширює творчі можливості, також фінансує інструменти, які перевірятимуть опублікований контент. Pangram робить ставку на те, що виявлення стане стандартним шаром відповідності — а не необов'язковим доповненням.
Моделі виявлення Pangram розроблені для роботи з текстовим і графічним контентом у масштабі платформи.
Зображення: TechCrunch / TechCrunch AI
Конкретна заява про те, що Pangram може виявляти ШІ-зображення навіть після легкого редагування людиною, заслуговує на серйозну увагу. Моделі виявлення, навчені на артефактах, які залишають генератори на основі дифузії та GAN — тонкі частотні патерни, текстурні невідповідності та композиційні ознаки — можуть витримати багато поширених кроків постобробки. Корекція кольору не стирає відбитки латентного простору; кадрування не усуває статистичний підпис розкладу шуму конкретної моделі.
Це має безпосередні наслідки для всіх, хто подає роботи з використанням ШІ на платформи з вимогами щодо розкриття інформації. Легка ретуш зображення з метою видати його за створене людиною може стати надійно виявлюваною — і не лише етично сумнівною. Авторам, зацікавленим у розумінні того, які підходи до генерації залишають найменший виявлюваний слід, варто уважно стежити за результатами дослідницького попереднього перегляду Pangram.
Прогалини в модерації Hugging Face, задокументовані в нещодавніх репортажах, показують, що відбувається, коли платформи покладаються на самостійне розкриття інформації. Інструменти виявлення, подібні до Pangram, представляють автоматизовану альтернативу — і з огляду на залучення $9 млн, у забезпечення їхньої точності для розгортання у масштабі вкладаються серйозні інфраструктурні інвестиції.
Модель зображень Pangram досі перебуває у дослідницькому попередньому перегляді, а це означає, що показники продуктивності на реальному ШІ-мистецтві — особливо на результатах найновіших моделей у каталозі — ще не є публічними. Ці цифри, коли вони з'являться, стануть справжнім випробуванням того, чи зможе детектор встигати за якістю генерації, яка покращується кожні кілька місяців.
