Надихнула ця історія? Перетвори ідею на власне ШІ-мистецтво за лічені секунди — безкоштовний старт, без банківської картки.
Почати безкоштовно
Google запустив і вже за один день відкликав функцію генерації зображень за допомогою ШІ у Google Earth — після того як дослідники продемонстрували, що вона здатна створювати переконливі фейкові супутникові знімки геополітично чутливих сцен.
Функція, яку The Verge повідомив як закриту невдовзі після запуску в четвер, дозволяла користувачам вводити текстову підказку для зміни того, що виглядало як справжні супутникові або аерофотознімки у Google Earth. Результатом було зображення, яке на перший погляд нагадувало автентичні геопросторові дані — адже воно накладалося безпосередньо поверх реальних картографічних знімків.
Ця відмінність має величезне значення. Окремо згенерований ШІ-пейзаж більшість обізнаних глядачів розпізнає як синтетичний. Той самий згенерований контент, накладений на реальні географічні координати та відтворений у візуальній мові супутникової фотографії, — це артефакт зовсім іншого роду. Він несе в собі неявну географічну претензію.
Функція ШІ в Google Earth дозволяла користувачам накладати ШІ-генеровані зображення поверх реальних супутникових карт за допомогою текстових підказок — до того як була прибрана.
Зображення: TechCrunch / TechCrunch AI
Демонстрації ван Есса швидко зробили ризик конкретним. Зображення, що нібито показують скупчення біженців поблизу кордону США та Мексики або руйнування поблизу лікарні в зоні конфлікту, — це саме той тип контенту, який поширюється в геополітичних дезінформаційних кампаніях. Те, що джерелом був би авторитетний продукт Google, лише посилило б їхню удавану легітимність.
Рішення Google відкликати функцію менш ніж за 24 години заслуговує на увагу. Спочатку компанія відреагувала на ранню критику, а потім усе ж повністю прибрала інструмент, за даними TechCrunch. Ця послідовність — захист, а потім відступ — свідчить про те, що внутрішній розрахунок швидко змінився, щойно приклади ван Есса почали поширюватися публічно.
Для творців ШІ-арту цей епізод є корисним прикладом того, як контекст трансформує ризик. Та сама дифузійна генерація зображень, що лежить в основі генераторів портретів і стилізаційних інструментів, стає принципово іншим продуктом, коли результат прив'язаний до реальної географії та представлений у межах довіреного картографічного застосунку. Шкода полягає не в самій генерації — а у фреймінгу.
Це також вписується в ширшу закономірність: платформи виявляють, що ШІ-інструменти для зображень вимагають більш ретельного моделювання шкоди на початковому етапі, ніж текстові інструменти. Занепокоєння щодо ШІ-генерованих зображень і їх виявлення вже впливають на те, як платформи розгортають ці функції — на початку цього року Pangram запустив спеціалізовану модель виявлення ШІ-зображень для позначення синтетичного контенту, а незалежне тестування власного водяного знаку Google SynthID показало, що лише технічна надійність може не зупинити ШІ-генеровану дезінформацію.
Творці, які використовують супутникові знімки як референс — концепт-художники, що відтворюють реальні середовища, геймдизайнери, які шукають текстури місцевості, або будь-хто, хто використовує скріншоти карт як композиційні орієнтири, — мають взяти до уваги, що ця функція наразі недоступна. Google не повідомив, чи планується версія з додатковими обмеженнями.
У ширшому контексті цей епізод нагадує: ШІ-інструменти для зображень, вбудовані в платформи з географічним або документальним авторитетом, стикаються зі значно вищою планкою вимог, ніж автономні генератори. Функція, яка була б нічим не примітною в художньому інструменті, стає джерелом ризику, коли платформа-хост сприймається як джерело достовірних візуальних даних про реальний світ.
Для творців, які будують робочі процеси навколо ШІ-генерованих середовищ або пейзажів, практичний шлях уперед залишається незмінним: використовувати спеціалізовані інструменти генерації зображень, де синтетична природа результату є однозначною, — а не чекати на продукт, який Google може так і не перевипустити у первісному вигляді.
