Вдохновила эта история? Преврати идею в собственное ИИ-искусство за секунды — бесплатный старт, без банковской карты.
Начать бесплатно
Google запустила, а затем отозвала функцию генерации изображений с помощью ИИ внутри Google Earth в течение одного дня после того, как исследователи продемонстрировали, что она может создавать убедительные поддельные спутниковые снимки геополитически заряженных сцен.
Функция, которая, как сообщил The Verge, была закрыта вскоре после запуска в четверг, работала, позволяя пользователям вводить текстовый запрос для изменения того, что выглядело как подлинные спутниковые или аэрофотоснимки внутри Google Earth. Результатом было изображение, которое на первый взгляд выглядело как аутентичные геопространственные данные — потому что оно было наложено непосредственно поверх реальных картографических изображений.
Это различие имеет огромное значение. Отдельный ИИ-сгенерированный пейзаж распознается как синтетический большинством информированных зрителей. Тот же сгенерированный контент, скомпонованный на реальные координаты и представленный в визуальном языке спутниковой фотографии, является артефактом другого рода. Он несет неявное географическое утверждение.
Функция AI Earth от Google позволяла пользователям накладывать ИИ-сгенерированные изображения поверх настоящих спутниковых карт с помощью текстовых запросов, прежде чем была убрана.
Изображение: TechCrunch / TechCrunch AI
Демонстрации ван Эсса быстро сделали риск конкретным. Изображения, якобы показывающие беженцев, скапливающихся возле границы США и Мексики, или повреждения рядом с больницей в зоне конфликта, — это именно тот тип контента, который циркулирует в геополитических дезинформационных кампаниях. Тот факт, что надежный продукт Google был источником, усилил бы их кажущуюся легитимность.
Решение Google отозвать функцию менее чем за 24 часа примечательно. Компания первоначально отвечала на раннюю критику, прежде чем в конечном итоге полностью убрать инструмент, согласно TechCrunch. Эта последовательность — защищать, затем отменять — предполагает, что внутренние расчеты быстро изменились, как только примеры ван Эсса стали публично циркулировать.
Для создателей ИИ-арта этот эпизод является полезным кейсом того, как контекст трансформирует риск. Та же генерация изображений в стиле диффузии, которая питает генераторы портретов и инструменты стилей, становится существенно другим продуктом, когда вывод привязан к реальной географии и представлен внутри доверенного картографического приложения. Вред не в самой генерации — он в обрамлении.
Это также связано с более широкой закономерностью платформ, обнаруживающих, что ИИ-инструменты изображений требуют больше предварительного моделирования вреда, чем текстовые инструменты. Опасения по поводу ИИ-сгенерированных изображений и их обнаружения уже формируют то, как платформы развертывают эти функции — ранее в этом году Pangram запустила специализированную модель обнаружения ИИ-изображений, направленную на выявление синтетического контента, а независимое тестирование собственного водяного знака SynthID от Google показало, что одной только технической надежности может быть недостаточно для остановки ИИ-сгенерированной дезинформации.
Создатели, которые используют спутниковые снимки в качестве справочного материала — концепт-художники, создающие реальные окружения, геймдизайнеры, получающие текстуры местности, или любой, кто использует скриншоты карт в качестве композиционных направляющих — должны отметить, что эта функция пока недоступна. Google не сказала, планируется ли версия с ограждениями.
В более широком смысле, этот эпизод напоминает о том, что ИИ-инструменты изображений, встроенные в платформы с географическим или документальным авторитетом, сталкиваются с гораздо более высокой планкой, чем автономные генераторы. Функция, которая была бы незаметной в художественном инструменте, становится обязательством, когда хост-платформа считается источником фактических визуальных данных о реальном мире.
Для создателей, строящих рабочие процессы вокруг ИИ-сгенерированных окружений или пейзажей, практический путь вперед остается использование специализированных инструментов генерации изображений, где синтетическая природа вывода недвусмысленна — вместо ожидания продукта, который Google может не перевыпустить в своей первоначальной форме.
