Zainspirowała Cię ta historia? Zamień pomysł we własną sztukę AI w kilka sekund — zacznij za darmo, bez karty.
Zacznij za darmo
Google uruchomiło, a następnie wycofało funkcję generowania obrazów AI wbudowaną w Google Earth w ciągu zaledwie jednego dnia, po tym jak badacze zademonstrowali, że może ona tworzyć przekonujące fałszywe zdjęcia satelitarne przedstawiające sceny o zabarwieniu geopolitycznym.
Funkcja, o której zamknięciu krótko po czwartkowym uruchomieniu poinformował The Verge, działała w ten sposób, że użytkownicy mogli wpisać podpowiedź tekstową, aby zmodyfikować to, co wyglądało jak autentyczne widoki satelitarne lub lotnicze w Google Earth. Efektem był obraz, który na pierwszy rzut oka wyglądał jak prawdziwe dane geoprzestrzenne — ponieważ był nałożony bezpośrednio na rzeczywiste zdjęcia mapowe.
To rozróżnienie ma ogromne znaczenie. Samodzielnie wygenerowany krajobraz AI jest rozpoznawany jako syntetyczny przez większość świadomych odbiorców. Ta sama wygenerowana treść nałożona na rzeczywiste współrzędne geograficzne, oddana w wizualnym języku fotografii satelitarnej, jest zupełnie innym rodzajem artefaktu. Niesie ze sobą domniemane twierdzenie geograficzne.
Funkcja AI Earth Google'a pozwalała użytkownikom nakładać obrazy generowane przez AI na prawdziwe mapy satelitarne za pomocą podpowiedzi tekstowych, zanim została wycofana.
Obraz: TechCrunch / TechCrunch AI
Demonstracje van Essa szybko ukonkretniły ryzyko. Obrazy rzekomo przedstawiające uchodźców gromadzących się przy granicy USA z Meksykiem lub zniszczenia w pobliżu szpitala w strefie konfliktu to dokładnie ten rodzaj treści, który krąży w geopolitycznych kampaniach dezinformacyjnych. Fakt, że źródłem byłby wiarygodny produkt Google, wzmocniłby ich pozorną legitymizację.
Decyzja Google o wycofaniu funkcji w ciągu mniej niż 24 godzin jest godna uwagi. Firma początkowo odpowiedziała na wczesną krytykę, zanim ostatecznie usunęła narzędzie w całości, według TechCrunch. Ta sekwencja — obrona, a następnie odwrót — sugeruje, że wewnętrzny rachunek zmienił się szybko, gdy przykłady van Essa zaczęły krążyć publicznie.
Dla twórców sztuki AI ten epizod jest użytecznym studium przypadku pokazującym, jak kontekst przekształca ryzyko. To samo generowanie obrazów w stylu diffusion, które napędza generatory portretów i narzędzia do stylizacji, staje się zasadniczo innym produktem, gdy wynik jest zakotwiczony w rzeczywistej geografii i prezentowany w zaufanej aplikacji mapowej. Szkoda nie leży w samym generowaniu — lecz w oprawie.
Łączy się to również z szerszym wzorcem odkrywania przez platformy, że narzędzia AI do generowania obrazów wymagają bardziej zaawansowanego modelowania szkód z góry niż narzędzia tekstowe. Obawy dotyczące obrazów generowanych przez AI i ich wykrywania już teraz kształtują sposób wdrażania tych funkcji przez platformy — na początku tego roku Pangram uruchomił dedykowany model wykrywania obrazów AI mający na celu oznaczanie syntetycznych treści, a niezależne testy znaku wodnego SynthID Google'a wykazały, że sama techniczna solidność może nie powstrzymać dezinformacji generowanej przez AI.
Twórcy wykorzystujący zdjęcia satelitarne jako materiał referencyjny — artyści koncepcyjni budujący środowiska z prawdziwego świata, projektanci gier pozyskujący tekstury terenu lub ktokolwiek używający zrzutów ekranu map jako przewodników kompozycyjnych — powinni zauważyć, że ta funkcja jest na razie niedostępna. Google nie powiedziało, czy planowana jest wersja z zabezpieczeniami.
Szerzej rzecz ujmując, epizod ten przypomina, że narzędzia AI do generowania obrazów wbudowane w platformy o geograficznym lub dokumentacyjnym autorytecie stoją przed znacznie wyższą poprzeczką niż samodzielne generatory. Funkcja, która byłaby niezauważalna w narzędziu artystycznym, staje się zobowiązaniem, gdy platforma hostująca jest zaufana jako źródło faktycznych danych wizualnych o rzeczywistym świecie.
Dla twórców budujących przepływy pracy wokół środowisk lub krajobrazów generowanych przez AI praktyczna droga naprzód pozostaje korzystanie z dedykowanych narzędzi do generowania obrazów, gdzie syntetyczny charakter wyników jest jednoznaczny — zamiast czekać na produkt, który Google może nie przywrócić w pierwotnej formie.
