Wygenerowany przez AI obraz aktorki Mii Goth rozprzestrzenił się po Instagramie z konta opatrzonego niebieską zweryfikowaną odznaką — fałszywą — zanim platforma go usunęła, a jej przedstawiciele określili incydent jako „niezrozumiały".\n\n## Kluczowe wnioski\n\n- Konto na Instagramie o nazwie miagoth_ — nie prawdziwe konto Goth — posiadało niebieską odznakę weryfikacji i opublikowało wygenerowany przez AI obraz aktorki w prowokacyjnej koszulce ze sloganem, zaplanowany tak, by zbiec się z jej prawdziwym złożeniem pozwu o rozwód.\n- Przedstawiciele Goth powiedzieli The Verge, że obraz był sfabrykowany i opisali niepowodzenie Instagrama w jego wykryciu jako „niezrozumiałe".\n- Realizm obrazu i obecność zweryfikowanej odznaki to dwa czynniki, które napędziły jego wirusowe rozprzestrzenienie — połączenie, które powinno niepokoić każdego twórcę pracującego z podobizną AI.\n- System weryfikacji Instagrama, sprzedawany poprzez subskrypcje Meta Verified, nie potwierdza w sposób wiarygodny, że konto należy do osoby, którą rzekomo reprezentuje.\n- Obecnie na Instagramie nie istnieje egzekwowany przez platformę wymóg oznaczania treści AI, który oznaczyłby ten obraz w momencie przesyłania.\n\n\n\n## Jak fałszywa zweryfikowana odznaka zamieniła deepfake'a w newsa\n\nMechanika tego zdarzenia jest warta dokładnego zrozumienia. Na początku tego miesiąca Mia Goth złożyła pozew o rozwód z Shią LaBeoufem — prawdziwa, szeroko komentowana historia. Konto miagoth_ opublikowało następnie wygenerowane przez AI zdjęcie Goth w koszulce z napisem „MY EX IS MY BIGGEST FAN" pogrubionymi czarnymi literami. Niebieska odznaka nadała postowi natychmiastową wiarygodność. Przypadkowi użytkownicy przewijający feed, a nawet niektórzy dziennikarze, potraktowali go jako prawdziwy. Według The Verge jej przedstawiciele opisali sytuację jako niezrozumiałą, biorąc pod uwagę, że Instagram pozwolił jej się rozprzestrzenić.\n\nZweryfikowana odznaka jest tu sednem sprawy. Meta Verified — płatny poziom weryfikacji Instagrama — przyznaje odznakę subskrybentom, którzy przesyłają dowód tożsamości, ale weryfikuje tożsamość względem osoby składającej wniosek, a nie względem nazwy lub podobizny wyświetlanej przez konto. Złośliwy aktor może opłacić subskrypcję, zweryfikować się jako siebie, a następnie prowadzić konto podszywające się pod kogoś innego. Odznaka, którą użytkownicy odczytują jako „to naprawdę ona", oznacza w rzeczywistości coś znacznie węższego.\n\n## Problem realizmu staje się teraz odpowiedzialnością twórcy\n\nDla każdego, kto generuje obrazy AI prawdziwych osób — ilustracje redakcyjne, fan art, satyryczne kompozyty — ten incydent wyznacza wyraźną granicę między tym, co jest technicznie możliwe, a tym, co jest prawnie i etycznie uzasadnione. Obraz Goth jest podobno na tyle przekonujący, że krążył jako autentyczny. Taki poziom fotorealizmu jest teraz osiągalny za pomocą konsumenckich generatorów obrazów, co jest dokładnie tą możliwością, która sprawia, że kontekst i oznaczanie są niezbędne.\n\nJeśli generujesz realistyczny obraz prawdziwej osoby w jakimkolwiek celu, obecne środowisko platform nie oferuje prawie żadnej siatki bezpieczeństwa. Instagram nie ma obowiązkowego wymogu ujawniania AI przy przesyłaniu. Detektor SynthID Google może identyfikować znaki wodne AI od określonych generatorów, ale tylko wtedy, gdy obraz był oznaczony znakiem wodnym podczas tworzenia — a większość procesów roboczych nie wymusza tego domyślnie. Nasze wcześniejsze omówienie witryny detektora SynthID Google odnotowało, że może teraz odczytywać znaki wodne od wielu dostawców, ale adopcja po stronie twórców pozostaje dobrowolna i niespójna.\n\nPraktyczny wniosek: jeśli twój proces roboczy obejmuje generowanie fotorealistycznych obrazów nazwanych osób — nawet w wyraźnie satyrycznych celach — powinieneś oznaczać te obrazy wprost w podpisie i tekście alternatywnym, a nie polegać na tym, że zrobi to za ciebie platforma. To nawyk na poziomie promptu i eksportu, a nie funkcja platformy.\n\n## Co oznacza teraz luka w odpowiedzialności platform\n\nIncydent z Goth to test warunków skrajnych, który Instagram oblał w sposób widoczny. Połączenie przekonującego obrazu AI, zweryfikowanej odznaki i aktualnego haka w postaci prawdziwych wiadomości to nie rzadki przypadek brzegowy — to powtarzalna formuła. W miarę jak jakość obrazów AI nadal się poprawia, wizualna przepaść między wygenerowanym zdjęciem a prawdziwym kurczy się do zera dla większości widzów.\n\nMa to znaczenie również dla legalnych twórców. Reakcja na takie incydenty jak ten zazwyczaj skutkuje tępymi politykami platform: szerszymi zakazami dotyczącymi podobizn generowanych przez AI, surowszymi filtrami przesyłania lub obowiązkowymi wymogami znakowania wodnego, które dotyczą każdego twórcy bez względu na intencje. Trwający kongresowy pat w sprawie praw autorskich AI i przepisów dotyczących prywatności oznacza, że egzekwowanie na poziomie platformy — jakkolwiek niespójne — prawdopodobnie pozostanie główną kontrolą w dającej się przewidzieć przyszłości.\n\nJeśli eksplorujesz generowanie obrazów AI i chcesz zrozumieć, gdzie obecne narzędzia stoją w kwestii realizmu i oznaczania, katalog modeli Charmloop dokumentuje, które generatory domyślnie stosują znakowanie wodne, a które nie — rozróżnienie, które z tygodnia na tydzień staje się coraz mniej akademickie.
