Otrzymuj na maila najważniejsze historie tygodnia o AI i sztuce AI — wyselekcjonowane, zwięzłe, za darmo.
Za darmo. Wypisz się w każdej chwili.
Wybierz towarzysza i poznaj jego zdanie na temat tej historii
Obowiązki w zakresie przejrzystości wynikające z unijnego aktu o AI weszły w życie 2 sierpnia, zobowiązując platformy do oznaczania treści generowanych przez AI i informowania użytkowników o tym, że rozmawiają z chatbotem — to pierwsze wiążące przepisy tego rodzaju, które uderzyły w branżę AI na taką skalę.
Przykładowe etykiety treści AI opracowane przez UE, ilustrujące wymagane formaty ujawniania informacji dla mediów syntetycznych.
Obraz: The Verge / The Verge AI
Dla twórców sztuki AI praktyczne utrudnienia pojawiają się na poziomie dystrybucji, a nie generowania. Tworzenie obrazów za pomocą narzędzia takiego jak generator Charmloop pozostaje bez zmian — obowiązki spoczywają na platformach, na których te prace są publikowane lub udostępniane. Jednak każda dostępna w UE platforma hostująca Twoje treści ma teraz prawną motywację, by albo egzekwować własny system oznaczania, albo przenieść tę odpowiedzialność na osoby przesyłające pliki.
Według The Verge przepisy są skierowane konkretnie do firm wdrażających systemy AI dla użytkowników z UE — definicja ta jest wystarczająco szeroka, by objąć platformy społecznościowe, serwisy ze zdjęciami stockowymi i platformy z treściami dystrybuującymi prace generowane przez AI, nawet jeśli te firmy mają siedzibę poza Europą. Ten eksterytorialny zasięg to szczegół, który twórcy powinni śledzić najbardziej: amerykański serwis ze zdjęciami stockowymi obsługujący europejskich klientów jest objęty przepisami.
Deepfake'i podlegają najsurowszemu traktowaniu. Realistyczne syntetyczne wizerunki prawdziwych osób — w obrazach, wideo lub dźwięku — muszą być wyraźnie oznaczone jako generowane przez AI. To przepis, który najprawdopodobniej zmieni sposób, w jaki krążą treści z portretami AI i influencerami AI, ponieważ platformy narażone na kary szybko przejdą do blokowania nieoznaczonych przesyłanych plików lub ich automatycznego oznaczania.
Praktyczna odpowiedź większości platform będzie polegać na oparciu się na technicznych sygnałach proweniencji — osadzonych metadanych i znakach wodnych — zamiast polegania na samodzielnym ujawnianiu informacji przez twórców. System znakowania wodnego SynthID firmy Google oraz standard metadanych Coalition for Content Provenance and Authenticity (C2PA) to dwa wiodące podejścia już stosowane w praktyce. Twórcy generujący prace za pomocą narzędzi domyślnie osadzających metadane C2PA przekonają się, że ich treści są automatycznie zgodne z przepisami na uczestniczących platformach; ci korzystający z narzędzi lub procesów usuwających metadane mają trudniejszą drogę.
Tworzy to cichą, ale realną rozbieżność w wartości procesów roboczych. Generatory, które wbudowują dane proweniencji w każdy wynik — zamiast traktować to jako opcjonalne ustawienie eksportu — stają się znacznie bardziej użyteczne dla każdego dystrybuującego treści na rynki europejskie. Warto sprawdzić, które modele w danym katalogu modeli AI natywnie obsługują wyjście C2PA, ponieważ ta funkcja wkrótce będzie mieć znaczenie komercyjne.
Wymóg ujawniania deepfake'ów ma również efekt mrożący na określoną kategorię treści: wizerunki generowane przez AI wykorzystywane w reklamie, materiałach redakcyjnych lub treściach społecznościowych bez zgody osoby przedstawionej. Platformy, które wcześniej tolerowały niejednoznaczne syntetyczne portrety, będą teraz miały regulacyjne podstawy — i motywację — do egzekwowania surowszych zasad przesyłania. Twórcy tworzący postacie AI lub stylizowane portrety fikcyjnych osób są w dużej mierze nienaruszeni, ale każdy pracujący z fotorealistycznymi wizerunkami prawdziwych osób musi teraz przeprowadzić audyt swojego procesu dystrybucji.
Te obowiązki w zakresie przejrzystości to pierwsza transza aktu o AI, która weszła w życie. Przepisy dotyczące wyższego ryzyka — obejmujące takie kwestie jak systemy biometryczne i AI w infrastrukturze krytycznej — wchodzą w życie według dłuższego harmonogramu do 2026 i 2027 roku. Jednak przepisy dotyczące oznaczania treści są już aktywne, a Europejski Urząd ds. AI, który nadzoruje egzekwowanie, zasygnalizował, że zamierza działać na podstawie skarg, a nie czekać na wygaśnięcie okresu przejściowego.
Dla twórców ciekawych tego, jak technologia wykrywania AI rozwija się równolegle z tymi przepisami, niedawne uruchomienie przez Pangram modelu wykrywania obrazów AI ilustruje dokładnie rodzaj infrastruktury, którą platformy będą wdrażać w celu automatyzacji zgodności — i która będzie w coraz większym stopniu decydować o tym, czy treści generowane przez AI będą wyświetlane, czy tłumione.
