Źródła
Zrób to po swojemu
Zainspirowała Cię ta historia? Zamień pomysł we własną sztukę AI w kilka sekund — zacznij za darmo, bez karty.
Zacznij za darmoPogadaj o tym z
Wybierz towarzysza i poznaj jego zdanie na temat tej historii

Maya benchmarkuje każdą premierę modelu — najpierw liczby, nigdy hype.
Zainspirowała Cię ta historia? Zamień pomysł we własną sztukę AI w kilka sekund — zacznij za darmo, bez karty.
Zacznij za darmoWybierz towarzysza i poznaj jego zdanie na temat tej historii
Badacz bezpieczeństwa wykazał, że prywatne dane użytkowników, w tym dane osobowe, mogą być wydobyte z wyników publicznie dostępnych modeli AI, ujawniając krytyczną lukę w łańcuchu dostaw AI. Oznacza to, że twórcy używający modeli AI do generowania obrazów lub postaci mogą nieumyślnie ujawnić swoje prywatne dane, jeśli zostały one uwzględnione w danych treningowych.\n\n## Kluczowe wnioski\n\n* Badacz osadził 2 miliony unikalnych, możliwych do śledzenia „kanarków” (tajnych punktów danych) w publicznie dostępnych zestawach danych treningowych modeli AI.\n* Kanarki te zostały pomyślnie wydobyte z wyników kilku popularnych modeli AI, co dowodzi, że prywatne dane nie są wystarczająco anonimizowane ani zabezpieczone.\n* Odkrycia podkreślają systemowe ryzyko prywatności dla osób, których dane są wykorzystywane do trenowania modeli AI, nawet jeśli nigdy bezpośrednio nie wchodzą w interakcje z modelami.\n* Dla twórców sztuki AI, to podkreśla znaczenie dokładnego badania polityk zarządzania danymi platform i modeli, których używają, ponieważ ich podpowiedzi i generowane treści również mogą być zagrożone.\n\n## Pułapka kanarka: Jak dane uciekają z modeli AI\n\nBadacz, który zdecydował się pozostać anonimowy, systematycznie wstrzyknął około 2 milionów unikalnych „kanarków” do różnych publicznych zestawów danych powszechnie używanych do trenowania modeli AI. Kanarki te zostały zaprojektowane tak, aby były odrębne i możliwe do śledzenia, naśladując rzeczywiste prywatne punkty danych. Celem było sprawdzenie, czy te zasiane sekrety pojawią się ponownie w wynikach modeli AI trenowanych na tych zestawach danych. Eksperyment potwierdził, że tak się stało, z zauważalnym wskaźnikiem ekstrakcji z wielu modeli, w tym dużych modeli językowych (LLM) i modeli generowania obrazów. To nie jest teoria; odzyskano konkretne imiona, adresy e-mail i inne wrażliwe informacje.\n\nMechanizm tych wycieków jest często kombinacją niewystarczającej anonimizacji danych podczas treningu i tendencji modeli do zapamiętywania i reprodukowania części ich danych treningowych. Chociaż deweloperzy AI często twierdzą, że filtrują lub anonimizują wrażliwe informacje, te badania wskazują, że te środki nie są wystarczająco solidne. Dla twórców oznacza to, że jeśli ich dane osobowe, a nawet zastrzeżone zasoby obrazów, w jakiś sposób trafią do zestawu treningowego modelu, istnieje realne ryzyko, że te dane zostaną odtworzone w wygenerowanym wyniku przez innego użytkownika.\n\n## Implikacje dla twórców sztuki AI i bezpieczeństwa danych\n\nTa luka wykracza poza proste podpowiedzi tekstowe. Dla twórców sztuki AI generujących obrazy lub postacie, implikacje są bezpośrednie: wszelkie unikalne elementy stylistyczne, zastrzeżone motywy, a nawet osadzone metadane, które trafią do danych treningowych, mogą potencjalnie zostać odtworzone. To zaciera granice własności intelektualnej i prywatności w sposób trudny do kontrolowania, gdy dane zostaną wchłonięte przez model. Podkreśla to również obawy dotyczące użytkowników towarzyszy AI, gdzie dane konwersacyjne mogą teoretycznie zostać zapamiętane i odtworzone.\n\nPlatformy takie jak Charmloop, które dostarczają narzędzia do generowania obrazów AI, często opierają się na modelach bazowych lub dostrajają je za pomocą dodatkowych zestawów danych. Przejrzystość tych podstawowych zestawów danych i ich polityk zarządzania danymi staje się kluczowa. Twórcy powinni być świadomi, że „czarna skrzynka” wielu modeli AI oznacza, że po wchłonięciu danych ich los jest w dużej mierze poza ich kontrolą. To sprawia, że wybór modelu i platformy jest krytyczną decyzją dotyczącą prywatności, a nie tylko kreatywną.\n\n## Wezwanie do silniejszego zarządzania danymi AI\n\nWedług Ars Technica, odkrycia badacza wskazują na „nieszczelny łańcuch dostaw AI”, który ujawnia tajne dane użytkowników w alarmującym tempie. Podkreśla to pilną potrzebę bardziej rygorystycznych praktyk zarządzania danymi, lepszych technik anonimizacji i jaśniejszych informacji od deweloperów AI na temat ich źródeł danych treningowych i zabezpieczeń prywatności. Organy regulacyjne coraz częściej badają praktyki danych AI, ale rozwiązania techniczne pozostają w tyle. Dopóki nie zostaną wprowadzone silniejsze zabezpieczenia, twórcy powinni zakładać, że wszelkie dane, bez względu na to, jak pozornie niejasne, mogą potencjalnie zostać wydobyte z wyników modelu AI. Może to wpłynąć na to, jak twórcy zdecydują się licencjonować swoją pracę lub wnosić wkład do publicznych zestawów danych, zwłaszcza dla tych, którzy polegają na unikalnych stylach lub osobistym brandingu.\n\nBadania wzmacniają ideę, że prywatność danych w erze AI jest wspólną odpowiedzialnością, wymagającą czujności od użytkowników, deweloperów i regulatorów. W miarę jak modele AI stają się coraz bardziej zaawansowane i zintegrowane z codziennymi przepływami pracy twórczej, zapewnienie bezpieczeństwa podstawowych danych będzie ciągłym wyzwaniem. Twórcy szukający modeli z przejrzystymi politykami danych mogą zbadać modele AI o otwartej wadze, które oferują więcej wglądu w ich źródła danych treningowych.