Hugging Face hostuje modele deepfake do „rozbierania" przy minimalnej moderacji — wynika z raportu

Siedem spośród dziewięciu najpopularniejszych modeli do edycji obrazów hostowanych na Hugging Face generuje niekonsensualne nagie wizerunki na żądanie — wynika z nowego raportu europejskiej organizacji nonprofit AI Forensics. Odkrycie to poddaje otwartą politykę platformy bezpośredniej kontroli.\n\n## Najważniejsze wnioski\n\n- AI Forensics, europejska organizacja nonprofit, przetestowała najczęściej używane modele do edycji obrazów na Hugging Face i stwierdziła, że 7 z 9 spełniało żądania generowania niekonsensualnych nagich deepfake'ów kobiet i dzieci.\n- Hugging Face, największe repozytorium otwartych modeli AI, nie usunęło oznaczonych modeli do czasu publikacji raportu.\n- Modele, o których mowa, są publicznie dostępne bez żadnej realnej weryfikacji wieku ani zabezpieczeń dotyczących zgody.\n- Wyniki wywierają presję regulacyjną na platformy hostujące otwarte modele, które dotychczas podlegały mniejszej kontroli niż aplikacje AI skierowane do konsumentów.\n- Dla twórców sztuki AI raport sygnalizuje, że szerszy ekosystem otwartych modeli może stanąć w obliczu nowych ograniczeń treści, które mogą wpłynąć na legalne przepływy pracy związane z generowaniem obrazów.\n\n\n\n## Co dokładnie odkryło AI Forensics\n\nRaport AI Forensics, opisany przez The Verge, skupiał się konkretnie na najczęściej pobieranych modelach do edycji obrazów na Hugging Face — nie na obscurycznych, ukrytych repozytoriach, lecz na czołówce rankingu. Badacze odkryli, że modele te reagowały na polecenia mające na celu usunięcie ubrań ze zdjęć prawdziwych osób, w tym nieletnich. Reakcja platformy, zgodnie z raportem, była minimalna.\n\nHugging Face zajmuje wyjątkową pozycję w ekosystemie AI: jest jednocześnie największym na świecie centrum modeli open-weight i kluczowym elementem infrastruktury dla niezależnych twórców, którzy chcą uruchamiać modele lokalnie lub dostrajać je do konkretnych zadań. Ta podwójna rola sprawia, że moderacja treści jest naprawdę skomplikowana. Usunięcie modelu pobranego setki tysięcy razy zakłóca legalne przypadki użycia obok szkodliwych — ale pozostawienie go oznacza, że platforma w praktyce dystrybuuje narzędzie do nadużyć.\n\n## Luka w moderacji hostingu otwartych modeli\n\nZamknięte platformy — Midjourney, Adobe Firefly, narzędzia obrazowe OpenAI — egzekwują politykę treści na poziomie inferencji. Każde żądanie generowania przechodzi przez filtr. Modele open-weight hostowane na Hugging Face nie działają w ten sposób. Po pobraniu modelu to operator decyduje, co będzie, a czego nie będzie robił. Jedyną realną dźwignią platformy jest decyzja, czy w ogóle hostować dany model.\n\nWłaśnie na tę lukę wskazuje raport AI Forensics. Hugging Face posiada politykę treści zabraniającą modeli zaprojektowanych do generowania materiałów przedstawiających seksualne wykorzystywanie dzieci oraz niekonsensualnych intymnych wizerunków, jednak egzekwowanie tych zasad wydaje się niekonsekwentne. Organizacja nonprofit odkryła, że problematyczne modele nie były ukryte — zajmowały czołowe miejsca w wynikach wyszukiwania według liczby pobrań.\n\nDla twórców, którzy polegają na Hugging Face w dostępie do modeli dyfuzyjnych i dostrojonych wersji, ma to praktyczne znaczenie. Reakcja regulacyjna wobec platformy mogłaby przyspieszyć ograniczenia dotyczące tego, jakie modele mogą być publicznie hostowane, co z kolei zawęża pulę opcji open-weight dostępnych do legalnej pracy twórczej. Unijne rozporządzenie AI Act oraz różne krajowe przepisy dotyczące deepfake'ów już zmierzają w tym kierunku; głośny raport tego rodzaju zazwyczaj przyspiesza ten harmonogram.\n\n## Presja na ekosystem open-weight\n\nTo nie pierwszy raz, gdy Hugging Face spotyka się z krytyką dotyczącą hostowanych treści — wcześniejsze kontrowersje dotyczyły bezpieczeństwa modeli i nieautoryzowanego dostępu — jednak ustalenia AI Forensics są bardziej konkretne, ponieważ dokumentują określoną, powtarzalną szkodę, a nie teoretyczne ryzyko.\n\nPraktyczne konsekwencje dla twórców są warte uważnej obserwacji. Jeśli Hugging Face zareaguje szerszym automatycznym filtrowaniem lub surowszymi wymaganiami dotyczącymi przesyłania, to utrudnienia dotkną każdego modelu na platformie, nie tylko tych szkodliwych. Twórcy, którzy obecnie pobierają modele do generowania obrazów bezpośrednio z centrum do lokalnych przepływów pracy, mogą znaleźć mniej dostępnych opcji lub stanąć w obliczu nowych wymogów weryfikacyjnych przy dostępie do określonych klas modeli.\n\nRaport pojawia się również w momencie, gdy społeczność open-weight już zmaga się z presją branżową dotyczącą ograniczeń modeli. Dodanie kwestii niekonsensualnych deepfake'ów do tej debaty daje regulatorom konkretną szkodę, na którą mogą wskazać — a to inny rodzaj presji niż abstrakcyjne argumenty dotyczące bezpieczeństwa.