Załóż darmowe konto Charmloop — bez karty, bez limitów przeglądania. Zacznij tworzyć sztukę AI w kilka minut.
Federalny pozew złożony przeciwko xAI zarzuca, że użytkownik modelu AI Grok wygenerował około 7 000 obrazów przedstawiających seksualne wykorzystywanie dzieci z udziałem swojej pasierbicy — i że xAI zgłosiło do Narodowego Centrum ds. Zaginionych i Wykorzystywanych Dzieci tylko jeden prompt dotyczący zbiorowego gwałtu, podczas gdy nadużycia trwały nadal.\n\n## Najważniejsze wnioski\n\n- Pozew zarzuca, że użytkownik Grok stworzył około 7 000 obrazów CSAM z udziałem swojej pasierbicy, zanim popełnił samobójstwo, a xAI oskarżone jest o zgłoszenie do NCMEC tylko jednego promptu.\n- Kolejne małoletnie dziewczynki złożyły odrębne pozwy przeciwko X w związku z obrazami CSAM wygenerowanymi przez Grok — podaje Ars Technica, która jako pierwsza poinformowała o tych sprawach.\n- Sprawa koncentruje się na tym, czy platformy AI ponoszą odpowiedzialność prawną, gdy ich modele są wykorzystywane do masowego tworzenia CSAM pomimo wdrożonych systemów bezpieczeństwa.\n- xAI nie potwierdziło publicznie konkretnych danych dotyczących zgłoszeń przytoczonych w skardze.\n- Pozwy sygnalizują narastającą presję prawną na dostawców AI, aby wykazali się proaktywnym i kompleksowym zgłaszaniem nadużyć — a nie jedynie spełnianiem minimalnych wymogów.\n\n## Co skarga zarzuca w kwestii reakcji Grok na zagrożenia\n\nZgodnie z pozwem, opisanym przez Ars Technica, użytkownik przez dłuższy czas wydawał setki promptów, zanim nadużycia eskalowały i popełnił samobójstwo. Skarga zarzuca, że zgłoszenie xAI do NCMEC — federalnie wyznaczonego centrum ds. wskazówek dotyczących CSAM — obejmowało tylko jeden prompt, pozostawiając zdecydowaną większość domniemanej generacji nadużyć niezgłoszoną i niezbadaną.\n\nPrawo federalne w ramach ustawy PROTECT Our Children Act zobowiązuje dostawców usług elektronicznych do zgłaszania NCMEC ewidentnych przypadków CSAM, gdy tylko się o nich dowiedzą. Główne twierdzenie pozwu brzmi, że świadomość xAI dotycząca tej działalności była znacznie szersza, niż sugeruje jedno zgłoszenie. xAI nie potwierdziło ani nie zaprzeczyło publicznie konkretnym danym dotyczącym zgłoszeń przytoczonym w skardze, a postępowanie sądowe jest w toku.\n\nOdrębne pozwy od kolejnych ofiar zostały również złożone przeciwko X — platformie, która jest właścicielem Grok i go dystrybuuje — a powodowie oskarżają X o osłanianie pedofilów zamiast współpracy z organami ścigania.\n\n## Problem skali, którego narzędzia AI do generowania obrazów nie rozwiązały\n\nLiczba 7 000 obrazów sprawia, że sprawa jest istotna zarówno pod względem prawnym, jak i technicznym. Jeden zły prompt to incydent bezpieczeństwa; tysiące wygenerowanych obrazów w trakcie rozszerzonej sesji to wzorzec, który klasyfikatory bezpieczeństwa i procedury zgłaszania powinny — przynajmniej w teorii — wykryć i oznaczyć. Pozew pośrednio argumentuje, że architektura bezpieczeństwa Grok zawiodła na dużą skalę — nie tylko na marginesie.\n\nDla platform do generowania obrazów AI ten sposób ujęcia sprawy ma znaczenie. Regulatorzy i prawnicy powodów coraz częściej traktują wolumen jako dowód systemowej awarii, a nie odosobnionego nadużycia. Model, który blokuje oczywisty prompt, ale pozwala na iteracyjne, eskalujące nadużycia w tysiącach generacji, nie jest — w tym ujęciu prawnym — modelem z odpowiednimi mechanizmami kontroli bezpieczeństwa.\n\nSprawa uwypukla również lukę strukturalną: obowiązki zgłaszania do NCMEC technicznie powstają, gdy dostawca „dowie się" o CSAM, ale to, co stanowi świadomość — oznaczony prompt, wynik klasyfikatora, przegląd przez człowieka — nie jest jednolicie zdefiniowane na różnych platformach. Pozew dotyczący Grok może wymusić ostrzejsze prawne zdefiniowanie tego pojęcia.\n\n## Presja na xAI narasta w momencie, gdy Grok rozszerza możliwości generowania obrazów\n\nMoment jest dla xAI niekomfortowy. Grok agresywnie rozszerza funkcje generowania obrazów, a xAI pozycjonowało model jako mniej restrykcyjną alternatywę dla konkurencji. To pozycjonowanie — które przyciągało użytkowników uważających inne modele za zbyt przefiltrowane — jest teraz centralnym elementem teorii odpowiedzialności powodów. Argument sprowadza się do tego, że zmniejszone ograniczenia stworzyły permisywne środowisko, które umożliwiło nadużycia na skalę, którą bardziej konserwatywny system by przerwał.\n\nTen argument będzie rezonował poza tą konkretną sprawą. Każda platforma do generowania obrazów AI, która konkuruje na polu swobody twórczej, stoi przed tym samym fundamentalnym napięciem: luźniejsze zabezpieczenia treści przyciągają twórców pragnących elastyczności, ale jednocześnie obniżają barierę dla nadużyć. Spór sądowy dotyczący Grok jest jak dotąd najostrzejszym testem tego, gdzie sądy wyznaczą tę granicę.\n\nSpodziewane są kolejne pozwy. Ars Technica poinformowała, że dodatkowe ofiary już je złożyły, co sugeruje skoordynowaną strategię prawną, a nie pojedynczą, odosobnioną skargę. To, jak zareaguje xAI — i czy sądy uznają platformy za odpowiedzialne za CSAM generowane przez ich modele — ustanowi precedens kształtujący politykę treści w całej branży generowania obrazów AI na wiele lat.
