Źródła
Zrób to po swojemu
Zainspirowała Cię ta historia? Zamień pomysł we własną sztukę AI w kilka sekund — zacznij za darmo, bez karty.
Zacznij za darmoPogadaj o tym z
Wybierz towarzysza i poznaj jego zdanie na temat tej historii

Elias tłumaczy badania stojące za nagłówkami prostym językiem.
Zainspirowała Cię ta historia? Zamień pomysł we własną sztukę AI w kilka sekund — zacznij za darmo, bez karty.
Zacznij za darmoWybierz towarzysza i poznaj jego zdanie na temat tej historii
OpenAI uruchomiło nowy klasyfikator obrazów, specjalnie zaprojektowany do identyfikowania materiałów przedstawiających seksualne wykorzystywanie dzieci (CSAM), w tym treści generowanych przez AI, aby pomóc organom ścigania i agencjom ochrony dzieci w filtrowaniu rosnącej liczby podejrzanych obrazów. Narzędzie to ma na celu zmniejszenie obciążenia analityków ludzkich poprzez dokładniejsze oznaczanie nielegalnych materiałów podlegających działaniom prawnym, odróżniając je od treści nie-nadużywających lub syntetycznych, które w innym przypadku mogłyby wywołać alerty.
Ten rozwój bezpośrednio wpływa na twórców sztuki AI, podkreślając zaawansowane mechanizmy filtrowania wdrażane w celu przeciwdziałania niewłaściwemu wykorzystaniu generatywnej AI. W miarę jak modele stają się bardziej zaawansowane, wzrasta ryzyko ich wykorzystania do szkodliwych celów, co wymaga solidnego wykrywania. Dla twórców oznacza to ciągły nacisk na etyczne praktyki generowania i zrozumienie, że platformy aktywnie rozwijają środki zaradcze przeciwko nielegalnym treściom, niezależnie od tego, czy pochodzą one ze źródeł rzeczywistych, czy z generacji syntetycznej. Klasyfikator, z założenia, dąży do zminimalizowania szansy, że nie-nadużywające treści generowane przez AI mogłyby zostać błędnie oznaczone, co jest kluczowe dla artystów eksplorujących różnorodne tematy.
Nowy klasyfikator stanowi ewolucję w technologii moderacji treści, wykraczając poza proste dopasowywanie słów kluczowych lub wzorców, aby analizować wizualne cechy obrazów. OpenAI twierdzi, że narzędzie może identyfikować cechy wskazujące na CSAM, nawet gdy te cechy są syntetycznie renderowane przez model AI. Jest to szczególnie istotne, ponieważ narzędzia do generowania obrazów AI stają się bardziej dostępne, budząc obawy o ich potencjalne niewłaściwe wykorzystanie. Zdolność klasyfikatora do rozróżniania nielegalnych treści generowanych przez AI jest kluczowym krokiem w zapobieganiu proliferacji takich materiałów, oferując warstwę obrony przed wyrafinowanymi próbami ominięcia istniejących filtrów.
Tradycyjna moderacja treści często boryka się z ogromną ilością danych i niuansami obrazów, co czasami prowadzi do fałszywych alarmów, które odwracają zasoby śledczych. Integrując wykrywanie oparte na AI, OpenAI ma na celu zapewnienie bardziej precyzyjnego filtra, umożliwiając ludzkim ekspertom skupienie się na zweryfikowanych przypadkach. Ta precyzja jest kluczowa dla twórców sztuki AI, ponieważ sugeruje przyszłość, w której systemy wykrywania będą mogły bardziej niezawodnie rozróżniać między złośliwym użyciem a legalną ekspresją artystyczną, nawet jeśli ta ekspresja dotyka wrażliwych lub trudnych tematów bez przekraczania granic nielegalności.
Poza klasyfikacją obrazów, OpenAI wdraża również bardziej rygorystyczne zasady w swojej konwersacyjnej AI, ChatGPT. Użytkownicy próbujący uzyskać dostęp do treści związanych z CSAM lub je generować, zostaną teraz natychmiastowo zbanowani na 24 godziny, co stanowi wyraźne ostrzeżenie przed taką aktywnością. Ten środek podkreśla zaangażowanie OpenAI w zapobieganie wykorzystywaniu swoich narzędzi do celów niezgodnych z prawem i wzmacnia etyczne granice interakcji z modelami AI. Chociaż ta konkretna polityka dotyczy głównie interakcji tekstowych, sygnalizuje szersze, ogólnofirmowe wysiłki na rzecz egzekwowania bezpieczeństwa treści we wszystkich swoich produktach.
Dla tych, którzy korzystają z generatywnej AI, ta polityka wzmacnia znaczenie zrozumienia i przestrzegania wytycznych platformy. Większość generatorów obrazów AI, w tym te dostępne na Charmloop, ma surowe zasady dotyczące nielegalnych i obraźliwych materiałów. Obejmuje to nie tylko jawne CSAM, ale także treści promujące mowę nienawiści, przemoc lub dyskryminację. Twórcy powinni zapoznać się z tymi wytycznymi, aby upewnić się, że ich praca mieści się w dopuszczalnych parametrach i aby uniknąć zawieszenia konta. Regularne aktualizacje modeli AI i związanych z nimi polityk oznaczają, że twórcy muszą być na bieżąco z ewoluującymi środkami bezpieczeństwa, aby nadal efektywnie i odpowiedzialnie korzystać z tych potężnych narzędzi. Możesz odkrywać szeroki zakres możliwości twórczych w ramach bezpiecznych wytycznych na naszej stronie generowania lub przeglądać różnorodne style w naszym katalogu.