Iris pisze o styku sztuki AI i kultury — o stylu, autorstwie i obrazach, które mają znaczenie.
Zainspirowała Cię ta historia? Zamień pomysł we własną sztukę AI w kilka sekund — zacznij za darmo, bez karty.
Zacznij za darmoWybierz towarzysza i poznaj jego zdanie na temat tej historii
Nowo złożony prospekt IPO firmy Anthropic ujawnił istotne szczegóły dotyczące jej strategii „konstytucyjnej sztucznej inteligencji” (Constitutional AI), podejścia skoncentrowanego na bezpieczeństwie, które może fundamentalnie zmienić sposób, w jaki rozwijane są modele AI, w tym te do generowania obrazów, oraz jak twórcy wchodzą w interakcje z ich wynikami.
W swej istocie konstytucyjna sztuczna inteligencja polega na szkoleniu modeli do oceny i poprawiania własnych wyników w oparciu o z góry określony zestaw zasad. Zamiast ludzkiej informacji zwrotnej dla każdej decyzji moderacyjnej, sama sztuczna inteligencja uczy się stosować „konstytucję” zasad. Oznacza to, że modele są projektowane tak, aby były z natury bezpieczniejsze, odfiltrowując odpowiedzi naruszające te zasady, zanim jeszcze dotrą do użytkownika. Na przykład, jeśli podpowiedź dla modelu generującego obrazy może prowadzić do potencjalnie szkodliwych treści, model przeszkolony konstytucyjnie spróbuje przeformułować lub odmówić generacji w oparciu o swoje wewnętrzne wytyczne.
Sama „konstytucja” to kaskadowy zestaw zasad, czerpiący inspirację ze źródeł takich jak zmodyfikowana wersja Praw Robotyki Isaaca Asimova i Deklaracji Praw Człowieka ONZ, jak donosi The MIT Technology Review. To warstwowe podejście pozwala sztucznej inteligencji na rozwinięcie niuansowego zrozumienia tego, co stanowi akceptowalny lub nieakceptowalny wynik. Dla twórców pracujących z grafiką AI, może to przełożyć się na modele, które są mniej podatne na generowanie stronniczych, jawnych lub w inny sposób problematycznych obrazów, przenosząc ciężar etycznego filtrowania z użytkownika końcowego na architekturę modelu.
„Firma szkoli modele AI nie za pomocą ludzkiej informacji zwrotnej, ale za pomocą kaskadowego zestawu zasad, w tym zmodyfikowanej wersji Praw Robotyki Isaaca Asimova i Deklaracji Praw Człowieka ONZ.”
— The MIT Technology Review
Ten mechanizm samokorekty ma bezpośrednie implikacje dla podpowiedzi. Twórcy mogą odkryć, że bardzo niejednoznaczne lub etycznie szare podpowiedzi dają bardziej spójne, bezpieczne wyniki lub są całkowicie odrzucane, zamiast produkować nieprzewidywalne lub szkodliwe obrazy. Sugeruje to przyszłość, w której wewnętrzny kompas etyczny sztucznej inteligencji jest znacznie ważniejszym czynnikiem w ostatecznym wyniku niż w wielu obecnych modelach, gdzie bezpieczeństwo często opiera się na filtrach post-processingowych lub zgłaszaniu przez użytkowników. Może to uczynić proces generowania obrazów bardziej przewidywalnym w granicach etycznych, potencjalnie usprawniając przepływ pracy dla profesjonalnych artystów i projektantów, którzy potrzebują niezawodnych, bezpiecznych dla marki treści.
Chociaż nacisk na bezpieczeństwo jest najważniejszy, podejście konstytucyjnej sztucznej inteligencji może również wpłynąć na estetyczny i tematyczny zakres sztuki generowanej przez AI. Modele szkolone zgodnie z tak surowymi wytycznymi mogą z natury skłaniać się ku bardziej konwencjonalnym lub „bezpiecznym” interpretacjom wizualnym, potencjalnie ograniczając eksplorację awangardowych, prowokacyjnych lub przełamujących granice koncepcji artystycznych. Artyści przyzwyczajeni do nieograniczonej, często chaotycznej, swobody wcześniejszych modeli AI mogą odkryć, że muszą dostosować swoje strategie podpowiedzi, aby dostosować się do tych nowych ram etycznych. To kompromis: zwiększona niezawodność i bezpieczeństwo kontra potencjalnie ograniczone granice twórcze.
Dla tych, którzy cenią maksymalną swobodę twórczą, ten rozwój podkreśla ciągłą rozbieżność w filozofiach modeli AI. Niektóre modele priorytetyzują surowe wyniki i kontrolę użytkownika, podczas gdy inne, takie jak Anthropic, osadzają bezpieczeństwo głębiej w swoim rdzeniu. Twórcy będą musieli coraz częściej wybierać swoje narzędzia nie tylko na podstawie jakości obrazu czy szybkości, ale także na podstawie podstawowych filozofii etycznych i twórczych rządzących ich rozwojem. Może to prowadzić do większego zapotrzebowania na różnorodne modele, z których każdy będzie odpowiadał na różne potrzeby artystyczne i względy etyczne, podobnie jak różne ruchy artystyczne priorytetyzują odrębne wartości estetyczne. Zrozumienie tych rozróżnień jest kluczowe dla każdego, kto chce opanować sztukę generowania obrazów AI. W miarę ewolucji krajobrazu AI, wybór modelu będzie coraz bardziej odzwierciedlał stanowisko twórcy w tych fundamentalnych kwestiach.
Obejrzyj: Strategia „konstytucyjnej sztucznej inteligencji” Anthropic
Ten ruch Anthropic podkreśla rosnący trend w branży w kierunku wbudowywania odpowiedzialnych praktyk AI od podstaw, a nie jako dodatek. Sygnalizuje przyszłość, w której modele AI są nie tylko potężne, ale także celowo zbudowane z kompasem moralnym, mającym na celu zapobieganie niewłaściwemu użyciu i budowanie zaufania do technologii. Ta zmiana może ustanowić nowy standard dla rozwoju AI, wpływając na to, jak inni dostawcy podchodzą do szkolenia modeli i moderacji treści, a ostatecznie kształtując kulturę wizualną generowaną przez AI na nadchodzące lata.
