Elias tłumaczy badania stojące za nagłówkami prostym językiem.
Zainspirowała Cię ta historia? Zamień pomysł we własną sztukę AI w kilka sekund — zacznij za darmo, bez karty.
Zacznij za darmoWybierz towarzysza i poznaj jego zdanie na temat tej historii
OpenAI zaprzestało szkolenia swoich najbardziej zaawansowanych modeli AI, określanych jako „modele frontier”, na danych z żywego internetu, przenosząc się zamiast tego do izolowanego, offline'owego środowiska testowego. Ta decyzja, ogłoszona po wcześniejszych oświadczeniach inżyniera OpenAI sugerujących, że takie rozwiązanie byłoby niewystarczające, ma na celu złagodzenie znaczących zagrożeń bezpieczeństwa związanych z interakcją z siecią w czasie rzeczywistym podczas szkolenia. Dla twórców sztuki AI, ta zmiana może oznaczać, że przyszłe modele będą wykazywać inne zachowania, gdy będą promptowane o bieżące wydarzenia lub informacje w czasie rzeczywistym, ponieważ ich podstawowa baza wiedzy będzie statyczna, a nie ciągle aktualizowana z żywej sieci. Kontrastuje to z poprzednimi podejściami, gdzie modele mogły potencjalnie uczyć się z najświeższych dostępnych danych online.
Wcześniej modele AI czasami uzyskiwały dostęp do żywego internetu podczas faz szkolenia w celu zbierania danych, co mogło narazić je na nieprzewidziane luki w zabezpieczeniach lub pozwolić im na interakcję z systemami zewnętrznymi w niezamierzony sposób. Nowe podejście OpenAI polega na budowaniu środowiska testowego offline, w którym te zaawansowane modele mogą nadal wchodzić w interakcje z ogromnym repozytorium treści internetowych, ale tylko z treściami, które zostały zindeksowane i zbuforowane. Oznacza to, że modele uczą się z migawki internetu, a nie z jego stale zmieniającego się strumienia na żywo. To kontrolowane środowisko ma na celu zapobieganie wszelkiemu ryzyku wpływania na systemy zewnętrzne, odpowiadając na obawy dotyczące potencjalnego wpływu modelu na świat rzeczywisty podczas jego rozwoju.
Dla twórców korzystających z modeli AI do generowania obrazów, ta zmiana jest istotna, ponieważ zrozumienie świata przez modele kształtuje się podczas szkolenia. Model szkolony na statycznym, buforowanym zbiorze danych może nie mieć najbardziej aktualnej wiedzy o trendach, bieżących wydarzeniach czy niedawno opublikowanych stylach wizualnych. Chociaż dostrajanie i generowanie rozszerzone o wyszukiwanie (RAG) mogą dodać bardziej aktualne dane po szkoleniu, podstawowa wiedza osadzona w głównym modelu będzie odzwierciedlać tę metodologię szkolenia offline. Może to prowadzić do subtelnej, ale ważnej różnicy w sposobie interpretacji promptów związanych z bardzo niedawnymi zjawiskami, być może czyniąc je mniej zdolnymi do generowania obrazów odzwierciedlających najświeższe wiadomości lub efemeryczną kulturę internetową bez dodatkowego, wyraźnego wkładu od użytkownika.
Ten ruch OpenAI sygnalizuje priorytet bezpieczeństwa i kontroli nad ciągłymi, uczącymi się w czasie rzeczywistym możliwościami, które mógłby oferować dostęp do żywego internetu. Chociaż natychmiastowy wpływ na publicznie dostępne modele, takie jak te używane do generowania obrazów, może nie być widoczny, stanowi to precedens dla sposobu, w jaki będą rozwijane przyszłe, potężniejsze modele. Twórcy, którzy polegają na AI do generowania treści, które muszą być aktualne lub kontekstowo świadome bardzo niedawnych wydarzeń, mogą stwierdzić, że muszą dostarczać bardziej szczegółowe, zaktualizowane informacje w swoich promptach, zamiast zakładać, że model nauczył się ich z najnowszych danych internetowych. Może to wpłynąć na przepływy pracy, które obejmują generowanie treści na podstawie szybko ewoluujących tematów.
Decyzja ta podkreśla również ciągłe napięcie między umożliwieniem modelom AI szerokiego dostępu do informacji w celu kompleksowego uczenia się a potrzebą ograniczenia potencjalnych zagrożeń. Zaangażowanie OpenAI w reżim szkolenia offline następuje po okresie wzmożonej kontroli nad bezpieczeństwem AI, w tym dyskusji na temat odpowiedzialnego rozwoju i wdrażania AI. Jest to część szerszego trendu w branży, gdzie główni deweloperzy AI coraz bardziej koncentrują się na kontrolowanych środowiskach dla swoich najpotężniejszych modeli, aby zapewnić przewidywalne i bezpieczne zachowanie. Ta zmiana może również wpłynąć na to, jak inni deweloperzy podchodzą do własnych strategii szkolenia modeli, potencjalnie prowadząc do bardziej izolowanych środowisk szkoleniowych w całej branży. Dla zainteresowanych szerszym krajobrazem regulacyjnym, wcześniej pisaliśmy o rekordowych wysiłkach lobbingowych OpenAI w Waszyngtonie D.C., wskazując na ich zaangażowanie w dyskusje polityczne dotyczące bezpieczeństwa i rozwoju AI. Twórcy mogą eksplorować różne modele i ich możliwości w katalogu modeli Charmloop, aby zrozumieć, jak różne podejścia do szkolenia manifestują się w generowanych wynikach.
