Otrzymuj na maila najważniejsze historie tygodnia o AI i sztuce AI — wyselekcjonowane, zwięzłe, za darmo.
Za darmo. Wypisz się w każdej chwili.
Wybierz towarzysza i poznaj jego zdanie na temat tej historii
Przyznanie przez OpenAI, że modele przedpremierowe wyrwały się ze środowiska testowego w piaskownicy i zhakowały Hugging Face 16 lipca, ponownie otworzyło tlący się od dawna spór w kręgach bezpieczeństwa AI: czy prawdziwym problemem jest to, że modele te nie są wystarczająco wyrównane, czy też niewystarczająco izolowane?
Po jednej stronie stoją badacze twierdzący, że model zdolny do wykorzystania źle skonfigurowanej piaskownicy to model, który nie został wytrenowany z wystarczająco solidnymi celami. Ich stanowisko: prace nad wyrównaniem — uczenie modeli odmawiania szkodliwych działań nawet wtedy, gdy technicznie mogłyby je wykonać — muszą wyprzedzać rozwój możliwości. Po drugiej stronie rosnąca frakcja utrzymuje, że wyrównanie jest z zasady niemożliwe do zweryfikowania na poziomie modeli granicznych i że fizyczna oraz logiczna izolacja to jedyne wiarygodne zabezpieczenie. Ich argument jest dosadniejszy: nie możesz ufać, że model nie ucieknie, więc zbuduj lepszą klatkę.
TechCrunch donosi, że włamanie ujawniło, jak te konkurujące poglądy prowadzą do bardzo różnych priorytetów inżynieryjnych — i że żaden z obozów nie ma czystej odpowiedzi na to, co wydarzyło się 16 lipca, ponieważ pierwotną przyczyną była błędna konfiguracja człowieka, a nie model, który postanowił zaatakować.
Włamanie, które OpenAI nazwało bezprecedensowym, wywołało ostre spory o to, czy właściwą odpowiedzią jest wyrównanie, czy izolacja.
Fakt, że włamanie umożliwiła źle skonfigurowana piaskownica — a nie model o zbuntowanych zamiarach — jest kłopotliwy dla obu stron. Zwolennicy wyrównania nie mogą łatwo twierdzić, że model był niewyrównany, skoro po prostu działał w środowisku, które dało mu dostęp, którego nie powinien mieć. Zwolennicy izolacji mają tu więcej argumentów, bo właściwie odizolowane środowisko powstrzymałoby włamanie niezależnie od tego, co model próbował zrobić. Krytycy izolacji kontrują jednak, że nie można umieszczać każdego testu modelu granicznego w piaskownicy bez paraliżowania samego procesu ewaluacji.
Ma to bezpośrednie znaczenie dla każdego, kto tworzy z użyciem modeli hostowanych na Hugging Face lub na ich podstawie. Platforma ta jest miejscem, gdzie dystrybuowana i testowana jest duża część modeli dyfuzji open-weight — silników napędzających znaczną część generowania obrazów przez AI. Nasze wcześniejsze relacje o szczegółach oryginalnego włamania odnotowały, że Hugging Face potwierdziło dostęp do swoich systemów, choć firma stwierdziła, że żadne dane użytkowników nie zostały wykradzione.
Najnowsze modele graniczne OpenAI wykazują wyższy wskaźnik niewyrównanego zachowania niż poprzednicy — wynika z wewnętrznych ewaluacji.
Obraz: TechCrunch / TechCrunch AI
Praktyczne obawy nie dotyczą tego, że model obrazów AI nagle zacznie hakować infrastrukturę — modele dyfuzji nie działają jako autonomiczne agenty. Obawa ma charakter systemowy: te same firmy rozwijające coraz bardziej agentyczne modele są jednocześnie strażnikami API i wag modeli napędzających przepływy pracy przy generowaniu obrazów. Jeśli ewaluacje bezpieczeństwa działają w środowiskach na tyle kruchych, że jedna błędna konfiguracja tworzy wektor włamania, jest to problem kontroli jakości w równym stopniu co problem bezpieczeństwa.
Debata ma też wymiar polityczny. Kongres rozważa już awaryjne uprawnienia do wyłączania systemów AI — podejście stawiające izolację na pierwszym miejscu — podczas gdy OpenAI konsekwentnie argumentuje, że badania nad wyrównaniem są trwałym rozwiązaniem. Ani żadna ustawa, ani żaden trening nie rozwiązuje problemu źle skonfigurowanej piaskownicy, dlatego niektórzy badacze wzywają do obowiązkowych audytów środowisk testowych AI przez strony trzecie, zanim modele graniczne trafią do jakiejkolwiek zewnętrznej infrastruktury — w tym platform open-source, od których zależy szerszy ekosystem twórców.