Ten artykuł powstał z pomocą AI i został sprawdzony przez zespół redakcyjny Charmloop.
Przejrzyj modele i style stojące za takimi historiami — darmowe konto i galeria od razu.
Nagłe zamknięcie najbardziej zaawansowanych modeli AI firmy Anthropic — Fable 5 i Mythos 5 — nakazane przez rząd wynikało z wewnętrznych badań cyberbezpieczeństwa Amazon i bezpośredniej komunikacji między CEO Amazon Andy'm Jassym a Białym Domem, zgodnie z doniesieniami The Wall Street Journal.
Dyrektywa Departamentu Handlu, która zmusiła Anthropic do całkowitego odcięcia globalnego dostępu do obu modeli w piątek, została wywołana odkryciem przez Amazon potencjalnych luk bezpieczeństwa, które mogły stanowić zagrożenie dla bezpieczeństwa narodowego. Badania podobno zidentyfikowały to, co urzędnicy określili jako "jailbreak" — metodę omijania zabezpieczeń modeli.
Dla twórców, którzy polegali na tych zaawansowanych modelach do generowania obrazów, natychmiastowy wpływ jest jasny: dwa z najbardziej wyrafinowanych systemów AI są teraz całkowicie niedostępne. Fable 5 i Mythos 5 należały do najbardziej zdolnych modeli w zakresie złożonego rozumowania wizualnego i niuansowanej interpretacji artystycznej, co czyni ich utratę szczególnie znaczącą dla profesjonalnych przepływów pracy.
Zamknięcie wpływa nie tylko na bezpośredni dostęp do API, ale na wszystkie komercyjne aplikacje zbudowane na tych modelach. Twórcy, którzy zintegrowali Fable 5 lub Mythos 5 ze swoimi przepływami generowania, będą musieli natychmiast przejść na alternatywne modele.
Anthropic wyraziło zdecydowany sprzeciw wobec decyzji rządu, stwierdzając, że "wąski potencjalny jailbreak nie powinien być powodem do wycofania modelu komercyjnego wdrożonego dla setek milionów ludzi." To napięcie między badaniami bezpieczeństwa AI a komercyjnym wdrażaniem podkreśla złożoną relację między firmami technologicznymi, nadzorem rządowym a dostępnością modeli.
Zaangażowanie Amazon — który ma znaczące partnerstwa w zakresie infrastruktury chmurowej i kontrakty rządowe — dodaje kolejną warstwę złożoności. Badania Amazon najwyraźniej zidentyfikowały luki, których Anthropic albo nie odkryło, albo nie uznało za wystarczająco poważne, aby uzasadnić wycofanie modelu.
Ten incydent ustanawia niepokojący precedens dla twórców AI. Jeśli wewnętrzne badania jednego giganta technologicznego mogą wywołać działania rządowe przeciwko modelom konkurenta, rodzi to pytania o stabilność dostępu do modeli AI. Twórcy budujący biznesy wokół konkretnych modeli stoją teraz przed dodatkową niepewnością co do długoterminowej dostępności.
Zamknięcie pokazuje również, jak szybko zaawansowane możliwości AI mogą zniknąć z rynku. W przeciwieństwie do tradycyjnego oprogramowania, gdzie przestarzałe wersje często pozostają dostępne, modele AI mogą zostać całkowicie wyłączone z natychmiastowym skutkiem.
Z niedostępnymi Fable 5 i Mythos 5, twórcy powinni ocenić swoje opcje modeli i rozważyć dywersyfikację swojego zestawu narzędzi u wielu dostawców. Poleganie na jednym zaawansowanym modelu — bez względu na to, jak zdolny — wydaje się teraz bardziej ryzykowne niż wcześniej zakładano.
Incydent podkreśla również wagę zrozumienia relacji korporacyjnych i powiązań rządowych dostawców AI. Podwójna rola Amazon jako dostawcy chmury i badacza AI, w połączeniu z jego powiązaniami rządowymi, stworzyła unikalną sytuację, w której wewnętrzne badania mogły bezpośrednio wpłynąć na dostępność produktu konkurenta.
Na razie twórcy muszą dostosować się do krajobrazu, w którym nawet najbardziej zaawansowane komercyjne modele AI mogą zniknąć z dnia na dzień z powodu obaw bezpieczeństwa zidentyfikowanych przez rywali branżowych i eskalowanych przez kanały rządowe.
