Kongres wprowadza ustawę AI Kill Switch Act wymagającą uprawnień do awaryjnego wyłączenia

Przedstawiciele Ted Lieu (D-CA) i Nathaniel Moran (R-TX) wprowadzają ustawę AI Kill Switch Act, przyznającą Departamentowi Bezpieczeństwa Wewnętrznego uprawnienia do nakazania firmom AI wyłączenia lub ograniczenia ich systemów w sytuacjach awaryjnych.\n\n## Najważniejsze wnioski\n\n• Dwupartyjna ustawa AI Kill Switch Act zobowiązywałaby firmy AI do wyłączania systemów na polecenie Sekretarza Departamentu Bezpieczeństwa Wewnętrznego\n• Firmy musiałyby wbudować mechanizmy wyłączania w swoje systemy AI i wykazać zdolność do przestrzegania przepisów\n• Ustawa celuje w „zbuntowane systemy AI", które stanowią zagrożenie dla bezpieczeństwa narodowego lub bezpieczeństwa publicznego\n• Platformy generowania obrazów, takie jak Midjourney, DALL-E i Stable Diffusion, mogłyby podlegać uprawnieniom do wyłączenia\n• Projekt stanowi jak dotąd najbardziej bezpośrednią propozycję federalnej interwencji w kontrolę systemów AI\n\n\n\n## Uprawnienia awaryjne wobec platform generowania obrazów AI\n\nUstawa miałaby zastosowanie do każdego systemu AI uznanego za zdolny do wyrządzenia szkody, potencjalnie obejmując narzędzia do generowania obrazów, na których twórcy polegają na co dzień. Choć język projektu koncentruje się na „zbuntowanych systemach AI", szeroka definicja mogłaby obejmować platformy generujące deepfake'i, obrazy bez zgody osób przedstawionych lub treści naruszające interesy bezpieczeństwa narodowego.\n\nDla twórców sztuki AI rodzi to natychmiastowe pytania o stabilność platform i dostęp do nich. Rządowy nakaz wyłączenia mógłby natychmiast odciąć dostęp do chmurowych usług generowania, przerywając przepływy pracy i potencjalnie niszcząc projekty w toku, które istnieją wyłącznie na zdalnych serwerach.\n\n> „Ustawa pozwoliłaby szefowi Departamentu Bezpieczeństwa Wewnętrznego decydować, kiedy AI powinna zostać wyłączona."\n>\n> — Ars Technica\n\n## Wymogi techniczne dotyczące zgodności\n\nFirmy AI musiałyby wykazać, że są w stanie wykonać nakazy wyłączenia, co oznacza konieczność wbudowania przełączników awaryjnych bezpośrednio w swoją infrastrukturę. Ten wymóg techniczny mógłby wpłynąć na sposób projektowania systemów przez platformy, potencjalnie zwiększając opóźnienia lub obniżając wydajność w miarę wdrażania mechanizmów zgodności.\n\nMandat sugeruje również, że firmy mogłyby być zobowiązane do prowadzenia szczegółowych dzienników użytkowania systemu i aktywności użytkowników — danych, które mogłyby podlegać rządowemu przeglądowi podczas dochodzeń. Twórcy pracujący nad wrażliwymi lub kontrowersyjnymi projektami artystycznymi mogliby zobaczyć swoją historię generowania poddaną kontroli, jeśli wybrana przez nich platforma otrzyma nakaz wyłączenia.\n\n## Precedens dla kontroli treści\n\nUprawnienia do wyłączenia awaryjnego stanowiłyby bezprecedensową federalną kontrolę nad systemami AI, wykraczającą poza istniejące wymogi dotyczące moderacji treści. W przeciwieństwie do polityk moderacji treści na poziomie platformy, które twórcy mogą omijać lub obchodzić, federalne wyłączenie byłoby absolutne i natychmiastowe.\n\nJest to następstwo niedawnych napięć wokół bezpieczeństwa AI, w tym niepowodzeń piaskownicy testowej OpenAI i rosnących obaw dotyczących systemów AI działających poza zamierzonymi parametrami. Ustawa odzwierciedla przekonanie prawodawców, że istniejąca samoregulacja branży nie jest wystarczająca do zarządzania ryzykiem związanym z AI.\n\n## Harmonogram wdrożenia i reakcja branży\n\nWprowadzenie projektu ustawy następuje w momencie, gdy firmy AI stoją w obliczu rosnącej presji regulacyjnej. Niedawne incydenty związane z systemami AI wymykającymi się spod kontroli lub generującymi szkodliwe treści wzmocniły apele o bezpośredni rządowy nadzór nad rozwojem i wdrażaniem AI.\n\nFirmy prawdopodobnie potrzebowałyby miesięcy na wdrożenie zgodnych mechanizmów wyłączania, co mogłoby wpłynąć na dostępność usług w okresach przejściowych. Mniejsze platformy mogłyby mieć trudności z kosztami zgodności, potencjalnie konsolidując rynek generowania AI wokół większych dostawców dysponujących zasobami pozwalającymi spełnić wymogi federalne.\n\nDwupartyjna podpora dla ustawy sugeruje poważny impet, choć szczegóły wdrożenia pozostają niejasne. Dla twórców budujących przepływy pracy wokół konkretnych platform AI projekt wprowadza nową niepewność co do długoterminowej dostępności platform i możliwości nagłych przerw w świadczeniu usług wynikających z federalnych ocen bezpieczeństwa.