Inspiré par cette histoire ? Transformez l’idée en votre propre création par IA en quelques secondes — gratuit pour commencer, sans carte bancaire.
Commencer gratuitement
Les représentants Ted Lieu (D-CA) et Nathaniel Moran (R-TX) présentent l'AI Kill Switch Act, accordant au Département de la Sécurité intérieure le pouvoir d'ordonner aux entreprises d'IA de fermer ou de limiter leurs systèmes en cas d'urgence.
• L'AI Kill Switch Act bipartisan obligerait les entreprises d'IA à fermer leurs systèmes sur ordre du secrétaire du Département de la Sécurité intérieure • Les entreprises devraient intégrer des mécanismes d'arrêt dans leurs systèmes d'IA et démontrer leurs capacités de conformité • La législation cible les « systèmes d'IA incontrôlables » qui représentent des menaces pour la sécurité nationale ou la sécurité publique • Les plateformes de génération d'images comme Midjourney, DALL-E et Stable Diffusion pourraient relever de cette autorité d'arrêt • Le projet de loi représente l'intervention fédérale directe la plus significative jamais proposée pour le contrôle des systèmes d'IA
L'AI Kill Switch Act proposé donnerait aux autorités fédérales un contrôle sans précédent sur les systèmes d'IA.
Image : The Verge / The Verge AI
La législation s'appliquerait à tout système d'IA jugé capable de causer des dommages, incluant potentiellement les outils de génération d'images sur lesquels les créateurs s'appuient au quotidien. Bien que le libellé du projet de loi se concentre sur les « systèmes d'IA incontrôlables », la définition large pourrait englober les plateformes qui génèrent des deepfakes, des images non consenties ou du contenu portant atteinte aux intérêts de la sécurité nationale.
Pour les créateurs d'art par IA, cela soulève des questions immédiates quant à la stabilité et à l'accessibilité des plateformes. Un ordre de fermeture gouvernemental pourrait instantanément couper l'accès aux services de génération en nuage, interrompant les flux de travail et risquant de détruire des projets en cours qui n'existent que sur des serveurs distants.
« Le projet de loi permettrait au chef de la Sécurité intérieure de décider quand une IA doit être arrêtée. »
— Ars Technica
Les entreprises d'IA devraient démontrer leur capacité à exécuter des ordres d'arrêt, ce qui signifie qu'elles doivent intégrer des coupe-circuits directement dans leur infrastructure. Cette exigence technique pourrait influencer la façon dont les plateformes architecturent leurs systèmes, ajoutant potentiellement de la latence ou réduisant les performances à mesure que les entreprises intègrent des mécanismes de conformité.
Le mandat laisse également entendre que les entreprises pourraient devoir conserver des journaux détaillés de l'utilisation des systèmes et de l'activité des utilisateurs — des données susceptibles d'être soumises à un examen gouvernemental lors d'enquêtes. Les créateurs travaillant sur des projets artistiques sensibles ou controversés pourraient voir leur historique de génération scruté si la plateforme qu'ils ont choisie fait l'objet d'un ordre de fermeture.
L'autorité de coupe-circuit représenterait un contrôle fédéral sans précédent sur les systèmes d'IA, allant au-delà des exigences existantes en matière de modération de contenu. Contrairement aux politiques de contenu au niveau des plateformes que les créateurs peuvent contourner ou éviter, une fermeture fédérale serait absolue et immédiate.
Cela fait suite aux récentes tensions autour de la sécurité de l'IA, notamment les échecs du bac à sable de test d'OpenAI et aux préoccupations croissantes concernant des systèmes d'IA opérant au-delà de leurs paramètres prévus. La législation reflète la conviction des législateurs que l'autorégulation existante du secteur est insuffisante pour gérer les risques liés à l'IA.
L'introduction du projet de loi intervient alors que les entreprises d'IA font face à une pression réglementaire croissante. Des incidents récents impliquant des systèmes d'IA sortant de leur confinement ou générant du contenu nuisible ont amplifié les appels à une surveillance gouvernementale directe du développement et du déploiement de l'IA.
Les entreprises auraient probablement besoin de plusieurs mois pour mettre en œuvre des mécanismes d'arrêt conformes, ce qui pourrait affecter la disponibilité des services pendant les périodes de transition. Les plateformes plus petites pourraient peiner à supporter les coûts de conformité, consolidant potentiellement le marché de la génération par IA autour de grands fournisseurs disposant des ressources nécessaires pour satisfaire aux exigences fédérales.
Le soutien bipartisan à la législation laisse présager une dynamique sérieuse, bien que les détails de mise en œuvre restent flous. Pour les créateurs qui construisent leurs flux de travail autour de plateformes d'IA spécifiques, le projet de loi introduit une nouvelle incertitude quant à la disponibilité à long terme des plateformes et au risque d'interruptions soudaines de service fondées sur des évaluations de sécurité fédérales.
