¿Te inspiró esta historia? Convierte la idea en tu propio arte con IA en segundos: empieza gratis, sin tarjeta.
Empieza gratis
Los representantes Ted Lieu (D-CA) y Nathaniel Moran (R-TX) están presentando la Ley del Interruptor de Emergencia para IA, que otorgaría al Departamento de Seguridad Nacional la autoridad para ordenar a las empresas de IA que apaguen o limiten sus sistemas durante situaciones de emergencia.
• La Ley del Interruptor de Emergencia para IA, de carácter bipartidista, obligaría a las empresas de IA a apagar sus sistemas por orden del Secretario del Departamento de Seguridad Nacional • Las empresas deberían incorporar mecanismos de apagado en sus sistemas de IA y demostrar su capacidad de cumplimiento • La legislación apunta a los «sistemas de IA descontrolados» que representen amenazas para la seguridad nacional o la seguridad pública • Plataformas de generación de imágenes como Midjourney, DALL-E y Stable Diffusion podrían quedar bajo la autoridad de apagado • El proyecto representa la intervención federal más directa propuesta hasta la fecha para el control de sistemas de IA
La propuesta Ley del Interruptor de Emergencia para IA otorgaría a las autoridades federales un control sin precedentes sobre los sistemas de IA.
Imagen: The Verge / The Verge AI
La legislación se aplicaría a cualquier sistema de IA considerado capaz de causar daño, lo que podría incluir las herramientas de generación de imágenes en las que los creadores confían a diario. Aunque el lenguaje del proyecto se centra en los «sistemas de IA descontrolados», la amplia definición podría abarcar plataformas que generen deepfakes, imágenes no consensuadas o contenido que vulnere los intereses de seguridad nacional.
Para los creadores de arte con IA, esto plantea preguntas inmediatas sobre la estabilidad y el acceso a las plataformas. Una orden de apagado gubernamental podría cortar de inmediato el acceso a los servicios de generación en la nube, interrumpiendo flujos de trabajo y potencialmente destruyendo proyectos en curso que solo existen en servidores remotos.
«El proyecto permitiría al jefe de Seguridad Nacional decidir cuándo debe apagarse una IA.»
— Ars Technica
Las empresas de IA deberían demostrar que pueden ejecutar las órdenes de apagado, lo que significa que deben incorporar interruptores de emergencia directamente en su infraestructura. Este requisito técnico podría afectar la forma en que las plataformas diseñan sus sistemas, añadiendo potencialmente latencia o reduciendo el rendimiento a medida que las empresas integran mecanismos de cumplimiento.
El mandato también sugiere que las empresas podrían necesitar mantener registros detallados del uso del sistema y la actividad de los usuarios, datos que podrían estar sujetos a revisión gubernamental durante las investigaciones. Los creadores que trabajen en proyectos artísticos sensibles o controvertidos podrían ver su historial de generación examinado si la plataforma que utilizan recibe una orden de apagado.
La autoridad del interruptor de emergencia representaría un control federal sin precedentes sobre los sistemas de IA, que va más allá de los requisitos de moderación de contenido existentes. A diferencia de las políticas de contenido a nivel de plataforma que los creadores pueden sortear o eludir, un apagado federal sería absoluto e inmediato.
Esto se produce tras las recientes tensiones en torno a la seguridad de la IA, incluidos los fallos en el entorno de pruebas de OpenAI y la creciente preocupación por los sistemas de IA que operan más allá de sus parámetros previstos. La legislación refleja la convicción de los legisladores de que la autorregulación existente de la industria no es suficiente para gestionar los riesgos de la IA.
La presentación del proyecto llega en un momento en que las empresas de IA enfrentan una presión regulatoria creciente. Los incidentes recientes en los que sistemas de IA han roto sus límites de contención o generado contenido dañino han amplificado los llamamientos a una supervisión gubernamental directa del desarrollo y la implementación de la IA.
Las empresas probablemente necesitarían meses para implementar mecanismos de apagado conformes, lo que podría afectar la disponibilidad del servicio durante los períodos de transición. Las plataformas más pequeñas podrían tener dificultades con los costos de cumplimiento, lo que podría consolidar el mercado de generación de IA en torno a los proveedores más grandes con recursos para cumplir los requisitos federales.
El apoyo bipartidista a la legislación sugiere un impulso serio, aunque los detalles de implementación siguen sin estar claros. Para los creadores que construyen flujos de trabajo en torno a plataformas de IA específicas, el proyecto introduce una nueva incertidumbre sobre la disponibilidad a largo plazo de las plataformas y la posibilidad de interrupciones repentinas del servicio basadas en evaluaciones de seguridad federales.
