Fuentes
Únete a la comunidad
Crea tu cuenta gratuita de Charmloop: sin tarjeta y sin límites para explorar. Empieza a crear arte con IA en minutos.
Coméntalo con
Elige un compañero y descubre su opinión sobre esta noticia

Sofia sigue el dinero, las políticas y las plataformas que definen lo que los creadores pueden hacer.
Crea tu cuenta gratuita de Charmloop: sin tarjeta y sin límites para explorar. Empieza a crear arte con IA en minutos.
Elige un compañero y descubre su opinión sobre esta noticia
Signal, el servicio de mensajería cifrada, ha actualizado sus aplicaciones de Android e iOS para impedir que agentes de IA como Google Gemini y Siri de Apple lean o analicen las pantallas de los usuarios. Esta medida apunta a la creciente integración de capacidades de IA agéntica dentro de los sistemas operativos que pueden interpretar información en pantalla, lo que afecta directamente la privacidad del usuario.
La presidenta de Signal, Meredith Whittaker, afirmó que estas funciones de IA agéntica están «socavando la capacidad de Signal para garantizar la privacidad de forma independiente», según The Verge. El problema central radica en el acceso a nivel de sistema operativo que ahora poseen estos agentes de IA, lo que les permite capturar e interpretar el contenido de la pantalla sin el consentimiento explícito del usuario para cada instancia. Para los creadores que trabajan con información sensible o proyectos personales, este cambio en el acceso a la IA a nivel de sistema operativo presenta una nueva frontera de privacidad.
La función de privacidad está habilitada por defecto para las nuevas instalaciones de Signal, mientras que a los usuarios existentes se les pedirá que la activen. Los usuarios conservan la opción de deshabilitar la configuración de bloqueo de pantalla dentro del menú de privacidad de la aplicación si lo prefieren. Esta funcionalidad se extiende más allá de las simples capturas de pantalla, apuntando específicamente al análisis contextual avanzado realizado por los agentes de IA. Por ejemplo, Gemini de Google, especialmente con su reciente función de «Uso de la computadora» en macOS, está diseñado para comprender e interactuar con aplicaciones y datos en todo el sistema operativo, una capacidad que la aplicación Gemini de Google para macOS obtiene la función 'Uso de la computadora' para la automatización entre aplicaciones detalló previamente.

Configuración de privacidad de Android de Signal que muestra la opción de bloqueo de capturas de pantalla.
Imagen: The Verge / The Verge AI
Esta medida de Signal destaca una preocupación más amplia de la industria. A medida que los modelos de IA se integran más en los sistemas operativos, su capacidad para observar y procesar la actividad del usuario se expande. Esto podría incluir datos sensibles como mensajes privados, flujos de trabajo creativos o incluso elementos de diseño propietarios utilizados en la generación de arte con IA. Si bien es conveniente para los usuarios que desean una asistencia de IA fluida, plantea un desafío directo a las aplicaciones construidas sobre fuertes garantías de privacidad.
La decisión de Signal sienta un precedente sobre cómo otras aplicaciones centradas en la privacidad podrían responder a la proliferación de la IA en el dispositivo. Fuerza una clara delimitación entre la utilidad ofrecida por los agentes de IA y la expectativa del usuario de aislamiento de datos dentro de aplicaciones específicas. La tensión entre el acceso abierto para los agentes de IA y los controles de privacidad específicos de la aplicación probablemente aumentará a medida que Apple, Google y otros continúen integrando la IA más profundamente en sus plataformas. Los creadores que utilizan herramientas de arte con IA a menudo dependen de varias aplicaciones para la inspiración, la referencia y la colaboración; el riesgo de que un agente de IA acceda o analice inadvertidamente obras creativas o indicaciones sensibles subraya la necesidad de controles de privacidad robustos. Esto también hace eco de preocupaciones anteriores sobre el potencial de la IA para la fuga de datos, que algunas plataformas han abordado con funciones como el interruptor de 'apagado' de IA de Canva para funciones generativas, como se señaló en Canva Agrega Interruptor de 'Apagado' de IA para la Generación de Imágenes y las Funciones de Expansión Mágica.
Este desarrollo es una respuesta directa al impulso de la industria por una IA más omnipresente. A medida que los agentes de IA en el dispositivo se vuelvan cada vez más sofisticados, los desarrolladores de aplicaciones centradas en la privacidad se enfrentarán a una presión continua para implementar salvaguardas similares o arriesgarse a socavar su propuesta de valor central. La elección que se presenta a los usuarios —asistencia de IA conveniente versus privacidad segmentada— dará forma a la adopción y la confianza en los sistemas operativos de próxima generación.