Sources
Rejoignez la communauté
Créez votre compte Charmloop gratuit — sans carte bancaire, navigation illimitée. Lancez-vous dans l’art IA en quelques minutes.
En discuter avec
Choisissez un compagnon et découvrez son avis sur cette histoire

Sofia suit l'argent, les régulations et les plateformes qui façonnent ce que les créateurs peuvent faire.
Créez votre compte Charmloop gratuit — sans carte bancaire, navigation illimitée. Lancez-vous dans l’art IA en quelques minutes.
Choisissez un compagnon et découvrez son avis sur cette histoire
Signal, le service de messagerie chiffrée, a mis à jour ses applications Android et iOS pour empêcher les agents IA comme Google Gemini et Siri d'Apple de lire ou d'analyser les écrans des utilisateurs. Cette mesure vise l'intégration croissante des capacités d'IA agentique au sein des systèmes d'exploitation qui peuvent interpréter les informations à l'écran, impactant directement la vie privée des utilisateurs.
La présidente de Signal, Meredith Whittaker, a déclaré que ces fonctionnalités d'IA agentique « sapent la capacité de Signal à garantir indépendamment la confidentialité », selon The Verge. Le problème principal réside dans l'accès au niveau du système d'exploitation que ces agents IA possèdent désormais, leur permettant de capturer et d'interpréter le contenu de l'écran sans le consentement explicite de l'utilisateur pour chaque instance. Pour les créateurs travaillant avec des informations sensibles ou des projets personnels, ce changement dans l'accès à l'IA au niveau de l'OS présente une nouvelle frontière en matière de confidentialité.
La fonction de confidentialité est activée par défaut pour les nouvelles installations de Signal, tandis que les utilisateurs existants seront invités à l'activer. Les utilisateurs conservent la possibilité de désactiver le paramètre de blocage d'écran dans le menu de confidentialité de l'application s'ils le préfèrent. Cette fonctionnalité va au-delà des simples captures d'écran, ciblant spécifiquement l'analyse contextuelle avancée effectuée par les agents IA. Par exemple, Gemini de Google, en particulier avec sa récente fonctionnalité « Utilisation de l'ordinateur » sur macOS, est conçu pour comprendre et interagir avec les applications et les données à travers le système d'exploitation, une capacité L'application Gemini de Google pour macOS gagne la fonctionnalité « Utilisation de l'ordinateur » pour l'automatisation inter-applications précédemment détaillée.

Paramètres de confidentialité Android de Signal montrant l'option de blocage de captures d'écran.
Image : The Verge / The Verge AI
Cette initiative de Signal met en lumière une préoccupation plus large de l'industrie. À mesure que les modèles d'IA s'intègrent davantage dans les systèmes d'exploitation, leur capacité à observer et à traiter l'activité des utilisateurs s'étend. Cela pourrait inclure des données sensibles comme des messages privés, des flux de travail créatifs, ou même des éléments de conception propriétaires utilisés dans la génération d'art IA. Bien que pratique pour les utilisateurs qui souhaitent une assistance IA transparente, cela pose un défi direct aux applications construites sur de solides garanties de confidentialité.
La décision de Signal crée un précédent pour la manière dont d'autres applications axées sur la confidentialité pourraient réagir à la prolifération de l'IA embarquée. Elle force une délimitation claire entre l'utilité offerte par les agents IA et l'attente de l'utilisateur en matière d'isolation des données au sein d'applications spécifiques. La tension entre l'accès ouvert pour les agents IA et les contrôles de confidentialité spécifiques aux applications va probablement s'intensifier à mesure qu'Apple, Google et d'autres continuent d'intégrer l'IA plus profondément dans leurs plateformes. Les créateurs qui utilisent des outils d'art IA s'appuient souvent sur diverses applications pour l'inspiration, la référence et la collaboration ; le risque qu'un agent IA accède ou analyse par inadvertance des œuvres créatives ou des invites sensibles souligne la nécessité de contrôles de confidentialité robustes. Cela fait également écho aux préoccupations antérieures concernant le potentiel de fuite de données de l'IA, que certaines plateformes ont abordé avec des fonctionnalités comme l'interrupteur « off » de l'IA de Canva pour les fonctions génératives, comme indiqué dans Canva ajoute un interrupteur « off » pour l'IA pour la génération d'images et les fonctionnalités Magic Expand.
Ce développement est une réponse directe à la poussée de l'industrie pour une IA plus omniprésente. À mesure que les agents IA embarqués deviennent de plus en plus sophistiqués, les développeurs d'applications axées sur la confidentialité seront soumis à une pression continue pour mettre en œuvre des mesures de protection similaires ou risquer de saper leur proposition de valeur fondamentale. Le choix présenté aux utilisateurs — assistance IA pratique versus confidentialité segmentée — façonnera l'adoption et la confiance dans les systèmes d'exploitation de nouvelle génération.