Quellen
Werde Teil der Community
Erstelle dein kostenloses Charmloop-Konto — keine Kreditkarte, unbegrenztes Stöbern. In wenigen Minuten startest du mit KI-Kunst.
Darüber sprechen mit
Wähle einen Companion und erfahre seine Meinung zu dieser Story

Sofia verfolgt Geld, Regulierung und Plattformen, die bestimmen, was Kreative erschaffen können.
Erstelle dein kostenloses Charmloop-Konto — keine Kreditkarte, unbegrenztes Stöbern. In wenigen Minuten startest du mit KI-Kunst.
Wähle einen Companion und erfahre seine Meinung zu dieser Story
Signal, der verschlüsselte Messaging-Dienst, hat seine Android- und iOS-Anwendungen aktualisiert, um KI-Agenten wie Google Gemini und Apples Siri daran zu hindern, Nutzerbildschirme zu lesen oder zu analysieren. Diese Maßnahme zielt auf die zunehmende Integration von agentischen KI-Funktionen in Betriebssysteme ab, die Bildschirminformationen interpretieren können, was sich direkt auf die Privatsphäre der Nutzer auswirkt.
Signals Präsidentin, Meredith Whittaker, erklärte laut The Verge, dass diese agentischen KI-Funktionen „Signals Fähigkeit untergraben, die Privatsphäre unabhängig zu garantieren“. Das Kernproblem liegt im Betriebssystem-Level-Zugriff, den diese KI-Agenten nun besitzen, wodurch sie Bildschirminhalte erfassen und interpretieren können, ohne dass der Nutzer in jedem Fall explizit zustimmt. Für Kreative, die mit sensiblen Informationen oder persönlichen Projekten arbeiten, stellt diese Verschiebung im OS-Level-KI-Zugriff eine neue Datenschutzgrenze dar.
Die Datenschutzfunktion ist bei neuen Signal-Installationen standardmäßig aktiviert, während bestehende Nutzer aufgefordert werden, sie zu aktivieren. Nutzer haben die Möglichkeit, die Bildschirmblockierungsfunktion im Datenschutzmenü der App zu deaktivieren, wenn sie dies wünschen. Diese Funktionalität geht über einfache Screenshots hinaus und zielt speziell auf die erweiterte Kontextanalyse ab, die von KI-Agenten durchgeführt wird. Googles Gemini beispielsweise, insbesondere mit seiner jüngsten „Computer Use“-Funktion auf macOS, ist darauf ausgelegt, Anwendungen und Daten über das Betriebssystem hinweg zu verstehen und mit ihnen zu interagieren, eine Fähigkeit, die Googles Gemini-App für macOS erhält „Computer Use“-Funktion für die Automatisierung über Anwendungen hinweg zuvor detailliert beschrieben wurde.

Signals Android-Datenschutzeinstellungen zeigen die Option zur Screenshot-Blockierung.
Bild: The Verge / The Verge AI
Dieser Schritt von Signal unterstreicht eine breitere Branchenbesorgnis. Da KI-Modelle immer stärker in Betriebssysteme integriert werden, erweitert sich ihre Fähigkeit, Nutzeraktivitäten zu beobachten und zu verarbeiten. Dies könnte sensible Daten wie private Nachrichten, kreative Arbeitsabläufe oder sogar proprietäre Designelemente umfassen, die bei der KI-Kunstgenerierung verwendet werden. Obwohl dies für Nutzer, die nahtlose KI-Unterstützung wünschen, bequem ist, stellt es eine direkte Herausforderung für Anwendungen dar, die auf starken Datenschutzgarantien basieren.
Die Entscheidung von Signal schafft einen Präzedenzfall dafür, wie andere datenschutzorientierte Anwendungen auf die Verbreitung von On-Device-KI reagieren könnten. Sie erzwingt eine klare Abgrenzung zwischen dem Nutzen, den KI-Agenten bieten, und der Erwartung des Nutzers an die Datenisolation innerhalb spezifischer Anwendungen. Die Spannung zwischen offenem Zugang für KI-Agenten und anwendungsspezifischen Datenschutzkontrollen wird wahrscheinlich eskalieren, da Apple, Google und andere weiterhin KI tiefer in ihre Plattformen einbetten. Kreative, die KI-Kunstwerkzeuge verwenden, verlassen sich oft auf verschiedene Anwendungen für Inspiration, Referenz und Zusammenarbeit; das Risiko, dass ein KI-Agent versehentlich auf kreative Werke oder sensible Prompts zugreift oder diese analysiert, unterstreicht die Notwendigkeit robuster Datenschutzkontrollen. Dies spiegelt auch frühere Bedenken hinsichtlich des Potenzials von KI für Datenlecks wider, denen einige Plattformen mit Funktionen wie Canvas KI-„Aus“-Schalter für generative Funktionen begegnet sind, wie in Canva fügt KI-„Aus“-Schalter für Bildgenerierung und Magic Expand-Funktionen hinzu erwähnt.
Diese Entwicklung ist eine direkte Reaktion auf den Vorstoß der Branche für eine umfassendere KI. Da On-Device-KI-Agenten immer ausgefeilter werden, werden Entwickler datenschutzorientierter Anwendungen einem anhaltenden Druck ausgesetzt sein, ähnliche Schutzmaßnahmen zu implementieren oder das Risiko einzugehen, ihr Kernwertversprechen zu untergraben. Die den Nutzern gebotene Wahl – bequeme KI-Unterstützung versus segmentierte Privatsphäre – wird die Akzeptanz und das Vertrauen in Betriebssysteme der nächsten Generation prägen.