Источники
Присоединяйся к сообществу
Создай бесплатный аккаунт Charmloop — без карты и без ограничений на просмотр. Начни создавать ИИ-арт за пару минут.
Обсуди это с
Выбери компаньона и узнай его мнение об этой истории

София следит за деньгами, политикой и платформами, которые определяют, что могут создавать авторы.
Создай бесплатный аккаунт Charmloop — без карты и без ограничений на просмотр. Начни создавать ИИ-арт за пару минут.
Выбери компаньона и узнай его мнение об этой истории
Signal, сервис зашифрованных сообщений, обновил свои приложения для Android и iOS, чтобы блокировать AI-агентам, таким как Google Gemini и Apple Siri, чтение или анализ экранов пользователей. Эта мера направлена на растущую интеграцию агентских возможностей ИИ в операционные системы, которые могут интерпретировать информацию на экране, что напрямую влияет на конфиденциальность пользователей.
Президент Signal, Мередит Уиттакер, заявила, что эти агентские функции ИИ «подрывают способность Signal самостоятельно гарантировать конфиденциальность», согласно The Verge. Основная проблема заключается в доступе на уровне операционной системы, которым теперь обладают эти AI-агенты, позволяя им захватывать и интерпретировать содержимое экрана без явного согласия пользователя для каждого случая. Для создателей, работающих с конфиденциальной информацией или личными проектами, этот сдвиг в доступе ИИ на уровне ОС представляет собой новый рубеж конфиденциальности.
Функция конфиденциальности включена по умолчанию для новых установок Signal, в то время как существующим пользователям будет предложено активировать ее. Пользователи сохраняют возможность отключить настройку блокировки экрана в меню конфиденциальности приложения, если они предпочитают. Эта функциональность выходит за рамки простых скриншотов, специально нацеливаясь на расширенный контекстный анализ, выполняемый AI-агентами. Например, Google Gemini, особенно с его недавней функцией «Использование компьютера» на macOS, разработан для понимания и взаимодействия с приложениями и данными по всей операционной системе, что ранее подробно описывалось в статье Приложение Google Gemini для macOS получает функцию «Использование компьютера» для автоматизации между приложениями.

Настройки конфиденциальности Signal для Android, показывающие опцию блокировки скриншотов.
Изображение: The Verge / The Verge AI
Этот шаг Signal подчеркивает более широкую отраслевую проблему. По мере того как модели ИИ все больше интегрируются в операционные системы, их способность наблюдать и обрабатывать активность пользователей расширяется. Это может включать конфиденциальные данные, такие как личные сообщения, творческие рабочие процессы или даже проприетарные элементы дизайна, используемые в генерации AI-арта. Хотя это удобно для пользователей, которым нужна бесшовная помощь ИИ, это представляет собой прямой вызов приложениям, построенным на строгих гарантиях конфиденциальности.
Решение Signal создает прецедент для того, как другие приложения, ориентированные на конфиденциальность, могут реагировать на распространение ИИ на устройствах. Оно заставляет четко разграничивать полезность, предлагаемую AI-агентами, и ожидание пользователя изоляции данных в конкретных приложениях. Напряжение между открытым доступом для AI-агентов и контролем конфиденциальности для конкретных приложений, вероятно, будет нарастать по мере того, как Apple, Google и другие продолжают внедрять ИИ глубже в свои платформы. Создатели, использующие инструменты AI-арта, часто полагаются на различные приложения для вдохновения, ссылок и сотрудничества; риск того, что AI-агент непреднамеренно получит доступ или проанализирует творческие работы или конфиденциальные запросы, подчеркивает необходимость надежных средств контроля конфиденциальности. Это также перекликается с более ранними опасениями по поводу потенциальной утечки данных ИИ, которую некоторые платформы решили с помощью таких функций, как «выключатель» ИИ в Canva для генеративных функций, как отмечено в Canva добавляет «выключатель» ИИ для генерации изображений и функций Magic Expand.
Это развитие является прямым ответом на стремление отрасли к более повсеместному ИИ. По мере того как AI-агенты на устройствах становятся все более сложными, разработчики приложений, ориентированных на конфиденциальность, будут сталкиваться с постоянным давлением по внедрению аналогичных мер безопасности или рискуют подорвать свое основное ценностное предложение. Выбор, представленный пользователям — удобная помощь ИИ против сегментированной конфиденциальности — будет формировать принятие и доверие к операционным системам следующего поколения.