Джерела
Приєднуйся до спільноти
Створи безкоштовний акаунт Charmloop — без картки й без обмежень на перегляд. Почни створювати ШІ-арт за лічені хвилини.
Обговори це з
Обери компаньйона і дізнайся його думку про цю історію

Софія стежить за грошима, політикою та платформами, які визначають, що можуть створювати автори.
Створи безкоштовний акаунт Charmloop — без картки й без обмежень на перегляд. Почни створювати ШІ-арт за лічені хвилини.
Обери компаньйона і дізнайся його думку про цю історію
Signal, сервіс зашифрованих повідомлень, оновив свої додатки для Android та iOS, щоб заблокувати AI-агентам, таким як Google Gemini та Apple Siri, можливість читати або аналізувати екрани користувачів. Цей захід спрямований на зростаючу інтеграцію агентних можливостей ШІ в операційні системи, які можуть інтерпретувати інформацію на екрані, що безпосередньо впливає на конфіденційність користувачів.
Президент Signal, Мередіт Віттакер, заявила, що ці агентні функції ШІ «підривають здатність Signal самостійно гарантувати конфіденційність», згідно з The Verge. Основна проблема полягає в доступі на рівні операційної системи, який тепер мають ці AI-агенти, дозволяючи їм захоплювати та інтерпретувати вміст екрану без явної згоди користувача для кожного випадку. Для творців, які працюють з конфіденційною інформацією або особистими проектами, цей зсув у доступі ШІ на рівні ОС представляє новий кордон конфіденційності.
Функція конфіденційності увімкнена за замовчуванням для нових інсталяцій Signal, тоді як існуючим користувачам буде запропоновано її активувати. Користувачі зберігають можливість вимкнути налаштування блокування екрану в меню конфіденційності програми, якщо вони цього бажають. Ця функціональність виходить за рамки простих скріншотів, спеціально націлюючись на розширений контекстний аналіз, що виконується AI-агентами. Наприклад, Google Gemini, особливо з його нещодавньою функцією «Використання комп'ютера» на macOS, розроблений для розуміння та взаємодії з програмами та даними по всій операційній системі, що є можливістю, детально описаною раніше в Додаток Google Gemini для macOS отримує функцію «Використання комп'ютера» для автоматизації між додатками.

Налаштування конфіденційності Signal для Android, що показують опцію блокування скріншотів.
Зображення: The Verge / The Verge AI
Цей крок Signal підкреслює ширшу галузеву проблему. Оскільки моделі ШІ все більше інтегруються в операційні системи, їхня здатність спостерігати та обробляти активність користувачів розширюється. Це може включати конфіденційні дані, такі як приватні повідомлення, творчі робочі процеси або навіть власні елементи дизайну, що використовуються в генерації AI-арту. Хоча це зручно для користувачів, які хочуть безперебійної допомоги ШІ, це створює прямий виклик для програм, побудованих на міцних гарантіях конфіденційності.
Рішення Signal створює прецедент для того, як інші програми, орієнтовані на конфіденційність, можуть реагувати на поширення вбудованого ШІ. Воно вимагає чіткого розмежування між корисністю, пропонованою AI-агентами, та очікуванням користувача щодо ізоляції даних у межах конкретних програм. Напруга між відкритим доступом для AI-агентів та елементами керування конфіденційністю, специфічними для програм, ймовірно, зростатиме, оскільки Apple, Google та інші продовжуватимуть глибше вбудовувати ШІ у свої платформи. Творці, які використовують інструменти AI-арту, часто покладаються на різні програми для натхнення, довідки та співпраці; ризик того, що AI-агент ненавмисно отримає доступ або проаналізує творчі роботи чи конфіденційні підказки, підкреслює необхідність надійних елементів керування конфіденційністю. Це також повторює попередні занепокоєння щодо потенціалу ШІ для витоку даних, які деякі платформи вирішили за допомогою таких функцій, як перемикач «вимкнення» ШІ Canva для генеративних функцій, як зазначено в Canva додає перемикач «вимкнення» ШІ для функцій генерації зображень та Magic Expand.
Ця розробка є прямою відповіддю на прагнення галузі до більш повсюдного ШІ. Оскільки вбудовані AI-агенти стають все більш складними, розробники програм, орієнтованих на конфіденційність, стикатимуться з постійним тиском щодо впровадження подібних заходів безпеки або ризику підриву своєї основної ціннісної пропозиції. Вибір, представлений користувачам — зручна допомога ШІ проти сегментованої конфіденційності — формуватиме прийняття та довіру до операційних систем наступного покоління.