출처
이 소식에 대해 이야기 나누기
컴패니언을 선택하고 이 소식에 대한 생각을 들어보세요

Sofia는 크리에이터의 창작을 좌우하는 자본, 정책, 플랫폼을 추적합니다.
컴패니언을 선택하고 이 소식에 대한 생각을 들어보세요
암호화 메시징 서비스인 Signal은 Android 및 iOS 애플리케이션을 업데이트하여 Google Gemini 및 Apple의 Siri와 같은 AI 에이전트가 사용자 화면을 읽거나 분석하는 것을 차단했습니다. 이 조치는 온스크린 정보를 해석할 수 있는 운영 체제 내 에이전트 AI 기능의 통합 증가를 목표로 하며, 사용자 개인 정보에 직접적인 영향을 미칩니다.
Signal의 사장인 Meredith Whittaker는 The Verge에 따르면 이러한 에이전트 AI 기능이 "Signal이 독립적으로 개인 정보를 보장하는 능력을 약화시키고 있다"고 말했습니다. 핵심 문제는 이러한 AI 에이전트가 이제 운영 체제 수준에서 액세스 권한을 가지고 있어 각 인스턴스에 대한 명시적인 사용자 동의 없이 화면 콘텐츠를 캡처하고 해석할 수 있다는 점입니다. 민감한 정보나 개인 프로젝트를 다루는 크리에이터에게 OS 수준 AI 액세스의 이러한 변화는 새로운 개인 정보 보호 영역을 제시합니다.
개인 정보 보호 기능은 새로운 Signal 설치의 경우 기본적으로 활성화되어 있으며, 기존 사용자는 활성화하라는 메시지가 표시됩니다. 사용자는 원하는 경우 앱의 개인 정보 보호 메뉴에서 화면 차단 설정을 비활성화할 수 있습니다. 이 기능은 단순한 스크린샷을 넘어 AI 에이전트가 수행하는 고급 상황별 분석을 특별히 목표로 합니다. 예를 들어, Google의 Gemini는 특히 macOS의 최근 "컴퓨터 사용" 기능과 함께 운영 체제 전반의 애플리케이션 및 데이터를 이해하고 상호 작용하도록 설계되었으며, 이는 Google Gemini 앱, macOS에서 '컴퓨터 사용' 기능으로 교차 애플리케이션 자동화 기능 추가에서 이전에 자세히 설명했습니다.

스크린샷 차단 옵션을 보여주는 Signal의 Android 개인 정보 보호 설정.
Signal의 이러한 움직임은 더 광범위한 산업적 우려를 강조합니다. AI 모델이 운영 체제에 더 많이 통합됨에 따라 사용자 활동을 관찰하고 처리하는 능력이 확장됩니다. 여기에는 비공개 메시지, 창의적인 워크플로 또는 AI 아트 생성에 사용되는 독점 디자인 요소와 같은 민감한 데이터가 포함될 수 있습니다. 원활한 AI 지원을 원하는 사용자에게는 편리하지만, 강력한 개인 정보 보호 보장을 기반으로 구축된 애플리케이션에는 직접적인 도전이 됩니다.
Signal의 결정은 다른 개인 정보 보호 중심 애플리케이션이 온디바이스 AI의 확산에 어떻게 대응할지에 대한 선례를 만듭니다. 이는 AI 에이전트가 제공하는 유틸리티와 특정 애플리케이션 내에서 데이터 격리에 대한 사용자의 기대 사이에 명확한 경계를 강요합니다. Apple, Google 및 기타 기업이 AI를 플랫폼에 더 깊이 내장함에 따라 AI 에이전트에 대한 개방형 액세스와 애플리케이션별 개인 정보 보호 제어 간의 긴장은 더욱 고조될 것입니다. AI 아트 도구를 사용하는 크리에이터는 영감, 참조 및 협업을 위해 다양한 애플리케이션에 의존하는 경우가 많습니다. AI 에이전트가 창의적인 작품이나 민감한 프롬프트에 의도치 않게 액세스하거나 분석할 위험은 강력한 개인 정보 보호 제어의 필요성을 강조합니다. 이는 또한 AI의 데이터 유출 가능성에 대한 초기 우려를 반영하며, 일부 플랫폼은 Canva, 이미지 생성 및 매직 확장 기능에 AI '끄기' 스위치 추가에서 언급된 Canva의 생성 기능용 AI '끄기' 스위치와 같은 기능으로 이를 해결했습니다.
이러한 개발은 보다 광범위한 AI를 위한 산업의 추진에 대한 직접적인 대응입니다. 온디바이스 AI 에이전트가 점점 더 정교해짐에 따라 개인 정보 보호 중심 애플리케이션 개발자는 유사한 보호 장치를 구현하거나 핵심 가치 제안을 훼손할 위험에 직면할 것입니다. 사용자에게 제시되는 선택—편리한 AI 지원 대 분할된 개인 정보 보호—은 차세대 운영 체제의 채택과 신뢰를 형성할 것입니다.