Kaynaklar
Topluluğa katıl
Ücretsiz Charmloop hesabını oluştur — kart yok, gezinmede sınır yok. Dakikalar içinde yapay zekâ sanatı yapmaya başla.
Bunu şununla konuş
Bir arkadaşını seç ve bu haber hakkındaki görüşünü öğren

Sofia yaratıcıların neler üretebileceğini belirleyen parayı, politikaları ve platformları takip eder.
Ücretsiz Charmloop hesabını oluştur — kart yok, gezinmede sınır yok. Dakikalar içinde yapay zekâ sanatı yapmaya başla.
Bir arkadaşını seç ve bu haber hakkındaki görüşünü öğren
Şifreli mesajlaşma hizmeti Signal, Google Gemini ve Apple'ın Siri'si gibi yapay zeka aracılarının kullanıcı ekranlarını okumasını veya analiz etmesini engellemek için Android ve iOS uygulamalarını güncelledi. Bu önlem, işletim sistemlerine giderek daha fazla entegre olan ve ekran üzerindeki bilgileri yorumlayabilen, kullanıcı gizliliğini doğrudan etkileyen aracı yapay zeka yeteneklerini hedefliyor.
Signal başkanı Meredith Whittaker, The Verge'e göre bu aracı yapay zeka özelliklerinin "Signal'in gizliliği bağımsız olarak garanti etme yeteneğini baltaladığını" belirtti. Temel sorun, bu yapay zeka aracılarının artık sahip olduğu işletim sistemi düzeyindeki erişimdir; bu, her örnek için açık kullanıcı onayı olmadan ekran içeriğini yakalamalarına ve yorumlamalarına olanak tanır. Hassas bilgilerle veya kişisel projelerle çalışan yaratıcılar için, işletim sistemi düzeyindeki yapay zeka erişimindeki bu değişim yeni bir gizlilik sınırı sunuyor.
Gizlilik özelliği, yeni Signal kurulumları için varsayılan olarak etkindir, mevcut kullanıcılardan ise etkinleştirmeleri istenecektir. Kullanıcılar, isterlerse uygulamanın gizlilik menüsünden ekran engelleme ayarını devre dışı bırakma seçeneğini korur. Bu işlevsellik, basit ekran görüntülerinin ötesine geçerek, yapay zeka aracılarının gerçekleştirdiği gelişmiş bağlamsal analizi özel olarak hedefler. Örneğin, Google'ın Gemini'si, özellikle macOS'taki son "Bilgisayar Kullanımı" özelliğiyle, işletim sistemi genelindeki uygulamaları ve verileri anlamak ve bunlarla etkileşim kurmak üzere tasarlanmıştır; bu yetenek Google'ın macOS için Gemini uygulaması, Uygulamalar Arası Otomasyon için 'Bilgisayar Kullanımı' Özelliğini Kazanıyor daha önce ayrıntılı olarak açıklanmıştır.

Signal'in Android gizlilik ayarları, ekran görüntüsü engelleme seçeneğini gösteriyor.
Görsel: The Verge / The Verge AI
Signal'in bu hamlesi, daha geniş bir endüstri endişesini vurgulamaktadır. Yapay zeka modelleri işletim sistemlerine daha fazla entegre oldukça, kullanıcı etkinliğini gözlemleme ve işleme yetenekleri de genişler. Bu, özel mesajlar, yaratıcı iş akışları veya yapay zeka sanatı üretiminde kullanılan tescilli tasarım öğeleri gibi hassas verileri içerebilir. Sorunsuz yapay zeka yardımı isteyen kullanıcılar için uygun olsa da, güçlü gizlilik garantileri üzerine kurulu uygulamalar için doğrudan bir zorluk teşkil etmektedir.
Signal'in kararı, diğer gizlilik odaklı uygulamaların cihaz içi yapay zekanın yaygınlaşmasına nasıl tepki verebileceği konusunda bir emsal teşkil ediyor. Bu, yapay zeka aracılarının sunduğu fayda ile kullanıcının belirli uygulamalar içindeki veri izolasyonu beklentisi arasında net bir ayrım yapılmasını zorunlu kılıyor. Yapay zeka aracılarının açık erişimi ile uygulamaya özel gizlilik kontrolleri arasındaki gerilim, Apple, Google ve diğerleri yapay zekayı platformlarına daha derinlemesine yerleştirmeye devam ettikçe muhtemelen tırmanacaktır. Yapay zeka sanatı araçlarını kullanan yaratıcılar genellikle ilham, referans ve işbirliği için çeşitli uygulamalara güvenirler; bir yapay zeka aracısının yaratıcı çalışmalara veya hassas istemlere yanlışlıkla erişme veya bunları analiz etme riski, sağlam gizlilik kontrollerine olan ihtiyacın altını çizmektedir. Bu aynı zamanda, bazı platformların Canva'nın üretken işlevler için yapay zeka "kapalı" anahtarı gibi özelliklerle ele aldığı yapay zekanın veri sızıntısı potansiyeli hakkındaki önceki endişeleri de yansıtmaktadır, Canva, Görüntü Oluşturma ve Sihirli Genişletme Özellikleri İçin Yapay Zeka 'Kapalı' Anahtarı Ekliyor makalesinde belirtildiği gibi.
Bu gelişme, endüstrinin daha yaygın yapay zeka için yaptığı baskıya doğrudan bir yanıttır. Cihaz içi yapay zeka aracıları giderek daha sofistike hale geldikçe, gizlilik odaklı uygulamaların geliştiricileri benzer güvenlik önlemleri uygulama veya temel değer tekliflerini baltalama riskiyle karşı karşıya kalacaklardır. Kullanıcılara sunulan seçim – uygun yapay zeka yardımı ile bölümlere ayrılmış gizlilik – yeni nesil işletim sistemlerinin benimsenmesini ve güvenini şekillendirecektir.