Bu makale AI desteğiyle yazıldı ve Charmloop yayın ekibi tarafından incelendi.
Böyle hikâyelerin ardındaki modelleri ve stilleri keşfet — ücretsiz hesap, anında galeri.
Anthropic'in en gelişmiş AI modelleri olan Fable 5 ve Mythos 5'in hükümet emriyle ani kapatılması, The Wall Street Journal'ın haberine göre Amazon'un dahili siber güvenlik araştırması ve Amazon CEO'su Andy Jassy ile Beyaz Saray arasındaki doğrudan iletişimden kaynaklandı.
Anthropic'i Cuma günü her iki modele küresel erişimi tamamen kesmek zorunda bırakan Ticaret Bakanlığı direktifi, Amazon'un ulusal güvenlik riskleri oluşturabilecek potansiyel güvenlik açıklarını keşfetmesiyle tetiklendi. Araştırmanın yetkililerin "jailbreak" olarak adlandırdığı — modellerin güvenlik koruyucularını aşmanın bir yolu — şeyi tespit ettiği bildirildi.
Görsel üretim için bu gelişmiş modellere güvenen yaratıcılar için ani etki açık: en sofistike AI sistemlerinden ikisi artık tamamen kullanılamıyor. Fable 5 ve Mythos 5, karmaşık görsel akıl yürütme ve nüanslı sanatsal yorumlama için en yetenekli modeller arasındaydı, bu da kayıplarını profesyonel iş akışları için özellikle önemli kılıyor.
Kapatma sadece doğrudan API erişimini değil, bu modeller üzerine kurulu tüm ticari uygulamaları da etkiliyor. Fable 5 veya Mythos 5'i üretim iş akışlarına entegre eden yaratıcıların derhal alternatif modellere geçmesi gerekecek.
Anthropic hükümetin kararına güçlü bir şekilde karşı çıkarak "dar bir potansiyel jailbreak'in yüz milyonlarca insana dağıtılmış ticari bir modelin geri çağrılması için sebep olmaması gerektiğini" belirtti. AI güvenlik araştırması ile ticari dağıtım arasındaki bu gerilim, teknoloji şirketleri, hükümet gözetimi ve model erişilebilirliği arasındaki karmaşık ilişkiyi vurguluyor.
Önemli bulut altyapısı ortaklıkları ve hükümet sözleşmeleri olan Amazon'un dahil olması başka bir karmaşıklık katmanı ekliyor. Amazon'un araştırması, Anthropic'in ya keşfetmediği ya da model geri çekilmesini gerektirecek kadar ciddi görmediği güvenlik açıklarını tespit etmiş görünüyor.
Bu olay AI yaratıcıları için endişe verici bir emsal oluşturuyor. Bir teknoloji devinin dahili araştırması rakibinin modellerine karşı hükümet eylemini tetikleyebiliyorsa, bu AI model erişiminin istikrarı hakkında sorular doğuruyor. Belirli modeller etrafında iş kuran yaratıcılar artık uzun vadeli erişilebilirlik konusunda ek belirsizlikle karşı karşıya.
Kapatma ayrıca gelişmiş AI yeteneklerinin pazardan ne kadar hızlı kaybolabileceğini gösteriyor. Kullanımdan kaldırılan sürümlerin genellikle erişilebilir kaldığı geleneksel yazılımın aksine, AI modelleri derhal etkili olacak şekilde tamamen kapatılabilir.
Fable 5 ve Mythos 5 kullanılamaz durumdayken, yaratıcılar model seçeneklerini değerlendirmeli ve araç setlerini birden fazla sağlayıcı arasında çeşitlendirmeyi düşünmelidir. Ne kadar yetenekli olursa olsun tek bir gelişmiş modele güvenmek artık daha önce varsayıldığından daha riskli görünüyor.
Olay ayrıca AI sağlayıcılarının kurumsal ilişkilerini ve hükümet bağlantılarını anlamanın önemini vurguluyor. Amazon'un hem bulut sağlayıcısı hem de AI araştırmacısı olarak ikili rolü, hükümet bağlarıyla birleşince, dahili araştırmanın rakibinin ürün erişilebilirliğini doğrudan etkileyebileceği benzersiz bir durum yarattı.
Şimdilik yaratıcılar, sektör rakipleri tarafından tespit edilen ve hükümet kanalları aracılığıyla tırmandırılan güvenlik endişeleri nedeniyle en gelişmiş ticari AI modellerinin bile bir gecede kaybolabileceği bir ortama uyum sağlamalı.
