Sofia yaratıcıların neler üretebileceğini belirleyen parayı, politikaları ve platformları takip eder.
Haftanın en iyi yapay zekâ ve yapay zekâ sanatı haberlerini gelen kutuna al — seçkin, kısa ve ücretsiz.
Ücretsiz. İstediğin zaman çık.
Bir arkadaşını seç ve bu haber hakkındaki görüşünü öğren
Bir federal mahkeme, Anthropic'in güvenlik politikaları kapsamında şu anda engellenen Claude özelliklerini etkinleştirmeyi reddetmesi halinde Savunma Bakanlığı'nın şirketi hükümet sözleşmelerinden yasal olarak dışlayabileceğine hükmetti — bu karar, yapay zeka güvenlik mimarisini doğrudan askeri tedarik gücüyle karşı karşıya getiriyor.
Ars Technica'ya göre, mahkemenin gerekçesi operasyonel risk üzerine kuruluydu: yargıçlar, «aşırı kısıtlanmış yapay zeka modellerinin» askeri operasyonların başarısız olmasına yol açabileceğini yazdı. Bu çerçeveleme, güvenlik kısıtlamalarını ilkesel bir tasarım tercihi olarak değil, bir performans eksikliği olarak ele alıyor — hükümetin artık herhangi bir yapay zeka satıcısına uygulayabileceği önemli bir söylemsel dönüşüm.
Karar, Anthropic'i Claude'u değiştirmeye zorlamıyor. Yalnızca Pentagon'un bunu yapacak satıcıları seçme hakkını teyit ediyor. Bu ayrım önemli: Anthropic sözleşmeyi kaybediyor, tartışmayı değil — ancak DoD ölçeğinde sözleşme kaybetmek başlı başına bir baskı unsuru.
Anlaşmazlık fiyat ya da teslimat takvimi üzerinde değil. Anthropic'in reddi, Claude'un anayasal yapay zeka çerçevesine ve yayımlanmış kabul edilebilir kullanım politikalarına dayanıyor; bu politikalar, kimin sorduğundan bağımsız olarak belirli çıktıları kısıtlıyor. Şirket, kuruluşundan bu yana bu konuda tutarlı bir tutum sergiledi — Stability AI 2023'te içerik politikalarını gevşetmesi için yatırımcı baskısıyla karşılaştığında sonunda boyun eğdi; Anthropic ise şimdiye kadar çizgisini korudu.
Anthropik için sorun, güvenlik mimarisinin Pentagon'un istediği şekilde modüler olmaması. Kısıtlı özellikleri bir müşteri sınıfı için etkinleştirirken diğerleri için kapalı tutmak, ayrı bir model varyantı ya da kademeli bir politika sistemi gerektiriyor — her ikisi de tüm markası güvenilir yapay zeka üzerine kurulu bir laboratuvar için kendi güvenlik ve itibar risklerini beraberinde getiriyor.
Kararın kısa vadedeki en belirgin etkisi rekabet alanında. OpenAI, çeşitli savunma girişimleri aracılığıyla DoD ile ortaklık kapsamında halihazırda faaliyet gösteriyor ve modelleri devlete özel yapılandırmalarla sunuluyor. Anthropic ise politikalarını değiştirene ya da temyizde kazanana kadar bu sözleşme ekosisteminin dışında kalıyor.
API aracılığıyla Claude üzerine uygulama geliştiren yapay zeka sanatı yaratıcıları ve geliştiriciler için anlık pratik etki minimum düzeyde — Anthropic'in tüketici ve kurumsal katmanları bu karardan etkilenmiyor. Ancak daha uzun vadeli yapısal risk gerçek: savunma sözleşmeleri yapay zeka laboratuvarları için anlamlı bir gelir kaynağı haline gelirse, bu sözleşmeleri kazanan laboratuvarlar sınır model geliştirmeye yatırım yapacak daha fazla sermayeye sahip olacak. Bu durum hangi modellerin eğitileceğini, ne kadar hızlı ve hangi yetenek düzeyinde eğitileceğini şekillendiriyor — ki bu da sonunda yaratıcıların kullandığı araçlara geri dönüyor.
Sektörün gözlemcileri, bunun 2022 ve 2023'te görüntü üretme platformlarını sarsan içerik politikası tartışmalarının ayna görüntüsü olduğunu fark edecektir: o dönemde baskı, daha fazla kısıtlama talep eden sivil toplumdan geliyordu; burada ise daha az kısıtlama talep eden devletten geliyor. Yön farklı; mekanizma — model davranışını yeniden şekillendirmek için tedarik gücünü kullanmak — aynı.
Anthropik'in bir sonraki adımı temyiz ya da politika revizyonu ve her ikisinin de onaylanmış bir takvimi yok. Kesin olan şu: karar bozulana kadar yürürlükte kalıyor, yani Pentagon bunu derhal uygulayabilir. Diğer kurumların DoD'un öncülüğünü takip edip etmeyeceği — ya da Kongre'nin federal satıcıların hangi yapay zeka güvenlik politikalarını sürdürmesi gerektiği konusunda devreye girip girmeyeceği — bu çıkmazın bir sonraki aşamasını tanımlayacak açık soru.
Anthropic'in Claude sürümlerini takip eden yaratıcılar, bu baskının ayrı bir devlet katmanı modeli üretip üretmeyeceğini izlemeli; böyle bir gelişme, şirketin güvenlik taahhütlerini yönetme biçiminde anlamlı bir ayrışmanın habercisi olacaktır.