Haftanın en iyi yapay zekâ ve yapay zekâ sanatı haberlerini gelen kutuna al — seçkin, kısa ve ücretsiz.
Ücretsiz. İstediğin zaman çık.
Substack, bir bültenin metninin ne kadarının yapay zeka tarafından yazıldığını tahmin eden ve bu tahmini okuyuculara görünür kılan bir yapay zeka tespit özelliği başlattı; bu hamle, platformdaki yapay zeka destekli her yazarı yeni bir denetime tabi kılıyor.
Substack'in yeni aracı, yapay zeka yazarlık tahminini doğrudan bülten okuyucularına sunuyor.
Görsel: TechCrunch / TechCrunch AI
TechCrunch'a göre özellik, okuyuculara belirli bir sayının ne kadarının yapay zeka tarafından yazıldığına dair yüzde tabanlı bir tahmin sunuyor; bu rakam, yazı kalıplarını analiz eden tespit modellerinden elde ediliyor. Substack, hangi temel tespit teknolojisini kullandığını açıklamadı ve yüksek yapay zeka yüzdesi skorlarının herhangi bir para kazanma ya da dağıtım cezasını tetikleyip tetiklemeyeceğini de duyurmadı.
Bu belirsizlik önemli. Araştırma özetleri, başlık taslakları veya yapısal ana hatlar için yapay zeka araçlarını kullanan yazarlar — toptan üretim yerine — gerçek süreçlerini yansıtmayan oranlarda işaretlenebilir. Yapay zeka tespit araçlarının belgelenmiş bir yanlış pozitif sorunu var: Yüksek düzeyde yapılandırılmış, düzenlenmiş düzyazı, her kelimeyi bir insan yazmış olsa bile makine tarafından üretilmiş gibi okunabilir.
Substack'in hamlesi net bir örüntüye uyuyor. YouTube, para kazanma politikalarını güncelledi ve düşük çabalı yapay zeka tarafından üretilen içerikleri reklam gelirinden açıkça dışladı; Patreon ise yapay zeka eğitim kazıyıcılarını engellemek için Cloudflare ile ortaklık kurdu. Bunların her biri farklı bir baskı noktasını temsil ediyor — YouTube cüzdana vuruyor, Patreon veri hattını koruyor, Substack ise şimdi doğrudan okuyucu güvenini hedef alıyor.
Okuyucuya yönelik çerçeveleme buradaki en keskin unsur. Bir para kazanma cezası perde arkasında gerçekleşir; bir bültendeki görünür yapay zeka yüzdesi etiketi ise abonelerin yazarı tek bir cümle okumadan önce nasıl algıladığını şekillendirir. Ses ve özgünlük üzerine kitle inşa etmiş yazarlar için bu etiket — yanlış bile olsa — bir güvenilirlik riskidir.
Yazı iş akışlarının bir parçası olarak yapay zeka araçlarını kullanan içerik üreticileri için hesap değişiyor. Daha önce açıklanmamış, hafifçe düzenlenmiş yapay zeka taslakları artık görünür bir bayrak taşıyor. Yapay zekayı yapısal iskelet için kullanan ancak yoğun biçimde yeniden yazan yazarlar yine de işaretlenebilir; platformda skoru itiraz etmek ya da bağlamlandırmak için herhangi bir mekanizma bulunmuyor.
Daha akıllıca yanıt, önleyici açıklamadır. Yapay zeka destekli süreçlerini açıkça tanımlayan yazarlar — bir imza notu veya giriş paragrafında — tespit skorunu suçlama yerine doğrulama olarak yeniden çerçeveleyebilir. Bu şeffaflık hamlesi aynı zamanda açıklanmamış yapay zeka kullanımından giderek şüphelenen kitlelerde daha iyi performans gösterme eğiliminde; tespit araçları standart altyapı haline geldikçe bu şüphecilik hızlanıyor.
Substack'in özelliğinin öneri veya keşif algoritmalarını etkileyip etkilemediğini izlemek de önemli. Yüksek yapay zeka yüzdesi skorları resmi bir politika olmaksızın dağıtımı sessizce bastırıyorsa yazarların bunu bilmesinin hiçbir yolu olmaz. Platform bu soruyu kamuoyu önünde ele almadı.
Metin ve görsel üretim alanında çalışan içerik üreticileri için dinamik tanıdık: Üretimi hızlandıran araçlar aynı zamanda kaynağı daha görünür kılıyor. Yapay zeka görsel üretimi alanı yıllardır filigran ve kaynak tartışmalarıyla boğuşuyor; metin şimdi yetişiyor. Fark şu ki görsel filigranlar genellikle son kullanıcılara görünmezken Substack'in yüzde etiketi tam ön planda — yapay zeka kullanımını bir arka uç moderasyon sinyali yerine okuyucuya görünür bir özellik haline getirmeye yönelik bilinçli bir tercih.
Substack'in tespitinin pratikte ne kadar doğru olduğu, özelliğin güven inşa edip etmeyeceğini yoksa yalnızca kaygı üretip üretmeyeceğini belirleyecek. Her iki durumda da platformdaki tespit edilmemiş yapay zeka destekli bültenler dönemi fiilen sona erdi.
