Iris yapay zekâ sanatının kültürle buluştuğu yeri yazar — stil, eser sahipliği ve önemli görseller.
Bu hikâye ilham mı verdi? Fikrini saniyeler içinde kendi yapay zekâ sanatına dönüştür — ücretsiz başla, kart gerekmez.
Ücretsiz başlaBir arkadaşını seç ve bu haber hakkındaki görüşünü öğren
Anthropic'in yeni sunulan halka arz izahnamesi, yapay zeka modellerinin, görüntü üretimi için olanlar da dahil olmak üzere, nasıl geliştirildiğini ve yaratıcıların çıktılarıyla nasıl etkileşim kurduğunu temelden yeniden şekillendirebilecek, güvenlik odaklı bir yaklaşım olan "Anayasal Yapay Zeka" stratejisi hakkında önemli detayları ortaya çıkardı.
Anayasal Yapay Zeka, özünde, modelleri önceden tanımlanmış bir dizi ilkeye dayanarak kendi çıktılarını değerlendirmeye ve revize etmeye eğitmeyi içerir. Her denetim kararı için insan geri bildirimi yerine, yapay zeka kendisi bir 'anayasa' kurallarını uygulamayı öğrenir. Bu, modellerin doğası gereği daha güvenli olacak şekilde tasarlandığı, bu ilkeleri ihlal eden yanıtları kullanıcıya ulaşmadan önce bile filtrelediği anlamına gelir. Örneğin, bir görüntü üretim modeli için bir istem potansiyel olarak zararlı içeriğe yol açabilirse, anayasal olarak eğitilmiş bir model, dahili yönergelerine dayanarak üretimi yeniden çerçevelemeye veya reddetmeye çalışacaktır.
MIT Technology Review'un bildirdiğine göre, "anayasa"nın kendisi, Isaac Asimov'un Robotik Yasalarının değiştirilmiş bir versiyonu ve BM İnsan Hakları Evrensel Beyannamesi gibi kaynaklardan ilham alan kademeli bir kurallar dizisidir. Bu katmanlı yaklaşım, yapay zekanın kabul edilebilir veya kabul edilemez bir çıktının ne olduğuna dair incelikli bir anlayış geliştirmesini sağlar. Yapay zeka sanatı ile çalışan yaratıcılar için bu, önyargılı, açık veya başka türlü sorunlu görüntüleri üretmeye daha az eğilimli modeller anlamına gelebilir, etik filtreleme yükünü son kullanıcıdan modelin mimarisine kaydırır.
"Şirket, yapay zeka modellerini insan geri bildirimiyle değil, Isaac Asimov'un Robotik Yasalarının değiştirilmiş bir versiyonu ve BM İnsan Hakları Evrensel Beyannamesi de dahil olmak üzere kademeli bir ilke dizisiyle eğitiyor."
— The MIT Technology Review
Bu kendi kendini düzeltme mekanizmasının yönlendirme üzerinde doğrudan etkileri vardır. Yaratıcılar, oldukça belirsiz veya etik olarak gri istemlerin daha tutarlı, güvenli sonuçlar verdiğini veya öngörülemeyen veya zararlı görüntüler üretmek yerine tamamen reddedildiğini görebilirler. Bu, yapay zekanın dahili etik pusulasının, güvenliğin genellikle işlem sonrası filtrelere veya kullanıcı raporlamasına dayandığı birçok mevcut modelde olduğundan daha önemli bir faktör olduğu bir geleceği işaret ediyor. Bu, etik sınırlar içinde görüntü üretim sürecini daha öngörülebilir hale getirebilir, potansiyel olarak profesyonel sanatçılar ve güvenilir, marka açısından güvenli içeriğe ihtiyaç duyan tasarımcılar için iş akışlarını kolaylaştırabilir.
Güvenliğe odaklanmak her ne kadar önemli olsa da, Anayasal Yapay Zeka yaklaşımı, yapay zeka tarafından üretilen sanatın estetik ve tematik kapsamını da etkileyebilir. Bu tür katı yönergeler altında eğitilmiş modeller, doğası gereği daha geleneksel veya 'güvenli' görsel yorumlara yönelebilir, potansiyel olarak avangart, provokatif veya sınırları zorlayan sanatsal kavramların keşfini sınırlayabilir. Daha önceki yapay zeka modellerinin sınırsız, genellikle kaotik özgürlüğüne alışkın sanatçılar, yönlendirme stratejilerini bu yeni etik çerçevelere uyarlamak zorunda kalabilirler. Bu bir takas: artan güvenilirlik ve güvenlik karşılığında potansiyel olarak kısıtlanmış yaratıcı sınırlar.
Maksimum yaratıcı özgürlüğe değer verenler için bu gelişme, yapay zeka model felsefelerindeki süregelen farklılaşmayı vurgulamaktadır. Bazı modeller ham çıktıyı ve kullanıcı kontrolünü önceliklendirirken, Anthropic'inki gibi diğerleri güvenliği çekirdeklerine daha derinlemesine yerleştirir. Yaratıcılar, araçlarını sadece görüntü kalitesi veya hızına göre değil, aynı zamanda gelişimlerini yöneten temel etik ve yaratıcı felsefelere göre seçmek zorunda kalacaklardır. Bu, farklı sanat akımlarının farklı estetik değerlere öncelik vermesi gibi, her biri farklı sanatsal ihtiyaçlara ve etik değerlendirmelere hitap eden çeşitli modeller için daha büyük bir talep yaratabilir. Bu ayrımları anlamak, yapay zeka görüntü üretimi sanatında ustalaşmak isteyen herkes için çok önemlidir. Yapay zeka ortamı geliştikçe, model seçimi giderek bir yaratıcının bu temel konulardaki duruşunu yansıtacaktır.
İzle: Anthropic'in 'Anayasal Yapay Zeka' Stratejisi
Anthropic'in bu hamlesi, sorumlu yapay zeka uygulamalarını sonradan değil, baştan itibaren yerleştirme yönündeki artan bir endüstri trendini vurgulamaktadır. Bu, yapay zeka modellerinin sadece güçlü değil, aynı zamanda kötüye kullanımı önlemeyi ve teknolojiye güveni artırmayı amaçlayan bir ahlaki pusula ile özel olarak inşa edildiği bir geleceğin sinyalini veriyor. Bu değişim, yapay zeka geliştirme için yeni bir standart belirleyebilir, diğer sağlayıcıların model eğitimi ve içerik denetimine nasıl yaklaştığını etkileyebilir ve nihayetinde yapay zeka tarafından üretilen görsel kültürü yıllarca şekillendirebilir.
