Elias manşetlerin arkasındaki araştırmaları sade bir dille açıklar.
Bu hikâye ilham mı verdi? Fikrini saniyeler içinde kendi yapay zekâ sanatına dönüştür — ücretsiz başla, kart gerekmez.
Ücretsiz başlaBir arkadaşını seç ve bu haber hakkındaki görüşünü öğren
OpenAI, "sınır modelleri" olarak adlandırılan en gelişmiş yapay zeka modellerini canlı internet verileri üzerinde eğitmeyi durdurdu ve bunun yerine izole, çevrimdışı bir test ortamına geçti. OpenAI mühendisinden gelen önceki açıklamaların böyle bir çözümün yetersiz olacağını öne sürmesinin ardından duyurulan bu karar, eğitim sırasında gerçek zamanlı web etkileşimiyle ilişkili önemli güvenlik ve emniyet risklerini azaltmayı amaçlıyor. Yapay zeka sanatı yaratıcıları için bu değişiklik, gelecekteki modellerin güncel olaylar veya gerçek zamanlı bilgiler için yönlendirildiğinde farklı davranışlar sergileyebileceği anlamına gelebilir, çünkü temel bilgi tabanları canlı web'den sürekli güncellenmek yerine statik olacaktır. Bu, modellerin çevrimiçi olarak mevcut en yeni verilerden potansiyel olarak öğrenebildiği önceki yaklaşımlarla çelişmektedir.
Daha önce, yapay zeka modelleri veri toplamak için eğitim aşamalarında bazen canlı internete erişiyordu; bu süreç onları öngörülemeyen güvenlik açıklarına maruz bırakabilir veya harici sistemlerle istenmeyen şekillerde etkileşime girmelerine izin verebilirdi. OpenAI'nin yeni yaklaşımı, bu gelişmiş modellerin hala geniş bir web içeriği deposuyla etkileşime girebildiği, ancak yalnızca dizine eklenmiş ve önbelleğe alınmış içerikle etkileşime girebildiği çevrimdışı bir test ortamı oluşturmayı içeriyor. Bu, modellerin internetin sürekli değişen canlı akışından ziyade bir anlık görüntüsünden öğrendiği anlamına geliyor. Bu kontrollü ortam, harici sistemleri etkileme riskini önlemek için tasarlanmıştır ve bir modelin geliştirilmesi sırasında gerçek dünya üzerinde potansiyel olarak etki yaratma endişelerini giderir.
Görüntü oluşturma için yapay zeka modellerini kullanan yaratıcılar için bu değişiklik önemlidir, çünkü modellerin dünya anlayışı eğitim sırasında şekillenir. Statik, önbelleğe alınmış bir veri kümesi üzerinde eğitilmiş bir model, trendler, güncel olaylar veya yakın zamanda yayınlanmış görsel stiller hakkında en güncel bilgilere sahip olmayabilir. İnce ayar ve alma-artırılmış üretim (RAG) eğitim sonrası daha güncel veriler ekleyebilse de, çekirdek modele gömülü temel bilgi bu çevrimdışı eğitim metodolojisini yansıtacaktır. Bu, modellerin çok yeni fenomenlerle ilgili istemleri yorumlama biçiminde ince ama önemli bir farklılığa yol açabilir, belki de kullanıcıdan ek, açık bir girdi olmadan son dakika haberlerini veya geçici internet kültürünü yansıtan görüntüler oluşturmada daha az yetenekli olmalarına neden olabilir.
OpenAI'nin bu hamlesi, canlı internet erişiminin sunabileceği sürekli, gerçek zamanlı öğrenme yetenekleri yerine güvenlik ve kontrolün önceliklendirildiğini gösteriyor. Görüntü oluşturma için kullanılanlar gibi halka açık modeller üzerindeki anlık etki belirgin olmasa da, gelecekteki daha güçlü modellerin nasıl geliştirileceği konusunda bir emsal teşkil ediyor. İçeriği güncel veya çok yeni gelişmelerden haberdar olması gereken yapay zekaya güvenen yaratıcılar, modelin en son web verilerinden öğrendiğini varsaymak yerine, istemlerine daha spesifik, güncel bilgiler sağlamak zorunda kalabilirler. Bu, hızla gelişen konulara dayalı içerik oluşturmayı içeren iş akışlarını etkileyebilir.
Karar aynı zamanda yapay zeka modellerine kapsamlı öğrenme için geniş bilgi erişimine izin verme ile potansiyel riskleri kontrol altına alma ihtiyacı arasındaki devam eden gerilimi de vurgulamaktadır. OpenAI'nin çevrimdışı eğitim rejimine olan bağlılığı, sorumlu yapay zeka geliştirme ve dağıtımı hakkındaki tartışmalar da dahil olmak üzere yapay zeka güvenliği üzerindeki artan inceleme dönemini takip ediyor. Bu, büyük yapay zeka geliştiricilerinin en güçlü modelleri için öngörülebilir ve güvenli davranış sağlamak amacıyla kontrollü ortamlara giderek daha fazla odaklandığı daha geniş bir endüstri trendinin parçasıdır. Bu değişiklik, diğer geliştiricilerin kendi model eğitim stratejilerine nasıl yaklaştığını da etkileyebilir ve potansiyel olarak endüstri genelinde daha izole eğitim ortamlarına yol açabilir. Daha geniş düzenleyici ortamla ilgilenenler için, OpenAI'nin yapay zeka güvenliği ve geliştirme etrafındaki politika tartışmalarına katılımını gösteren Washington D.C.'deki rekor lobi çabalarını daha önce ele almıştık. Yaratıcılar, çeşitli eğitim yaklaşımlarının üretken çıktıda nasıl tezahür ettiğini anlamak için Charmloop model kataloğundaki farklı modelleri ve yeteneklerini keşfedebilirler.
