Iris racconta dove l'arte IA incontra la cultura: stile, paternità delle opere e le immagini che contano.
Ti ha ispirato questa storia? Trasforma l’idea nella tua arte con IA in pochi secondi: inizi gratis, senza carta.
Inizia gratisScegli un compagno e scopri cosa ne pensa di questa storia
Il prospetto IPO di Anthropic, recentemente depositato, ha svelato dettagli significativi sulla sua strategia di "AI Costituzionale", un approccio incentrato sulla sicurezza che potrebbe rimodellare fondamentalmente il modo in cui i modelli AI, inclusi quelli per la generazione di immagini, vengono sviluppati e come i creatori interagiscono con i loro output.
Al suo centro, l'AI Costituzionale implica l'addestramento dei modelli a valutare e rivedere i propri output basandosi su un insieme predefinito di principi. Invece del feedback umano per ogni decisione di moderazione, l'AI stessa impara ad applicare una 'costituzione' di regole. Ciò significa che i modelli sono progettati per essere intrinsecamente più sicuri, filtrando le risposte che violano questi principi ancor prima che raggiungano l'utente. Ad esempio, se un prompt per un modello di generazione di immagini potrebbe portare a contenuti potenzialmente dannosi, un modello addestrato costituzionalmente tenterebbe di riformulare o rifiutare la generazione basandosi sulle sue linee guida interne.
La "costituzione" stessa è un insieme di regole a cascata, che trae ispirazione da fonti come una versione modificata delle Leggi della Robotica di Isaac Asimov e la Dichiarazione Universale dei Diritti Umani delle Nazioni Unite, come riportato da The MIT Technology Review. Questo approccio stratificato consente all'AI di sviluppare una comprensione sfumata di ciò che costituisce un output accettabile o inaccettabile. Per i creatori che lavorano con l'arte AI, questo potrebbe tradursi in modelli meno inclini a generare immagini distorte, esplicite o altrimenti problematiche, spostando l'onere del filtraggio etico dall'utente finale all'architettura del modello.
"L'azienda addestra i modelli AI non con il feedback umano ma con un insieme di principi a cascata, inclusa una versione modificata delle Leggi della Robotica di Isaac Asimov e la Dichiarazione Universale dei Diritti Umani delle Nazioni Unite."
— The MIT Technology Review
Questo meccanismo di autocorrezione ha implicazioni dirette per il prompting. I creatori potrebbero scoprire che i prompt altamente ambigui o eticamente grigi producono risultati più coerenti e sicuri, o vengono del tutto rifiutati, piuttosto che produrre immagini imprevedibili o dannose. Suggerisce un futuro in cui la bussola etica interna dell'AI è un fattore più significativo nell'output finale rispetto a molti modelli attuali, dove la sicurezza spesso si basa su filtri di post-elaborazione o sulla segnalazione degli utenti. Ciò potrebbe rendere il processo di generazione di immagini più prevedibile entro i limiti etici, potenzialmente snellendo i flussi di lavoro per artisti e designer professionisti che necessitano di contenuti affidabili e sicuri per il marchio.
Mentre l'attenzione alla sicurezza è fondamentale, l'approccio dell'AI Costituzionale potrebbe anche influenzare la portata estetica e tematica dell'arte generata dall'AI. I modelli addestrati secondo linee guida così severe potrebbero intrinsecamente tendere a interpretazioni visive più convenzionali o 'sicure', limitando potenzialmente l'esplorazione di concetti artistici d'avanguardia, provocatori o che spingono i confini. Gli artisti abituati alla libertà illimitata, spesso caotica, dei primi modelli AI potrebbero trovarsi a dover adattare le loro strategie di prompting per allinearsi a questi nuovi framework etici. È un compromesso: maggiore affidabilità e sicurezza contro frontiere creative potenzialmente limitate.
Per coloro che apprezzano la massima libertà creativa, questo sviluppo evidenzia la continua divergenza nelle filosofie dei modelli AI. Alcuni modelli danno priorità all'output grezzo e al controllo dell'utente, mentre altri, come quelli di Anthropic, incorporano la sicurezza più in profondità nel loro nucleo. I creatori dovranno sempre più scegliere i loro strumenti non solo in base alla qualità o alla velocità dell'immagine, ma anche in base alle filosofie etiche e creative sottostanti che ne governano lo sviluppo. Ciò potrebbe portare a una maggiore domanda di una gamma diversificata di modelli, ciascuno in grado di soddisfare diverse esigenze artistiche e considerazioni etiche, proprio come i diversi movimenti artistici danno priorità a valori estetici distinti. Comprendere queste distinzioni è fondamentale per chiunque voglia padroneggiare l'arte della generazione di immagini AI. Man mano che il panorama dell'AI si evolve, la scelta del modello rifletterà sempre più la posizione di un creatore su queste questioni fondamentali.
Guarda: La strategia "AI Costituzionale" di Anthropic
Questa mossa di Anthropic sottolinea una crescente tendenza del settore verso l'incorporazione di pratiche AI responsabili fin dalle fondamenta, piuttosto che come un ripensamento. Segnala un futuro in cui i modelli AI non sono solo potenti, ma anche costruiti appositamente con una bussola morale, mirando a prevenire l'uso improprio e a promuovere la fiducia nella tecnologia. Questo cambiamento potrebbe stabilire un nuovo standard per lo sviluppo dell'AI, influenzando il modo in cui altri fornitori approcciano l'addestramento dei modelli e la moderazione dei contenuti, e in definitiva plasmando la cultura visiva generata dall'AI per gli anni a venire.
