Sofia segue i soldi, le politiche e le piattaforme che decidono cosa possono creare gli artisti.
Ricevi nella tua casella le storie migliori della settimana su IA e arte con IA: selezionate, sintetiche, gratis.
Gratis. Disattiva quando vuoi.
Scegli un compagno e scopri cosa ne pensa di questa storia
Il CEO di Anthropic Dario Amodei ha pubblicamente chiesto di rallentare lo sviluppo dell'IA di frontiera e ha proposto di concedere a valutatori indipendenti come METR l'accesso diretto ai modelli di Anthropic per verificare gli impegni dell'azienda in materia di sicurezza — una significativa concessione strutturale da parte del laboratorio che ha creato Claude.
Il CEO di Anthropic propone audit esterni come controllo strutturale sullo sviluppo dell'IA di frontiera.
Immagine: The Verge / The Verge AI
Il saggio di Amodei, pubblicato questa settimana, delinea un piano in tre fasi che la sua azienda definisce «pacing the frontier». Il linguaggio è deliberato: non è un appello a fermare lo sviluppo dell'IA, ma a sincronizzare la velocità con la maturità dell'infrastruttura di sicurezza. La distinzione è importante perché Anthropic è allo stesso tempo uno dei laboratori più orientati alla sicurezza e uno dei più aggressivi sul piano commerciale — Claude è un diretto concorrente di GPT-4o di OpenAI e di Gemini di Google nel mercato enterprise.
L'impegno specifico nei confronti di METR — una no-profit che valuta i modelli di IA per individuare capacità autonome pericolose — è l'elemento più concreto della proposta di Amodei. L'accesso di METR significa che ricercatori indipendenti, e non i red team interni di Anthropic, valuterebbero se i modelli Claude soddisfano le soglie di sicurezza dichiarate prima o durante il deployment. Si tratta di uno standard diverso rispetto alle valutazioni interne che la maggior parte dei laboratori pubblica attualmente.
Per i creatori che costruiscono workflow sull'API di Claude, o che utilizzano strumenti che eseguono Claude internamente, questo ha un effetto concreto a valle: se METR segnala una capacità come insufficientemente sicura, Anthropic sarebbe presumibilmente obbligata a limitarla o ritardarla. Ciò potrebbe significare rollout più lenti di nuove funzionalità multimodali, filtri di output più rigidi o limiti di capacità che non si applicano ai concorrenti che non hanno assunto lo stesso impegno.
«È giunto il momento di frenare sull'IA.»
— Dario Amodei, CEO di Anthropic
Vale la pena notare il parallelo storico. Quando Stability AI ha subito crescenti pressioni nel 2023 per la generazione di immagini non controllata e la mancanza di processi formali di sicurezza, l'assenza di qualsiasi meccanismo di responsabilità esterna ha reso quasi impossibile per l'azienda autoregolarsi in modo credibile — contribuendo alle dimissioni dei dirigenti e ai danni reputazionali che ne sono seguiti. Amodei sta, in effetti, cercando di istituzionalizzare la responsabilità che Stability non ha mai avuto, prima che una crisi analoga la imponga.
La proposta è volontaria. Amodei non sta annunciando un accordo normativo o uno standard di settore vincolante — sta pubblicando un saggio e indicando un revisore preferito. Il meccanismo di applicazione è reputazionale: se Anthropic non rispetta il proprio framework dichiarato, METR o osservatori esterni possono dirlo pubblicamente. Si tratta di una pressione significativa, ma non equivale a un obbligo legale.
Questo è rilevante per chiunque monitori quali modelli di generazione di immagini e video con l'IA rimangono senza restrizioni rispetto a quelli che subiscono limitazioni delle capacità. I laboratori che non adottano framework simili — e diversi tra i principali non hanno dato alcuna indicazione che lo faranno — non affrontano vincoli equivalenti. L'asimmetria competitiva potrebbe spingere Anthropic a muoversi con maggiore cautela sulle nuove funzionalità generative mentre i rivali procedono più rapidamente.
La ricerca sul sottoinsieme di sicurezza di Hugging Face pubblicata all'inizio di quest'anno ha dimostrato che i filtri di sicurezza mirati possono essere sufficientemente precisi da bloccare output dannosi specifici senza rifiutare in modo eccessivo intere aree tematiche — il che suggerisce che gli strumenti tecnici per questo tipo di moderazione verificata stanno migliorando. La domanda è se gli incentivi commerciali del settore consentiranno ai laboratori di utilizzarli al ritmo che Amodei sta proponendo.
Per i creatori che valutano su quali modelli costruire, il catalogo modelli di Charmloop tiene traccia delle modifiche alle capacità e all'accesso man mano che avvengono. Il prossimo indicatore concreto di se la proposta di Amodei abbia davvero peso sarà se METR pubblicherà risultati — e se il calendario dei rilasci di Anthropic cambierà visibilmente di conseguenza.