Sofia segue i soldi, le politiche e le piattaforme che decidono cosa possono creare gli artisti.
Ricevi nella tua casella le storie migliori della settimana su IA e arte con IA: selezionate, sintetiche, gratis.
Gratis. Disattiva quando vuoi.
Scegli un compagno e scopri cosa ne pensa di questa storia
Gli atti giudiziari appena desecretati nella causa New York Times contro OpenAI rivelano che sia OpenAI sia Microsoft hanno documentato privatamente — nei propri archivi interni — che le loro pratiche di addestramento dell'IA rischiavano di creare un «doom loop» in grado di degradare il web aperto, e che almeno un dirigente di Microsoft ha definito lo scraping «il più grande furto di lavoro nella storia dell'umanità».
L'espressione «doom loop» compare nella documentazione interna delle aziende, non nel ricorso del Times. La logica è lineare e autoincriminante: i sistemi di IA rastrellano il web per addestrarsi sui contenuti, poi restituiscono le risposte direttamente agli utenti invece di indirizzarli ai siti di origine, il che priva gli editori del traffico e dei ricavi pubblicitari necessari per produrre nuovi contenuti, degradando così il web di cui quegli stessi sistemi di IA hanno bisogno per addestrarsi in futuro. Il loop si stringe a ogni generazione di modelli.
Una pagina degli atti desecretati che mostra il Director of Applied Science di Microsoft descrivere l'acquisizione dei dati dell'IA come 'un furto sbalorditivo di proporzioni senza precedenti'.
Immagine: The Verge / The Verge AI
La deposizione di Satya Nadella è particolarmente incisiva. Secondo The Verge, Nadella ha concordato sotto giuramento che le interazioni con i chatbot «sostituivano» la visita ai siti web sottostanti — una concessione che supporta direttamente la teoria del danno del Times. Non si tratta di un'allegazione contenuta nel ricorso di un attore; è il CEO del convenuto che parla a verbale.
Dal lato di OpenAI, i documenti interni mostrano che l'azienda sapeva già nel 2021 che la sua API potrebbe riprodurre contenuti esistenti alla lettera, e che prevenire la memorizzazione era importante «per la conformità al fair use e per ridurre al minimo» l'esposizione legale. L'azienda ha anche rilevato di aver aggirato i paywall e violato i termini di servizio nell'acquisizione dei dati di addestramento — e che alcuni individui all'interno dell'organizzazione consideravano tali problemi costi accettabili.
«Questo caso riguarda, come ha detto il Director of Applied Science di Microsoft, 'un furto sbalorditivo di proporzioni senza precedenti'; forse il 'più grande furto di lavoro nella storia dell'umanità'.»
— Atto giudiziario, NYT contro OpenAI
Non è la prima volta che una grande azienda di IA si trova ad affrontare un regolamento di conti sulla provenienza dei dati di addestramento. Quando Stability AI ha dovuto far fronte ad accuse simili nel 2023, la posizione dell'azienda era essenzialmente che lo scraping fosse un territorio legalmente irrisolto. Ciò che rende la situazione di OpenAI e Microsoft strutturalmente diversa è che il linguaggio compromettente proviene dall'interno — da dirigenti e scienziati applicati, non da esperti avversariali.
Un atto desecretato che mostra il riconoscimento da parte di OpenAI nel 2021 che la sua API potrebbe riprodurre contenuti esistenti alla lettera, segnalato come problema di conformità al fair use.
Immagine: The Verge / The Verge AI
Per i creatori di arte con l'IA, le implicazioni a valle sono concrete. I dataset di addestramento alla base dei modelli di generazione di immagini si trovano di fronte a domande analoghe riguardo allo scraping di contenuti visivi dal web senza compensazione. Se il caso NYT produce una sentenza — o un accordo con termini di licenza — che stabilisce un precedente per il testo, ci si aspetta che tale quadro venga applicato ai dati di immagini quasi immediatamente. Le piattaforme che si sono già orientate verso dati di addestramento su licenza o sintetici acquisirebbero un vantaggio strutturale; quelle che si affidano ancora a scraping web non filtrato si troverebbero di fronte alla stessa esposizione alla responsabilità attualmente in discussione a Manhattan.
Il catalogo dei modelli disponibili di Charmloop riflette già in parte questo cambiamento, con i fornitori che distinguono sempre più tra modelli addestrati su dataset su licenza rispetto a quelli ottenuti tramite scraping — una distinzione che sta per diventare rilevante legalmente, non solo eticamente.
La nostra precedente copertura degli atti Microsoft non oscurati ha illustrato le prime divulgazioni di documenti; questi atti appena desecretati vanno oltre, inserendo direttamente nel registro del tribunale l'inquadratura del «doom loop» e i riconoscimenti sulla memorizzazione.
Il caso non ha ancora una data di processo fissata. Il prossimo momento determinante è la decisione del tribunale sulle istanze di giudizio sommario — una decisione che costringerà a un accordo o porterà i documenti sul «doom loop» davanti a una giuria.