Maya mette alla prova ogni nuovo modello — prima i numeri, mai l'hype.
Ricevi nella tua casella le storie migliori della settimana su IA e arte con IA: selezionate, sintetiche, gratis.
Gratis. Disattiva quando vuoi.
Scegli un compagno e scopri cosa ne pensa di questa storia
Venticinque matematici di spicco hanno firmato una lettera aperta accusando i laboratori di IA di esagerare le capacità dei loro sistemi — e, così facendo, di minare la credibilità della ricerca matematica stessa.
Il detonatore immediato è stato l'annuncio di OpenAI secondo cui i suoi agenti IA avevano risolto il problema dell'esistenza e della regolarità di Navier-Stokes — uno dei sette Problemi del Millennio, ciascuno dei quali porta in palio un premio di 1 milione di dollari offerto dal Clay Mathematics Institute. L'affermazione si è diffusa rapidamente. Le reazioni dei matematici in attività si sono diffuse ancora più in fretta. Gli esperti hanno fatto notare che la presunta dimostrazione non era stata sottoposta a revisione paritaria, che passaggi chiave erano contestati e che OpenAI non aveva reso disponibile la derivazione completa per un esame indipendente. Charmloop ha seguito l'affermazione iniziale e la controversia che ha scatenato nel momento in cui si sviluppava.
Quell'episodio sembra essere stato il momento organizzativo della lettera aperta. Secondo TechCrunch, i firmatari sostengono che i lab di IA non stiano semplicemente commettendo errori in buona fede — ma che stiano sistematicamente gonfiando i risultati in modi che distorcono la comprensione pubblica di cosa costituisca una dimostrazione matematica.
L'argomento centrale della lettera riguarda gli standard epistemici, non lo scetticismo verso l'IA in generale. I firmatari non affermano che l'IA non abbia alcun ruolo nella matematica — diversi di loro utilizzano strumenti computazionali. L'obiezione è più circoscritta e più netta: quando un laboratorio annuncia un problema «risolto» senza una dimostrazione sottoposta a revisione paritaria, si appropria del prestigio della matematica aggirando il processo di verifica che conferisce significato ai risultati matematici.
Per i ricercatori, le implicazioni pratiche sono concrete. I comitati per i finanziamenti e gli amministratori universitari citano sempre più spesso gli annunci sulle capacità dell'IA quando decidono dove indirizzare le risorse. Se si percepisce che l'IA ha «risolto» problemi su cui lavorano interi dipartimenti, questa percezione — anche se errata — influisce sulle assunzioni, sui finanziamenti e sulle argomentazioni pubbliche a sostegno della ricerca matematica condotta da esseri umani.
«L'integrità della matematica dipende dalla dimostrazione, non dalla proclamazione.»
— Firmatari della lettera aperta, come riportato da TechCrunch
Per chi crea arte con l'IA, questa disputa potrebbe sembrare lontana, ma indica un problema strutturale che riguarda ogni parte dell'ecosistema dell'IA: il divario tra ciò che i fornitori annunciano e ciò che è stato effettivamente validato. La stessa dinamica si manifesta nella generazione di immagini — le affermazioni su fotorealismo, fedeltà ai prompt o accuratezza stilistica superano regolarmente quanto confermato dai test indipendenti. Quando i laboratori stabiliscono da soli i criteri del proprio successo, utenti e creatori si ritrovano a calibrare le aspettative sul materiale di marketing piuttosto che su benchmark riproducibili.
La lettera dei matematici è insolita perché proviene da un campo con criteri di successo insolitamente chiari. Una dimostrazione regge all'esame critico oppure no. La maggior parte dei domini delle capacità dell'IA — output creativi, qualità del ragionamento, coerenza artistica — non dispone di questa chiarezza, il che rende le affermazioni eccessive dei fornitori più difficili da contestare e più facili da sostenere.
Il Clay Mathematics Institute, che amministra i Premi del Millennio, dispone di un proprio processo di revisione: una soluzione proposta deve essere pubblicata su una rivista con revisione paritaria e poi sopravvivere a due anni di esame da parte degli esperti prima che venga assegnato qualsiasi premio. Nessuna dimostrazione generata dall'IA è entrata in quella procedura per nessuno dei sette problemi. Questo è il dato che conta, ed è quello che tende a essere sepolto sotto i titoli degli annunci.
Per i creatori che valutano strumenti di IA — che si tratti di generazione di immagini o di qualsiasi altra applicazione — la resistenza dei matematici è un utile promemoria a guardare oltre gli annunci di lancio e verso ciò che è stato testato, replicato e verificato da soggetti privi di interessi nel risultato. La lettera aperta potrebbe non risolvere la disputa, ma ha imposto una resa dei conti pubblica che l'industria dell'IA raramente si trova ad affrontare da parte di una comunità con un tale livello di autorevolezza tecnica.
