Theo trasforma le notizie sull'IA in cose da provare già stasera.
Esplora i modelli e gli stili dietro storie come questa: account gratuito e galleria al volo.
Esplora il catalogoScegli un compagno e scopri cosa ne pensa di questa storia
Google ha confermato che il suo modello IA Gemini ha portato a termine con successo veri cyberattacchi contro aziende esterne durante test di ricerca sulla sicurezza controllati — una scoperta che ha implicazioni dirette su come gli strumenti IA vengono valutati, limitati e considerati affidabili nei flussi di lavoro creativi e professionali.
Secondo TechCrunch, Gemini è ora tra gli ultimi modelli IA di frontiera confermati ad aver hackerato con successo aziende esterne in test controllati. Gli attacchi erano reali — mirati a infrastrutture aziendali effettive, non honeypot costruiti appositamente — il che rende la conferma più significativa dei tipici esercizi di red-team condotti contro ambienti fittizi.
La posizione di Google è che il modello si è comportato correttamente: ha completato il compito assegnato e si è fermato. L'azienda ha detto che Gemini aveva «agito appropriatamente» terminando ogni hack immediatamente. Questa formulazione è importante, perché traccia una linea tra capacità e intenzione — Gemini potrebbe spingere oltre, ma è stato progettato per non farlo.
La distinzione è significativa per chiunque pensi a come vengono governati i modelli IA. Un modello che può completare autonomamente un compito di sicurezza offensiva e poi auto-terminarsi è un profilo di rischio diverso da uno che fallisce completamente o continua a intensificare. Segnala anche che le valutazioni delle capacità per i modelli di frontiera ora includono routinariamente compiti offensivi dal vivo, non solo benchmark teorici.
Per i creatori di AI-art, la posta in gioco pratica immediata non riguarda l'essere hackerati dal proprio generatore di immagini. Riguarda la governance dei modelli più in generale — specificamente, cosa i laboratori di frontiera sono disposti a far fare ai loro modelli, e come queste decisioni si ripercuotono nelle API, piattaforme e pipeline che alimentano gli strumenti creativi.
Considera un concept artist che usa uno strumento basato su Gemini per generare in batch riferimenti ambientali per uno studio di giochi. L'involucro delle capacità del modello sottostante — e quanto strettamente è limitato — è stabilito da decisioni prese esattamente in questo tipo di valutazioni di sicurezza. Quando un laboratorio conferma che il suo modello può completare autonomamente compiti offensivi e inquadra questo come comportamento accettabile, sta anche segnalando la sua filosofia su dove tracciare i limiti delle capacità su tutta la linea.
Questa filosofia influenza cosa viene filtrato, cosa viene permesso, e quanto aggressivamente i modelli vengono aggiornati quando fanno qualcosa di inaspettato. La stessa postura di governance che modella il comportamento di hacking di Gemini modella come gestisce un prompt che gli chiede di renderizzare una scena moralmente ambigua, aggirare un filtro di contenuto, o interpretare un'istruzione limite.
Se stai scegliendo tra strumenti di generazione basati su Gemini e alternative, vale la pena osservare come Google continua a caratterizzare questi risultati. «Ha agito appropriatamente» è un inquadramento fiducioso — ma conferma anche che la capacità è reale e presente, non ipotetica.
Una schermata di notifica in stile avviso, che illustra il tipo di alert di sistema che segue un'intrusione rilevata — lo scenario che Gemini ha innescato nei test controllati.
Immagine: TechCrunch / TechCrunch AI
Gemini non è solo in questo. Multipli modelli di frontiera sono ora confermati per completare compiti di sicurezza offensiva reali in condizioni controllate. Questo sta diventando una parte standard della valutazione delle capacità piuttosto che un'anomalia — e i risultati vengono sempre più divulgati, non nascosti.
Questa trasparenza è utile. Significa che il panorama delle capacità è almeno parzialmente visibile, anche se la metodologia di valutazione completa non lo è. Per i creatori che si preoccupano di quali modelli stanno sotto i loro strumenti — e le scelte disponibili nei cataloghi di modelli IA si stanno espandendo rapidamente — queste divulgazioni sono uno dei pochi segnali concreti disponibili su cosa un modello può effettivamente fare ai suoi limiti.
La domanda pratica non è se Gemini ti hackererà. È se i framework di governance che vengono costruiti attorno a queste capacità stanno tenendo il passo con i modelli stessi. Basandosi su quanto è stato divulgato finora, quella corsa è ancora molto aperta. Osservare come Google risponde al controllo di follow-up su questi test sarà più informativo della conferma iniziale.
