Elias spiega la ricerca dietro i titoli con un linguaggio chiaro.
Guide passo passo su prompt, stili e su come ottenere il massimo dalla generazione di immagini con IA.
Leggi le guideScegli un compagno e scopri cosa ne pensa di questa storia
Nvidia ha rilasciato Personal AI Router (PAIR), uno strumento software gratuito e open-source che connette più computer sulla rete domestica in un pool di inferenza locale condiviso — permettendo di eseguire modelli linguistici e di immagine più grandi di quanto qualsiasi singola macchina potrebbe gestire da sola.
PAIR agisce come un livello di orchestrazione locale — software che si posiziona tra il tuo esecutore di modelli (Ollama, LM Studio, o un endpoint API compatibile) e i modelli stessi. Quando invii un prompt, PAIR controlla quale macchina connessa ha calcolo disponibile e instrada il lavoro lì, o lo divide tra diversi nodi se il modello lo supporta. Pensalo come un direttore del traffico per i cicli GPU inutilizzati della tua rete domestica.
Il risultato pratico per i creatori di AI-art è significativo. Eseguire un modello di testo da 70 miliardi di parametri localmente oggi richiede tipicamente o una singola GPU con 40 GB o più di VRAM — hardware costoso — o accettare generazione lenta, solo CPU. PAIR permette a un creatore con, diciamo, un desktop RTX 4070 e un laptop RTX 3060 più vecchio di combinare i loro budget VRAM, rendendo accessibili dimensioni di modello precedentemente ineseguibili senza una fattura API cloud.
Interfaccia grafica di Nvidia PAIR che visualizza le macchine domestiche connesse e il routing di inferenza attivo.
Immagine: The Verge / The Verge AI
Sia Ollama che LM Studio espongono un endpoint API locale compatibile con OpenAI — un'interfaccia standardizzata con cui molte pipeline di generazione immagini e strumenti di prompt possono già comunicare. PAIR si inserisce a quello stesso livello, quindi qualsiasi workflow già puntato a un server Ollama locale dovrebbe funzionare con PAIR davanti senza riscrivere prompt o cambiare configurazioni di modello. La transizione è più simile a un cambio di impostazioni che a una revisione completa del workflow.
Un prompt instradato attraverso PAIR al modello Hermes, mostrando come lo strumento distribuisce il lavoro di inferenza.
Immagine: The Verge / The Verge AI
Per i creatori che eseguono pipeline di generazione immagini che utilizzano un LLM locale per l'espansione di prompt o il raffinamento di didascalie — un pattern comune nei workflow ComfyUI — questo potrebbe significare tempi di risposta più veloci su quel passaggio di preprocessing, poiché la GPU di una seconda macchina lo gestisce mentre la GPU primaria rimane focalizzata sulla diffusione.
Secondo The Verge, PAIR supporta anche i MacBook come nodi, il che amplia il pool di macchine che un creatore potrebbe già possedere e può contribuire al cluster.
L'architettura di Nvidia PAIR, illustrando come desktop, laptop e altri dispositivi formano un pool di calcolo locale unificato.
Immagine: The Verge / The Verge AI
Nvidia naturalmente ottimizza lo scheduling di PAIR per le proprie GPU RTX — la stessa famiglia di hardware coperta nel lancio di Nvidia DLSS 5 all'inizio di quest'anno. Le schede RTX beneficiano di inferenza accelerata CUDA, quindi elaboreranno token e latenti più velocemente per watt rispetto ai nodi solo CPU. Detto questo, le macchine solo CPU non sono escluse; si uniscono al pool come contributori a priorità più bassa, il che è utile per scaricare compiti di preprocessing più piccoli.
Gli utenti di GPU AMD e Intel sono in una posizione meno chiara. La natura open-source di PAIR significa che potrebbero emergere driver della community per ROCm o OpenCL, ma Nvidia non ha confermato il supporto di prima parte per architetture GPU concorrenti al lancio.
Per i creatori che stanno già esplorando l'esecuzione di modelli locali attraverso le guide Charmloop, PAIR rappresenta un percorso concreto per scalare senza nuovi acquisti hardware. Il limite su quello che puoi eseguire localmente si è appena spostato — quanto lontano dipende da quante macchine hai inattive sulla tua rete.
