AnswersPublished22 sources
Far Labs ed Evolving Edge vogliono trasformare i PC inutilizzati in infrastruttura AI
Far Labs ed Evolving Edge stanno cercando di riunire PC da gaming e server domestici inattivi per l’inferenza AI, soprattutto con modelli open source più piccoli. Il modello potrebbe ridurre la dipendenza dai data center centralizzati, ma i proprietari devono considerare elettricità, raffreddamento, usura, deprezzam...
Pubblicato daModificato con GPT-5.6 LunaImmagini generate con GPT Image 1.5
Research answer
Key takeaways
- Far Labs ed Evolving Edge stanno cercando di riunire PC da gaming e server domestici inattivi per l’inferenza AI, soprattutto con modelli open source più piccoli.
- Il modello potrebbe ridurre la dipendenza dai data center centralizzati, ma i proprietari devono considerare elettricità, raffreddamento, usura, deprezzamento dell’hardware, sicurezza e utilizzo effettivo.
- Salad è il confronto più concreto: gestisce già un marketplace centralizzato di GPU consumer, mentre le nuove piattaforme devono ancora dimostrare affidabilità, domanda, pagamenti trasparenti e prestazioni su larga sc...
AI Prompt
openai.comCreate a landscape editorial hero image for this Studio Global article: How are startups such as Abu Dhabi-based Far Labs and Austin-based Evolving Edge attempting to turn idle gaming PCs and home servers into a. Article summary: Far Labs and Evolving Edge are pursuing an “Airbnb for inference” model: recruit owners of idle gaming PCs and home servers, pay them to supply GPU capacity, and use that capacity mainly for smaller open-source models ra. Topic tags: general, academic, general web, user generated, documentation. Style: premium digital editorial illustration, source-backed research mood, clean composition, high detail, modern web publication hero. Use reference image context only for broad subject, composition, and topical grounding; do not copy the exact image. Avoid: logos, brand marks, copyrighted characters, real person likenesses, fake screenshots, UI text, readable text, wa
Un PC da gaming inutilizzato viene normalmente considerato una macchina personale. Far Labs ed Evolving Edge vogliono invece trattarlo come una piccola infrastruttura distribuita: collegare i computer dei proprietari, usare la capacità libera di GPU e CPU per elaborare richieste AI e pagare gli operatori per il calcolo verificato. L’obiettivo è l’inferenza, cioè l’esecuzione di un modello già addestrato per produrre una risposta, non l’addestramento di modelli di frontiera. 2
6
L’idea è semplice solo in apparenza. La vera sfida non consiste nel verificare se una GPU domestica sia in grado di eseguire un modello open source. Bisogna capire se migliaia di macchine diverse, con disponibilità intermittente e connessioni domestiche, possano offrire un servizio sicuro, rapido e prevedibile a un prezzo conveniente sia per i clienti sia per i proprietari dei computer.
Come funziona il modello di inferenza distribuita
Un sistema di questo tipo ha generalmente tre componenti: la richiesta del cliente, un livello di orchestrazione che decide dove eseguirla e un programma installato sul computer ospite che svolge il lavoro. Il gestore deve abbinare ogni attività all’hardware disponibile considerando dimensioni del modello, memoria, latenza, affidabilità della connessione e limiti imposti dal proprietario.
Far Labs: instradamento e distribuzione dei modelli
FAR AI, il livello di calcolo distribuito di Far Labs, si presenta come una rete che collega GPU comuni e indirizza le richieste in tempo reale verso i nodi più adatti. La società punta a sostenere carichi interattivi senza dipendere interamente da cluster centralizzati. 11
12
Secondo il materiale disponibile, lo scheduler di Far Labs può suddividere il lavoro di un modello tra più macchine quando una singola scheda non dispone della memoria necessaria per contenerlo interamente. Questo amplierebbe il numero di computer utilizzabili, ma aggiungerebbe anche coordinamento e comunicazioni tra i nodi. Ogni passaggio ulteriore può incidere sui tempi di risposta e sull’affidabilità.
Far Labs ha indicato per il futuro un obiettivo di latenza inferiore ai 100 millisecondi per l’inferenza interattiva. Si tratta di un obiettivo dichiarato, non di una prova di prestazioni end-to-end già raggiunte. Nella pratica, il tempo totale dovrebbe includere instradamento, attesa in coda, caricamento del modello, comunicazione tra nodi e restituzione del risultato.
Evolving Edge: un runtime basato su Ray
Evolving Edge viene descritta come una piattaforma che utilizza Ray, un framework per il calcolo distribuito, per assegnare i compiti di esecuzione dei modelli ai computer partecipanti. Ray può rappresentare i carichi di lavoro come attori gestiti e programmarli su un cluster di macchine. 5
6
Ray offre strumenti utili per distribuire l’esecuzione, ma il suo impiego non risolve automaticamente i problemi più difficili di un marketplace. Il gestore deve comunque individuare i nodi sovraccarichi o non raggiungibili, collocare i modelli in modo efficiente, gestire configurazioni hardware differenti e decidere quando ritentare o duplicare un’attività. Evolving Edge ha inoltre presentato il progetto come una beta aperta, quindi le prestazioni operative devono ancora essere valutate in condizioni reali.
Come si possono proteggere i carichi di lavoro sui PC domestici?
Eseguire codice o ricevere dati di terzi su un computer di proprietà di un consumatore crea un problema di sicurezza molto più ampio rispetto all’installazione di un normale gioco o programma desktop. Un sistema credibile dovrebbe limitare ciò a cui il carico di lavoro può accedere e la quantità di risorse che può consumare.
Tra i controlli possibili rientrano:
- ambienti di esecuzione isolati o sandbox;
- cifratura dei dati durante il trasferimento;
- limiti per CPU, GPU, memoria, spazio di archiviazione e rete;
- durata massima dei job e terminazione automatica; e
- un client per l’host ispezionabile e aggiornabile.
L’architettura di sandbox documentata da Ray utilizza ambienti leggeri isolati a livello di kernel per eseguire codice non attendibile e carichi di lavoro basati su agenti. L’implementazione sperimentale impiega gVisor e ambienti compatibili con i container OCI, mentre gli attori gestiti da Ray possono programmare e controllare le risorse della sandbox. 17
18
20
21
Queste funzioni dimostrano che nello stack software esistono meccanismi di sicurezza pertinenti. Non dimostrano però che Far Labs o Evolving Edge utilizzino le stesse protezioni in produzione, che la configurazione sia sicura sui sistemi operativi consumer o che il nodo attivo stia eseguendo esattamente il codice esaminato dal proprietario.
Il software open source per i nodi potrebbe aumentare la trasparenza, consentendo agli host di controllare i limiti sulle risorse e il comportamento nell’accesso ai dati. Non è tuttavia una garanzia completa. Servono anche build riproducibili, aggiornamenti firmati, permessi chiari, gestione delle vulnerabilità e prove che la versione installata corrisponda al codice pubblicato.
Il confronto con Salad
Salad è il riferimento più immediato perché gestisce già un marketplace che collega GPU consumer e organizzazioni alla ricerca di capacità di calcolo. Il suo modello non dipende da una blockchain o da un sistema di coordinamento basato su token: è un marketplace centralizzato. 13
Far Labs insiste sull’instradamento in tempo reale e sull’inferenza distribuita, inclusa la possibilità di dividere il lavoro di un modello tra più nodi. Evolving Edge viene invece associata soprattutto a un runtime distribuito basato su Ray e a una beta aperta. Salad può contare sull’esperienza operativa maturata con un mercato di GPU consumer; i nuovi operatori devono ancora dimostrare di poter offrire disponibilità, assistenza, domanda e condizioni economiche comparabili.
La distinzione è importante: la decentralizzazione è un’architettura, non un risultato di performance. Una rete può avere migliaia di computer partecipanti e restare comunque gestita centralmente, inaffidabile o non conveniente.
Il nodo principale: quanto guadagneranno davvero gli host?
Il pagamento lordo è solo il punto di partenza per calcolare il rendimento di un proprietario. Bisogna considerare anche elettricità, calore, raffreddamento, connessione internet, manutenzione, deprezzamento dell’hardware e minore disponibilità del computer per uso personale.
Essere iscritti alla rete non significa ricevere un flusso costante di lavoro. Una GPU collegata ma incaricata raramente potrebbe guadagnare poco, continuando però a consumare energia e a generare costi di gestione e usura. Senza tariffe trasparenti, ipotesi verificabili sull’utilizzo, durata dei carichi e stime dei consumi, un potenziale host non può calcolare un ritorno sull’investimento credibile.
L’inferenza prolungata può significare più calore, maggiore attività delle ventole e un uso più intenso della memoria. Stabilire se ne valga la pena dipende dalla GPU specifica, dal costo locale dell’elettricità, dal tempo di disponibilità, dall’intensità del carico e dal valore di rivendita. Il materiale disponibile non dimostra che partecipare equivalga a ottenere un reddito passivo o che sia redditizio per il proprietario medio.
Perché le promesse su latenza e costi richiedono dati di produzione
L’hardware consumer distribuito potrebbe avere un vantaggio potenziale: le macchine esistono già e alcuni proprietari potrebbero voler monetizzare capacità altrimenti inutilizzata. La rete deve però sostenere anche i costi di orchestrazione, banda, monitoraggio, job falliti, replicazione, assistenza, sicurezza e compensi agli host.
Lo stesso vale per la latenza. L’avvio rapido di una sandbox in una specifica configurazione Kubernetes non equivale a un’inferenza end-to-end sotto i 100 millisecondi su reti domestiche. Il dato inferiore ai 100 millisecondi riportato nella documentazione di Ray riguarda l’avvio della sandbox in un ambiente specifico, non garantisce la latenza di una rete di nodi consumer distribuita su Internet. 17
Anche i sistemi AI decentralizzati dipendono generalmente dal calcolo off-chain. Le blockchain generaliste non sono adatte a eseguire direttamente carichi di machine learning, a causa dell’intensità computazionale e dei volumi di dati; di norma fungono quindi da livelli di coordinamento o pagamento, mentre l’inferenza avviene fuori dalla catena. 1
Una rete così grande potrebbe sopravvivere a perdite massicce di nodi?
Una rete distribuita può essere più resiliente di una singola macchina se dispone di capacità di riserva sufficiente e riesce a spostare rapidamente il lavoro quando alcuni nodi scompaiono. La ricerca relativa a Ray descrive la ricostruzione delle dipendenze dei task persi quando i nodi vengono rimossi e il recupero della capacità originaria quando tornano disponibili. 30
Il vantaggio, però, non è automatico. Una rete di inferenza pronta per la produzione avrebbe bisogno di ridondanza, replicazione dei modelli, posizionamento intelligente e rilevamento rapido dei guasti. Eventi correlati — come un’interruzione del provider internet, un blackout regionale, un aggiornamento software difettoso o il calo degli incentivi per gli host — potrebbero mettere offline molti nodi contemporaneamente.
Anche la suddivisione dei modelli introduce un compromesso. Distribuire un modello tra diversi computer può rendere utili macchine che singolarmente non avrebbero memoria sufficiente, ma può aumentare il traffico di rete e i punti di possibile guasto. L’equilibrio concreto dipenderà dal tipo di carico e dalla strategia di scheduling adottata.
Cosa dovrebbe verificare chi vuole mettere a disposizione la GPU
Finché queste reti non pubblicheranno prove più solide, i potenziali host dovrebbero considerare la partecipazione un servizio sperimentale dal rendimento variabile, non una forma di reddito passivo. Prima di installare il software del nodo, è opportuno cercare:
- una formula di pagamento chiara e uno storico dei compensi;
- dati sull’utilizzo effettivo, non soltanto il numero di macchine registrate;
- stime realistiche di elettricità e raffreddamento;
- permessi documentati e limiti sulle risorse;
- test di sicurezza o audit indipendenti;
- misurazioni di latenza, disponibilità e tasso di job falliti; e
- una procedura semplice per mettere in pausa o rimuovere il nodo.
Far Labs ed Evolving Edge stanno testando un’idea plausibile: usare l’hardware consumer distribuito per integrare la capacità AI dei data center centralizzati. La tecnologia potrebbe funzionare per alcuni modelli e carichi di lavoro più piccoli. Il caso economico complessivo resta però aperto, finché le aziende non dimostreranno che la rete è sicura, reattiva, resiliente e sufficientemente utilizzata da compensare gli host dopo tutti i costi reali.
Studio Global AI
Continue your research
This page includes a source-backed answer you can continue inside Studio Global.
People also ask
What is the short answer to "Far Labs ed Evolving Edge vogliono trasformare i PC inutilizzati in infrastruttura AI"?
Far Labs ed Evolving Edge stanno cercando di riunire PC da gaming e server domestici inattivi per l’inferenza AI, soprattutto con modelli open source più piccoli.
What are the key points to validate first?
Far Labs ed Evolving Edge stanno cercando di riunire PC da gaming e server domestici inattivi per l’inferenza AI, soprattutto con modelli open source più piccoli. Il modello potrebbe ridurre la dipendenza dai data center centralizzati, ma i proprietari devono considerare elettricità, raffreddamento, usura, deprezzamento dell’hardware, sicurezza e utilizzo effettivo.
What should I do next in practice?
Salad è il confronto più concreto: gestisce già un marketplace centralizzato di GPU consumer, mentre le nuove piattaforme devono ancora dimostrare affidabilità, domanda, pagamenti trasparenti e prestazioni su larga sc...
Sources
androidheadlines.comStartups Want to Rent Your Idle Gaming PC to Power AI Workloads
spectrum.ieee.orgCash in on the AI Boom by Renting Out Your Spare Compute
farlabs.aiFAR AI | Decentralized Compute for Real-Time Inference - FAR Labs
galaxy.com