SpareGPU
Un marketplace per la potenza GPU inutilizzata
SpareGPU collega le macchine con una scheda grafica ferma ai carichi che ne hanno bisogno. Un'applicazione worker mette la GPU a disposizione della rete; i job — inferenza di modelli linguistici, visione, generazione di immagini — vengono pianificati su di essa e conteggiati singolarmente.
I clienti chiamano un'API compatibile con OpenAI e non devono sapere dove è girato il job. I proprietari installano il worker, decidono quando la scheda è disponibile e guadagnano su hardware che altrimenti resterebbe fermo.
Cosa fa
API compatibile con OpenAI
Punta un'integrazione esistente su SpareGPU e tieni il codice che hai già scritto.
App worker per chi ha una GPU
Windows, macOS e Linux, con un interruttore per condividere la scheda e riprenderla.
Pianificazione su tutta la rete
Ogni job va a un worker in grado di eseguirlo davvero, con ripiego sul cloud se nessuna scheda è libera.
Conteggio per job
Dati di utilizzo e di pagamento trasparenti per entrambi i lati del marketplace.
A chi è rivolto
Per chi sviluppa e serve capacità di inferenza senza affittare un'intera GPU cloud, e per chi possiede hardware fermo quasi tutto il giorno.
Vai al sito