SpareGPU
Marktplatz für ungenutzte GPU-Leistung
SpareGPU verbindet Rechner mit ungenutzter Grafikkarte mit den Workloads, die eine brauchen. Eine Worker-Anwendung stellt die GPU dem Netzwerk zur Verfügung; Jobs — Sprachmodell-Inferenz, Bilderkennung, Bildgenerierung — werden darauf eingeplant und pro Job abgerechnet.
Kundinnen und Kunden rufen eine OpenAI-kompatible API auf und müssen nicht wissen, wo der Job lief. Besitzerinnen und Besitzer installieren den Worker, bestimmen die Verfügbarkeit ihrer Karte und verdienen an Hardware, die sonst stillsteht.
Was es kann
OpenAI-kompatible API
Eine bestehende Integration auf SpareGPU richten und den vorhandenen Code behalten.
Worker-App für GPU-Besitzer
Windows, macOS und Linux — mit einem Schalter zum Freigeben und Zurückholen der Karte.
Planung über die ganze Flotte
Jeder Job geht an einen Worker, der ihn wirklich ausführen kann; ist keine Karte frei, greift der Cloud-Fallback.
Abrechnung pro Job
Nachvollziehbare Nutzungs- und Auszahlungsdaten für beide Seiten des Marktplatzes.
Für wen es gedacht ist
Für Entwicklerinnen und Entwickler, die Inferenzleistung brauchen, ohne eine ganze Cloud-GPU zu mieten — und für Besitzer von Hardware, die den Grossteil des Tages leerläuft.
Zur Website