SpareGPU
Une place de marché pour la puissance GPU inutilisée
SpareGPU relie les machines dont la carte graphique dort aux charges de travail qui en réclament une. Une application worker met le GPU à disposition du réseau ; les tâches — inférence de modèles de langage, vision, génération d'images — y sont planifiées et facturées à la tâche.
Les clients appellent une API compatible OpenAI sans se soucier de l'endroit où la tâche s'est exécutée. Les propriétaires installent le worker, choisissent quand leur carte est disponible et gagnent sur du matériel qui resterait inactif.
Ce qu'il fait
API compatible OpenAI
Dirigez une intégration existante vers SpareGPU et gardez le code déjà écrit.
Application worker pour les propriétaires
Windows, macOS et Linux, avec un seul interrupteur pour partager la carte ou la reprendre.
Planification sur l'ensemble du parc
Chaque tâche part vers un worker capable de l'exécuter, avec repli sur le cloud si aucune carte n'est libre.
Décompte par tâche
Usage et reversements traçables des deux côtés de la place de marché.
À qui il s'adresse
Pour les développeurs qui ont besoin de capacité d'inférence sans louer un GPU cloud entier, et pour les propriétaires de matériel inactif une grande partie de la journée.
Visiter le site