For the complete documentation index, see llms.txt. This page is also available as Markdown.

Spot-Markt

Unterbrechbare Vermietungen im Auktionsstil: Bieten Sie Ihren eigenen Preis pro Tag und mieten Sie GPUs zu den niedrigsten Kosten auf dem Marktplatz.

SPOT ist die Auktionsseite des Clore.ai-Marktplatzes. Anstatt den angegebenen On-Demand-Preis zu zahlen, geben Sie ein Gebot: Ihren eigenen Preis pro Tag für einen Server. Solange Ihr Angebot das höchste ist, führt der Server Ihre Workload aus und Ihnen werden pro Minute zu Ihrem Gebot berechnet. Es ist die günstigste Mietoption, im Austausch für das Risiko einer Unterbrechung.

Preisgestaltung

Ihr Gebot, das mindestens dem minimalen Spot-Preis des Hosts entspricht

Abrechnung

Pro Minute, zum Preis Ihres Gebots, nur solange Ihr Angebot den Server hält

Unterbrechung

Ein anderer Mieter kann Sie jederzeit überbieten; eine On-Demand-Miete übernimmt den Server ebenfalls

Grundgebühr

2,5 % (gegenüber 10 % bei On-Demand), reduzierbar um bis zu 50 % mit PoH

Umfang

Nur ganze Server (Teilmiete ist nur On-Demand)

Wie das Bieten funktioniert

  1. Wählen Sie einen Server auf dem Marktplatz aus und drücken Sie Mieten. Gehen Sie die üblichen Schritte durch (Image, Konfiguration), und im Bestätigen & bezahlen Schritt wechseln Sie zu Spot-Miete.

  2. Geben Sie Ihr Gebot ein: einen beliebigen Preis pro Tag, der mindestens dem minimalen Spot-Preis des Hosts entspricht. Wenn es das derzeit höchste Angebot übertrifft, beginnt Ihre Bestellung.

  3. Solange Ihr Angebot den Server hält, werden Ihnen pro Minute zu Ihrem Gebot berechnet. Wenn jemand Sie überbietet, endet Ihre Bestellung mit dem Überboten Status und die Abrechnung stoppt sofort.

  4. Ihr Angebot konkurriert mit anderen auf demselben Server. Sie können die Warteschlange prüfen und Gebote verwalten über Meine Bestellungen.

Ihr Gebot verwalten

  • Erhöhen Ihr Gebot ist uneingeschränkt: Tun Sie es jederzeit, um den Server zu verteidigen.

  • Senken ist zum Schutz der Hosts ratebegrenzt: höchstens einmal alle 10 Minuten, in begrenzten Schritten pro Änderung und niemals unter den minimalen Spot-Preis des Hosts.

Spot-Bestellungen können nicht verlängert werden und können jederzeit enden. Sichern Sie Ihre Arbeit per Checkpoint: Speichern Sie Zwischenergebnisse in persistentem Speicher oder extern, damit eine Unterbrechung Sie Minuten statt Stunden kostet.

Was auf Spot gut läuft

  • Kryptowährungs-Mining und andere neu startbare Rechenaufgaben

  • Batch-Verarbeitung und Render-Warteschlangen mit Checkpoints

  • Hyperparameter-Sweeps und Experimente

  • Alles Fehlertolerante, bei dem der Preis wichtiger ist als die Verfügbarkeit

Sie sind sich nicht sicher, ob Sie Spot oder On-Demand benötigen? Sehen Sie sich den Direktvergleich an:

On-Demand vs. Spot

Für Hosts

Sie legen den minimalen Spot-Preis pro Server (oder pro GPU, mit optionaler automatischer Neuberechnung auf USD-Basis) in Ihren Servereinstellungen fest. Spot hält Ihre Hardware zwischen On-Demand-Mieten weiterhin ertragbringend: Eine On-Demand-Bestellung hat immer Vorrang und ersetzt die aktive Spot-Bestellung.

Serververwaltung

Automatisierung

Spot ist vollständig über die öffentliche API skriptbar: create_order mit "type": "spot" und spotprice, spot_marketplace um die Angebotswarteschlange für einen Server auszulesen, und set_spot_price um Ihr Gebot zu verwalten. Die Python-SDK und CLI decken dieselben Operationen ab.

API

Zuletzt aktualisiert

War das hilfreich?