For the complete documentation index, see llms.txt. This page is also available as Markdown.

la location partielle de GPU

Louez uniquement les GPU dont vous avez besoin sur un serveur multi-GPU et payez un prix proportionnel.

La location partielle vous permet de louer un sous-ensemble des GPU d’un serveur multi-GPU au lieu de toute la machine. Si un hôte propose une machine 8x RTX 4090 et que vous avez besoin de deux cartes, vous en louez deux et payez pour deux.

La location partielle est déployée progressivement. Elle n’apparaît que sur les serveurs dont les hôtes utilisent le logiciel d’hébergement le plus récent et n’ont pas choisi de la désactiver ; à un moment donné, seule une partie de la place de marché la propose. La couverture s’étend à mesure que les hôtes se mettent à jour.

Comment ça marche (locataires)

  1. Activez le Location partielle de GPU filtre (il existe aussi un GPU min. disponibles filtre), ou recherchez le N/M GPU libres badge sur les cartes des serveurs pris en charge.

  2. Dans la boîte de dialogue de location, choisissez les GPU que vous voulez à l’étape Affectation des GPU . Le prix évolue en fonction de votre part : louer 2 GPU sur 8 coûte 2/8 du prix d’un serveur complet.

  3. Finalisez le paiement comme d’habitude. Votre commande s’exécute dans un conteneur isolé avec exactement les GPU qui vous sont attribués.

Bon à savoir :

  • Uniquement à la demande. Les enchères Spot prennent toujours tout le serveur.

  • Machines homogènes uniquement. La location partielle n’est disponible que sur les serveurs où tous les GPU sont du même modèle. Les machines avec des GPU mixtes ne peuvent être louées qu’en totalité.

  • Plusieurs locataires peuvent partager une même machine, chacun avec son conteneur isolé et ses GPU dédiés. Un même GPU n’est jamais partagé entre deux commandes.

  • Les GPU sont dédiés à votre commande, tandis que le CPU, la RAM et le disque de la machine sont partagés avec toute autre commande s’exécutant sur le même serveur.

  • La facturation reste à la minute, et le barème habituel s’applique.

Pour les hôtes

  • La location partielle est activée par défaut sur les serveurs éligibles (GPU homogènes, logiciel d’hébergement à jour). Vous pouvez la désactiver serveur par serveur dans les paramètres de votre serveur.

  • Pendant qu’un serveur est loué partiellement, les changements d’overclocking sont bloqués (le bouton Appliquer affiche un avertissement).

  • La tarification suit vos paramètres habituels par serveur ; les locataires paient proportionnellement par GPU.

API

Les annonces de la place de marché exposent la disponibilité dans le partial_gpu_rental champ : faux lorsqu’elle n’est pas disponible, ou un objet avec total_gpus, available_gpuset free_indices. Pour créer une commande partielle, passez gpu_count à create_order, et éventuellement gpu_indices pour sélectionner des emplacements exacts. Lorsque gpu_indices est omis, les GPU libres sont attribués automatiquement.

API

Mis à jour

Ce contenu vous a-t-il été utile ?