For the complete documentation index, see llms.txt. This page is also available as Markdown.

Alquiler parcial de GPU

Alquila solo las GPU que necesites en un servidor con varias GPU y paga un precio proporcional.

El alquiler parcial te permite alquilar un subconjunto de las GPU de un servidor con varias GPU en lugar de todo el equipo. Si un anfitrión ofrece una máquina 8x RTX 4090 y necesitas dos tarjetas, alquilas dos y pagas por dos.

El alquiler parcial se está desplegando gradualmente. Solo aparece en servidores cuyos anfitriones ejecutan la versión más reciente del software de alojamiento y no han optado por excluirse, por lo que en un momento dado solo una parte del marketplace lo ofrece. La cobertura crece a medida que los anfitriones se actualizan.

Cómo funciona (inquilinos)

  1. Activa el alquiler parcial de GPU filtro (también hay un Mín. de GPU disponibles filtro), o busca la N/M GPU libres insignia en las tarjetas de servidor compatibles.

  2. En el diálogo de alquiler, elige las GPU que quieres en el paso de asignación de GPU El precio se ajusta a tu proporción: alquilar 2 de 8 GPU cuesta 2/8 del precio del servidor completo.

  3. Completa el pago como de costumbre. Tu pedido se ejecuta en un contenedor aislado con exactamente las GPU asignadas a ti.

Ten en cuenta:

  • Solo bajo demanda. La puja spot siempre toma el servidor completo.

  • Solo equipos homogéneos. El alquiler parcial solo está disponible en servidores donde todas las GPU son del mismo modelo. Los equipos con GPU mixtas solo se pueden alquilar como equipo completo.

  • Varios inquilinos pueden compartir una máquina, cada uno con su propio contenedor aislado y GPU dedicadas. Una sola GPU nunca se comparte entre dos pedidos.

  • Las GPU están dedicadas a tu pedido, mientras que la CPU, la RAM y el disco de la máquina se comparten con cualquier otro pedido que se esté ejecutando en el mismo servidor.

  • La facturación sigue siendo por minuto, y se aplica la estructura de tarifas habitual.

Para anfitriones

  • El alquiler parcial está habilitado por defecto en los servidores aptos (GPU homogéneas, software de alojamiento actualizado). Puedes desactivarlo por servidor en la configuración de tu servidor.

  • Mientras un servidor está alquilado parcialmente, los cambios de overclocking se bloquean (Aplicar muestra una advertencia).

  • El precio sigue tu configuración habitual por servidor; los inquilinos pagan proporcionalmente por GPU.

API

Los anuncios del marketplace exponen la disponibilidad en el partial_gpu_rental campo: false cuando no está disponible, o un objeto con total_gpus, available_gpus, y free_indices. Para crear un pedido parcial, pasa gpu_count a create_order, y opcionalmente gpu_indices para elegir ranuras exactas. Cuando gpu_indices se omite, las GPU libres se asignan automáticamente.

API

Última actualización

¿Te fue útil?