For the complete documentation index, see llms.txt. This page is also available as Markdown.

Частичная аренда GPU

Арендуйте только те GPU, которые вам нужны, на многопроцессорном GPU-сервере и платите пропорциональную цену.

Частичная аренда позволяет арендовать не весь сервер, а только часть GPU на сервере с несколькими GPU. Если хост предлагает машину с 8× RTX 4090, а вам нужны две карты, вы арендуете две и платите за две.

Частичная аренда внедряется постепенно. Она отображается только на серверах, чьи хосты используют новейшее ПО для хостинга и не отказались от этой функции, поэтому в любой момент времени её предлагает лишь часть маркетплейса. По мере обновления хостов покрытие расширяется.

Как это работает (арендаторы)

  1. Включите Частичную аренду GPU фильтр (также есть Мин. доступно GPU фильтр), или ищите свободно N/M GPU значок на карточках поддерживаемых серверов.

  2. В диалоге аренды выберите GPU, которые вам нужны, на шаге Распределение GPU Цена масштабируется пропорционально вашей доле: аренда 2 из 8 GPU стоит 2/8 от цены полного сервера.

  3. Завершите оформление заказа как обычно. Ваш заказ выполняется в изолированном контейнере с ровно теми GPU, которые вам назначены.

Полезно знать:

  • Только On-Demand. Ставки Spot всегда берут весь сервер.

  • Только однородные конфигурации. Частичная аренда доступна только на серверах, где все GPU одной и той же модели. Конфигурации с разными GPU можно арендовать только целиком.

  • Несколько арендаторов могут делить одну машину, у каждого — свой изолированный контейнер и выделенные GPU. Ни один GPU никогда не используется совместно двумя заказами.

  • GPU выделяются вашему заказу, а CPU, RAM и диск машины делятся с любыми другими заказами, работающими на том же сервере.

  • Оплата по-прежнему поминутная, и применяется обычная структура комиссий.

Для хостов

  • Частичная аренда включена по умолчанию на подходящих серверах (однородные GPU, актуальное ПО для хостинга). Вы можете отключить её для каждого сервера в настройках сервера.

  • Пока сервер арендуется частично, изменения разгона блокируются (кнопка Apply показывает предупреждение).

  • Цены соответствуют вашим обычным настройкам на уровне сервера; арендаторы платят пропорционально за каждый GPU.

API

Объявления на маркетплейсе показывают доступность в поле partial_gpu_rental : false когда недоступно, или объект с total_gpus, available_gpus, и free_indices. Чтобы создать частичный заказ, передайте gpu_count в create_order, и при необходимости gpu_indices для выбора точных слотов. Когда gpu_indices не указан, свободные GPU назначаются автоматически.

API

Последнее обновление

Это было полезно?