For the complete documentation index, see llms.txt. This page is also available as Markdown.

部分 GPU 租赁

在 Clore.ai 上从一台 8 GPU 机器中租用 1 块或 2 块 GPU,只为你使用的部分付费

本合集中的几乎每个指南都只需一块 GPU。微调 7B 模型、以 Q4 提供 Qwen3.8-27B 服务、用 LTX-2.5 生成视频——每项只用一块卡。部分租用使这些工作负载能够落到更好的硬件上,而不只是剩余的单卡机器上。

运作方式

一台配备 8× RTX 5090 的机架会以日租机架价格挂牌。当你租用其中 2 块 GPU 时:

你的价格 = rig_price × (gpu_count / total_gpus)

其他都不变。计费仍按分钟计算,订单仍会为你提供带 SSH 的 Docker 容器,而你支付的 GPU 会通过其硬件 UUID 绑定到你的容器——因此分配在重启或 PCI 重新枚举后仍会保持,其他同租用户也无法访问它们。

整机
整机
你获得
你支付

8× RTX 5090 @ 4.80 美元/小时

4.80 美元/小时

1 块 GPU

0.60 美元/小时

8× RTX 5090 @ 4.80 美元/小时

4.80 美元/小时

2 块 GPU

1.20 美元/小时

4× RTX 4090 @ 0.80 美元/小时

0.80 美元/小时

1 块 GPU

$0.20/hr

值得了解的规则

规则
详情

仅按需

现货订单始终租用整台机架

仅限同型号机架

混合机架(2× 4090 + 6× 3090)无法拆分

机主可选择退出

由于机主选择,某些机架仅支持整机租用

GPU 为独占

订单中的 UUID 归你独占;其他租户会得到不同的卡

CPU、RAM 和磁盘不拆分

机架的系统资源与同租用户共享——请确认这台机器有足够的 RAM 供所有人使用,而不只是你

超频配置文件

部分订单不能设置 OC 配置文件——API 返回 oc_not_supported_for_partial

从网页界面租用一块 GPU

  1. 打开 市场 并选择一台多 GPU 服务器。

  2. 在服务器卡片上选择你想要的 GPU 数量。支持部分租用的服务器会显示空闲插槽选择器;不支持的服务器仅支持整机租用。

  3. 当你更改数量时,价格会按比例更新。

  4. 像往常一样配置镜像和端口,然后租用。

通过 API 租用一块 GPU

列表会告诉你可用项。 partial_gpu_rental 要么是 false 或一个对象:

传入 gpu_count (以及可选地 gpu_indices,从 free_indices中选择)在创建订单时:

gpu_indices 是可选的——传入 gpu_count 即可,后端会为你选择空闲 GPU。两者都省略则表示租用整台机架。

使用 Python SDK / CLI:

你可能收到的错误及其含义:

错误
含义

not_enough_free_gpus

在你读取和写入之间,有人占用了这些插槽——请重新读取 free_indices

invalid_gpu_count

小于 1 或大于 total_gpus

gpu_indices_count_mismatch

列表长度不等于 gpu_count

gpu_index_out_of_range

超出 0 … total_gpus-1

duplicate_gpu_index

同一索引重复两次

partial_not_supported

混合型号机架,或机主已选择退出

按每块 GPU 计算更便宜吗?

有时是的,但这不是重点。根据快照,按机架规模划分的每块 GPU 每小时中位价格:

GPU
1-GPU 服务器
2–3 块 GPU
4–7 块 GPU
8+ 块 GPU

RTX 4090

$0.165

$0.156

$0.172

$0.156

RTX 3090

$0.083

$0.083

$0.073

$0.083

RTX 3080

$0.079

$0.069

$0.058

$0.052

RTX 5090

$0.270

$0.271

$0.322

$0.443

较老的显卡批量租用会便宜很多;RTX 5090 机架则溢价更高。 真正的收益是可用性 —— 部分租用把大约一千台多 GPU 机器变成了可单独租用的显卡,而大多数空闲的 3090/4090/5090 资源实际上就分布在这里。

下一步

链接

最后更新于

这有帮助吗?