Совместимость CUDA и PyTorch

Выберите сборку CUDA, которая соответствует арендованной карте — это та настройка, из-за которой ломается больше развёртываний Clore.ai, чем любая другая

Если вы арендуете карту серии RTX 50 и запускаете образ CUDA 12.4, ничего не будет работать. Вы получите нет доступного образа ядра для выполнения на устройстве. Blackwell требует CUDA 12.8 или новее и PyTorch 2.7 или новее. Это самый частый сбой при развёртывании на Clore.ai, и он исправляется одной строкой.

Каждое руководство в этой подборке поставляется с базовым образом. Если вы его меняете или если вы устанавливаете PyTorch самостоятельно, сборка CUDA должна соответствовать архитектуре арендованного GPU. Clore.ai — это маркетплейс, а не однородный кластер: парк охватывает карты Pascal для майнинга 2017 года и рабочие карты Blackwell 2025 года, и ни один образ не покрывает их все.

Матрица

Архитектура	Вычислительная способность.	Карты на Clore.ai	Используйте это
Blackwell	sm_120	RTX 5090, 5080, 5070 Ti, 5070, 5060 Ti, RTX PRO 6000	PyTorch ≥ 2.7 на cu128 или cu13x
Ada	sm_89	RTX 4090, 4080, 4070 Ti, 4060 Ti	PyTorch ≥ 2.1 на cu121 … cu13x (рекомендуется cu128)
Ampere	sm_86 / sm_80	RTX 3090, 3080, 3070, 3060, A6000, A2000, CMP 90HX	PyTorch ≥ 1.13 на cu118 … cu13x (рекомендуется cu128)
Turing	sm_75	RTX 2080 Ti, GTX 1660, CMP 30HX/40HX/50HX	Любой cu118 … cu13x
Volta	sm_70	Tesla V100 (16 ГБ и 32 ГБ SXM2)	PyTorch ≤ 2.10 на cu128 или любой cu126 сборка
Pascal	sm_61	P104-100 и похожие майнинговые карты	PyTorch ≤ 2.7 на cu124 или старее

Есть две устаревшие вещи, на которых люди часто спотыкаются:

• Сборки cu128 в PyTorch 2.8 убрали поддержку Maxwell и Pascal (sm_50, sm_60).

• PyTorch 2.11 убрал Volta из своих бинарников cu128 и cu129 (cuDNN 9.15.1 несовместим с Volta). Арендаторам V100 следует закрепить 2.10.0-cuda12.8 или использовать сборку cu126.

• Сама CUDA 13.0 начинается с Turing (sm_75). Любой образ cuda13x по определению исключает Volta и Pascal.

Базовые образы, которые работают

# По умолчанию для всего от Ampere до Blackwell — именно это используют руководства
pytorch/pytorch:2.11.0-cuda12.8-cudnn9-devel     # инструменты сборки, компиляторы, nvcc
pytorch/pytorch:2.11.0-cuda12.8-cudnn9-runtime   # меньше, без nvcc

# Самые новые, только Turing и выше (без V100, без Pascal)
pytorch/pytorch:2.13.0-cuda13.2-cudnn9-devel

# Tesla V100 (sm_70)
pytorch/pytorch:2.10.0-cuda12.8-cudnn9-devel

# Майнинговые карты Pascal (sm_61)
pytorch/pytorch:2.5.1-cuda12.4-cudnn9-devel

Установка PyTorch в ваш собственный образ:

# Ampere / Ada / Blackwell
pip install torch torchvision torchaudio --index-url https://download.pytorch.org/whl/cu128

# Volta (V100)
pip install "torch<=2.10" torchvision torchaudio --index-url https://download.pytorch.org/whl/cu126

Проверьте, что вы на самом деле арендовали

# Драйвер и версия CUDA, которую он предоставляет
nvidia-smi

# Вычислительная способность карты, прямо из torch
python -c "import torch; print(torch.cuda.get_device_name(0), torch.cuda.get_device_capability(0))"
# RTX 5090  -> (12, 0)   RTX 4090 -> (8, 9)   RTX 3090 -> (8, 6)   V100 -> (7, 0)

# Для каких архитектур в этой сборке реально есть ядра
python -c "import torch; print(torch.cuda.get_arch_list())"

Если get_device_capability возвращает (12, 0) и get_arch_list() не имеет sm_120, вы на неправильном образе. Ничто другое, что вы измените, не поможет.

Фильтруйте до аренды. Маркетплейс показывает версию CUDA каждого хоста. Примерно 65% GPU на Clore.ai сейчас работают на драйвере 13.x и 35% — на 12.x, так что cu128 образ — самый безопасный вариант по умолчанию: совместимость по минорной версии CUDA позволяет ему работать на обоих.

Расшифровка сообщений об ошибках

Что вы видите	Что это значит	Исправьте
нет доступного образа ядра для выполнения на устройстве	В сборке нет ядер для архитектуры вашей карты	Сопоставьте образ с матрицей выше
Ошибка CUDA: нет образа ядра ... sm_120	Карта Blackwell, сборка до 2.7 или cu124	Перейдите на cu128 + PyTorch ≥ 2.7
Версия драйвера CUDA недостаточна для версии runtime CUDA	Образ требует более нового драйвера, чем есть на хосте	Выберите образ с более низкой версией CUDA или арендуйте хост с более новым драйвером
torch.cuda.is_available() == False	Контейнер запущен без доступа к GPU	Перезапустите развёртывание; убедитесь, что в заказе действительно был подключен GPU
undefined symbol: __cudaPopCallConfiguration	Смешанные версии CUDA в одной среде	Пересоберите всё из одного чистого базового образа; не pip install второй torch
Работает на 4090, не работает на 5090	Классический разрыв по архитектуре	Образ относится к эпохе Ada; перейдите на cu128

Flash Attention и подобные

Скомпилированные расширения несут то же ограничение, что и PyTorch, и обычно отстают на один релиз:

# Собирайте против того torch, который уже есть у вас, а не против нового
pip install flash-attn --no-build-isolation

# vLLM и SGLang поставляются со своими собственными сборками CUDA — используйте их образы, а не
# устанавливайте их в образ PyTorch, иначе у вас окажется два torch
docker pull vllm/vllm-openai:latest
docker pull lmsysorg/sglang:latest

vllm/vllm-openai:latest и lmsysorg/sglang:latest оба содержат ядра для Blackwell. Если вы фиксируете более старый тег ради воспроизводимости, проверьте, что он выпущен после появления RTX 50-й серии, иначе вы унаследуете именно ту проблему, о которой говорится на этой странице.

Дальнейшие шаги

• Каталог Docker-образов — образы, готовые к развёртыванию для каждой нагрузки

• Сравнение GPU — какая карта для какой модели

• Цены на GPU — текущие диапазоны на маркетплейсе

• Устранение неполадок — остальные режимы сбоя

Ссылки

• Предыдущие версии PyTorch и сборки CUDA

• pytorch/pytorch на Docker Hub

• Вычислительные возможности CUDA GPU

• Арендовать GPU: RTX 5090 32GB · RTX 4090 24GB · Маркетплейс