> For the complete documentation index, see [llms.txt](https://docs.clore.ai/llms.txt). Markdown versions of documentation pages are available by appending `.md` to page URLs; this page is available as [Markdown](https://docs.clore.ai/guides/guides_v2-ru/nachalo-raboty/cuda-pytorch-compatibility.md).

# Совместимость CUDA и PyTorch

Выберите сборку CUDA, которая соответствует арендованной карте — это та настройка, из-за которой ломается больше развёртываний Clore.ai, чем любая другая

{% hint style="danger" %}
**Если вы арендуете карту серии RTX 50 и запускаете образ CUDA 12.4, ничего не будет работать.** Вы получите `нет доступного образа ядра для выполнения на устройстве`. Blackwell требует **CUDA 12.8 или новее** и **PyTorch 2.7 или новее**. Это самый частый сбой при развёртывании на Clore.ai, и он исправляется одной строкой.
{% endhint %}

Каждое руководство в этой подборке поставляется с базовым образом. Если вы его меняете или если вы устанавливаете PyTorch самостоятельно, сборка CUDA должна соответствовать архитектуре арендованного GPU. Clore.ai — это маркетплейс, а не однородный кластер: парк охватывает карты Pascal для майнинга 2017 года и рабочие карты Blackwell 2025 года, и ни один образ не покрывает их все.

## Матрица

| Архитектура   | Вычислительная способность. | Карты на Clore.ai                                    | Используйте это                                        |
| ------------- | --------------------------- | ---------------------------------------------------- | ------------------------------------------------------ |
| **Blackwell** | sm\_120                     | RTX 5090, 5080, 5070 Ti, 5070, 5060 Ti, RTX PRO 6000 | PyTorch **≥ 2.7** на **cu128** или **cu13x**           |
| **Ada**       | sm\_89                      | RTX 4090, 4080, 4070 Ti, 4060 Ti                     | PyTorch ≥ 2.1 на cu121 … cu13x (рекомендуется cu128)   |
| **Ampere**    | sm\_86 / sm\_80             | RTX 3090, 3080, 3070, 3060, A6000, A2000, CMP 90HX   | PyTorch ≥ 1.13 на cu118 … cu13x (рекомендуется cu128)  |
| **Turing**    | sm\_75                      | RTX 2080 Ti, GTX 1660, CMP 30HX/40HX/50HX            | Любой cu118 … cu13x                                    |
| **Volta**     | sm\_70                      | Tesla V100 (16 ГБ и 32 ГБ SXM2)                      | PyTorch **≤ 2.10** на cu128 или любой **cu126** сборка |
| **Pascal**    | sm\_61                      | P104-100 и похожие майнинговые карты                 | PyTorch **≤ 2.7** на **cu124** или старее              |

Есть две устаревшие вещи, на которых люди часто спотыкаются:

* **Сборки cu128 в PyTorch 2.8 убрали поддержку Maxwell и Pascal** (sm\_50, sm\_60).
* **PyTorch 2.11 убрал Volta из своих бинарников cu128 и cu129** (cuDNN 9.15.1 несовместим с Volta). Арендаторам V100 следует закрепить `2.10.0-cuda12.8` или использовать сборку cu126.
* **Сама CUDA 13.0 начинается с Turing** (sm\_75). Любой `образ cuda13x` по определению исключает Volta и Pascal.

## Базовые образы, которые работают

```bash
# По умолчанию для всего от Ampere до Blackwell — именно это используют руководства
pytorch/pytorch:2.11.0-cuda12.8-cudnn9-devel     # инструменты сборки, компиляторы, nvcc
pytorch/pytorch:2.11.0-cuda12.8-cudnn9-runtime   # меньше, без nvcc

# Самые новые, только Turing и выше (без V100, без Pascal)
pytorch/pytorch:2.13.0-cuda13.2-cudnn9-devel

# Tesla V100 (sm_70)
pytorch/pytorch:2.10.0-cuda12.8-cudnn9-devel

# Майнинговые карты Pascal (sm_61)
pytorch/pytorch:2.5.1-cuda12.4-cudnn9-devel
```

Установка PyTorch в ваш собственный образ:

```bash
# Ampere / Ada / Blackwell
pip install torch torchvision torchaudio --index-url https://download.pytorch.org/whl/cu128

# Volta (V100)
pip install "torch<=2.10" torchvision torchaudio --index-url https://download.pytorch.org/whl/cu126
```

## Проверьте, что вы на самом деле арендовали

```bash
# Драйвер и версия CUDA, которую он предоставляет
nvidia-smi

# Вычислительная способность карты, прямо из torch
python -c "import torch; print(torch.cuda.get_device_name(0), torch.cuda.get_device_capability(0))"
# RTX 5090  -> (12, 0)   RTX 4090 -> (8, 9)   RTX 3090 -> (8, 6)   V100 -> (7, 0)

# Для каких архитектур в этой сборке реально есть ядра
python -c "import torch; print(torch.cuda.get_arch_list())"
```

Если `get_device_capability` возвращает `(12, 0)` и `get_arch_list()` не имеет `sm_120`, вы на неправильном образе. Ничто другое, что вы измените, не поможет.

{% hint style="info" %}
**Фильтруйте до аренды.** Маркетплейс показывает версию CUDA каждого хоста. Примерно **65% GPU на Clore.ai сейчас работают на драйвере 13.x** и 35% — на 12.x, так что `cu128` образ — самый безопасный вариант по умолчанию: совместимость по минорной версии CUDA позволяет ему работать на обоих.
{% endhint %}

## Расшифровка сообщений об ошибках

| Что вы видите                                               | Что это значит                                         | Исправьте                                                                             |
| ----------------------------------------------------------- | ------------------------------------------------------ | ------------------------------------------------------------------------------------- |
| `нет доступного образа ядра для выполнения на устройстве`   | В сборке нет ядер для архитектуры вашей карты          | Сопоставьте образ с матрицей выше                                                     |
| `Ошибка CUDA: нет образа ядра ... sm_120`                   | Карта Blackwell, сборка до 2.7 или cu124               | Перейдите на `cu128` + PyTorch ≥ 2.7                                                  |
| `Версия драйвера CUDA недостаточна для версии runtime CUDA` | Образ требует более нового драйвера, чем есть на хосте | Выберите образ с более низкой версией CUDA или арендуйте хост с более новым драйвером |
| `torch.cuda.is_available() == False`                        | Контейнер запущен без доступа к GPU                    | Перезапустите развёртывание; убедитесь, что в заказе действительно был подключен GPU  |
| `undefined symbol: __cudaPopCallConfiguration`              | Смешанные версии CUDA в одной среде                    | Пересоберите всё из одного чистого базового образа; не `pip install` второй torch     |
| Работает на 4090, не работает на 5090                       | Классический разрыв по архитектуре                     | Образ относится к эпохе Ada; перейдите на cu128                                       |

## Flash Attention и подобные

Скомпилированные расширения несут то же ограничение, что и PyTorch, и обычно отстают на один релиз:

```bash
# Собирайте против того torch, который уже есть у вас, а не против нового
pip install flash-attn --no-build-isolation

# vLLM и SGLang поставляются со своими собственными сборками CUDA — используйте их образы, а не
# устанавливайте их в образ PyTorch, иначе у вас окажется два torch
docker pull vllm/vllm-openai:latest
docker pull lmsysorg/sglang:latest
```

`vllm/vllm-openai:latest` и `lmsysorg/sglang:latest` оба содержат ядра для Blackwell. Если вы фиксируете более старый тег ради воспроизводимости, проверьте, что он выпущен после появления RTX 50-й серии, иначе вы унаследуете именно ту проблему, о которой говорится на этой странице.

## Дальнейшие шаги

* [Каталог Docker-образов](/guides/guides_v2-ru/nachalo-raboty/docker-images.md) — образы, готовые к развёртыванию для каждой нагрузки
* [Сравнение GPU](/guides/guides_v2-ru/nachalo-raboty/gpu-comparison.md) — какая карта для какой модели
* [Цены на GPU](/guides/guides_v2-ru/nachalo-raboty/pricing.md) — текущие диапазоны на маркетплейсе
* [Устранение неполадок](/guides/guides_v2-ru/nachalo-raboty/clore-troubleshooting.md) — остальные режимы сбоя

### Ссылки

* [Предыдущие версии PyTorch и сборки CUDA](https://pytorch.org/get-started/previous-versions/)
* [pytorch/pytorch на Docker Hub](https://hub.docker.com/r/pytorch/pytorch/tags)
* [Вычислительные возможности CUDA GPU](https://developer.nvidia.com/cuda-gpus)
* **Арендовать GPU:** [RTX 5090 32GB](https://clore.ai/rent-5090.html) · [RTX 4090 24GB](https://clore.ai/rent-4090.html) · [Маркетплейс](https://clore.ai/marketplace)


---

# Agent Instructions
This documentation is published with GitBook. GitBook is the documentation platform designed so that both humans and AI agents can read, navigate, and reason over technical content effectively. Learn more at gitbook.com.

## Querying This Documentation
If you need additional information that is not directly available in this page, you can query the documentation dynamically by asking a question.

Perform an HTTP GET request on the current page URL with the `ask` query parameter, and the optional `goal` query parameter:

```
GET https://docs.clore.ai/guides/guides_v2-ru/nachalo-raboty/cuda-pytorch-compatibility.md?ask=<question>&goal=<endgoal>
```

`ask` is the immediate question: it should be specific, self-contained, and written in natural language.
`goal` is optional and describes the broader end goal you are ultimately trying to accomplish on behalf of the user. GitBook uses it to tailor the answer towards what is most useful for that goal.

The response will contain a direct answer to the question and relevant excerpts and sources from the documentation.

Use this mechanism when the answer is not explicitly present in the current page, you need clarification or additional context, or you want to retrieve related documentation sections.