Compatibilidad de CUDA y PyTorch

Elige una compilación de CUDA que coincida con la tarjeta que alquilaste: la configuración que más despliegues de Clore.ai rompe por lejos

Si alquilas una tarjeta RTX de la serie 50 y ejecutas una imagen de CUDA 12.4, nada funcionará. Obtendrás no hay ninguna imagen de kernel disponible para la ejecución en el dispositivo. Blackwell necesita CUDA 12.8 o más reciente y PyTorch 2.7 o más reciente. Este es el despliegue fallido más común en Clore.ai, y se arregla con una sola línea.

Cada guía de esta colección incluye una imagen base. Si la cambias, o si instalas PyTorch tú mismo, la compilación de CUDA tiene que coincidir con la arquitectura de la GPU que alquilaste. Clore.ai es un mercado, no un clúster uniforme: la flota abarca desde tarjetas mineras Pascal de 2017 hasta tarjetas de estación de trabajo Blackwell de 2025, y ninguna imagen única cubre todas.

La matriz

Arquitectura	Capacidad de cómputo.	Tarjetas en Clore.ai	Usa esto
Blackwell	sm_120	RTX 5090, 5080, 5070 Ti, 5070, 5060 Ti, RTX PRO 6000	PyTorch ≥ 2.7 el cu128 o cu13x
Ada	sm_89	RTX 4090, 4080, 4070 Ti, 4060 Ti	PyTorch ≥ 2.1 en cu121 … cu13x (se recomienda cu128)
Ampere	sm_86 / sm_80	RTX 3090, 3080, 3070, 3060, A6000, A2000, CMP 90HX	PyTorch ≥ 1.13 en cu118 … cu13x (se recomienda cu128)
Turing	sm_75	RTX 2080 Ti, GTX 1660, CMP 30HX/40HX/50HX	Cualquier cosa de cu118 … cu13x
Volta	sm_70	Tesla V100 (SXM2 de 16 GB y 32 GB)	PyTorch ≤ 2.10 en cu128, o cualquier cu126 compilación
Pascal	sm_61	P104-100 y tarjetas mineras similares	PyTorch ≤ 2.7 el cu124 o anterior

Dos obsolescencias pillan desprevenida a la gente:

• las compilaciones cu128 de PyTorch 2.8 eliminaron Maxwell y Pascal (sm_50, sm_60).

• PyTorch 2.11 eliminó Volta de sus binarios cu128 y cu129 (cuDNN 9.15.1 no es compatible con Volta). Quienes alquilen una V100 deberían fijar 2.10.0-cuda12.8 o usar una compilación cu126.

• CUDA 13.0 empieza en Turing (sm_75). Cualquier imagen cuda13x excluye Volta y Pascal por construcción.

Imágenes base que funcionan

# Predeterminada para cualquier cosa desde Ampere hasta Blackwell — esto es lo que usan las guías
pytorch/pytorch:2.11.0-cuda12.8-cudnn9-devel     # herramientas de compilación, compiladores, nvcc
pytorch/pytorch:2.11.0-cuda12.8-cudnn9-runtime   # más pequeña, sin nvcc

# Lo más nuevo, solo Turing y superiores (sin V100, sin Pascal)
pytorch/pytorch:2.13.0-cuda13.2-cudnn9-devel

# Tesla V100 (sm_70)
pytorch/pytorch:2.10.0-cuda12.8-cudnn9-devel

# Tarjetas mineras Pascal (sm_61)
pytorch/pytorch:2.5.1-cuda12.4-cudnn9-devel

Instalar PyTorch en tu propia imagen:

# Ampere / Ada / Blackwell
pip install torch torchvision torchaudio --index-url https://download.pytorch.org/whl/cu128

# Volta (V100)
pip install "torch<=2.10" torchvision torchaudio --index-url https://download.pytorch.org/whl/cu126

Comprueba lo que realmente alquilaste

# Driver y la versión de CUDA que expone
nvidia-smi

# Capacidad de cómputo de la tarjeta, directamente desde torch
python -c "import torch; print(torch.cuda.get_device_name(0), torch.cuda.get_device_capability(0))"
# RTX 5090  -> (12, 0)   RTX 4090 -> (8, 9)   RTX 3090 -> (8, 6)   V100 -> (7, 0)

# Qué arquitecturas tienen realmente kernels para esta compilación
python -c "import torch; print(torch.cuda.get_arch_list())"

Si get_device_capability devuelve (12, 0) y get_arch_list() no tiene sm_120, estás en la imagen equivocada. Nada de lo demás que cambies ayudará.

Filtra antes de alquilar. El mercado expone la versión de CUDA de cada host. Aproximadamente el 65% de las GPUs de Clore.ai están actualmente en un driver 13.x y el 35% en 12.x, así que una cu128 imagen es la opción predeterminada más segura: la compatibilidad de versiones menores de CUDA le permite ejecutarse en ambas.

Mensajes de error, descifrados

Lo que ves	Lo que significa	Solución
no hay ninguna imagen de kernel disponible para la ejecución en el dispositivo	La compilación no tiene kernels para la arquitectura de tu tarjeta	Haz coincidir la imagen con la matriz de arriba
Error de CUDA: no hay imagen de kernel ... sm_120	Tarjeta Blackwell, compilación pre-2.7 o cu124	Pásate a cu128 + PyTorch ≥ 2.7
La versión del driver de CUDA es insuficiente para la versión en tiempo de ejecución de CUDA	La imagen necesita un driver más nuevo que el que tiene el host	Elige una imagen CUDA más baja, o alquila un host con un driver más nuevo
torch.cuda.is_available() == False	El contenedor se inició sin acceso a la GPU	Vuelve a desplegar; asegúrate de que el pedido realmente adjuntó una GPU
símbolo indefinido: __cudaPopCallConfiguration	Versiones de CUDA mezcladas en un entorno	Reconstruye a partir de una sola imagen base limpia; no instalar con pip un segundo torch
Funciona en la 4090, falla en la 5090	Brecha clásica de arquitectura	La imagen es de la era Ada; pásate a cu128

Flash Attention y similares

Las extensiones compiladas llevan la misma restricción que PyTorch, y normalmente van una versión por detrás:

# Compílalo contra el torch que ya tienes, no contra uno nuevo
pip install flash-attn --no-build-isolation

# vLLM y SGLang incluyen sus propias compilaciones de CUDA — usa sus imágenes en lugar de
# instalarlos en una imagen de PyTorch, o terminarás con dos torch
docker pull vllm/vllm-openai:latest
docker pull lmsysorg/sglang:latest

vllm/vllm-openai:latest y lmsysorg/sglang:latest ambos incluyen kernels para Blackwell. Si fijas una etiqueta más antigua por reproducibilidad, comprueba que sea posterior a la serie RTX 50; de lo contrario, heredas exactamente el problema del que trata esta página.

Siguientes pasos

• Catálogo de imágenes Docker — imágenes listas para desplegar por carga de trabajo

• Comparación de GPU — qué tarjeta para qué modelo

• Precios de GPU — rangos en vivo del mercado

• Solución de problemas — el resto de los modos de fallo

Enlaces

• versiones anteriores de PyTorch y compilaciones de CUDA

• pytorch/pytorch en Docker Hub

• capacidades de cómputo de GPU de CUDA

• Alquila una GPU: RTX 5090 32GB · RTX 4090 24GB · Marketplace