Transformers de HuggingFace
Usa HuggingFace Transformers para NLP, visión y audio en Clore.ai
Usa la biblioteca Transformers para procesamiento de lenguaje natural, visión y audio en GPU.
Alquilar en CLORE.AI
Visita Marketplace de CLORE.AI
Filtra por tipo de GPU, VRAM y precio
Elige Bajo demanda (tarifa fija) o Spot (precio ofertado)
Configura tu pedido:
Selecciona la imagen de Docker
Configura los puertos (TCP para SSH, HTTP para interfaces web)
Añade variables de entorno si es necesario
Introduce el comando de inicio
Selecciona el método de pago: CLORE, BTC, o USDT/USDC
Crea el pedido y espera al despliegue
Accede a tu servidor
Encuentra los detalles de conexión en Mis pedidos
Interfaces web: Usa la URL del puerto HTTP
SSH:
ssh -p <port> root@<proxy-address>
¿Qué es Transformers?
Hugging Face Transformers ofrece:
Más de 100,000 modelos preentrenados
Carga e inferencia de modelos sencillas
Soporte para ajuste fino
Capacidades multimodales
Despliegue rápido
Imagen de Docker:
Puertos:
Comando:
Instalación
Generación de texto
Generación básica
Modelos de chat
Transmisión
Cuantización
Cuantización de 4 bits
Cuantización de 8 bits
Embeddings
Clasificación de imágenes
Detección de objetos
Segmentación de imágenes
Reconocimiento de voz
Texto a voz
Ajuste fino
Preparar conjunto de datos
Entrenamiento
Tareas de pipeline
Generación de texto
text-generation
Rellenar máscara
fill-mask
Resumen
summarization
Traducción
translation
Respuesta a preguntas
question-answering
Análisis de sentimiento
sentiment-analysis
Clasificación de imágenes
image-classification
Detección de objetos
object-detection
Reconocimiento de voz
automatic-speech-recognition
Texto a voz
text-to-speech
Multi-GPU
Optimización de memoria
Hub de modelos
Descargar modelos
Subir modelos
Consejos de rendimiento
Usa torch_dtype=torch.float16
50% menos memoria
Habilita Flash Attention 2
Atención 2x más rápida
Usa cuantización
75% menos memoria
Inferencia por lotes
Mayor rendimiento
Solución de problemas
Estimación de costos
Tarifas típicas del marketplace de CLORE.AI (a partir de 2024):
RTX 3060
~$0.03
~$0.70
~$0.12
RTX 3090
~$0.06
~$1.50
~$0.25
RTX 4090
~$0.10
~$2.30
~$0.40
A100 40GB
~$0.17
~$4.00
~$0.70
A100 80GB
~$0.25
~$6.00
~$1.00
Los precios varían según el proveedor y la demanda. Consulta Marketplace de CLORE.AI las tarifas actuales.
Ahorra dinero:
Usa el Spot mercado para trabajo interrumpible — alrededor de un tercio de los servidores fija el precio spot por debajo del precio bajo demanda (mediana de ~13% de descuento), el resto lo iguala
Paga con CLORE tokens
Compara precios entre distintos proveedores
Siguientes pasos
Inferencia vLLM - servicio en producción
Ajuste fino de LLMs - Entrenamiento LoRA
Entrenamiento con DeepSpeed - Entrenamiento distribuido
Última actualización
¿Te fue útil?