For the complete documentation index, see llms.txt. This page is also available as Markdown.

Transformers de HuggingFace

Usa HuggingFace Transformers para NLP, visión y audio en Clore.ai

Usa la biblioteca Transformers para procesamiento de lenguaje natural, visión y audio en GPU.

Alquilar en CLORE.AI

  1. Filtra por tipo de GPU, VRAM y precio

  2. Elige Bajo demanda (tarifa fija) o Spot (precio ofertado)

  3. Configura tu pedido:

    • Selecciona la imagen de Docker

    • Configura los puertos (TCP para SSH, HTTP para interfaces web)

    • Añade variables de entorno si es necesario

    • Introduce el comando de inicio

  4. Selecciona el método de pago: CLORE, BTC, o USDT/USDC

  5. Crea el pedido y espera al despliegue

Accede a tu servidor

  • Encuentra los detalles de conexión en Mis pedidos

  • Interfaces web: Usa la URL del puerto HTTP

  • SSH: ssh -p <port> root@<proxy-address>

¿Qué es Transformers?

Hugging Face Transformers ofrece:

  • Más de 100,000 modelos preentrenados

  • Carga e inferencia de modelos sencillas

  • Soporte para ajuste fino

  • Capacidades multimodales

Despliegue rápido

Imagen de Docker:

Puertos:

Comando:

Instalación

Generación de texto

Generación básica

Modelos de chat

Transmisión

Cuantización

Cuantización de 4 bits

Cuantización de 8 bits

Embeddings

Clasificación de imágenes

Detección de objetos

Segmentación de imágenes

Reconocimiento de voz

Texto a voz

Ajuste fino

Preparar conjunto de datos

Entrenamiento

Tareas de pipeline

Tarea
Nombre del pipeline

Generación de texto

text-generation

Rellenar máscara

fill-mask

Resumen

summarization

Traducción

translation

Respuesta a preguntas

question-answering

Análisis de sentimiento

sentiment-analysis

Clasificación de imágenes

image-classification

Detección de objetos

object-detection

Reconocimiento de voz

automatic-speech-recognition

Texto a voz

text-to-speech

Multi-GPU

Optimización de memoria

Hub de modelos

Descargar modelos

Subir modelos

Consejos de rendimiento

Consejo
Efecto

Usa torch_dtype=torch.float16

50% menos memoria

Habilita Flash Attention 2

Atención 2x más rápida

Usa cuantización

75% menos memoria

Inferencia por lotes

Mayor rendimiento

Solución de problemas

Estimación de costos

Tarifas típicas del marketplace de CLORE.AI (a partir de 2024):

GPU
Tarifa por hora
Tarifa diaria
Sesión de 4 horas

RTX 3060

~$0.03

~$0.70

~$0.12

RTX 3090

~$0.06

~$1.50

~$0.25

RTX 4090

~$0.10

~$2.30

~$0.40

A100 40GB

~$0.17

~$4.00

~$0.70

A100 80GB

~$0.25

~$6.00

~$1.00

Los precios varían según el proveedor y la demanda. Consulta Marketplace de CLORE.AI las tarifas actuales.

Ahorra dinero:

  • Usa el Spot mercado para trabajo interrumpible — alrededor de un tercio de los servidores fija el precio spot por debajo del precio bajo demanda (mediana de ~13% de descuento), el resto lo iguala

  • Paga con CLORE tokens

  • Compara precios entre distintos proveedores

Siguientes pasos

Última actualización

¿Te fue útil?