> For the complete documentation index, see [llms.txt](https://docs.clore.ai/llms.txt). Markdown versions of documentation pages are available by appending `.md` to page URLs; this page is available as [Markdown](https://docs.clore.ai/guides/guides_v2-es/modelos-de-lenguaje/language-models.md).

# Descripción general

Ejecuta modelos de lenguaje grandes (LLM) en GPU de CLORE.AI para inferencia y aplicaciones de chat.

## Herramientas populares

| Herramienta                                                                                | Caso de uso                                | Dificultad   |
| ------------------------------------------------------------------------------------------ | ------------------------------------------ | ------------ |
| [Ollama](/guides/guides_v2-es/modelos-de-lenguaje/ollama.md)                               | La configuración de LLM más sencilla       | Principiante |
| [Open WebUI](/guides/guides_v2-es/modelos-de-lenguaje/open-webui.md)                       | Interfaz tipo ChatGPT                      | Principiante |
| [vLLM](/guides/guides_v2-es/modelos-de-lenguaje/vllm.md)                                   | Servicio de producción de alto rendimiento | Medio        |
| [Llama.cpp Server](/guides/guides_v2-es/modelos-de-lenguaje/llamacpp-server.md)            | Inferencia GGUF eficiente                  | Fácil        |
| [Text Generation WebUI](/guides/guides_v2-es/modelos-de-lenguaje/text-generation-webui.md) | Interfaz de chat completa                  | Fácil        |
| [ExLlamaV2](/guides/guides_v2-es/modelos-de-lenguaje/exllamav2-fast.md)                    | La inferencia EXL2 más rápida              | Medio        |
| [LocalAI](/guides/guides_v2-es/modelos-de-lenguaje/localai-openai-compatible.md)           | API compatible con OpenAI                  | Medio        |
| [SGLang](/guides/guides_v2-es/modelos-de-lenguaje/sglang.md)                               | Generación estructurada rápida             | Medio        |
| [Text Generation Inference (TGI)](/guides/guides_v2-es/modelos-de-lenguaje/tgi.md)         | Solución de servicio de HuggingFace        | Medio        |
| [LMDeploy](/guides/guides_v2-es/modelos-de-lenguaje/lmdeploy.md)                           | Kit de herramientas de servicio de MMlab   | Medio        |
| [Aphrodite Engine](/guides/guides_v2-es/modelos-de-lenguaje/aphrodite-engine.md)           | Fork de vLLM con funciones adicionales     | Medio        |
| [MLC-LLM](/guides/guides_v2-es/modelos-de-lenguaje/mlc-llm.md)                             | Compilación de aprendizaje automático      | Difícil      |
| [LiteLLM](/guides/guides_v2-es/modelos-de-lenguaje/litellm.md)                             | Proxy de API unificada                     | Medio        |
| [PowerInfer](/guides/guides_v2-es/modelos-de-lenguaje/powerinfer.md)                       | Inferencia de modelos dispersos            | Difícil      |
| [Mistral.rs](/guides/guides_v2-es/modelos-de-lenguaje/mistral-rs.md)                       | Motor de inferencia basado en Rust         | Medio        |

## Guías de modelos

### Últimos y mejores modelos

| Modelo                                                                           | Parámetros              | Licencia            | Cabe en                 |
| -------------------------------------------------------------------------------- | ----------------------- | ------------------- | ----------------------- |
| [Qwen3.8-27B](/guides/guides_v2-es/modelos-de-lenguaje/qwen38-27b.md)            | 27B denso               | Apache 2.0          | 1× RTX 4090 (Q4)        |
| [Mistral Small 4](/guides/guides_v2-es/modelos-de-lenguaje/mistral-small4.md)    | 119B / 6.5B activos     | Apache 2.0          | 2× RTX 4090 (Q2)        |
| [GLM-5.2](/guides/guides_v2-es/modelos-de-lenguaje/glm-5-2.md)                   | \~750B / 40B activos    | MIT                 | 10× RTX 5090 (Q2)       |
| [DeepSeek V4](/guides/guides_v2-es/modelos-de-lenguaje/deepseek-v4.md)           | Flash 167GB · Pro 893GB | MIT                 | 6–8× RTX 5090 (Flash)   |
| [MiniMax M3](/guides/guides_v2-es/modelos-de-lenguaje/minimax-m3.md)             | 428B / 23B activos      | minimax-community   | 6–8× RTX 5090 (Q2–Q3)   |
| [Nemotron 3 Ultra](/guides/guides_v2-es/modelos-de-lenguaje/nemotron-3-ultra.md) | 550B / 55B activos      | OpenMDW-1.1         | 4× RTX PRO 6000 (NVFP4) |
| [Kimi K3](/guides/guides_v2-es/modelos-de-lenguaje/kimi-k3.md)                   | 2.8T                    | licencia de Kimi K3 | Nada en el mercado      |
| [GLM-5.1](/guides/guides_v2-es/modelos-de-lenguaje/glm-5-1.md)                   | 744B / 40B activos      | MIT                 | Equipos grandes         |
| [Llama 4](/guides/guides_v2-es/modelos-de-lenguaje/llama4.md)                    | Scout y Maverick        | Comunidad Llama     | 1× RTX 4090 (Scout Q4)  |
| [DeepSeek-R1](/guides/guides_v2-es/modelos-de-lenguaje/deepseek-r1.md)           | 671B MoE                | MIT                 | Equipos grandes         |
| [Qwen2.5](/guides/guides_v2-es/modelos-de-lenguaje/qwen25.md)                    | 0.5B–72B                | Apache 2.0          | Cualquier tarjeta       |

### Modelos especializados

| Modelo                                                                       | Parámetros   | Ideal para                   |
| ---------------------------------------------------------------------------- | ------------ | ---------------------------- |
| [DeepSeek Coder](/guides/guides_v2-es/modelos-de-lenguaje/deepseek-coder.md) | 6.7B-33B     | Generación de código         |
| [CodeLlama](/guides/guides_v2-es/modelos-de-lenguaje/codellama.md)           | 7B-34B       | Autocompletado de código     |
| [GLM-4.7-Flash](/guides/guides_v2-es/modelos-de-lenguaje/glm-47-flash.md)    | 4.7B         | Chino/inglés rápido          |
| [GLM-5](/guides/guides_v2-es/modelos-de-lenguaje/glm5.md)                    | Por anunciar | Lo último de Zhipu AI        |
| [Kimi K2.5](/guides/guides_v2-es/modelos-de-lenguaje/kimi-k2.md)             | Por anunciar | Modelo de Moonshot AI        |
| [Ling-2.5-1T](/guides/guides_v2-es/modelos-de-lenguaje/ling25.md)            | 1T           | LLM de código abierto masivo |
| [LFM2-24B](/guides/guides_v2-es/modelos-de-lenguaje/lfm2-24b.md)             | 24B          | Modelo de Liquid AI          |
| [MiMo-V2-Flash](/guides/guides_v2-es/modelos-de-lenguaje/mimo-v2-flash.md)   | Por anunciar | Modelo de inferencia rápida  |

### Modelos eficientes

| Modelo                                                                         | Parámetros   | Ideal para                           |
| ------------------------------------------------------------------------------ | ------------ | ------------------------------------ |
| [Gemma 2](/guides/guides_v2-es/modelos-de-lenguaje/gemma2.md)                  | 2B-27B       | Inferencia eficiente                 |
| [Gemma 3](/guides/guides_v2-es/modelos-de-lenguaje/gemma3.md)                  | Por anunciar | Lo más reciente y compacto de Google |
| [Phi-4](/guides/guides_v2-es/modelos-de-lenguaje/phi4.md)                      | 14B          | Pequeño pero capaz                   |
| [Mistral/Mixtral](/guides/guides_v2-es/modelos-de-lenguaje/mistral-mixtral.md) | 7B / 8x7B    | Uso general                          |
| [Mistral Large 3](/guides/guides_v2-es/modelos-de-lenguaje/mistral-large3.md)  | 675B MoE     | De nivel empresarial                 |
| [Mistral Small 3.1](/guides/guides_v2-es/modelos-de-lenguaje/mistral-small.md) | Por anunciar | Variante eficiente de Mistral        |

## Recomendaciones de GPU

{% hint style="warning" %}
**Los equipos multinodo de clase 80GB no aparecen listados en el marketplace de Clore.ai.** Los equipos más grandes listados hoy son 4× RTX PRO 6000 Blackwell (96GB cada una, 380GB en total) y 8–11× RTX 5090 (32GB cada una). La capacidad A100 / H200 / B200 se vende como [bare metal](https://clore.ai/bare-metal) bajo pedido. Consulta [Precios y disponibilidad de GPU](/guides/guides_v2-es/primeros-pasos/pricing.md) antes de dimensionar un despliegue.
{% endhint %}

| Tamaño del modelo | GPU mínima    | Recomendado          | Coste en Clore.ai |
| ----------------- | ------------- | -------------------- | ----------------- |
| 7B (Q4)           | RTX 3060 12GB | RTX 3090             | $0.03–0.21/hr     |
| 13B (Q4)          | RTX 3090 24GB | RTX 4090             | $0.07–0.42/hr     |
| 27B (Q4)          | RTX 3090 24GB | RTX 4090 / 5090      | $0.07–0.77/hr     |
| 34B (Q4)          | 2× RTX 3090   | 1× RTX 5090          | $0.14–0.77/hr     |
| 70B (Q4)          | 2× RTX 5090   | 1× RTX PRO 6000 96GB | $0.50–1.54/h      |
| 120B+ (Q2)        | 2× RTX 4090   | 2× RTX 5090          | $0.28–1.54/hr     |
| 400B+ (Q2)        | 8× RTX 5090   | 4× RTX PRO 6000      | \~$2.00–5.00/hr   |

## Guía de cuantización

| Formato  | Uso de VRAM | Calidad    | Velocidad    |
| -------- | ----------- | ---------- | ------------ |
| Q2\_K    | Más bajo    | Deficiente | Más rápido   |
| Q4\_K\_M | Baja        | Bueno      | Rápido       |
| Q5\_K\_M | Medio       | Excelente  | Medio        |
| Q8\_0    | Alta        | Excelente  | Más lento    |
| FP16     | Máxima      | Mejor      | El más lento |

## Ver también

* [Entrenamiento y ajuste fino](/guides/guides_v2-es/entrenamiento/training.md)
* [Modelos de visión y lenguaje](/guides/guides_v2-es/modelos-de-vision/vision-models.md)


---

# Agent Instructions
This documentation is published with GitBook. GitBook is the documentation platform designed so that both humans and AI agents can read, navigate, and reason over technical content effectively. Learn more at gitbook.com.

## Querying This Documentation
If you need additional information that is not directly available in this page, you can query the documentation dynamically by asking a question.

Perform an HTTP GET request on the current page URL with the `ask` query parameter, and the optional `goal` query parameter:

```
GET https://docs.clore.ai/guides/guides_v2-es/modelos-de-lenguaje/language-models.md?ask=<question>&goal=<endgoal>
```

`ask` is the immediate question: it should be specific, self-contained, and written in natural language.
`goal` is optional and describes the broader end goal you are ultimately trying to accomplish on behalf of the user. GitBook uses it to tailor the answer towards what is most useful for that goal.

The response will contain a direct answer to the question and relevant excerpts and sources from the documentation.

Use this mechanism when the answer is not explicitly present in the current page, you need clarification or additional context, or you want to retrieve related documentation sections.