# Qwen3.6-27B (denso, GPU única) {% hint style="info" %} **Estado (abril de 2026):** Qwen3.6-27B fue lanzado por Alibaba el **21 de abril de 2026** bajo la **Apache 2.0** licencia. Los pesos están en [huggingface.co/Qwen/Qwen3.6-27B](https://huggingface.co/Qwen/Qwen3.6-27B). Es un **denso** modelo de 27B — no MoE — con un **contexto nativo de 262K tokens** que se extiende a **1M de tokens con YaRN**, y compatibilidad desde el día 0 en vLLM, SGLang y Ollama. {% endhint %} Los gigantes MoE de 2026 — DeepSeek V4, GLM-5.1, MiMo-V2.5-Pro — son emocionantes en los benchmarks, pero castigadores en la práctica: cientos de GB de pesos, racks de varias GPU, kernels frágiles de enrutamiento de expertos y facturas de inferencia que hacen estremecer a los equipos financieros. Qwen3.6-27B va en la dirección opuesta. Es **denso**denso, cada parámetro se activa en cada token, la VRAM es predecible al gigabyte y no hay sorpresas de enrutamiento de expertos cuando superas un contexto de 8K. Para la mayoría de los equipos, la pregunta no es "¿podemos servir un MoE de 744B?" — sino "¿podemos poner una buena tarjeta en nuestro clúster y servir con ella un asistente de programación de clase frontier?" Qwen3.6-27B está construido exactamente para eso. Q4 cabe en una sola **RTX 4090 24GB**, Q8 cabe en una sola **RTX 5090 32GB**, BF16 cabe en una sola **L40S 48GB** o **A100 40GB**, y Alibaba está publicando **77,2% en SWE-Bench Verified** (afirmado por el proveedor). Una tarjeta, un contenedor, un modelo. ### Especificaciones clave | Propiedad | Valor | | ------------------------ | -------------------------------------- | | Parámetros | 27B (denso) | | Arquitectura | Transformador denso solo decodificador | | Contexto nativo | 262.144 tokens | | Contexto extendido | 1.000.000 tokens (YaRN) | | Licencia | Apache 2.0 | | Fecha de lanzamiento | 21 de abril de 2026 | | Organización | Alibaba (equipo Qwen) | | Herramientas principales | vLLM, SGLang, Ollama, llama.cpp | ### ¿Por qué Qwen3.6-27B? * **Economía de una sola GPU** — Q4 en RTX 4090 desde **0,70–2,50 $/h** en Clore.ai; sin orquestación de paralelismo tensorial que depurar * **Denso, no MoE** — VRAM fija, sin puntos calientes de expertos, sin latencia irregular en ciertos prompts * **Apache 2.0** — totalmente comercial, ajustable, redistribuible, sin límites de uso * **262K de contexto nativo, 1M con YaRN** — bases de código completas, libros enteros, horas de transcripciones en una sola pasada * **Compatibilidad desde el día 0 con vLLM / SGLang / Ollama** — elige tu pila de serving; Qwen publicó configuraciones para los tres al lanzamiento * **77,2% en SWE-Bench Verified** (afirmado por el proveedor) — competitivo con modelos MoE mucho más grandes en tareas reales de programación *** ## Requisitos {% hint style="success" %} **La idea principal es que este modelo es indulgente.** Una sola RTX 4090 del mercado de Clore.ai basta para ejecutar Qwen3.6-27B con calidad de nivel de producción (Q4) o a velocidades "suficientemente buenas para la mayoría de los casos de uso". Sin dolores de cabeza de varias GPU. {% endhint %} | Componente | Q4 (GGUF / AWQ) | Q8 (GGUF / GPTQ) | BF16 | FP16 completo | | ---------- | ---------------- | ---------------- | --------------------------- | ------------------------------ | | GPU | 1× RTX 4090 24GB | 1× RTX 5090 32GB | 1× L40S 48GB o 1× A100 40GB | 1× A100 80GB | | VRAM usada | \~16–18 GB | \~28–30 GB | \~54 GB | \~54 GB + margen para caché KV | | RAM | 32GB | 32GB | 64 GB | 96 GB | | Disco | 20 GB NVMe | 32 GB NVMe | 60 GB NVMe | 60 GB NVMe | | CUDA | 12.1+ | 12.4+ | 12.1+ | 12.1+ | **Selección de Clore.ai:** Para el 90% de los equipos, una sola **RTX 4090 24GB** ejecutando Q4 (AWQ o GGUF) es la respuesta correcta. Obtienes programación de nivel frontier por el precio de un par de cafés al día. Sube a RTX 5090 32GB si quieres Q8 para una calidad algo mejor, o a L40S / A100 40GB para inferencia de producción completa en BF16. *** ## Opción A — Ollama (cuantizado, lo más fácil) Ollama es el camino más rápido de "tengo una GPU de Clore.ai" a "tengo un endpoint de chat". ```bash # Descargar Qwen3.6-27B (Q4_K_M por defecto, descarga de ~17 GB) ollama pull qwen3.6:27b # Ejecutar de forma interactiva ollama run qwen3.6:27b # O exponer la API compatible con OpenAI ollama serve & curl http://localhost:11434/v1/chat/completions \ -H "Content-Type: application/json" \ -d '{ "model": "qwen3.6:27b", "messages": [ {"role": "system", "content": "Eres un ingeniero senior de Go."}, {"role": "user", "content": "Refactoriza este handler para usar context.Context correctamente y añade reintentos con backoff exponencial."} ], "temperature": 0.6 }' ``` {% hint style="info" %} El `qwen3.6:27b` tag en Ollama se asigna a Q4\_K\_M. Usa `qwen3.6:27b-q8_0` para Q8 si tienes una RTX 5090, o `qwen3.6:27b-fp16` para precisión completa (requiere una A100 80GB). {% endhint %} *** ## Opción B — vLLM (producción) vLLM es el servidor de producción recomendado. La configuración de una sola GPU a continuación está orientada a una RTX 4090 con cuantización AWQ. La sección de varias GPU está ahí por completitud, pero con un modelo denso de 27B, casi nunca la necesitas. ```yaml # docker-compose.yml — una sola RTX 4090, Q4 AWQ versión: "3.8" servicios: vllm: imagen: vllm/vllm-openai:latest puertos: - "8000:8000" volúmenes: - hf_cache:/root/.cache/huggingface comando: > --model Qwen/Qwen3.6-27B-Instruct-AWQ --quantization awq --max-model-len 65536 --gpu-memory-utilization 0.92 --served-model-name qwen3.6-27b --enable-auto-tool-choice --tool-call-parser hermes deploy: recursos: reservas: dispositivos: - driver: nvidia count: 1 capabilities: [gpu] shm_size: "8gb" volúmenes: hf_cache: ``` ```bash # Probar la API curl http://localhost:8000/v1/chat/completions \ -H "Content-Type: application/json" \ -d '{ "model": "qwen3.6-27b", "messages": [ {"role": "user", "content": "Explica la diferencia entre MoE y modelos densos en 3 viñetas."} ], "max_tokens": 512, "temperature": 0.7 }' ``` Para BF16 completo **BF16** en una sola L40S 48GB o A100 40GB, elimina `--quantization awq` y apunta al checkpoint base (`Qwen/Qwen3.6-27B-Instruct`, `--dtype bfloat16`, `--max-model-len 131072`). Para 2× RTX 4090 con paralelismo tensorial (contexto más largo, caché KV más grande), añade `--tensor-parallel-size 2`. *** ## Opción C — SGLang SGLang brilla cuando superas la ventana nativa de 262K con YaRN. Pasa `--rope-scaling` para extender a \~1M tokens. ```bash docker pull lmsysorg/sglang:latest # Una sola GPU, contexto nativo de 262K python3 -m sglang.launch_server \ --model-path Qwen/Qwen3.6-27B-Instruct \ --quantization awq \ --context-length 262144 \ --mem-fraction-static 0.90 \ --served-model-name qwen3.6-27b # Extendido con YaRN a 1M tokens (requiere más margen de VRAM) python3 -m sglang.launch_server \ --model-path Qwen/Qwen3.6-27B-Instruct \ --dtype bfloat16 \ --context-length 1000000 \ --json-model-override-args '{"rope_scaling":{"type":"yarn","factor":4.0,"original_max_position_embeddings":262144}}' \ --mem-fraction-static 0.85 ``` {% hint style="warning" %} **Los costos de un contexto de 1M crecen rápido.** Incluso con YaRN, la caché KV para 1M tokens en BF16 es aproximadamente **40–60 GB** dependiendo del tamaño del lote. Planifica para una A100 80GB o H100 si realmente piensas llenar la ventana. {% endhint %} *** ## Recomendaciones de GPU en Clore.ai | Configuración | VRAM | Modo | Rendimiento esperado | Costo en Clore.ai | | -------------------- | ----- | ----------- | ------------------------------------- | ------------------- | | **1× RTX 4090 24GB** | 24GB | Q4 AWQ | 50–80 tok/s, 64K ctx | **\~0,70–2,50 $/h** | | 1× RTX 5090 32GB | 32GB | Q8 GPTQ | 60–90 tok/s, 96K ctx | \~1,50–3,50 $/h | | 1× L40S 48GB | 48GB | BF16 | 35–55 tok/s, 131K ctx | \~1,20–2,80 $/h | | 1× A100 40GB | 40 GB | BF16 | 40–60 tok/s, 96K ctx | \~1,00–2,50 $/h | | 1× A100 80GB | 80GB | FP16 + 262K | 40–60 tok/s, contexto nativo completo | \~1,80–3,50 $/h | | 2× RTX 4090 | 48GB | BF16 TP=2 | 60–80 tok/s, 262K ctx | \~1,50–4,50 $/h | {% hint style="success" %} **La mejor relación calidad-precio, con mucha diferencia:** [1× RTX 4090 desde 0,70 $/h](https://clore.ai/rent-4090.html) ejecutando Q4 AWQ mediante Ollama o vLLM. Obtienes un modelo de programación de clase frontier en una sola tarjeta de consumo por menos que el coste diario de una suscripción a Claude Pro. {% endhint %} *** ## Casos de uso * **Despliegues de producción en una sola GPU** — un contenedor en una sola Clore.ai 4090 y tienes un asistente de programación real * **Agentes de programación** — 77,2% en SWE-Bench Verified (afirmado por el proveedor) lo coloca en la categoría de "útil para PRs autónomos" * **RAG de contexto largo** — 262K nativos bastan para bases de código completas o semanas de registros de chat * **Análisis de 1M tokens** — con YaRN, mete un libro entero o un registro git de varios meses en un solo prompt * **On-prem / aislado de la red** — Apache 2.0 viene con el producto, sin dependencia de API * **Ajuste fino en el borde** — 27B denso es amigable para LoRA/QLoRA en una sola tarjeta * **Trabajador en un agente de agentes** — combínalo como trabajador con un planificador MoE más grande como [GLM-5.1](/guides/guides_v2-es/modelos-de-lenguaje/glm-5-1.md) *** ## Benchmarks {% hint style="warning" %} **Afirmado por el proveedor — verifícalo de forma independiente.** Las cifras de abajo provienen de la publicación de lanzamiento de Alibaba del 21 de abril de 2026. Las reproducciones independientes (Aider, BigCodeBench, tablas de clasificación de LiveCodeBench) siguen llegando. {% endhint %} | Benchmark | Qwen3.6-27B | Qwen3.5-35B | Gemma 3 27B | Llama 4 Scout | | ------------------ | ----------- | ----------- | ----------- | ------------- | | SWE-Bench Verified | **77.2%** | \~71% | \~58% | \~54% | | HumanEval | \~93% | \~92% | \~90% | \~88% | | LiveCodeBench | \~68% | \~65% | \~55% | \~52% | | MMLU-Pro | \~78% | \~76% | \~74% | \~72% | | MATH | \~87% | \~85% | \~78% | \~76% | La cifra principal es **SWE-Bench Verified 77,2%** — eso coloca a un modelo denso de una sola GPU en un terreno antes reservado para sistemas MoE de varias GPU. Tómalo como una afirmación del proveedor hasta que las tablas de LMSYS / Aider lo confirmen. *** ## Solución de problemas | Problema | Solución | | -------------------------------------------------------- | ----------------------------------------------------------------------------------------------------------------------- | | OOM en RTX 4090 (Q4) | Baja `--max-model-len` a 32768; AWQ a 65K ctx está justo al límite de 24GB | | `qwen3.6:27b` no se encuentra en Ollama | Actualiza Ollama; el tag llegó a finales de abril de 2026 | | Configuración YaRN rechazada por vLLM | Requiere vLLM ≥ 0.7.x; pásalo mediante `--rope-scaling` JSON, no banderas separadas | | Las llamadas a herramientas se descartan silenciosamente | Añade `--enable-auto-tool-choice --tool-call-parser hermes` en vLLM | | Prefill lento en contexto largo | Añade `--enable-chunked-prefill` y reduce el tamaño del lote | | OOM de la caché KV en 262K | Baja a Q8 o pasa a L40S 48GB / A100 80GB | | Mala calidad cerca de 1M ctx | YaRN extiende las posiciones, pero la calidad se degrada después de \~600K; mantén el contenido crítico cerca del final | *** ## Próximos pasos * **Predecesor:** [Qwen3.5](/guides/guides_v2-es/modelos-de-lenguaje/qwen35.md) — Qwen3.6-27B es el sucesor denso; misma familia, programación más precisa, contexto nativo más largo * **Hermano multimodal:** [Qwen3.5-Omni](/guides/guides_v2-es/modelos-de-lenguaje/qwen35-omni.md) — texto + audio + imagen + vídeo si necesitas más que texto * **Clase densa similar de 27B:** [Gemma 3](/guides/guides_v2-es/modelos-de-lenguaje/gemma3.md) — competidor denso de 27B de Google, buena comparación de referencia * **Alternativa MoE:** [Llama 4 Scout](/guides/guides_v2-es/modelos-de-lenguaje/llama4.md) — MoE de una sola GPU si quieres comparar arquitecturas * **Salto a MoE de frontera:** [GLM-5.1](/guides/guides_v2-es/modelos-de-lenguaje/glm-5-1.md) — cuando 27B denso no sea suficiente y tengas presupuesto para varias GPU ### Enlaces * [Qwen3.6-27B en HuggingFace](https://huggingface.co/Qwen/Qwen3.6-27B) * [GitHub de Qwen](https://github.com/QwenLM/Qwen) * [Blog de Qwen](https://qwenlm.github.io/) * [Documentación de vLLM](https://docs.vllm.ai) * [Repositorio de SGLang](https://github.com/sgl-project/sglang) * [Biblioteca de Ollama](https://ollama.com/library/qwen3.6) * **Alquila una GPU:** [RTX 4090 desde 0,70 $/h](https://clore.ai/rent-4090.html) · [RTX 5090 32GB](https://clore.ai/rent-5090.html) · [Mercado](https://clore.ai/marketplace) --- # Agent Instructions: Querying This Documentation If you need additional information that is not directly available in this page, you can query the documentation dynamically by asking a question. Perform an HTTP GET request on the current page URL with the `ask` query parameter: ``` GET https://docs.clore.ai/guides/guides_v2-es/modelos-de-lenguaje/qwen36-27b.md?ask= ``` The question should be specific, self-contained, and written in natural language. The response will contain a direct answer to the question and relevant excerpts and sources from the documentation. Use this mechanism when the answer is not explicitly present in the current page, you need clarification or additional context, or you want to retrieve related documentation sections.