Hy3 Preview (Tencent Hunyuan 3, MoE 295B)

Déployez Hy3 Preview de Tencent (MoE 295B, 21B actifs, ctx 256K) sur Clore.ai — le premier modèle de la nouvelle pile d'entraînement de Tencent Hunyuan, optimisé pour le raisonnement à long terme et le codage agentique

Statut (avril 2026) : Hy3 Preview est la première version publique de l'infrastructure d'entraînement reconstruite de Tencent Hunyuan, publiée le 13 avril 2026 et mise à jour pour la dernière fois le 23 avril 2026. Les poids sont disponibles sur huggingface.co/tencent/Hy3-preview sous la Licence communautaire Tencent Hy. La prise en charge dès le jour 0 est arrivée dans vLLM et SGLang.

Hy3 Preview est un modèle de langage Mixture-of-Experts de 295 Md de paramètres qui n'active que ~21 Md de paramètres par jeton (192 experts, routage top-8). Il vise deux charges de travail pour lesquelles Tencent rattrape visiblement son retard : le raisonnement à long horizon (FrontierScience-Olympiad, IMOAnswerBench, examens de doctorat en maths) et la programmation agentique (SWE-bench Verified 74,4 %, Terminal-Bench 2.0 54,4 %, d'après les chiffres du fournisseur). La fenêtre de contexte de 256K ainsi qu'une couche spéculative MTP (Multi-Token Prediction) rendent ce modèle pratique pour les agents de codage à l'échelle de l'IDE et le RAG gourmand en documents.

Pour les utilisateurs de Clore.ai, le chiffre clé est 21 Md actifs. Vous n'avez pas besoin d'un rack complet 8×H200. Un déploiement en parallélisme de tenseur sur 4×A100 80 Go ou 2×H100 80 Go (BF16 avec déchargement) suffit pour le servir à un débit utilisable — du codage agentique de niveau frontier pour ~2,08 $/h sur la place de marché, les poids restant sur votre propre machine.

Spécifications clés

Propriété

Valeur

Paramètres totaux

295B (MoE)

Paramètres actifs

21B par passe avant

Experts

192 au total, routage top-8

Couches

80 transformeurs + 1 MTP

Attention

64 têtes, GQA avec 8 têtes KV, dimension de tête 128

Taille cachée

4096

Taille intermédiaire

13,312

Vocabulaire

120,832

Fenêtre de contexte

256 000 jetons

Précision native

BF16

Licence

Licence communautaire Tencent Hy

Date de sortie

13 avril 2026

Organisation

Tencent Hunyuan

Outils principaux

vLLM, SGLang, AngelSlim, LLaMA-Factory

Pourquoi Hy3 Preview ?

Premier sur la pile RL reconstruite de Tencent — Tencent a réécrit son infrastructure d'entraînement pour cette sortie ; attendez-vous à une itération rapide tout au long de 2026
MoE actif de 21 Md — payez le coût d'inférence d'un modèle dense d'environ 21 Md, pas de 295 Md
Contexte 256K — assez pour des dépôts complets, de longues traces d'agent ou un RAG multi-document en une seule fois
Couche spéculative MTP — la prédiction multi-jetons intégrée apporte ~1,5 à 2× de vitesse de décodage sur les GPU de classe Hopper
Deux modes de raisonnement — reasoning_effort: "high" pour la chaîne de pensée, "no_think" pour des réponses directes rapides
Priorité au codage agentique — explicitement optimisé pour l'utilisation multi-tours d'outils à la manière de SWE-bench et pour les agents de terminal
Licence favorable à l'open source — la licence communautaire Tencent Hy est de style Apache pour la plupart des usages ; vérifiez le fichier LICENSE pour votre cas

Exigences

Les configurations multi-GPU de classe 80 Go ne sont pas répertoriées sur la place de marché Clore.ai. Les plus grosses machines répertoriées aujourd’hui sont 4× RTX PRO 6000 Blackwell (96 Go chacune, 380 Go au total) et 8–11× RTX 5090 (32 Go chacune). La capacité A100 / H200 / B200 est proposée en bare metal sur demande. Consultez bare metal sur demande. Consultez Tarifs et disponibilité des GPU avant de dimensionner un déploiement.

Cela reste un modèle de classe 295B. "21B active" décrit le calcul d'inférence, pas l'empreinte mémoire. Les poids BF16 complets font environ 590 Go et doivent résider en VRAM (ou être déchargés). Prévoyez 8×H100/H200 si vous voulez un débit sans contrainte ; 4×A100 80 Go fonctionnent avec déchargement et des contextes plus courts.

Composant

Minimum (Q4 GGUF, déchargement)

Recommandé (BF16, TP)

BF16 complet (production)

VRAM GPU

~80 Go + déchargement sur 256 Go de RAM

4× A100 80 Go (320 Go)

8× H100 80 Go ou 8× H20-3e

RAM

256 Go

384 Go

512 Go

Disque

700 Go NVMe

1 To NVMe

1,5 To NVMe

CUDA

12.8+

Pilote

550+

560+

Adéquation matérielle : Pour la plupart des équipes, 4× A100 80 Go avec parallélisme de tenseur BF16 et --max-model-len 65536 est le meilleur compromis (bare metal). Si vous avez besoin du contexte complet 256K avec des utilisateurs simultanés, passez à 8×H100.

Option A — Ollama / GGUF (quantifiés, versions communautaires)

Attention : Hy3 Preview est tout nouveau (13 avril 2026) et utilise une architecture MoE personnalisée. La prise en charge communautaire pour llama.cpp / GGUF arrive généralement 2 à 4 semaines après la sortie. Si vous en avez besoin aujourd'hui, utilisez vLLM (Option B). Vérifiez huggingface.co/models?search=hy3-preview+gguf pour les quantifications communautaires avant de récupérer.

# Une fois qu'une build Q4_K_M est publiée
docker exec ollama ollama pull hy3-preview:q4_K_M
docker exec ollama ollama run hy3-preview:q4_K_M

# Ou avec llama.cpp directement sur un GGUF communautaire
docker run --gpus all -it --rm -p 8080:8080 \\
  -v $(pwd)/models:/models \\
  ghcr.io/ggerganov/llama.cpp:server-cuda \\
  -m /models/hy3-preview-q4_k_m.gguf \
  --n-gpu-layers 80 --ctx-size 32768 \
  --port 8080 --host 0.0.0.0

Avant les jours du GGUF, AngelSlim (la boîte à outils de quantification de Tencent) peut produire directement des poids W4A16 / W8A8 à partir du checkpoint BF16.

Option B — vLLM (API de production, recommandé)

vLLM est la cible de service de premier ordre de Tencent pour Hy3 Preview. La couche spéculative MTP est intégrée via --speculative-config.method mtp.

version: "3.8"
services:
  vllm:
    image: vllm/vllm-openai:latest
    ports:
      - "8000:8000"
    volumes:
      - hf_cache:/root/.cache/huggingface
    command: >
      --model tencent/Hy3-preview
      --tensor-parallel-size 8
      --max-model-len 65536
      --gpu-memory-utilization 0.90
      --speculative-config.method mtp
      --speculative-config.num_speculative_tokens 1
      --tool-call-parser hy_v3
      --reasoning-parser hy_v3
      --enable-auto-tool-choice
      --served-model-name hy3-preview
      --trust-remote-code
    deploy:
      resources:
        reservations:
          devices:
            - driver: nvidia
              count: all
              capabilities: [gpu]
    shm_size: "16gb"

volumes:
  hf_cache:

# Testez l'API avec un effort de raisonnement élevé
curl http://localhost:8000/v1/chat/completions \
  -H "Content-Type: application/json" \
  -d '{
    "model": "hy3-preview",
    "messages": [
      {"role": "system", "content": "Vous êtes un ingénieur logiciel expert."},
      {"role": "user", "content": "Refactorez cette fonction Python pour utiliser async/await et ajoutez une gestion d'erreur appropriée."}
    ],
    "max_tokens": 4096,
    "temperature": 0.9,
    "top_p": 1.0,
    "reasoning_effort": "high"
  }'

Modes de raisonnement. Définissez reasoning_effort: "high" pour activer des traces de chaîne de pensée (plus lent, bien meilleur sur les tâches de maths/codage/agentiques) ou "no_think" pour des réponses directes rapides. L'échantillonnage recommandé par le fournisseur est temperature=0.9, top_p=1.0 — un échantillonnage à température nulle peut casser les traces de raisonnement.

À court de GPU ? Descendez à --tensor-parallel-size 4 sur 4× A100 80 Go. Conservez --max-model-len 32768 et ajoutez --enable-chunked-prefill pour garder une latence de préremplissage raisonnable.

Option C — SGLang

SGLang fournit la prise en charge dès le jour 0 et associe la couche MTP à EAGLE pour un débit supplémentaire sur Hopper.

docker pull lmsysorg/sglang:latest

python3 -m sglang.launch_server \
  --model tencent/Hy3-preview \
  --tp 8 \
  --tool-call-parser hunyuan \
  --reasoning-parser hunyuan \
  --speculative-algorithm EAGLE \
  --speculative-num-steps 1 \
  --speculative-eagle-topk 1 \
  --speculative-num-draft-tokens 2 \
  --mem-fraction-static 0.88 \\
  --context-length 65536 \\
  --served-model-name hy3-preview

Attendez-vous à un gain de débit de 1,5 à 2× sur les longues boucles d'agent par rapport au décodage classique.

Recommandations GPU Clore.ai

Configuration

VRAM

Performances attendues

Coût Clore.ai

Louer

4× A100 80 Go

320 Go

BF16 shardé, contexte 64K, ~15–25 tok/s

bare metal

Bare metal

2× H100 80 Go

160 Go

BF16 avec déchargement, contexte plus petit, ~12–20 tok/s

~2,08 $/h

Louer H100

8× H100 80 Go

640 Go

BF16 complet, contexte 256K, 60+ tok/s avec MTP

~8,32 $/h

Louer H100

8× H200 141 Go

1 128 Go

BF16 complet + concurrence maximale

bare metal

Bare metal

1× RTX 5090

32 Go

Q4 GGUF, déchargement sur RAM, utilisateur unique

0,25–0,77 $/h

Place de marché

Meilleur choix : 4× A100 80 Go avec parallélisme de tenseur BF16 et une fenêtre de contexte 64K, disponibles sous la forme de bare metal plutôt qu'une location sur la place de marché. Vous obtenez un agentic coder open-weight de classe 295B pour à peu près le prix d'un abonnement Claude Pro, et les poids ne quittent jamais votre machine louée.

Cas d’usage

Agents SWE autonomes — 74,4 % SWE-bench Verified (d'après les chiffres du fournisseur) et optimisation explicite pour de longues boucles d'appels d'outils ; associez-le à OpenHands, SWE-agent ou Aider
Agents pilotés par le terminal — 54,4 % sur Terminal-Bench 2.0 le place dans le haut du panier pour les workflows shell/CLI
Raisonnement à long horizon — maths de niveau olympiade (IMOAnswerBench, FrontierScience-Olympiad) et STEM de niveau doctorat
RAG à l'échelle d'une base de code — le contexte 256K permet de faire tenir un dépôt de taille moyenne complet plus les tests dans un seul prompt
Agents de recherche et de navigation — l'optimisation BrowseComp / WideSearch en fait un excellent planificateur pour la recherche web en plusieurs étapes
Agent d'agents — utilisez Hy3 Preview comme planificateur et des modèles ouverts plus légers (Qwen3.5, GLM-4.7 Flash) comme exécutants

Benchmarks

Déclaré par le fournisseur — vérifiez indépendamment. Tous les chiffres ci-dessous proviennent de la fiche modèle de Tencent du 13 avril 2026. Les reproductions indépendantes (en particulier sur SWE-bench Verified) continuent d'arriver. Considérez-les comme des bornes supérieures jusqu'à confirmation par LMSYS / OpenCompass.

Benchmark

Hy3 Preview

GLM-5.1

DeepSeek R1

GPT-5.4

SWE-bench Verified

74.4%

~79%

~71%

~78%

Terminal-Bench 2.0

54.4%

—

GPQA Diamond

87.2%

—

~84%

~88%

SuperGPQA

51.6%

—

HLE

~30

—

Tencent annonce également de bons résultats sur les benchmarks propriétaires CL-bench / CL-bench-Life d'apprentissage de contexte et l'examen de doctorat en mathématiques Qiuzhen de l'université Tsinghua (printemps 2026).

Dépannage

Problème

Solution

OutOfMemoryError au chargement

BF16 nécessite environ 590 Go de VRAM au total. Descendez à 4×A100 avec --max-model-len 32768 ou utilisez les quantifications AngelSlim W4A16.

Téléchargement HuggingFace lent

Utilisez huggingface-cli download tencent/Hy3-preview --local-dir ./weights --resume-download. Attendez-vous à 590 Go et plus.

Appels d'outils ignorés silencieusement

Assurez-vous que --tool-call-parser hy_v3 (vLLM) ou --tool-call-parser hunyuan (SGLang) est défini, et --enable-auto-tool-choice est activé.

Trace de raisonnement vide / incorrecte

Utilisez temperature=0.9, top_p=1.0. Le décodage gourmand à température nulle casse la chaîne de pensée. Vérifiez reasoning_effort: "high".

Erreurs de décodage spéculatif MTP

Nécessite une version récente de vLLM (build postérieure à avril 2026). Exécutez pip install -U vllm --pre ou épinglez à une version qui mentionne mtp dans les notes de version.

OOM avec un contexte 256K

Commencez à --max-model-len 32768, activez --enable-chunked-prefill, augmentez progressivement. Le 256K complet nécessite en pratique 8× H200.

Architecture personnalisée rejetée

Passez toujours --trust-remote-code. Hy3 est livré avec du code de modélisation personnalisé dans le checkpoint.

Ollama / GGUF non disponible

Les quantifications communautaires arrivent généralement 2 à 4 semaines après la sortie. Utilisez vLLM ou AngelSlim en attendant.

Étapes suivantes

Concurrent open-weight le plus proche : GLM-5.1 — MoE 744B / 40B actif, licence MIT, meilleurs scores SWE-bench Pro
Alternative multimodale : Qwen3.5-Omni — texte + audio + image + vidéo, fonctionne sur une seule RTX 4090
Alternative axée uniquement sur le raisonnement : DeepSeek R1 — spécialiste pur du raisonnement long format
Louez le matériel : A100 80 Go en bare metal — instances 4× A100 80 Go de bare metal
Place de marché complète : clore.ai/marketplace — H100, H200, A100, RTX 5090 à partir de 0,25–0,77 $/h

Liens

PrécédentGemini 3.1 Flash Lite

SuivantMiMo-V2.5-Pro (MoE 1T de Xiaomi)

Mis à jour il y a 1 mois

Ce contenu vous a-t-il été utile ?