DeepSeek V4 (MoE 1,6T, multimodal)

Déployez DeepSeek V4 sur Clore.ai — le MoE frontière sous licence MIT, actualisé en Flash-0731 et Pro-0813

Statut (août 2026) : DeepSeek V4 a été lancé pour la première fois le 22 avril 2026 sous MIT, et les deux niveaux ont depuis été actualisés. Les points de contrôle actuels sont deepseek-ai/DeepSeek-V4-Flash-0731 (31 juillet 2026, 167 Go FP8, contexte 1 M, module de décodage spéculatif attaché) et deepseek-ai/DeepSeek-V4-Pro-0813 (13 août 2026, 893 Go FP8, contexte 1 M). Les dépôts d'avril restent en ligne comme génération d'aperçu.

Ce qui a changé depuis avril

Aperçu d'avril

Actuel

Flash

DeepSeek-V4-Flash

DeepSeek-V4-Flash-0731 — 167 Go FP8, 43 couches, 256 experts (6 actifs), contexte 1 M, décodage spéculatif DSpark attaché

Pro

DeepSeek-V4-Pro

DeepSeek-V4-Pro-0813 — 893 Go FP8, 61 couches, 384 experts (6 actifs), contexte 1 M

Contrôle du raisonnement

—

reasoning_effort: faible, élevé, maximum

Modèle de conversation

Jinja

Aucun modèle Jinja. Le dépôt inclut un encoding/ dossier contenant des helpers Python pour construire les prompts et analyser la sortie

Flash-0731 surpasse l'aperçu Pro d'avril sur les propres benchmarks de DeepSeek malgré une fraction des paramètres actifs : Terminal-Bench 2.1 82.7 (contre 72.1), NL2Repo 54.2 (contre 38.5), DeepSWE 54.4 (contre 12.8), Toolathlon-Verified 70.3 (contre 55.9). Ce sont des chiffres fournis par l'éditeur, mesurés avec le propre banc d'essai de DeepSeek à reasoning_effort: max.

Si vous avez déployé l'aperçu d'avril, passer à -0731 est le changement le plus rentable que vous puissiez apporter à un déploiement DeepSeek en ce moment.

Diffuser Flash-0731 avec décodage spéculatif

vllm serve deepseek-ai/DeepSeek-V4-Flash-0731 \\
  --trust-remote-code --kv-cache-dtype fp8 --block-size 256 \\
  --data-parallel-size 4 --enable-expert-parallel \\
  --speculative-config '{"method":"dspark","num_speculative_tokens":7,"draft_sample_method":"greedy"}'

167 Go de poids nécessitent une machine, pas une carte. Sur la place de marché Clore.ai, cela signifie 6× RTX 5090 (186 Go) ou 8× RTX 4090 (192 Go) — 72 serveurs listés à ≥167 Go, 26 libres lors du dernier instantané. Les builds GGUF quantifiés réduisent encore cela. Pro-0813 à 893 Go est un bare metal déploiement.

DeepSeek V4 est le premier modèle de pointe open-weight de 2026 à être publié sous forme de publication en deux niveaux. V4-Pro est le modèle phare — un Mixture-of-Experts de 1,6 trillion de paramètres avec environ 49B de paramètres actifs par jeton, un fenêtre de contexte d’1M de jetons, et une conception d'attention hybride qui combine Compressed Sparse Attention avec une nouvelle tête Heavily Compressed Attention pour un préremplissage peu coûteux à long contexte. V4-Flash est le frère pratique — 284B au total / 13B actifs, la même architecture, tient sur un seul GPU de 80 Go une fois quantifiée, et fonctionne confortablement sur une machine 2×48 Go avec des builds GGUF Unsloth.

L'architecture est le point fort. L'attention hybride de DeepSeek réduit considérablement la mémoire du cache KV à long contexte, et le routeur MoE a été réentraîné pour une sélection d'experts plus précise — les premiers essais indépendants indiquent que Pro atteint des scores de codage de niveau V3 pour environ la moitié du calcul en paramètres actifs. Pour les utilisateurs de Clore.ai, c'est important car V4-Flash est la première fois qu'un modèle de pointe à moins de 15B actifs est livré avec ses poids complets, rendant une inférence ouverte sérieuse accessible avec un seul H100 ou une machine multi-4090 bon marché.

Pour la plupart des équipes, le déploiement réaliste sur Clore est V4-Flash sur 1× A100 80 Go ou 2× RTX 4090 — c'est là que se trouve le meilleur rapport prix/performance. V4-Pro est réservé à une infrastructure sérieuse : 8× H100, 4× H200 ou 8× B200, idéalement avec NVLink. Si vous faisiez tourner DeepSeek V3 ou DeepSeek-R1, le chemin de migration est simple — même famille de modèles, même modèle de conversation, remplacement direct dans vLLM.

Spécifications clés

Propriété

DeepSeek V4-Pro

DeepSeek V4-Flash

Paramètres totaux

1.6T (MoE)

284B (MoE)

Paramètres actifs

~49B par jeton

~13B par jeton

Fenêtre de contexte

1 000 000 de tokens

256 000 jetons

Attention

Compressed Sparse + Heavily Compressed Attention

Compressed Sparse + HCA

Licence

MIT

Date de sortie

22 avril 2026

HuggingFace

deepseek-ai/DeepSeek-V4-Pro

deepseek-ai/DeepSeek-V4-Flash

Outils principaux

vLLM, SGLang (dès le premier jour)

vLLM, SGLang, llama.cpp (GGUF Unsloth)

Pourquoi DeepSeek V4 ?

Poids de pointe véritablement ouverts — licence MIT, aucune restriction d'utilisation, utilisation commerciale complète
contexte 1 M sur Pro, 256K sur Flash — gère des bases de code entières, des livres ou des transcriptions d'une heure en un seul passage
Attention clairsemée hybride — le cache KV évolue de manière sous-linéaire à long contexte, le préremplissage est peu coûteux
Publication en deux niveaux — Flash est le premier MoE à 13B actifs suffisamment bon pour remplacer V3 dans la plupart des flux de travail
Prise en charge vLLM et SGLang dès le jour 0 — pas besoin d'attendre des correctifs communautaires, il suffit de pip install -U et c'est parti
Efficacité MoE — vous payez le coût d'inférence de 13B/49B, pas celui de 284B/1.6T

Exigences

Les configurations multi-GPU de classe 80 Go ne sont pas répertoriées sur la place de marché Clore.ai. Les plus grosses machines répertoriées aujourd’hui sont 4× RTX PRO 6000 Blackwell (96 Go chacune, 380 Go au total) et 8–11× RTX 5090 (32 Go chacune). La capacité A100 / H200 / B200 est proposée en bare metal sur demande. Consultez bare metal sur demande. Consultez Tarifs et disponibilité des GPU avant de dimensionner un déploiement.

V4-Pro est un modèle de pointe. Les poids BF16 complets font environ 3,2 To et nécessitent des H100/H200 multi-nœuds ou 8× B200 NVLink. Il n'existe pas de voie BF16 sur un seul serveur. Si vous n'avez pas d'infrastructure multi-nœuds, lancez V4-Flash — c'est 80 % de la qualité pour 5 % du coût matériel.

Composant

Minimum (V4-Flash, GGUF Q4)

Recommandé (V4-Flash FP8)

V4-Pro complet (BF16)

VRAM GPU

1× 80 Go ou 2× 48 Go

1× H100 80 Go ou 1× A100 80 Go

8× H100 80 Go ou 4× H200 141 Go

RAM

64 Go

128 Go

1 To+

Disque

200 Go NVMe

600 Go NVMe

4 To NVMe

CUDA

12.8+

Réseau

—

NVLink / IB 400 Gb pour le multi-nœuds

Adéquation matérielle : Pour 95 % des utilisateurs, V4-Flash en FP8 sur une carte de classe 80 Go est le meilleur compromis — contexte complet de 256 K, aucune perte due à la quantification, bare metal sur la place de marché. Tournez-vous vers H100 ou H200 les configurations tensor-parallèles uniquement lorsque vous avez réellement besoin du contexte 1 M de V4-Pro ou de la marge de raisonnement supplémentaire.

Option A — Ollama / GGUF (quantifié, V4-Flash uniquement)

Unsloth a publié des quants GGUF pour V4-Flash dans les 48 heures suivant la sortie. Q4_K_M est le meilleur compromis — tient sur 1× 80 Go ou 2× 48 Go et conserve une qualité proche de FP8.

# Récupérer la build Q4_K_M d'Unsloth
docker exec ollama ollama pull hf.co/unsloth/DeepSeek-V4-Flash-GGUF:Q4_K_M
docker exec ollama ollama run hf.co/unsloth/DeepSeek-V4-Flash-GGUF:Q4_K_M

# Ou avec llama.cpp directement sur un GGUF téléchargé
docker run --gpus all -it --rm -p 8080:8080 \\
  -v $(pwd)/models:/models \\
  ghcr.io/ggerganov/llama.cpp:server-cuda \\
  -m /models/DeepSeek-V4-Flash-Q4_K_M.gguf \\
  --n-gpu-layers 99 --ctx-size 65536 \\
  --port 8080 --host 0.0.0.0

Les quants GGUF pour V4-Pro existent mais ne sont pas pratiques — même Q2_K fait environ 400 Go et les performances de déchargement sont inutilisables pour le chat. Restez sur Flash pour les déploiements quantifiés.

Option B — vLLM (API de production, recommandé)

vLLM 0.7.x a ajouté la prise en charge dès le premier jour des deux points de contrôle V4. Les kernels d'attention hybride nécessitent --trust-remote-code et du matériel Hopper ou Blackwell pour la pleine vitesse.

V4-Flash sur un seul H100 / A100 80 Go :

version: "3.8"
services:
  vllm:
    image: vllm/vllm-openai:latest
    ports:
      - "8000:8000"
    volumes:
      - hf_cache:/root/.cache/huggingface
    command: >
      --model deepseek-ai/DeepSeek-V4-Flash
      --tensor-parallel-size 1
      --max-model-len 131072
      --dtype bfloat16
      --gpu-memory-utilization 0.92
      --enable-chunked-prefill
      --served-model-name deepseek-v4-flash
      --trust-remote-code
    deploy:
      resources:
        reservations:
          devices:
            - driver: nvidia
              count: all
              capabilities: [gpu]
    shm_size: "16gb"

volumes:
  hf_cache:

V4-Pro sur 8× H100 80 Go : remplacez la commande par :

    command: >
      --model deepseek-ai/DeepSeek-V4-Pro
      --tensor-parallel-size 8
      --max-model-len 262144
      --dtype bfloat16
      --gpu-memory-utilization 0.90
      --enable-chunked-prefill
      --enable-prefix-caching
      --served-model-name deepseek-v4-pro
      --trust-remote-code

# Tester l'API
curl http://localhost:8000/v1/chat/completions \
  -H "Content-Type: application/json" \
  -d '{
    "model": "deepseek-v4-flash",
    "messages": [{"role": "user", "content": "Écrivez un serveur d'écho TCP asynchrone en Rust avec arrêt gracieux."}],
    "max_tokens": 2048,
    "temperature": 0.6
  }'

Commencez par --max-model-len 131072 même si vous voulez au final le contexte complet de 1 M — les contextes longs augmentent énormément le temps de préremplissage et la mémoire KV. Augmentez-le uniquement une fois la base stable.

Option C — SGLang (alternative, souvent plus rapide sur Hopper)

RadixAttention de SGLang et la mise en cache des préfixes se marient bien avec l'attention hybride de V4 — pour des charges agentiques avec des prompts partagés, attendez-vous à un nombre de tok/s nettement supérieur à celui de vLLM.

docker pull lmsysorg/sglang:latest

# V4-Flash sur 1× H100/A100
python3 -m sglang.launch_server \
  --model-path deepseek-ai/DeepSeek-V4-Flash \\
  --tp-size 1 \
  --context-length 131072 \
  --mem-fraction-static 0.90 \\
  --enable-torch-compile \\
  --served-model-name deepseek-v4-flash \\
  --trust-remote-code

# V4-Pro sur 8× H100
python3 -m sglang.launch_server \
  --model-path deepseek-ai/DeepSeek-V4-Pro \\
  --tp-size 8 \
  --context-length 262144 \\
  --mem-fraction-static 0.88 \\
  --enable-torch-compile \\
  --served-model-name deepseek-v4-pro \\
  --trust-remote-code

de SGLang --enable-torch-compile ajoute généralement encore 10 à 20 % de débit sur Hopper après le préchauffage initial.

Recommandations GPU Clore.ai

Configuration

Modèle

VRAM

Débit attendu

Coût Clore.ai

2× RTX 4090 (Q4 GGUF)

V4-Flash

48GB

Usage amateur, flux unique

0,14–0,42 $/h

1× A100 80 Go (FP8)

V4-Flash

80 Go

Production solide à locataire unique

bare metal

1× RTX 5090 32 Go (Q4 GGUF, déchargement partiel)

V4-Flash

32 Go + RAM

Contraint, développement uniquement

0,25–0,77 $/h au pic

4× H100 80 Go

V4-Flash FP8 (surdimensionné) ou V4-Pro Q4

320 Go

Flash multi-locataire, Pro à flux unique

~1,04 $/h

8× H100 80 Go

V4-Pro BF16

640 Go

Inférence de pointe en production

~1,04 $/h

4× H200 141 Go

V4-Pro BF16 + contexte 1 M

564 Go

Contexte complet 1 M, débit maximal

bare metal

Meilleur rapport qualité-prix sur Clore.ai : 1× A100 80 Go exécutant V4-Flash FP8. Vous obtenez un contexte 256 K, un coût d'inférence actif d'environ 13B, aucune perte de quantification, et la facture correspond à peu près au prix d'un abonnement à l'API Claude Sonnet — avec des poids qui restent sur votre machine.

Cas d’usage

Raisonnement sur toute la base de code — le contexte 1 M de V4-Pro tient dans un monorepo typique de 500K lignes de code plus ses tests dans un seul prompt
RAG longue forme — mettez des livres entiers, des dépôts juridiques ou des rapports annuels dans le contexte, et évitez le pipeline de découpage
Codage agentique — V4-Flash égale V3 sur SWE-Bench pour une fraction du coût d'inférence ; associez-le à SWE-agent ou OpenHands
Synthèse multi-documents — les workflows de recherche qui nécessitaient auparavant Gemini 2.5 Pro s'exécutent désormais sur votre propre matériel
Remplacement auto-hébergé de Cursor / Copilot — V4-Flash sur un seul A100 suffit à saturer une équipe de 5 développeurs
Base de fine-tuning — licence MIT + architecture MoE propre en font un excellent point de départ pour des fine-tunes de domaine

Benchmarks

Déclaré par le fournisseur — vérifiez indépendamment. Les chiffres ci-dessous proviennent de l'annonce de DeepSeek du 22 avril 2026 et de la fiche modèle. Des reproductions indépendantes sont encore publiées ; considérez-les comme indicatives, pas comme une vérité absolue.

Benchmark

V4-Pro

V4-Flash

DeepSeek V3

GLM-5.1

MMLU-Pro

~84%

~78%

~76%

~80%

SWE-Bench Verified

~82%

~74%

~70%

~79%

HumanEval

~96%

~92%

~91%

~94%

MATH-500

~94%

~88%

~85%

~90%

LiveCodeBench

~76%

~68%

~62%

~72%

Long contexte (aiguille dans une botte de foin à 1 M)

~98%

n/d

Pour une comparaison open-weight équivalente, consultez le guide GLM-5.1 — V4-Pro et GLM-5.1 se rendent coup pour coup selon le benchmark.

Dépannage

Problème

Solution

OutOfMemoryError chargement de V4-Pro sur 8×H100

Le BF16 nécessite environ 3,2 To — vous ne pouvez pas faire tenir Pro sur un seul nœud 8×H100. Utilisez 4× H200 141 Go ou du multi-nœuds.

backend d'attention non pris en charge

V4 nécessite vLLM ≥ 0.7.0 ou SGLang ≥ 0.4.4. Exécutez pip install -U vllm (ou récupérez :latest image Docker).

Téléchargement HuggingFace lent

Utilisez huggingface-cli download deepseek-ai/DeepSeek-V4-Flash --local-dir ./weights --resume-download. Pro fait environ 3,2 To ; Flash environ 570 Go.

--trust-remote-code refusé

Les modules d'attention hybride sont fournis comme code personnalisé dans le dépôt — --trust-remote-code est requis pour les deux moteurs jusqu'à ce que les kernels arrivent dans Transformers en amont.

Les sorties GGUF Q4 sont du charabia

Assurez-vous d'utiliser la build Unsloth (unsloth/DeepSeek-V4-Flash-GGUF), et non une première quantification communautaire. Le routeur MoE nécessite une prise en charge spéciale que les premières quants ont mal gérée.

OOM avec un contexte 1 M sur V4-Pro

Descendez à --max-model-len 262144 et ajoutez --enable-prefix-caching. Un service 1 M réel nécessite H200 ou B200.

Préremplissage lent à long contexte

C'est attendu — même avec l'attention hybride, un préremplissage de 500K+ prend des minutes, pas des secondes. Utilisez --enable-chunked-prefill et la mise en cache de préfixe pour amortir.

Étapes suivantes

Prédécesseur : DeepSeek V3 — le modèle V4-Flash remplace effectivement
Frère orienté raisonnement : DeepSeek-R1 — optimisé pour le chain-of-thought, toujours utile pour les flux de travail très mathématiques
Alternative à poids ouverts : GLM-5.1 — MoE de 744B, au sommet de SWE-Bench Pro, rapport prix/performance comparable
Alternative multimodale : Qwen3.5-Omni — si vous avez besoin de vision/audio dans le même modèle
Louez le matériel : Marketplace Clore.ai — H100/H200/A100/RTX 4090 à partir de 0,14–0,42 $/h

Liens

PrécédentLFM2-24B-A2B

SuivantGLM-5.1 (MoE 744B, n°1 SWE-Bench Pro)

Mis à jour il y a 1 mois

Ce contenu vous a-t-il été utile ?