MiniMax M3 (428B multimodal)

Deploye MiniMax M3, ein nativ multimodales 428B MoE mit 1M-Token-Kontext, auf Multi-GPU-Rigs von Clore.ai

Status (August 2026): MiniMax veröffentlicht M3 am 1. Juni 2026, mit Gewichten auf Hugging Face bis zum 7. Juni: MiniMaxAI/MiniMax-M3. 428B insgesamt / ~23B aktiv, 1M-Token-Kontext, native Text + Bild + Video Eingabe, unter einer benutzerdefinierten minimax-community Lizenz (nicht Apache oder MIT — vor der kommerziellen Veröffentlichung lesen).

M3s interessante Eigenschaft ist nicht seine Größe, sondern seine Attention. MiniMax Sparse Attention (MSA) senkt den Rechenaufwand pro Token bei 1M Kontext auf ungefähr 1/20 der Grouped-Query-Attention und verschafft MiniMax angeblich 9× schnelleres Prefill und 15× schnelleres Decoding als M2 bei vollem Kontext. Für lange Dokumente und lange Videos ist das der Unterschied zwischen einem Modell, bei dem man sich das Füllen des Fensters leisten kann, und einem, bei dem man das nicht kann.

Mit nur ~23B aktiven Parametern pro Token liegt die Decoding-Geschwindigkeit auf einem quantisierten Build näher an einem Mittelklassemodell als an einem mit 428B.

Wichtige Spezifikationen

Eigenschaft	Wert
Parameter	428B insgesamt, ~23B aktiv (MoE)
Architektur	60 Schichten, GQA + MiniMax Sparse Attention, nativer Vision-Encoder
Modalität	Text, Bild, Video rein → Text raus
Kontext	1.000.000 Tokens
Lizenz	minimax-community (benutzerdefiniert, kommerziell eingeschränkt)
Veröffentlichungsdatum	1. Juni 2026
Gewichte	BF16 854GB · Q2_K_XL GGUF 143GB · Q3_K_M GGUF 195GB
Primäre Tools	vLLM, SGLang, llama.cpp, Transformers

---

Anforderungen

Build	Größe	Clore.ai-Rig
UD-IQ1_M	128 GB	6× RTX 5090 (186GB) — komfortabel
UD-Q2_K_XL	143GB	6× RTX 5090 oder 8× RTX 4090 (192GB)
UD-Q3_K_M	195GB	8× RTX 5090 (248GB)
UD-Q4_K_S	248GB	10× RTX 5090 (310GB) oder 4× RTX PRO 6000 (380GB)
MXFP8 offiziell	~430GB	Nicht auf dem Marktplatz → Bare Metal
BF16 offiziell	854GB	Bare Metal

Beim letzten Snapshot gab es 72 Server mit ≥167GB VRAM (26 frei) und 54 mit ≥192GB (14 frei) — genug, um einen Q2- oder Q3-Build unterzubringen, aber nicht so viele, dass man davon ausgehen sollte, dass einer bereitsteht.

Multimodale Eingaben erfordern, dass der Vision-Tower zusammen mit dem Sprachmodell geladen wird. Plane ein paar zusätzliche GB über der Quant-Größe ein, wenn du Bilder oder Videos einspeisen willst, und bevorzuge Rigs mit reichlich Systemspeicher für die Videodekodierung.

---

Mit llama.cpp bereitstellen

huggingface-cli download unsloth/MiniMax-M3-GGUF \
  --include "*UD-Q2_K_XL*" --local-dir /workspace/m3

llama-server -m /workspace/m3/*UD-Q2_K_XL*-00001-of-*.gguf \
  --host 0.0.0.0 --port 8080 \\
  -ngl 999 --split-mode layer \\
  -c 262144 --flash-attn --no-mmap

Mit vLLM bereitstellen

vllm serve MiniMaxAI/MiniMax-M3 \
  --tensor-parallel-size 8 \
  --trust-remote-code \
  --max-model-len 262144 \\
  --gpu-memory-utilization 0.92 \
  --enable-expert-parallel

Vorquantisierte Checkpoints: MiniMaxAI/MiniMax-M3-MXFP8 (offiziell), nvidia/MiniMax-M3-NVFP4 für Blackwell, cyankiwi/MiniMax-M3-AWQ-INT4 für AWQ-Stacks.

---

GPU-Empfehlungen für Clore.ai

Einrichtung	Gesamt-VRAM	Build	Clore.ai-Kosten
6× RTX 5090	186GB	Q2_K_XL	~$1.50–2.60/hr
8× RTX 4090	192 GB	Q2_K_XL	~$1.12–3.36/hr
8× RTX 5090	248GB	Q3_K_M	~$2.00–3.50/Std.
4× RTX PRO 6000	380 GB	Q4_K_S	~$5.00/hr

---

Anwendungsfälle

• Verständnis langer Videos — native Videoeingabe plus die Kostenkurve der Sparse Attention

• Dokumentenanalyse mit Millionen Tokens — Verträge, Codebasen, Archive in einem einzigen Durchlauf

• Agentisches Coden und "cowork"-Aufgaben — wofür MiniMax M3 optimiert hat

• Günstiges Decoding auf Frontier-Skala — 23B aktive Parameter bedeuten, dass Tokens bei der Modellgröße schnell generiert werden

• Multimodales RAG — ein Modell für Text, Screenshots und Videoframes

Prüfe die Lizenz vor der kommerziellen Nutzung. M3 wird unter minimax-community, keine OSI-Lizenz. Wenn du uneingeschränkte Bedingungen brauchst, GLM-5.2 ist MIT und Qwen3.8-27B ist Apache 2.0.

---

Fehlerbehebung

Problem	Fix
trust_remote_code Fehler	M3 wird mit benutzerdefiniertem Modellierungscode ausgeliefert — übergebe --trust-remote-code in vLLM
Sparse-Attention-Kernel fehlen	Aktualisiere vLLM/SGLang; die MSA-Unterstützung kam nach der Juni-Veröffentlichung hinzu
Videoeingabe schlägt fehl	Prüfe, ob das Rig genügend Systemspeicher und CPU für die Dekodierung hat; Video wird hostseitig dekodiert
OOM bei 1M Kontext	Der KV-Cache ist kleiner als bei GQA, aber nicht kostenlos — beginne bei 262K und arbeite dich nach oben
Langsames Prefill	Aktiviere chunked prefill; MSA's Vorteil zeigt sich bei langem Kontext, nicht bei kurzen Prompts

---

Nächste Schritte

• Vorgänger: MiniMax M2.7 — die Coding-MoE aus April

• MIT-Alternative in ähnlicher Größenordnung: GLM-5.2

• Alternative mit einer einzelnen Karte: Qwen3.8-27B

• Rig-Dimensionierung: GPU-Preise & Verfügbarkeit

Links

• MiniMax M3 auf Hugging Face · GGUF

• Technischer Bericht (arXiv 2606.13392) · MSA-Repo

• MiniMax-M3 auf GitHub

• Eine GPU mieten: RTX 5090 · RTX 4090 · Marktplatz