> For the complete documentation index, see [llms.txt](https://docs.clore.ai/llms.txt). Markdown versions of documentation pages are available by appending `.md` to page URLs; this page is available as [Markdown](https://docs.clore.ai/guides/guides_v2-de/sprachmodelle/minimax-m3.md).

# MiniMax M3 (428B multimodal)

Deploye MiniMax M3, ein nativ multimodales 428B MoE mit 1M-Token-Kontext, auf Multi-GPU-Rigs von Clore.ai

{% hint style="info" %}
**Status (August 2026):** MiniMax veröffentlicht **M3** am **1. Juni 2026**, mit Gewichten auf Hugging Face bis zum 7. Juni: [MiniMaxAI/MiniMax-M3](https://huggingface.co/MiniMaxAI/MiniMax-M3). **428B insgesamt / \~23B aktiv**, **1M-Token-Kontext**, native **Text + Bild + Video** Eingabe, unter einer benutzerdefinierten **`minimax-community`** Lizenz (nicht Apache oder MIT — vor der kommerziellen Veröffentlichung lesen).
{% endhint %}

M3s interessante Eigenschaft ist nicht seine Größe, sondern seine Attention. **MiniMax Sparse Attention (MSA)** senkt den Rechenaufwand pro Token bei 1M Kontext auf ungefähr **1/20** der Grouped-Query-Attention und verschafft MiniMax angeblich **9× schnelleres Prefill und 15× schnelleres Decoding** als M2 bei vollem Kontext. Für lange Dokumente und lange Videos ist das der Unterschied zwischen einem Modell, bei dem man sich das Füllen des Fensters leisten kann, und einem, bei dem man das nicht kann.

Mit nur \~23B aktiven Parametern pro Token liegt die Decoding-Geschwindigkeit auf einem quantisierten Build näher an einem Mittelklassemodell als an einem mit 428B.

### Wichtige Spezifikationen

| Eigenschaft            | Wert                                                                 |
| ---------------------- | -------------------------------------------------------------------- |
| Parameter              | 428B insgesamt, \~23B aktiv (MoE)                                    |
| Architektur            | 60 Schichten, GQA + MiniMax Sparse Attention, nativer Vision-Encoder |
| Modalität              | Text, Bild, Video rein → Text raus                                   |
| Kontext                | 1.000.000 Tokens                                                     |
| Lizenz                 | `minimax-community` (benutzerdefiniert, kommerziell eingeschränkt)   |
| Veröffentlichungsdatum | 1. Juni 2026                                                         |
| Gewichte               | BF16 854GB · Q2\_K\_XL GGUF 143GB · Q3\_K\_M GGUF 195GB              |
| Primäre Tools          | vLLM, SGLang, llama.cpp, Transformers                                |

***

## Anforderungen

| Build           | Größe   | Clore.ai-Rig                                                         |
| --------------- | ------- | -------------------------------------------------------------------- |
| `UD-IQ1_M`      | 128 GB  | 6× RTX 5090 (186GB) — komfortabel                                    |
| `UD-Q2_K_XL`    | 143GB   | 6× RTX 5090 oder 8× RTX 4090 (192GB)                                 |
| `UD-Q3_K_M`     | 195GB   | 8× RTX 5090 (248GB)                                                  |
| `UD-Q4_K_S`     | 248GB   | 10× RTX 5090 (310GB) oder 4× RTX PRO 6000 (380GB)                    |
| MXFP8 offiziell | \~430GB | Nicht auf dem Marktplatz → [Bare Metal](https://clore.ai/bare-metal) |
| BF16 offiziell  | 854GB   | [Bare Metal](https://clore.ai/bare-metal)                            |

Beim letzten Snapshot gab es **72 Server mit ≥167GB VRAM (26 frei)** und **54 mit ≥192GB (14 frei)** — genug, um einen Q2- oder Q3-Build unterzubringen, aber nicht so viele, dass man davon ausgehen sollte, dass einer bereitsteht.

{% hint style="warning" %}
Multimodale Eingaben erfordern, dass der Vision-Tower zusammen mit dem Sprachmodell geladen wird. Plane ein paar zusätzliche GB über der Quant-Größe ein, wenn du Bilder oder Videos einspeisen willst, und bevorzuge Rigs mit reichlich Systemspeicher für die Videodekodierung.
{% endhint %}

***

## Mit llama.cpp bereitstellen

```bash
huggingface-cli download unsloth/MiniMax-M3-GGUF \
  --include "*UD-Q2_K_XL*" --local-dir /workspace/m3

llama-server -m /workspace/m3/*UD-Q2_K_XL*-00001-of-*.gguf \
  --host 0.0.0.0 --port 8080 \\
  -ngl 999 --split-mode layer \\
  -c 262144 --flash-attn --no-mmap
```

## Mit vLLM bereitstellen

```bash
vllm serve MiniMaxAI/MiniMax-M3 \
  --tensor-parallel-size 8 \
  --trust-remote-code \
  --max-model-len 262144 \\
  --gpu-memory-utilization 0.92 \
  --enable-expert-parallel
```

Vorquantisierte Checkpoints: [`MiniMaxAI/MiniMax-M3-MXFP8`](https://huggingface.co/MiniMaxAI/MiniMax-M3-MXFP8) (offiziell), [`nvidia/MiniMax-M3-NVFP4`](https://huggingface.co/nvidia/MiniMax-M3-NVFP4) für Blackwell, [`cyankiwi/MiniMax-M3-AWQ-INT4`](https://huggingface.co/cyankiwi/MiniMax-M3-AWQ-INT4) für AWQ-Stacks.

***

## GPU-Empfehlungen für Clore.ai

| Einrichtung     | Gesamt-VRAM | Build        | Clore.ai-Kosten       |
| --------------- | ----------- | ------------ | --------------------- |
| 6× RTX 5090     | 186GB       | Q2\_K\_XL    | \~$1.50–2.60/hr       |
| 8× RTX 4090     | 192 GB      | Q2\_K\_XL    | \~$1.12–3.36/hr       |
| **8× RTX 5090** | **248GB**   | **Q3\_K\_M** | **\~$2.00–3.50/Std.** |
| 4× RTX PRO 6000 | 380 GB      | Q4\_K\_S     | \~$5.00/hr            |

***

## Anwendungsfälle

* **Verständnis langer Videos** — native Videoeingabe plus die Kostenkurve der Sparse Attention
* **Dokumentenanalyse mit Millionen Tokens** — Verträge, Codebasen, Archive in einem einzigen Durchlauf
* **Agentisches Coden und "cowork"-Aufgaben** — wofür MiniMax M3 optimiert hat
* **Günstiges Decoding auf Frontier-Skala** — 23B aktive Parameter bedeuten, dass Tokens bei der Modellgröße schnell generiert werden
* **Multimodales RAG** — ein Modell für Text, Screenshots und Videoframes

{% hint style="warning" %}
**Prüfe die Lizenz vor der kommerziellen Nutzung.** M3 wird unter `minimax-community`, keine OSI-Lizenz. Wenn du uneingeschränkte Bedingungen brauchst, [GLM-5.2](/guides/guides_v2-de/sprachmodelle/glm-5-2.md) ist MIT und [Qwen3.8-27B](/guides/guides_v2-de/sprachmodelle/qwen38-27b.md) ist Apache 2.0.
{% endhint %}

***

## Fehlerbehebung

| Problem                        | Fix                                                                                                        |
| ------------------------------ | ---------------------------------------------------------------------------------------------------------- |
| `trust_remote_code` Fehler     | M3 wird mit benutzerdefiniertem Modellierungscode ausgeliefert — übergebe `--trust-remote-code` in vLLM    |
| Sparse-Attention-Kernel fehlen | Aktualisiere vLLM/SGLang; die MSA-Unterstützung kam nach der Juni-Veröffentlichung hinzu                   |
| Videoeingabe schlägt fehl      | Prüfe, ob das Rig genügend Systemspeicher und CPU für die Dekodierung hat; Video wird hostseitig dekodiert |
| OOM bei 1M Kontext             | Der KV-Cache ist kleiner als bei GQA, aber nicht kostenlos — beginne bei 262K und arbeite dich nach oben   |
| Langsames Prefill              | Aktiviere chunked prefill; MSA's Vorteil zeigt sich bei langem Kontext, nicht bei kurzen Prompts           |

***

## Nächste Schritte

* **Vorgänger:** [MiniMax M2.7](/guides/guides_v2-de/sprachmodelle/minimax-m27.md) — die Coding-MoE aus April
* **MIT-Alternative in ähnlicher Größenordnung:** [GLM-5.2](/guides/guides_v2-de/sprachmodelle/glm-5-2.md)
* **Alternative mit einer einzelnen Karte:** [Qwen3.8-27B](/guides/guides_v2-de/sprachmodelle/qwen38-27b.md)
* **Rig-Dimensionierung:** [GPU-Preise & Verfügbarkeit](/guides/guides_v2-de/erste-schritte/pricing.md)

### Links

* [MiniMax M3 auf Hugging Face](https://huggingface.co/MiniMaxAI/MiniMax-M3) · [GGUF](https://huggingface.co/unsloth/MiniMax-M3-GGUF)
* [Technischer Bericht (arXiv 2606.13392)](https://arxiv.org/abs/2606.13392) · [MSA-Repo](https://github.com/MiniMax-AI/MSA)
* [MiniMax-M3 auf GitHub](https://github.com/MiniMax-AI/MiniMax-M3)
* **Eine GPU mieten:** [RTX 5090](https://clore.ai/rent-5090.html) · [RTX 4090](https://clore.ai/rent-4090.html) · [Marktplatz](https://clore.ai/marketplace)


---

# Agent Instructions
This documentation is published with GitBook. GitBook is the documentation platform designed so that both humans and AI agents can read, navigate, and reason over technical content effectively. Learn more at gitbook.com.

## Querying This Documentation
If you need additional information that is not directly available in this page, you can query the documentation dynamically by asking a question.

Perform an HTTP GET request on the current page URL with the `ask` query parameter, and the optional `goal` query parameter:

```
GET https://docs.clore.ai/guides/guides_v2-de/sprachmodelle/minimax-m3.md?ask=<question>&goal=<endgoal>
```

`ask` is the immediate question: it should be specific, self-contained, and written in natural language.
`goal` is optional and describes the broader end goal you are ultimately trying to accomplish on behalf of the user. GitBook uses it to tailor the answer towards what is most useful for that goal.

The response will contain a direct answer to the question and relevant excerpts and sources from the documentation.

Use this mechanism when the answer is not explicitly present in the current page, you need clarification or additional context, or you want to retrieve related documentation sections.