MiniMax M2.7 (229B MoE Coding)

Deploye MiniMax M2.7 (229B MoE) auf Clore.ai — die Open-Weight-Self-Hosted-Version hinter MiniMax' Vorstoß mit dem Coding-Agenten, mit FP8-Single-Node-Deployment auf H100/H200

Status (April 2026): MiniMax M2.7 wurde am auf HuggingFace veröffentlicht 9. April 2026 von MiniMaxAI und erreichte 496K Downloads in drei Wochen — nach Verbreitung die größte Open-Weight-Veröffentlichung unseres April-Updates. Die Gewichte liegen unter huggingface.co/MiniMaxAI/MiniMax-M2.7 einer benutzerdefinierten MiniMax-Lizenz (Lizenz: Sonstige). Es ist nicht Apache/MIT — lies die LICENSE vor jeder kommerziellen Bereitstellung.

Korrektur: Frühere Versionen unseres Modellindex führten M2.7 als proprietäres Modell nur für APIs auf. Das war am 9. April 2026 falsch — die Gewichte sind öffentlich. Dieser Leitfaden ersetzt diesen Eintrag.

MiniMax M2.7 ist ein 229-Milliarden-Parameter-Mixture-of-Experts Modell (256 Experten, 8 aktiv pro Token) und der neueste Eintrag in MiniMaxs M2-Familie — eine Linie, die um selbstentwickeltes / RL-gesteuertes Post-Training und agentische Codierung Workloads herum aufgebaut ist. Die 2.7-Version ist das öffentliche, selbst hostbare Gegenstück zu MiniMaxs gehostetem Coding-Agenten und wird von MiniMax als konkurrenzfähig mit Claude Sonnet 4.5 bei agentischen Benchmarks positioniert, während sie sich bei einigen davon Claude-Opus-4.6-Gefilden nähert.

Das interessante architektonische Detail ist Interleaved Thinking (eingeführt in M2.1 und verfeinert über 2.5/2.7): Das Modell wechselt <think> zwischen Denkblöcken und normaler Generierung über mehrere Tool-Call-Runden hinweg, sodass die Gedankenlinie über Funktionsaufruf-Roundtrips hinweg erhalten bleibt, statt in jeder Runde verworfen zu werden. Das ist es, was es für Agents mit langem Horizont interessant macht — die Denktrace wird nicht jedes Mal zurückgesetzt, wenn du eine tool_use -Grenze erreichst.

Für Clore.ai-Nutzer ist die praktische Nachricht, dass M2.7 mit einem FP8-(float8_e4m3fn)-Checkpoint im offiziellen Repo ausgeliefert wird. Damit ist ein Deployment auf einem einzelnen Knoten in Reichweite auf 4× H100 80GB oder 2× H200 141GB — keine H200-Octets oder 16-GPU-Racks erforderlich. Wenn du bereits GLM-5.1 und ein zweites Open-Weight-Modell mit anderem Bias-Profil in deinem Agenten-Stack willst, dann ist das das richtige zum Kombinieren.

Wichtige Spezifikationen

Eigenschaft

Wert

Gesamtparameter

229B (MoE, 256 Experten)

Experten pro Token

8 von 256

Aktive Parameter

Nicht offiziell veröffentlicht — siehe Model Card. Die M2-Familie hatte historisch ~10B aktiv; vor öffentlichem Zitieren prüfen.

Hidden Size / Layer

3,072 / 62

Attention

48 Köpfe, 8 KV (GQA)

Kontextfenster

204.800 Tokens (200K)

Tensor-Typen

F32, BF16, F8_E4M3

MTP

Multi-Token-Prediction aktiviert (3 MTP-Module)

Lizenz

Benutzerdefiniertes MiniMax — standardmäßig nicht-kommerziell

Veröffentlichungsdatum

9. April 2026

HF-Downloads (3 Wochen)

~496K

Empfohlenes Sampling

temperature=1.0, top_p=0.95, top_k=40

Primäre Tools

vLLM, SGLang, Transformers, KTransformers, MLX-LM

Warum MiniMax M2.7?

Offene Gewichte bei 229B — größtes „echtes“ Open-Weight-Coding-Modell, das noch auf einen einzelnen 4×H100-Knoten in FP8 passt
Interleaved Thinking — <think> Blöcke überleben über Tool-Call-Runden hinweg, was für SWE-artige Agenten wirklich nützlich ist
Fokus auf Codierung in mehreren Sprachen — MiniMax vermarktet starke Leistung bei Rust, Go, Java, Kotlin, Swift und TypeScript, nicht nur bei Python
Adoptionssignal — 496K Downloads in drei Wochen sind der stärkste Community-Start jeder von uns verfolgten Open-Weight-Veröffentlichung im April 2026
MTP-Unterstützung — spekulatives Decoding über Multi-Token-Prediction-Module ist eingebaut, was sich auf H100/H200 in echten Durchsatz übersetzt
Gehostete Fallback-Option — wenn dein Workload einen einzelnen Knoten sprengt, gibt es den gehosteten Endpunkt von MiniMax; du musst dich zur Architekturzeit nicht festlegen

Anforderungen

Multi-GPU-Rigs der 80GB-Klasse sind auf dem Clore.ai-Marktplatz nicht gelistet. Die größten heute gelisteten Systeme sind 4× RTX PRO 6000 Blackwell (je 96 GB, 380 GB gesamt) und 8–11× RTX 5090 (je 32 GB). Kapazitäten für A100 / H200 / B200 werden als Bare Metal auf Anfrage verkauft. Prüfe GPU-Preise & Verfügbarkeit bevor du eine Bereitstellung dimensionierst.

229B sind immer noch 229B. BF16-Gewichte sind ~460GB. Der FP8-Checkpoint ist ungefähr halb so groß — ~230GB — und genau das macht ein Single-Node-Deployment praktikabel. Community-INT4-Quants liegen darunter bei ~120GB, werden aber nicht offiziell unterstützt.

Komponente

Hobby (INT4 GGUF, Auslagerung)

Option A — Ollama / GGUF (quantisiert)

Nur Community-Quants. MiniMax veröffentlicht keine offiziellen GGUF-Gewichte für M2.7. Community-Q4/Q5-Builds erscheinen typischerweise 1–2 Wochen nach der Veröffentlichung — suche huggingface.co/models?search=minimax-m2.7+gguf und prüfe den Uploader. Die Qualität variiert bei MoE-Quants unter Q4.

# Sobald ein Community-Build Q4_K_M auftaucht (zuerst auf HuggingFace prüfen)
docker exec ollama ollama pull minimax-m2.7:q4_K_M
docker exec ollama ollama run minimax-m2.7:q4_K_M

# Oder direkt mit llama.cpp auf einem heruntergeladenen GGUF
docker run --gpus all -it --rm -p 8080:8080 \\
  -v $(pwd)/models:/models \\
  ghcr.io/ggerganov/llama.cpp:server-cuda \\
  -m /models/minimax-m2.7-q4_k_m.gguf \\
  --n-gpu-layers 80 --ctx-size 32768 \\
  --temp 1.0 --top-p 0.95 --top-k 40 \\
  --port 8080 --host 0.0.0.0

Nur für Hobbyzwecke. Für echte Workloads verwende vLLM oder SGLang gegen den FP8-Checkpoint.

Option B — vLLM (Produktions-API, empfohlen)

vLLM ist das primäre Serving-Ziel. Der offizielle FP8-Checkpoint ist der richtige zum Ziehen — gleiche Qualität wie BF16 bei ungefähr halbem VRAM.

docker-compose.yml — 4× H100 80GB

version: "3.8"
services:
  vllm:
    image: vllm/vllm-openai:latest
    ports:
      - "8000:8000"
    volumes:
      - hf_cache:/root/.cache/huggingface
    command: >
      --model MiniMaxAI/MiniMax-M2.7
      --quantization fp8
      --tensor-parallel-size 4
      --max-model-len 65536
      --gpu-memory-utilization 0.88
      --enable-auto-tool-choice
      --tool-call-parser hermes
      --served-model-name minimax-m2.7
      --trust-remote-code
    deploy:
      resources:
        reservations:
          devices:
            - driver: nvidia
              count: all
              capabilities: [gpu]
    shm_size: "16gb"

volumes:
  hf_cache:

docker-compose.yml — 2× H200 141GB

Reduziere --tensor-parallel-size auf 2 und erhöhe --max-model-len um den Spielraum zu nutzen:

    command: >
      --model MiniMaxAI/MiniMax-M2.7
      --quantization fp8
      --tensor-parallel-size 2
      --max-model-len 131072
      --gpu-memory-utilization 0.90
      --enable-auto-tool-choice
      --tool-call-parser hermes
      --enable-chunked-prefill
      --served-model-name minimax-m2.7
      --trust-remote-code

Rauchtest

curl http://localhost:8000/v1/chat/completions \\
  -H "Content-Type: application/json" \\
  -d '{
    "model": "minimax-m2.7",
    "messages": [
      {"role": "system", "content": "Du bist ein Senior Engineer. Verwende Interleaved Thinking beim Schlussfolgern über Tool-Calls hinweg."},
      {"role": "user", "content": "Prüfe diesen Rust-Async-Handler auf Cancellation-Safety von Tokio: ..."}
    ],
    "max_tokens": 4096,
    "temperature": 1.0,
    "top_p": 0.95
  }'

Nicht senken temperature unter 1.0. MiniMaxs empfohlene Sampling-Einstellung ist T=1.0, top_p=0.95, top_k=40. Greedy Decoding bricht stillschweigend die <think> Verschachtelung bei mehrstufigen Tool-Calls.

Option C — SGLang

Der MoE-Scheduler von SGLang ist auf Hopper konkurrenzfähig mit vLLM und gewinnt bei langen Code-Completionen oft dank des EAGLE-spekuativen Decodings, das mit den MTP-Modulen von M2.7 zusammenspielt.

docker pull lmsysorg/sglang:latest

python3 -m sglang.launch_server \
  --model-path MiniMaxAI/MiniMax-M2.7 \\
  --quantization fp8 \
  --tp-size 4 \\
  --mem-fraction-static 0.88 \\
  --context-length 65536 \\
  --enable-mixed-chunk \\
  --speculative-algorithm EAGLE \\
  --speculative-num-steps 3 \\
  --speculative-eagle-topk 1 \\
  --speculative-num-draft-tokens 4 \\
  --served-model-name minimax-m2.7 \\
  --trust-remote-code

Erwarte etwa 1,5–2× mehr Durchsatz als bei Vanilla-vLLM bei langen Agenten-Traces. Reduziere --tp-size auf 2 auf H200.

GPU-Empfehlungen für Clore.ai

Einrichtung

VRAM

Erwartete Leistung

Clore.ai-Kosten

1× RTX 4090 24GB + RAM-Auslagerung

24GB + 128GB

INT4-Hobby, ~5–10 tok/s

ca. 0,14–0,42 $/h

4× A100 80GB

320GB

BF16 geshardet, ~15–25 tok/s

Bare Metal

4× H100 80GB (FP8)

320GB

FP8-Produktion, ~40–60 tok/s

~$4,16/h

2× H200 141GB (FP8)

282GB

FP8-Produktion, ~50–70 tok/s, voller 200K-Kontext

Bare Metal

8× H100 80 GB

640GB

BF16 voll, ~80+ tok/s

~$8,32/h

Bestes Preis-Leistungs-Verhältnis: 2× H200 mit dem FP8-Checkpoint. Gleiche Durchsatzklasse wie 4× H100 mit halb so vielen Tensor-Parallel-Hops, oft günstiger pro Tag auf dem Marktplatz, und du behältst genug VRAM-Reserve für den vollen 200K-Kontext.

Miete die Maschinen hier:

H200 als Bare Metal — empfohlen für das 2× H200 FP8-Deployment
H100-GPUs mieten — für das 4× H100 FP8-Deployment
A100 80GB als Bare Metal — BF16-Multi-GPU-Fallback
RTX 4090 mieten — nur für INT4-Hobbygebrauch
Marktplatz — gesamter Bestand, On-Demand und Spot-Gebote

Anwendungsfälle

SWE-Agenten für mehrere Sprachen — Rust, Go, Java, Kotlin, Swift und TypeScript werden erstklassig behandelt, nicht nur Python/JS
Tool-Calling-Schleifen mit langem Horizont — Interleaved Thinking hält die Denktrace über Hunderte von tool_use Roundtrips
Codebase-Audits — 200K Kontext passt eine mittelgroße Service-App plus Tests in einen Prompt
Refactoring-Pipelines — anhaltende Korrektheit über viele Dateiänderungen hinweg durch die MTP-Module
Orchestrierung von Agenten durch Agenten — verwende M2.7 als Planner und ein kleineres Modell (Qwen3.5, GLM-4.7-Flash) als Worker
Selbst gehostete Alternative zu Claude Sonnet/Opus für nicht-kommerzielle Codierforschung — aber lies zuerst die Lizenz

Benchmarks

Vom Anbieter behauptet — unabhängig prüfen. Die Zahlen unten stammen aus den Release-Notes von MiniMax vom 9. April 2026. Unabhängige Reproduktionen laufen noch ein.

Benchmark

MiniMax M2.7

Claude Sonnet 4.5 (Anbieter-Referenz)

Claude Opus 4.6 (Anbieter-Referenz)

GPT-5.3-Codex

SWE-Pro

56.22%

~55%

~57.3%

56.2%

VIBE-Pro

55.6%

—

~57%

—

Terminal Bench 2

57.0%

—

GDPval-AA (ELO)

1495

—

MiniMaxs Einordnung: M2.7 erreicht oder übertrifft Claude Sonnet 4.5 in der Agentic-Coding-Suite, die ihnen wichtig ist, und landet bei SWE-Pro / VIBE-Pro innerhalb weniger Punkte von Claude Opus 4.6. Betrachte das als Richtungssignal, nicht als feststehendes Ranking — der Abstand zu geschlossenen Frontier-Modellen schrumpft mit jeder Veröffentlichung.

MiniMax M2-Familie

Version

Veröffentlicht

Architektonischer Fokus

Fehlerbehebung

Problem

Lösung

OutOfMemoryError bei FP8-Ladung

Benötigt ~230 GB VRAM. Verwende 4× H100 80GB oder 2× H200 141GB. Reduziere --max-model-len zuerst auf 32768.

Langsamer HuggingFace-Download

huggingface-cli download MiniMaxAI/MiniMax-M2.7 --local-dir ./weights --resume-download. Rechne mit ~230 GB FP8 / ~460 GB BF16.

Tool-Calls stillschweigend verworfen

Setze --enable-auto-tool-choice --tool-call-parser hermes in vLLM. M2.7 verwendet Hermes-artige Tool-Tags.

<think> Blöcke leer oder verstümmelt

Sampling muss temperature=1.0, top_p=0.95, top_k=40. Greedy Decoding bricht Interleaved Thinking.

MTP-Fehler / Form-Mismatch

Aktualisiere vLLM auf die neueste stabile Version; die MTP-Unterstützung kam spät, und ältere Builds liefern die Module nicht mit.

200K-Kontext führt auf H100 zu OOMs

Verwende --enable-chunked-prefill und starte bei --max-model-len 65536. Der volle 200K-Kontext erfordert realistisch H200.

Lizenzverwirrung

Standard = nicht-kommerziell. E-Mail api@minimax.io mit Betreff „M2.7 licensing“ vor jeder bezahlten Produktnutzung.

Nächste Schritte

Audio-Geschwistermodell: MiniMax Speech — derselbe Anbieter, Audio-/Sprachgenerierung
Open-Lizenz-Alternative: GLM-5.1 — 744B / 40B aktiv, MIT-Lizenz, Top SWE-Bench Pro
Alternative mit riesigem Kontext: DeepSeek V4 — 1M Kontext, multimodal
Günstigere agentische Option: GLM-4.7 Flash — passt auf einen einzelnen H100, MIT
Clore.ai-Marktplatz: clore.ai/marketplace — H100/H200/A100 vom Spot-Markt

Wichtige Spezifikationen

Warum MiniMax M2.7?

Anforderungen

Option A — Ollama / GGUF (quantisiert)

Option B — vLLM (Produktions-API, empfohlen)

docker-compose.yml — 4× H100 80GB

docker-compose.yml — 2× H200 141GB

Rauchtest

Option C — SGLang

GPU-Empfehlungen für Clore.ai

Anwendungsfälle

Benchmarks

MiniMax M2-Familie

Fehlerbehebung

Nächste Schritte

Links