MiniMax M3 (428B мультимодальная)
Разверните MiniMax M3, нативно мультимодальную MoE на 428B с контекстом 1M токенов, на много-GPU ригах Clore.ai
Интересная особенность M3 — не его размер, а его механизм внимания. Разреженное внимание MiniMax (MSA) сокращает вычисления на токен при контексте 1M примерно до 1/20 чем grouped-query attention, что, по утверждению MiniMax, даёт в 9× более быстрое предзаполнение и в 15× более быстрое декодирование чем M2 при полном контексте. Для работы с длинными документами и длинным видео это разница между моделью, которой можно позволить заполнить окно, и той, которой нельзя.
При всего ~23 млрд активных параметров на токен скорость декодирования на квантизированной сборке ближе к модели среднего размера, чем к 428-миллиардной.
Ключевые характеристики
Параметры
428 млрд всего, ~23 млрд активных (MoE)
Архитектура
60 слоёв, GQA + разреженное внимание MiniMax, встроенный визуальный энкодер
Модальность
Текст, изображение, видео на вход → текст на выход
Контекст
1 000 000 токенов
Лицензия
minimax-community (собственная, с коммерческими ограничениями)
Дата выпуска
1 июня 2026
Веса
BF16 854 ГБ · Q2_K_XL GGUF 143 ГБ · Q3_K_M GGUF 195 ГБ
Основные инструменты
vLLM, SGLang, llama.cpp, Transformers
Требования
UD-IQ1_M
128 ГБ
6× RTX 5090 (186 ГБ) — комфортно
UD-Q2_K_XL
143 ГБ
6× RTX 5090 или 8× RTX 4090 (192 ГБ)
UD-Q3_K_M
195 ГБ
8× RTX 5090 (248GB)
UD-Q4_K_S
248GB
10× RTX 5090 (310 ГБ) или 4× RTX PRO 6000 (380 ГБ)
На последнем снимке было 72 сервера с ≥167 ГБ VRAM (26 свободных) и 54 с ≥192 ГБ (14 свободных) — достаточно, чтобы разместить сборку Q2 или Q3, но не настолько много, чтобы предполагать, что одна из них будет ждать.
Для мультимодального ввода нужно загружать визуальный модуль вместе с языковой моделью. Закладывайте несколько дополнительных ГБ сверх размера квантизации, если планируете подавать изображения или видео, и предпочитайте сборки с большим объёмом системной RAM для декодирования видео.
Развёртывание с llama.cpp
Развертывание с vLLM
Предварительно квантизированные чекпойнты: MiniMaxAI/MiniMax-M3-MXFP8 (официальный), nvidia/MiniMax-M3-NVFP4 для Blackwell, cyankiwi/MiniMax-M3-AWQ-INT4 для стеков AWQ.
Рекомендации по GPU для Clore.ai
6× RTX 5090
186 ГБ
Q2_K_XL
~$1.50–2.60/ч
8× RTX 4090
192 ГБ
Q2_K_XL
~$1.12–3.36/ч
8× RTX 5090
248GB
Q3_K_M
~$2.00–3.50/ч
4× RTX PRO 6000
380 ГБ
Q4_K_S
~$5.00/ч
Сценарии использования
Понимание длинного видео — нативный ввод видео плюс кривая стоимости разреженного внимания
Анализ документов на миллион токенов — контракты, кодовые базы, архивы за один проход
Агентное программирование и задачи "cowork" — под что MiniMax оптимизировала M3
Недорогое декодирование на передовом масштабе — 23 млрд активных параметров означают, что токены выходят быстро для модели такого размера
Мультимодальный RAG — одна модель для текста, скриншотов и кадров видео
Проверьте лицензию перед коммерческим использованием. M3 поставляется под minimax-community, а не под лицензией OSI. Если вам нужны неограниченные условия, GLM-5.2 — MIT, а Qwen3.8-27B — Apache 2.0.
Устранение неполадок
trust_remote_code ошибки
M3 поставляется с собственным кодом моделирования — передайте --trust-remote-code в vLLM
Отсутствуют ядра разреженного внимания
Обновите vLLM/SGLang; поддержка MSA появилась после июньского релиза
Не работает ввод видео
Проверьте, что у сборки достаточно системной RAM и CPU для декодирования; видео декодируется на стороне хоста
OOM при контексте 1M
KV-кэш меньше, чем у GQA, но не бесплатен — начинайте с 262K и повышайте
Медленный префилл
Включите chunked prefill; преимущество MSA проявляется на длинном контексте, а не на коротких промптах
Дальнейшие шаги
Предшественник: MiniMax M2.7 — апрельская MoE для кодирования
Альтернатива на MIT с похожим масштабом: GLM-5.2
Альтернатива на одной карте: Qwen3.8-27B
Подбор конфигурации: Цены и доступность GPU
Ссылки
Арендовать GPU: RTX 5090 · RTX 4090 · Маркетплейс
Последнее обновление
Это было полезно?