Qwen3.5

Запускайте Alibaba Qwen3.5 на Clore.ai — самая свежая передовая модель (февраль 2026)

Qwen3.5, выпущенная 16 февраля 2026 года, является последней флагманской моделью Alibaba и одним из самых обсуждаемых опенсорс-релизов 2026 года. Эта флагманская MoE модель на 397B опередила Claude 4.5 Opus в бенчмарке по математике HMMT, тогда как более компактная плотная модель на 35B умещается на одном RTX 4090. Все модели из коробки поддерживают агентные возможности (использование инструментов, вызовы функций, автономное выполнение задач) и мультимодальное понимание.

Ключевые особенности

• Три размера: 9B (dense), 35B (dense), 397B (MoE) — вариант для любой GPU

• Опережает Claude 4.5 Opus в бенчмарке HMMT по математике

• Нативно мультимодальна: Понимание текста и изображений

• Агентные возможности: Использование инструментов, вызов функций, автономные рабочие потоки

• Окно контекста 128K: Обработка больших документов и кодовых баз

• Лицензия Apache 2.0: Полное коммерческое использование, без ограничений

Варианты моделей

Модель	Параметры	Тип	VRAM (Q4)	VRAM (FP16)	Сильная сторона
Qwen3.5-9B	9B	Плотная	6GB	18GB	Быстрая, эффективная
Qwen3.5-35B	35B	Плотная	22GB	70GB	Лучшее для одного GPU
Qwen3.5-397B	397B	MoE	~100GB	400GB+	Класс фронтира

Требования

Компонент	9B (Q4)	35B (Q4)	397B (мульти-GPU)
GPU	RTX 3080 10GB	RTX 4090 24GB	4× H100 80GB
VRAM	8GB	22GB	320GB+
ОЗУ	16GB	32GB	128GB
Диск	15GB	30GB	250GB

Рекомендуемый GPU на Clore.ai: RTX 4090 24GB (~$0.5–2/день) для 35B — лучшее соотношение качества и цены

Быстрый старт с Ollama

# Установите Ollama
curl -fsSL https://ollama.com/install.sh | sh

# 9B — работает на любом устройстве (8GB VRAM)
ollama run qwen3.5:9b

# 35B в квантизированном виде — требует RTX 4090 (24GB)
ollama run qwen3.5:35b

# В режиме API-сервера
ollama serve &
curl http://localhost:11434/v1/chat/completions \
  -H "Content-Type: application/json" \
  -d '{
    "model": "qwen3.5:35b",
    "messages": [{"role": "user", "content": "Решите это: если f(x) = x^3 - 3x + 1, найдите все действительные корни"}]
  }'

Настройка vLLM (Production)

pip install vllm

# 35B на одном GPU
vllm serve Qwen/Qwen3.5-35B-Instruct \
  --max-model-len 32768 \
  --gpu-memory-utilization 0.90

# 9B с длинным контекстом
vllm serve Qwen/Qwen3.5-9B-Instruct \
  --max-model-len 65536

# 397B на кластере с несколькими GPU
vllm serve Qwen/Qwen3.5-397B-A45B-Instruct \
  --tensor-parallel-size 8 \
  --max-model-len 32768

HuggingFace Transformers

import torch
from transformers import AutoModelForCausalLM, AutoTokenizer

model_name = "Qwen/Qwen3.5-35B-Instruct"
tokenizer = AutoTokenizer.from_pretrained(model_name)
model = AutoModelForCausalLM.from_pretrained(
    model_name,
    torch_dtype=torch.bfloat16,
    device_map="auto",
    load_in_4bit=True  # Помещается 35B на 24GB
)

messages = [
    {"role": "system", "content": "Вы — полезный репетитор по математике."},
    {"role": "user", "content": "Докажите, что квадратный корень из 2 иррационален."}
]

input_ids = tokenizer.apply_chat_template(messages, return_tensors="pt").to(model.device)
output = model.generate(input_ids, max_new_tokens=2048, temperature=0.7, do_sample=True)
print(tokenizer.decode(output[0][input_ids.shape[-1]:], skip_special_tokens=True))

Пример агентного поведения / использования инструментов

import json
from openai import OpenAI

client = OpenAI(base_url="http://localhost:11434/v1", api_key="ollama")

tools = [{
    "type": "function",
    "function": {
        "name": "get_gpu_price",
        "description": "Получить текущую цену аренды для модели GPU на Clore.ai",
        "parameters": {
            "type": "object",
            "properties": {
                "gpu_model": {"type": "string", "description": "Название модели GPU, например RTX 4090"}
            },
            "required": ["gpu_model"]
        }
    }
}]

response = client.chat.completions.create(
    model="qwen3.5:35b",
    messages=[{"role": "user", "content": "Какая самая дешевая GPU, которую я могу арендовать для запуска модели 7B?"}],
    tools=tools,
    tool_choice="auto"
)

# Qwen3.5 вызовет get_gpu_price с соответствующими параметрами
print(response.choices[0].message)

Почему Qwen3.5 на Clore.ai?

Модель 35B, по сути, является лучшей моделью, которую вы можете запустить на одном RTX 4090:

• Опережает Llama 4 Scout в математике и рассуждениях

• Опережает Gemma 3 27B в агентных задачах

• Использование инструментов / вызовы функций работают из коробки

• Apache 2.0 = никаких лицензионных проблем

При цене $0.5–2/день за RTX 4090 вы получаете ИИ уровня фронтира по цене чашки кофе.

Советы для пользователей Clore.ai

• 35B — золотая середина: Умещается на RTX 4090 Q4, превосходит большинство моделей 70B

• 9B для экономии: Даже RTX 3060 ($0.15/день) хорошо справляется с моделью 9B

• Используйте Ollama для быстрого старта: Одна команда для сервинга; включено совместимое с OpenAI API

• Агентные рабочие потоки: Qwen3.5 превосходна в использовании инструментов — комбинируйте с вызовами функций для автоматизации

• Свежее моделирование = меньше кеша: Первое скачивание занимает время (~20GB для 35B). Предварительно загрузите перед началом работы

Устранение неполадок

Проблема	Решение
35B OOM на 24GB	Используйте load_in_4bit=True или уменьшите --max-model-len
Модель Ollama не найдена	Обновите Ollama: curl -fsSL https://ollama.com/install.sh | sh
Медленно при первом запросе	Загрузка модели занимает 30–60 с; последующие запросы быстрые
Вызовы инструментов не работают	Убедитесь, что вы передаете tools параметр; используйте только instruct-вариант

Дополнительное чтение

• Блог Qwen

• Модели на HuggingFace

• Библиотека Ollama