Qwen3.5

Führe Alibaba Qwen3.5 auf Clore.ai aus — das frischeste Frontier-Modell (Feb. 2026)

Qwen3.5, veröffentlicht am 16. Februar 2026, ist Alibabas neuestes Flaggschiffmodell und eine der heißesten Open-Source-Veröffentlichungen von 2026. Das 397B MoE-Flaggschiff schlug Claude 4.5 Opus im HMMT-Mathe-Benchmark, während das kleinere 35B-Dichtmodell passt auf eine einzelne RTX 4090. Alle Modelle kommen von Haus aus mit agentischen Fähigkeiten (Tool-Nutzung, Funktionsaufrufe, autonome Aufgabenausführung) und multimodalem Verständnis.

Wichtige Merkmale

• Drei Größen: 9B (dicht), 35B (dicht), 397B (MoE) — für jede GPU etwas dabei

• Schlägt Claude 4.5 Opus im HMMT-Mathe-Benchmark

• Nativ multimodal: Text- und Bildverständnis

• Agentische Fähigkeiten: Tool-Nutzung, Funktionsaufrufe, autonome Workflows

• 128K-Kontextfenster: Große Dokumente und Codebasen verarbeiten

• Apache-2.0-Lizenz: Vollständige kommerzielle Nutzung, keine Einschränkungen

Modellvarianten

Modell	Parameter	Typ	VRAM (Q4)	VRAM (FP16)	Stärke
Qwen3.5-9B	9B	Dicht	6 GB	18 GB	Schnell, effizient
Qwen3.5-35B	35B	Dicht	22 GB	70 GB	Bestes Einzel-GPU-Modell
Qwen3.5-397B	397B	MoE	~100 GB	400 GB+	Spitzenklasse

Anforderungen

Multi-GPU-Rigs der 80-GB-Klasse sind auf dem Clore.ai-Marktplatz nicht gelistet. Die größten heute gelisteten Setups sind 4× RTX PRO 6000 Blackwell (je 96 GB, insgesamt 380 GB) und 8–11× RTX 5090 (je 32 GB). A100-/H200-/B200-Kapazität wird als Bare Metal auf Anfrage verkauft. Prüfe GPU-Preise & Verfügbarkeit bevor du ein Deployment dimensionierst.

Komponente	9B (Q4)	35B (Q4)	397B (Mehr-GPU)
GPU	RTX 3080 10GB	RTX 4090 24GB	4× H100 80GB
VRAM	8 GB	22 GB	320 GB+
RAM	16 GB	32 GB	128 GB
Festplatte	15 GB	30 GB	250 GB

Empfohlene Clore.ai-GPU: RTX 4090 24 GB (0,14–0,42 $/Std.) für 35B — beste Qualität fürs Geld

Schnellstart mit Ollama

# Ollama installieren
curl -fsSL https://ollama.com/install.sh | sh

# 9B — läuft auf allem (8 GB VRAM)
ollama run qwen3.5:9b

# 35B quantisiert — benötigt RTX 4090 (24 GB)
ollama run qwen3.5:35b

# Als API-Server
ollama serve &
curl http://localhost:11434/v1/chat/completions \
  -H "Content-Type: application/json" \
  -d '{
    "model": "qwen3.5:35b",
    "messages": [{"role": "user", "content": "Löse dies: Wenn f(x) = x^3 - 3x + 1, finde alle reellen Nullstellen"}]
  }'

vLLM-Einrichtung (Produktion)

pip install vllm

# 35B auf einer einzelnen GPU
vllm serve Qwen/Qwen3.5-35B-Instruct \
  --max-model-len 32768 \
  --gpu-memory-utilization 0.90

# 9B mit langem Kontext
vllm serve Qwen/Qwen3.5-9B-Instruct \
  --max-model-len 65536

# 397B auf einem Multi-GPU-Cluster
vllm serve Qwen/Qwen3.5-397B-A45B-Instruct \
  --tensor-parallel-size 8 \
  --max-model-len 32768

HuggingFace Transformers

import torch
from transformers import AutoModelForCausalLM, AutoTokenizer

model_name = "Qwen/Qwen3.5-35B-Instruct"
tokenizer = AutoTokenizer.from_pretrained(model_name)
model = AutoModelForCausalLM.from_pretrained(
    model_name,
    torch_dtype=torch.bfloat16,
    device_map="auto",
    load_in_4bit=True  # Passt 35B auf 24 GB
)

messages = [
    {"role": "system", "content": "Du bist ein hilfreicher Mathe-Nachhilfelehrer."},
    {"role": "user", "content": "Beweise, dass die Quadratwurzel von 2 irrational ist."}
]

input_ids = tokenizer.apply_chat_template(messages, return_tensors="pt").to(model.device)
output = model.generate(input_ids, max_new_tokens=2048, temperature=0.7, do_sample=True)
print(tokenizer.decode(output[0][input_ids.shape[-1]:], skip_special_tokens=True))

Beispiel für agentische Nutzung / Tool-Nutzung

import json
from openai import OpenAI

client = OpenAI(base_url="http://localhost:11434/v1", api_key="ollama")

tools = [{
    "type": "function",
    "function": {
        "name": "get_gpu_price",
        "description": "Aktuellen Mietpreis für ein GPU-Modell auf Clore.ai abrufen",
        "parameters": {
            "type": "object",
            "properties": {
                "gpu_model": {"type": "string", "description": "GPU-Modellname, z. B. RTX 4090"}
            },
            "required": ["gpu_model"]
        }
    }
}]

response = client.chat.completions.create(
    model="qwen3.5:35b",
    messages=[{"role": "user", "content": "Was ist die günstigste GPU, die ich für den Betrieb eines 7B-Modells mieten kann?"}],
    tools=tools,
    tool_choice="auto"
)

# Qwen3.5 wird get_gpu_price mit den passenden Parametern aufrufen
print(response.choices[0].message)

Warum Qwen3.5 auf Clore.ai?

Das 35B-Modell ist wohl das beste Modell, das du auf einer einzelnen RTX 4090 ausführen kannst:

• Übertrifft Llama 4 Scout bei Mathematik und Schlussfolgerung

• Übertrifft Gemma 3 27B bei agentischen Aufgaben

• Tool-Nutzung / Funktionsaufrufe funktionieren sofort

• Apache 2.0 = keine Lizenzprobleme

Für 0,14–0,42 $/Std. für eine RTX 4090 bekommst du KI der Spitzenklasse zum Preis eines Kaffees.

Tipps für Clore.ai-Nutzer

• 35B ist der Sweet Spot: Passt auf eine RTX 4090 in Q4, übertrifft die meisten 70B-Modelle

• 9B fürs Budget: Sogar eine RTX 3060 (0,03–0,07 $/Std.) betreibt das 9B-Modell gut

• Nutze Ollama für den Schnellstart: Ein Befehl zum Bereitstellen; OpenAI-kompatible API enthalten

• Agentische Workflows: Qwen3.5 ist hervorragend in der Tool-Nutzung — kombiniere es mit Funktionsaufrufen für Automatisierung

• Frisches Modell = weniger im Cache: Der erste Download dauert eine Weile (~20 GB für 35B). Vorab ziehen, bevor deine Arbeitslast startet

Fehlerbehebung

Problem	Lösung
35B OOM auf 24 GB	Verwende load_in_4bit=True oder reduziere --max-model-len
Ollama-Modell nicht gefunden	Ollama aktualisieren: curl -fsSL https://ollama.com/install.sh | sh
Langsam bei der ersten Anfrage	Das Laden des Modells dauert 30–60 s; nachfolgende Anfragen sind schnell
Funktionsaufrufe funktionieren nicht	Stelle sicher, dass du übergibst tools Parameter; verwende nur die Instruct-Variante

Weiterführende Lektüre

• Qwen-Blog

• HuggingFace-Modelle

• Ollama-Bibliothek