> For the complete documentation index, see [llms.txt](https://docs.clore.ai/llms.txt). Markdown versions of documentation pages are available by appending `.md` to page URLs; this page is available as [Markdown](https://docs.clore.ai/guides/guides_v2-de/sprachmodelle/qwen35.md). # Qwen3.5 Führe Alibaba Qwen3.5 auf Clore.ai aus — das frischeste Frontier-Modell (Feb. 2026) Qwen3.5, veröffentlicht am 16. Februar 2026, ist Alibabas neuestes Flaggschiffmodell und eine der heißesten Open-Source-Veröffentlichungen von 2026. Das **397B MoE-Flaggschiff** schlug Claude 4.5 Opus im HMMT-Mathe-Benchmark, während das kleinere **35B-Dichtmodell** passt auf eine einzelne RTX 4090. Alle Modelle kommen von Haus aus mit agentischen Fähigkeiten (Tool-Nutzung, Funktionsaufrufe, autonome Aufgabenausführung) und multimodalem Verständnis. ## Wichtige Merkmale * **Drei Größen**: 9B (dicht), 35B (dicht), 397B (MoE) — für jede GPU etwas dabei * **Schlägt Claude 4.5 Opus** im HMMT-Mathe-Benchmark * **Nativ multimodal**: Text- und Bildverständnis * **Agentische Fähigkeiten**: Tool-Nutzung, Funktionsaufrufe, autonome Workflows * **128K-Kontextfenster**: Große Dokumente und Codebasen verarbeiten * **Apache-2.0-Lizenz**: Vollständige kommerzielle Nutzung, keine Einschränkungen ## Modellvarianten | Modell | Parameter | Typ | VRAM (Q4) | VRAM (FP16) | Stärke | | ------------ | --------- | ----- | --------- | ----------- | ------------------------ | | Qwen3.5-9B | 9B | Dicht | 6 GB | 18 GB | Schnell, effizient | | Qwen3.5-35B | 35B | Dicht | 22 GB | 70 GB | Bestes Einzel-GPU-Modell | | Qwen3.5-397B | 397B | MoE | \~100 GB | 400 GB+ | Spitzenklasse | ## Anforderungen {% hint style="warning" %} **Multi-GPU-Rigs der 80-GB-Klasse sind auf dem Clore.ai-Marktplatz nicht gelistet.** Die größten heute gelisteten Setups sind 4× RTX PRO 6000 Blackwell (je 96 GB, insgesamt 380 GB) und 8–11× RTX 5090 (je 32 GB). A100-/H200-/B200-Kapazität wird als [Bare Metal](https://clore.ai/bare-metal) auf Anfrage verkauft. Prüfe [GPU-Preise & Verfügbarkeit](/guides/guides_v2-de/erste-schritte/pricing.md) bevor du ein Deployment dimensionierst. {% endhint %} | Komponente | 9B (Q4) | 35B (Q4) | 397B (Mehr-GPU) | | ---------- | ------------- | ------------- | --------------- | | GPU | RTX 3080 10GB | RTX 4090 24GB | 4× H100 80GB | | VRAM | 8 GB | 22 GB | 320 GB+ | | RAM | 16 GB | 32 GB | 128 GB | | Festplatte | 15 GB | 30 GB | 250 GB | **Empfohlene Clore.ai-GPU**: RTX 4090 24 GB (0,14–0,42 $/Std.) für 35B — beste Qualität fürs Geld ## Schnellstart mit Ollama ```bash # Ollama installieren curl -fsSL https://ollama.com/install.sh | sh # 9B — läuft auf allem (8 GB VRAM) ollama run qwen3.5:9b # 35B quantisiert — benötigt RTX 4090 (24 GB) ollama run qwen3.5:35b # Als API-Server ollama serve & curl http://localhost:11434/v1/chat/completions \ -H "Content-Type: application/json" \ -d '{ "model": "qwen3.5:35b", "messages": [{"role": "user", "content": "Löse dies: Wenn f(x) = x^3 - 3x + 1, finde alle reellen Nullstellen"}] }' ``` ## vLLM-Einrichtung (Produktion) ```bash pip install vllm # 35B auf einer einzelnen GPU vllm serve Qwen/Qwen3.5-35B-Instruct \ --max-model-len 32768 \ --gpu-memory-utilization 0.90 # 9B mit langem Kontext vllm serve Qwen/Qwen3.5-9B-Instruct \ --max-model-len 65536 # 397B auf einem Multi-GPU-Cluster vllm serve Qwen/Qwen3.5-397B-A45B-Instruct \ --tensor-parallel-size 8 \ --max-model-len 32768 ``` ## HuggingFace Transformers ```python import torch from transformers import AutoModelForCausalLM, AutoTokenizer model_name = "Qwen/Qwen3.5-35B-Instruct" tokenizer = AutoTokenizer.from_pretrained(model_name) model = AutoModelForCausalLM.from_pretrained( model_name, torch_dtype=torch.bfloat16, device_map="auto", load_in_4bit=True # Passt 35B auf 24 GB ) messages = [ {"role": "system", "content": "Du bist ein hilfreicher Mathe-Nachhilfelehrer."}, {"role": "user", "content": "Beweise, dass die Quadratwurzel von 2 irrational ist."} ] input_ids = tokenizer.apply_chat_template(messages, return_tensors="pt").to(model.device) output = model.generate(input_ids, max_new_tokens=2048, temperature=0.7, do_sample=True) print(tokenizer.decode(output[0][input_ids.shape[-1]:], skip_special_tokens=True)) ``` ## Beispiel für agentische Nutzung / Tool-Nutzung ```python import json from openai import OpenAI client = OpenAI(base_url="http://localhost:11434/v1", api_key="ollama") tools = [{ "type": "function", "function": { "name": "get_gpu_price", "description": "Aktuellen Mietpreis für ein GPU-Modell auf Clore.ai abrufen", "parameters": { "type": "object", "properties": { "gpu_model": {"type": "string", "description": "GPU-Modellname, z. B. RTX 4090"} }, "required": ["gpu_model"] } } }] response = client.chat.completions.create( model="qwen3.5:35b", messages=[{"role": "user", "content": "Was ist die günstigste GPU, die ich für den Betrieb eines 7B-Modells mieten kann?"}], tools=tools, tool_choice="auto" ) # Qwen3.5 wird get_gpu_price mit den passenden Parametern aufrufen print(response.choices[0].message) ``` ## Warum Qwen3.5 auf Clore.ai? Das 35B-Modell ist wohl das **beste Modell, das du auf einer einzelnen RTX 4090 ausführen kannst**: * Übertrifft Llama 4 Scout bei Mathematik und Schlussfolgerung * Übertrifft Gemma 3 27B bei agentischen Aufgaben * Tool-Nutzung / Funktionsaufrufe funktionieren sofort * Apache 2.0 = keine Lizenzprobleme Für 0,14–0,42 $/Std. für eine RTX 4090 bekommst du KI der Spitzenklasse zum Preis eines Kaffees. ## Tipps für Clore.ai-Nutzer * **35B ist der Sweet Spot**: Passt auf eine RTX 4090 in Q4, übertrifft die meisten 70B-Modelle * **9B fürs Budget**: Sogar eine RTX 3060 (0,03–0,07 $/Std.) betreibt das 9B-Modell gut * **Nutze Ollama für den Schnellstart**: Ein Befehl zum Bereitstellen; OpenAI-kompatible API enthalten * **Agentische Workflows**: Qwen3.5 ist hervorragend in der Tool-Nutzung — kombiniere es mit Funktionsaufrufen für Automatisierung * **Frisches Modell = weniger im Cache**: Der erste Download dauert eine Weile (\~20 GB für 35B). Vorab ziehen, bevor deine Arbeitslast startet ## Fehlerbehebung | Problem | Lösung | | ------------------------------------ | -------------------------------------------------------------------------------------- | | 35B OOM auf 24 GB | Verwende `load_in_4bit=True` oder reduziere `--max-model-len` | | Ollama-Modell nicht gefunden | Ollama aktualisieren: `curl -fsSL https://ollama.com/install.sh \| sh` | | Langsam bei der ersten Anfrage | Das Laden des Modells dauert 30–60 s; nachfolgende Anfragen sind schnell | | Funktionsaufrufe funktionieren nicht | Stelle sicher, dass du übergibst `tools` Parameter; verwende nur die Instruct-Variante | ## Weiterführende Lektüre * [Qwen-Blog](https://qwenlm.github.io/) * [HuggingFace-Modelle](https://huggingface.co/Qwen) * [Ollama-Bibliothek](https://ollama.com/library/qwen3.5) --- # Agent Instructions This documentation is published with GitBook. GitBook is the documentation platform designed so that both humans and AI agents can read, navigate, and reason over technical content effectively. Learn more at gitbook.com. ## Querying This Documentation If you need additional information that is not directly available in this page, you can query the documentation dynamically by asking a question. Perform an HTTP GET request on the current page URL with the `ask` query parameter, and the optional `goal` query parameter: ``` GET https://docs.clore.ai/guides/guides_v2-de/sprachmodelle/qwen35.md?ask=&goal= ``` `ask` is the immediate question: it should be specific, self-contained, and written in natural language. `goal` is optional and describes the broader end goal you are ultimately trying to accomplish on behalf of the user. GitBook uses it to tailor the answer towards what is most useful for that goal. The response will contain a direct answer to the question and relevant excerpts and sources from the documentation. Use this mechanism when the answer is not explicitly present in the current page, you need clarification or additional context, or you want to retrieve related documentation sections.