> For the complete documentation index, see [llms.txt](https://docs.clore.ai/llms.txt). Markdown versions of documentation pages are available by appending `.md` to page URLs; this page is available as [Markdown](https://docs.clore.ai/clore.ai/clore.ai-eng-de/fur-mieter/docker-images.md).

# Verfügbare Docker-Images

Wenn Sie auf Clore.ai einen GPU-Server mieten, können Sie aus vorkonfigurierten Docker-Images wählen oder Ihre eigenen benutzerdefinierten Images verwenden.

## Offizielle Clore-Images

Vorgefertigte Images, gepflegt von Clore.ai, optimiert für den dezentralen GPU-Marktplatz.

### Allgemeiner Zweck

| Docker-Image                              | Beschreibung                       | Ports    | Aktualisiert |
| ----------------------------------------- | ---------------------------------- | -------- | ------------ |
| `cloreai/jupyter:ubuntu24.04-v2`          | Jupyter Lab + SSH auf Ubuntu 24.04 | 22, 8888 | Jan. 2025 ✅  |
| `cloreai/ml-tools:0.1`                    | Jupyter Lab + VS Code Webserver    | 22, 8888 | Juli 2023 ⚠️ |
| `cloreai/ubuntu20.04-jupyter:latest`      | Ubuntu 20.04 + SSH + Jupyter       | 22, 8888 | Nov. 2022 ⚠️ |
| `cloreai/ubuntu-20.04-remote-desktop:1.2` | Ubuntu mit Remote-Desktop-GUI      | 22, 3389 | Mai 2023 ⚠️  |
| `cloreai/torch:2.0.1`                     | PyTorch 2.0.1 + CUDA               | 22       | Juli 2023 ⚠️ |

### KI/ML-Inferenz

| Docker-Image                            | Beschreibung                | Ports | Aktualisiert |
| --------------------------------------- | --------------------------- | ----- | ------------ |
| `cloreai/deepseek-r1-8b:latest`         | DeepSeek R1 8B, startbereit | 8000  | Jan. 2025 ✅  |
| `cloreai/stable-diffusion-webui:latest` | AUTOMATIC1111 SD WebUI      | 7860  | Sep. 2023 ⚠️ |
| `cloreai/oobabooga:1.5`                 | Text-Generierungs-WebUI     | 7860  | Aug. 2023 ⚠️ |

### Infrastruktur & Mining

| Docker-Image                | Beschreibung                 | Aktualisiert |
| --------------------------- | ---------------------------- | ------------ |
| `cloreai/monitoring:0.7`    | Server-Überwachungsagent     | Sep. 2024 ✅  |
| `cloreai/hiveos:0.4`        | HiveOS-Integration           | Feb. 2025 ✅  |
| `cloreai/openvpn-proxy:0.2` | VPN-/Proxy-Weiterleitung     | Feb. 2025 ✅  |
| `cloreai/proxy:0.2`         | Portweiterleitungssystem     | Jan. 2024    |
| `cloreai/automining:0.1`    | Automatisches Mining-Setup   | Jun. 2023 ⚠️ |
| `cloreai/kuzco:latest`      | Verteilte Kuzco-Inferenz     | Jun. 2025 ✅  |
| `cloreai/partner:nastya-01` | Tools für Partnerintegration | Apr. 2025 ✅  |

> ⚠️ Images, die mit ⚠️ markiert sind, wurden seit über einem Jahr nicht aktualisiert. Für ML-Workloads sollten Sie die **Community-Images** unten verwenden, die neuere CUDA- und Framework-Versionen bieten.

## Empfohlene Community-Images

Bewährte Images aus der breiteren KI/ML-Community mit aktiver Pflege und aktuellen Versionen.

### Deep-Learning-Frameworks

| Image                   | Tag                              | Beschreibung                    | Anwendungsfall                      | Ports              |
| ----------------------- | -------------------------------- | ------------------------------- | ----------------------------------- | ------------------ |
| `pytorch/pytorch`       | `2.10.0-cuda13.0-cudnn9-runtime` | Aktuelles PyTorch mit CUDA 13.0 | Training/Inferenz für Deep Learning | 8888 (Jupyter)     |
| `nvidia/cuda`           | `13.1.1-runtime-ubuntu22.04`     | NVIDIA CUDA Runtime             | Benutzerdefinierte CUDA-Anwendungen | -                  |
| `nvidia/cuda`           | `13.1.1-devel-ubuntu22.04`       | CUDA-Entwicklungstools          | CUDA-Projekte erstellen             | -                  |
| `tensorflow/tensorflow` | `2.15.0-gpu`                     | TensorFlow-GPU-Unterstützung    | TensorFlow-Workflows                | 8888 (TensorBoard) |

### LLM-Inferenz-Engines

| Image                                           | Tag      | Beschreibung              | Anwendungsfall              | Ports |
| ----------------------------------------------- | -------- | ------------------------- | --------------------------- | ----- |
| `vllm/vllm-openai`                              | `latest` | Hochleistungs-LLM-Serving | Produktive LLM-APIs         | 8000  |
| `ghcr.io/huggingface/text-generation-inference` | `3.3.5`  | Hugging Face TGI          | LLM-Serving für Unternehmen | 80    |
| `ollama/ollama`                                 | `latest` | Lokaler LLM-Runner        | Lokales/Edge-LLM-Deployment | 11434 |

### Bildgenerierung

| Image                             | Tag      | Beschreibung                | Anwendungsfall                  | Ports |
| --------------------------------- | -------- | --------------------------- | ------------------------------- | ----- |
| `goolashe/automatic1111-sd-webui` | `latest` | Stable Diffusion WebUI      | KI-Kunstgenerierung             | 7860  |
| `sinfallas/comfyui`               | `latest` | ComfyUI, knotenbasiertes SD | Fortgeschrittene Bild-Workflows | 8188  |

### Entwicklungsumgebungen

| Image                         | Tag                            | Beschreibung         | Anwendungsfall          | Ports |
| ----------------------------- | ------------------------------ | -------------------- | ----------------------- | ----- |
| `jupyter/tensorflow-notebook` | `latest`                       | Jupyter + TensorFlow | ML-Experimente          | 8888  |
| `jupyter/pytorch-notebook`    | `latest`                       | Jupyter + PyTorch    | Deep-Learning-Forschung | 8888  |
| `cschranz/gpu-jupyter`        | `v1.10_cuda-12.9_ubuntu-24.04` | GPU-fähiges Jupyter  | GPU-Computing           | 8888  |

## Ein Image auswählen

### Über die Weboberfläche

1. Gehen Sie zu **Marktplatz** → Einen Server finden → **Mieten**
2. Im Bestellformular auswählen **Docker-Image** aus dem Dropdown-Menü
3. Aus vorkonfigurierten Optionen wählen oder ein benutzerdefiniertes Image eingeben
4. Offengelegte Ports konfigurieren (durch Kommas getrennt: `8888,7860,8000`)
5. Bei Bedarf Umgebungsvariablen hinzufügen
6. Bestellung absenden

### Über die API

```json
{
  "image": "pytorch/pytorch:2.10.0-cuda13.0-cudnn9-runtime",
  "ports": [8888, 8000],
  "env": {
    "JUPYTER_ENABLE_LAB": "yes"
  }
}
```

## Benutzerdefinierte Docker-Images

### Unterstützte Registries

* **Docker Hub**: `benutzername/image:tag`
* **GitHub Container Registry**: `ghcr.io/benutzer/image:tag`
* **NVIDIA NGC**: `nvcr.io/nvidia/image:tag`
* **Google Container Registry**: `gcr.io/projekt/image:tag`

### Beispiele

```bash
# Aktuelles PyTorch mit CUDA 12.1
pytorch/pytorch:2.1.0-cuda12.1-cudnn8-runtime

# NVIDIA CUDA-Basis
nvidia/cuda:12.2.0-base-ubuntu22.04

# Hugging Face Transformers
huggingface/transformers-pytorch-gpu:4.35.0

# Benutzerdefiniertes Image
your-username/my-ai-model:v1.0
```

### Anforderungen für benutzerdefinierte Images

* ✅ Muss öffentlich zugänglich sein
* ✅ Sollte für GPU-Instanzen NVIDIA-GPU-Unterstützung enthalten
* ✅ Auf CUDA-fähigen Images basieren, um GPU-Beschleunigung zu nutzen
* ✅ Die erforderlichen Treiber und Bibliotheken enthalten
* ⚠️ Große Images (>10 GB) können länger zum Herunterladen benötigen

## Portkonfiguration

Exponieren Sie Ports für Ihre Anwendungen, damit sie von außen erreichbar sind:

| Port  | Häufige Verwendung   | Framework             |
| ----- | -------------------- | --------------------- |
| 22    | SSH-Zugriff          | System                |
| 8888  | Jupyter Notebook/Lab | Jupyter               |
| 7860  | Gradio-Oberflächen   | SD WebUI, Gradio-Apps |
| 8000  | API-Server           | vLLM, FastAPI         |
| 3000  | Webanwendungen       | React, Node.js        |
| 8080  | HTTP-Dienste         | Allgemeine Webdienste |
| 11434 | Ollama-API           | Ollama                |
| 8188  | ComfyUI-Oberfläche   | ComfyUI               |

### Ports im Bestellformular festlegen

```
8888,7860,8000
```

## Umgebungsvariablen

Geben Sie Konfiguration an Ihre Container weiter:

### Häufige Beispiele

```bash
# Hugging-Face-Token
HF_TOKEN=hf_ihr_token_hier

# Modellkonfiguration
MODEL_NAME=meta-llama/Llama-2-7b-chat-hf
CUDA_VISIBLE_DEVICES=0

# Jupyter-Konfiguration
JUPYTER_ENABLE_LAB=yes
JUPYTER_TOKEN=ihr_sicheres_token

# vLLM-Konfiguration
VLLM_WORKER_MULTIPROC_METHOD=spawn
```

### Sicherheitshinweise

* ❌ Geben Sie keine Geheimnisse in Umgebungsvariablen an
* ✅ Verwenden Sie temporäre Token oder API-Schlüssel
* ✅ Mounten Sie Secrets nach Möglichkeit als Volumes

## Persistenter Speicher

### Speicherorte

* `/workspace` - Bleibt während der Mietdauer normalerweise persistent
* `/root` - Kann beim Neustart des Containers zurückgesetzt werden
* `/tmp` - Temporärer Speicher, nicht persistent

### Best Practices

* Wichtige Daten speichern in `/workspace`
* Externe Speicher für Backups verwenden (S3, GCS usw.)
* Modelle in persistente Verzeichnisse herunterladen
* Volume-Mounts für große Datensätze verwenden

## Best Practices

### Image-Auswahl

1. **Aktuelle Tags verwenden** - Vermeiden `latest` in der Produktion, versionierte Tags bevorzugen
2. **Geeignete Basis auswählen** - CUDA-Version mit Ihrem Framework abgleichen
3. **Bildgröße berücksichtigen** - Kleinere Images werden schneller heruntergeladen
4. **Wartung prüfen** - Bevorzugen Sie aktiv gepflegte Images

### Sicherheit

1. **Minimale Ports exponieren** - Nur die Ports exponieren, die Sie benötigen
2. **Authentifizierung verwenden** - Token für Jupyter/Weboberflächen festlegen
3. **Regelmäßig aktualisieren** - Aktuelle Image-Versionen verwenden
4. **Zugriff überwachen** - Prüfen, wer sich mit Ihren Diensten verbindet

### Leistung

1. **GPU-Kompatibilität** - Prüfen, ob die CUDA-Version Ihren Anforderungen entspricht
2. **Modelle vorab herunterladen** - Modelle in benutzerdefinierte Images aufnehmen, um den Start zu beschleunigen
3. **Container optimieren** - Mehrstufige Builds verwenden, Ebenen minimieren
4. **Cache-Verwaltung** - Docker-Layer-Cache nutzen

## Fehlerbehebung

### Image startet nicht

```bash
# Prüfen Sie, ob das Image existiert und öffentlich ist
docker pull your-image:tag

# CUDA-Kompatibilität prüfen
nvidia-smi
nvcc --version
```

**Häufige Probleme:**

* Image existiert nicht oder ist privat
* Inkompatible CUDA-Version
* Unzureichender Speicherplatz
* Falsche Architektur (arm64 vs x86\_64)

### GPU nicht zugänglich

```bash
# GPU-Verfügbarkeit prüfen
nvidia-smi

# CUDA im Container testen
python -c "import torch; print(torch.cuda.is_available())"
```

**Lösungen:**

* GPU-kompatible Basis-Images verwenden
* Sicherstellen, dass das NVIDIA Container Toolkit verfügbar ist
* CUDA-Treiberkompatibilität prüfen

### Kann auf exponierte Ports nicht zugreifen

1. Warten, bis der Container vollständig gestartet ist (Logs prüfen)
2. Prüfen, ob der Dienst innerhalb des Containers läuft: `netstat -tlnp`
3. Prüfen, ob der Dienst an 0.0.0.0 und nicht an 127.0.0.1 bindet
4. Bestätigen, dass der Port im Bestellformular exponiert ist

### Leistungsprobleme

* Lokalen SSD-Speicher für Modellgewichte verwenden
* Batch-Größen an den verfügbaren GPU-Speicher anpassen
* GPU-Auslastung überwachen: `nvidia-smi -l 1`
* CPU-/Speichernutzung prüfen: `htop`

## Schnellstart-Beispiele

### Jupyter mit PyTorch bereitstellen

```bash
Image: pytorch/pytorch:2.10.0-cuda13.0-cudnn9-runtime
Ports: 8888
Befehl: jupyter lab --ip=0.0.0.0 --allow-root --no-browser
```

### vLLM-API-Server bereitstellen

```bash
Image: vllm/vllm-openai:latest
Ports: 8000
Umgebung: MODEL_NAME=microsoft/DialoGPT-medium
Befehl: python -m vllm.entrypoints.openai.api_server --model $MODEL_NAME --host 0.0.0.0
```

### Stable Diffusion WebUI bereitstellen

```bash
Image: goolashe/automatic1111-sd-webui:latest
Ports: 7860
Befehl: --listen --api --xformers
```

### Ollama bereitstellen

```bash
Image: ollama/ollama:latest
Ports: 11434
Befehl: ollama serve
# Dann: ollama run llama2 (im Container)
```


---

# Agent Instructions
This documentation is published with GitBook. GitBook is the documentation platform designed so that both humans and AI agents can read, navigate, and reason over technical content effectively. Learn more at gitbook.com.

## Querying This Documentation
If you need additional information that is not directly available in this page, you can query the documentation dynamically by asking a question.

Perform an HTTP GET request on the current page URL with the `ask` query parameter, and the optional `goal` query parameter:

```
GET https://docs.clore.ai/clore.ai/clore.ai-eng-de/fur-mieter/docker-images.md?ask=<question>&goal=<endgoal>
```

`ask` is the immediate question: it should be specific, self-contained, and written in natural language.
`goal` is optional and describes the broader end goal you are ultimately trying to accomplish on behalf of the user. GitBook uses it to tailor the answer towards what is most useful for that goal.

The response will contain a direct answer to the question and relevant excerpts and sources from the documentation.

Use this mechanism when the answer is not explicitly present in the current page, you need clarification or additional context, or you want to retrieve related documentation sections.