# Überblick

KI-Modelle auf CLORE.AI-GPUs trainieren und feinabstimmen.

## Verfügbare Leitfäden

| Anleitung                                                                                     | Anwendungsfall                          | Schwierigkeitsgrad |
| --------------------------------------------------------------------------------------------- | --------------------------------------- | ------------------ |
| [Jupyter ML Training](https://docs.clore.ai/guides/guides_v2-de/training/jupyter-ml-training) | Interaktives Training                   | Einfach            |
| [DreamBooth](https://docs.clore.ai/guides/guides_v2-de/training/dreambooth)                   | Benutzerdefinierte SD-Subjekte          | Mittel             |
| [Kohya Training](https://docs.clore.ai/guides/guides_v2-de/training/kohya-training)           | LoRA/LyCORIS-Training                   | Mittel             |
| [LLM feinabstimmen](https://docs.clore.ai/guides/guides_v2-de/training/finetune-llm)          | LLM-Feinabstimmung                      | Fortgeschritten    |
| [DeepSpeed](https://docs.clore.ai/guides/guides_v2-de/training/deepspeed-training)            | Verteiltes Training                     | Fortgeschritten    |
| [HuggingFace](https://docs.clore.ai/guides/guides_v2-de/training/huggingface-transformers)    | Transformers-Training                   | Mittel             |
| [Unsloth](https://docs.clore.ai/guides/guides_v2-de/training/unsloth-finetune)                | Schnelle LLM-Feinabstimmung             | Mittel             |
| [Axolotl](https://docs.clore.ai/guides/guides_v2-de/training/axolotl-training)                | YAML-first Feinabstimmung               | Mittel             |
| [LLaMA-Factory](https://docs.clore.ai/guides/guides_v2-de/training/llama-factory)             | Einfaches LLM-Training UI               | Einfach            |
| [TRL](https://docs.clore.ai/guides/guides_v2-de/training/trl)                                 | Transformer-Verstärkungslernen          | Fortgeschritten    |
| [LitGPT](https://docs.clore.ai/guides/guides_v2-de/training/litgpt)                           | Lightning-basiertes Training            | Mittel             |
| [Mergekit](https://docs.clore.ai/guides/guides_v2-de/training/mergekit)                       | Toolkit zum Zusammenführen von Modellen | Einfach            |

## GPU-Empfehlungen

| Aufgabe                  | Minimum  | Empfohlen |
| ------------------------ | -------- | --------- |
| LoRA (SD)                | RTX 3060 | RTX 3090  |
| DreamBooth               | RTX 3090 | RTX 4090  |
| LLM-Feinabstimmung (7B)  | RTX 3090 | A100 40GB |
| LLM-Feinabstimmung (70B) | 4x A100  | 8x A100   |

## Trainingstypen

### Bildmodelle

* **LoRA** - Leichter Adapter, schnelles Training
* **DreamBooth** - Vollständige Feinabstimmung für Konzepte
* **Textual Inversion** - Neue Tokens lernen

### Sprachmodelle

* **LoRA/QLoRA** - Speicherplatzsparende Feinabstimmung
* **Volle Feinabstimmung** - Beste Qualität, benötigt mehr VRAM

## Tipps

* Verwendung **Spot** Bestellungen für lange Trainingsläufe
* Gradient Checkpointing aktivieren, um VRAM zu sparen
* Training mit TensorBoard überwachen
* Checkpoints häufig speichern

## Verwandte Anleitungen

* [Sprachmodelle](https://docs.clore.ai/guides/guides_v2-de/sprachmodelle/language-models)
* [Bildgenerierung](https://docs.clore.ai/guides/guides_v2-de/bildgenerierung/image-generation)