> For the complete documentation index, see [llms.txt](https://docs.clore.ai/llms.txt). Markdown versions of documentation pages are available by appending `.md` to page URLs; this page is available as [Markdown](https://docs.clore.ai/guides/guides_v2-ru/nachalo-raboty/gpu-comparison.md).

# Сравнение GPU

Полное сравнение GPU, доступных на CLORE.AI, для AI-задач.

{% hint style="success" %}
Найдите подходящий GPU для своей задачи на [маркетплейс CLORE.AI](https://clore.ai/marketplace).
{% endhint %}

## Быстрая рекомендация

| Ваша задача                    | Бюджетный вариант | Лучшее соотношение цены и качества | Максимальная производительность |
| ------------------------------ | ----------------- | ---------------------------------- | ------------------------------- |
| Чат с ИИ (7B)                  | RTX 3060 12GB     | RTX 3090 24GB                      | RTX 5090 32GB                   |
| Чат с ИИ (70B)                 | RTX 3090 24GB     | RTX 5090 32GB                      | A100 80 ГБ                      |
| Генерация изображений (SD 1.5) | RTX 3060 12GB     | RTX 3090 24GB                      | RTX 5090 32GB                   |
| Генерация изображений (SDXL)   | RTX 3090 24GB     | RTX 4090 24GB                      | RTX 5090 32GB                   |
| Генерация изображений (FLUX)   | RTX 3090 24GB     | RTX 5090 32GB                      | A100 80 ГБ                      |
| Генерация видео                | RTX 4090 24GB     | RTX 5090 32GB                      | A100 80 ГБ                      |
| Обучение моделей               | A100 40 ГБ        | A100 80 ГБ                         | H100 80GB                       |

## Потребительские GPU

### NVIDIA RTX 3060 12 ГБ

**Лучше всего подходит для:** Бюджетный ИИ, SD 1.5, небольшие LLM

| Характеристики                | Значение            |
| ----------------------------- | ------------------- |
| VRAM                          | 12 ГБ GDDR6         |
| Пропускная способность памяти | 360 ГБ/с            |
| Производительность FP16       | 12,7 TFLOPS         |
| Тензорные ядра                | 112 (3-е поколение) |
| TDP                           | 170 Вт              |
| \~Цена/час                    | $0.02-0.04          |

**Возможности:**

* ✅ Ollama с моделями 7B (Q4)
* ✅ Stable Diffusion 1.5 (512x512)
* ✅ SDXL (768x768, медленно)
* ⚠️ FLUX schnell (с выгрузкой на CPU)
* ❌ Большие модели (>13B)
* ❌ Генерация видео

***

### NVIDIA RTX 3070/3070 Ti 8 ГБ

**Лучше всего подходит для:** SD 1.5, легкие задачи

| Характеристики                | Значение            |
| ----------------------------- | ------------------- |
| VRAM                          | 8 ГБ GDDR6X         |
| Пропускная способность памяти | 448–608 ГБ/с        |
| Производительность FP16       | 20,3 TFLOPS         |
| Тензорные ядра                | 184 (3-е поколение) |
| TDP                           | 220–290 Вт          |
| \~Цена/час                    | $0.02-0.04          |

**Возможности:**

* ✅ Ollama с моделями 7B (Q4)
* ✅ Stable Diffusion 1.5 (512x512)
* ⚠️ SDXL (только низкое разрешение)
* ❌ FLUX (недостаточно VRAM)
* ❌ Модели >7B
* ❌ Генерация видео

***

### NVIDIA RTX 3080/3080 Ti 10–12 ГБ

**Лучше всего подходит для:** Общие AI-задачи, хороший баланс

| Характеристики                | Значение                |
| ----------------------------- | ----------------------- |
| VRAM                          | 10–12 ГБ GDDR6X         |
| Пропускная способность памяти | 760–912 ГБ/с            |
| Производительность FP16       | 29,8–34,1 TFLOPS        |
| Тензорные ядра                | 272–320 (3-е поколение) |
| TDP                           | 320–350 Вт              |
| \~Цена/час                    | $0.04-0.06              |

**Возможности:**

* ✅ Ollama с моделями 13B
* ✅ Stable Diffusion 1.5/2.1
* ✅ SDXL (1024x1024)
* ⚠️ FLUX schnell (с выгрузкой)
* ❌ Большие модели (>13B)
* ❌ Генерация видео

***

### NVIDIA RTX 3090/3090 Ti 24 ГБ

**Лучше всего подходит для:** SDXL, LLM 13B–30B, ControlNet

| Характеристики                | Значение            |
| ----------------------------- | ------------------- |
| VRAM                          | 24 ГБ GDDR6X        |
| Пропускная способность памяти | 936 ГБ/с            |
| Производительность FP16       | 35,6 TFLOPS         |
| Тензорные ядра                | 328 (3-е поколение) |
| TDP                           | 350–450 Вт          |
| \~Цена/час                    | $0.05-0.08          |

**Возможности:**

* ✅ Ollama с моделями 30B
* ✅ vLLM с моделями 13B
* ✅ Все модели Stable Diffusion
* ✅ SDXL + ControlNet
* ✅ FLUX schnell (1024x1024)
* ⚠️ FLUX dev (с выгрузкой)
* ⚠️ Видео (короткие клипы)

***

### NVIDIA RTX 4070 Ti 12 ГБ

**Лучше всего подходит для:** Быстрый SD 1.5, эффективный инференс

| Характеристики                | Значение            |
| ----------------------------- | ------------------- |
| VRAM                          | 12 ГБ GDDR6X        |
| Пропускная способность памяти | 504 ГБ/с            |
| Производительность FP16       | 40,1 TFLOPS         |
| Тензорные ядра                | 184 (4-е поколение) |
| TDP                           | 285 Вт              |
| \~Цена/час                    | $0.04-0.06          |

**Возможности:**

* ✅ Ollama с моделями 7B (быстро)
* ✅ Stable Diffusion 1.5 (очень быстро)
* ✅ SDXL (768x768)
* ⚠️ FLUX schnell (ограниченное разрешение)
* ❌ Большие модели (>13B)
* ❌ Генерация видео

***

### NVIDIA RTX 4080 16 ГБ

**Лучше всего подходит для:** Производственный SDXL, LLM 13B

| Характеристики                | Значение            |
| ----------------------------- | ------------------- |
| VRAM                          | 16 ГБ GDDR6X        |
| Пропускная способность памяти | 717 ГБ/с            |
| Производительность FP16       | 48,7 TFLOPS         |
| Тензорные ядра                | 304 (4-е поколение) |
| TDP                           | 320 Вт              |
| \~Цена/час                    | $0.06-0.09          |

**Возможности:**

* ✅ Ollama с моделями 13B (быстро)
* ✅ vLLM с моделями 7B
* ✅ Все модели Stable Diffusion
* ✅ SDXL + ControlNet
* ✅ FLUX schnell (1024x1024)
* ⚠️ FLUX dev (ограниченно)
* ⚠️ Короткие видеофрагменты

***

### NVIDIA RTX 4090 24 ГБ

**Лучше всего подходит для:** Высочайшая потребительская производительность, FLUX, видео

| Характеристики                | Значение            |
| ----------------------------- | ------------------- |
| VRAM                          | 24 ГБ GDDR6X        |
| Пропускная способность памяти | 1008 ГБ/с           |
| Производительность FP16       | 82,6 TFLOPS         |
| Тензорные ядра                | 512 (4-е поколение) |
| TDP                           | 450 Вт              |
| \~Цена/час                    | $0.08-0.12          |

**Возможности:**

* ✅ Ollama с моделями 30B (быстро)
* ✅ vLLM с моделями 13B
* ✅ Все модели генерации изображений
* ✅ FLUX dev (1024x1024)
* ✅ Генерация видео (короткого)
* ✅ AnimateDiff
* ⚠️ Модели 70B (только Q4)

***

### NVIDIA RTX 5080 16 ГБ *(Новинка — февраль 2025)*

**Лучше всего подходит для:** Быстрый SDXL/FLUX, LLM 13B–30B, высокопроизводительный средний класс

| Характеристики                | Значение            |
| ----------------------------- | ------------------- |
| VRAM                          | 16 ГБ GDDR7         |
| Пропускная способность памяти | 960 ГБ/с            |
| Производительность FP16       | \~80 TFLOPS         |
| Тензорные ядра                | 336 (5-е поколение) |
| TDP                           | 360 Вт              |
| \~Цена/час на Clore.ai        | $1.50-2.00          |

**Возможности:**

* ✅ Ollama с моделями 13B (быстро)
* ✅ vLLM с моделями 13B
* ✅ Все модели Stable Diffusion
* ✅ SDXL + ControlNet (очень быстро)
* ✅ FLUX schnell/dev (1024x1024)
* ✅ Короткие видеофрагменты
* ⚠️ Модели 30B (только Q4)
* ❌ Модели 70B

***

### NVIDIA RTX 5090 32 ГБ *(Флагман — февраль 2025)*

**Лучше всего подходит для:** Максимальная потребительская производительность, модели 70B, генерация видео высокого разрешения

| Характеристики                | Значение            |
| ----------------------------- | ------------------- |
| VRAM                          | 32 ГБ GDDR7         |
| Пропускная способность памяти | 1792 ГБ/с           |
| Производительность FP16       | \~120 TFLOPS        |
| Тензорные ядра                | 680 (5-е поколение) |
| TDP                           | 575 Вт              |
| \~Цена/час на Clore.ai        | $3.00-4.00          |

**Возможности:**

* ✅ Ollama с моделями 70B (Q4, быстро)
* ✅ vLLM с моделями 30B
* ✅ Все модели генерации изображений
* ✅ FLUX dev (1536x1536)
* ✅ Генерация видео (более длинные клипы)
* ✅ AnimateDiff + ControlNet
* ✅ Обучение моделей (LoRA, небольшие дообучения)
* ✅ DeepSeek-R1 32B distill (FP16)

## Профессиональные/дата-центровые GPU

{% hint style="warning" %}
**Многопроцессорные конфигурации с GPU класса 80GB не представлены на маркетплейсе Clore.ai.** Самые крупные доступные сейчас машины — это 4× RTX PRO 6000 Blackwell (по 96GB, всего 380GB) и 8–11× RTX 5090 (по 32GB). Ёмкость A100 / H200 / B200 продаётся как [голое железо](https://clore.ai/bare-metal) по запросу. Проверьте [Цены и доступность GPU](/guides/guides_v2-ru/nachalo-raboty/pricing.md) перед выбором размера развёртывания.
{% endhint %}

### NVIDIA A100 40 ГБ

**Лучше всего подходит для:** LLM для продакшена, обучение, большие модели

| Характеристики                | Значение            |
| ----------------------------- | ------------------- |
| VRAM                          | 40 ГБ HBM2e         |
| Пропускная способность памяти | 1555 ГБ/с           |
| Производительность FP16       | 77,97 TFLOPS        |
| Тензорные ядра                | 432 (3-е поколение) |
| TDP                           | 400 Вт              |
| \~Цена/час                    | $0.15-0.20          |

**Возможности:**

* ✅ Ollama с моделями 70B (Q4)
* ✅ vLLM для продакшн-обслуживания
* ✅ Все модели генерации изображений
* ✅ FLUX dev (высокое качество)
* ✅ Генерация видео
* ✅ Дообучение моделей
* ⚠️ 70B FP16 (впритык)

***

### NVIDIA A100 80 ГБ

**Лучше всего подходит для:** Модели 70B+, видео, продакшн-нагрузки

| Характеристики                | Значение            |
| ----------------------------- | ------------------- |
| VRAM                          | 80 ГБ HBM2e         |
| Пропускная способность памяти | 2039 ГБ/с           |
| Производительность FP16       | 77,97 TFLOPS        |
| Тензорные ядра                | 432 (3-е поколение) |
| TDP                           | 400 Вт              |
| \~Цена/час                    | $0.20-0.30          |

**Возможности:**

* ✅ Все LLM до 70B (FP16)
* ✅ vLLM для высокопроизводительного обслуживания
* ✅ Все модели генерации изображений
* ✅ Генерация длинного видео
* ✅ Обучение моделей
* ✅ DeepSeek-V3 (частично)
* ⚠️ Модели 100B+

***

### NVIDIA H100 80 ГБ

**Лучше всего подходит для:** Максимальная производительность, самые большие модели

| Характеристики                | Значение            |
| ----------------------------- | ------------------- |
| VRAM                          | 80 ГБ HBM3          |
| Пропускная способность памяти | 3350 ГБ/с           |
| Производительность FP16       | 267 TFLOPS          |
| Тензорные ядра                | 528 (4-е поколение) |
| TDP                           | 700 Вт              |
| \~Цена/час                    | $0.40-0.60          |

**Возможности:**

* ✅ Все модели на максимальной скорости
* ✅ Модели с параметрами 100B+
* ✅ Обслуживание нескольких моделей
* ✅ Крупномасштабное обучение
* ✅ Генерация видео в реальном времени
* ✅ DeepSeek-V3 (671B)

## Сравнение производительности

### Инференс LLM (токенов/сек)

| GPU            | Llama 3 8B | Llama 3 70B | Mixtral 8x7B | Clore.ai $/час |
| -------------- | ---------- | ----------- | ------------ | -------------- |
| RTX 3060 12GB  | 25         | -           | -            | $0.02-0.04     |
| RTX 3090 24GB  | 45         | 8\*         | 20\*         | $0.15-0.25     |
| RTX 4090 24GB  | 80         | 15\*        | 35\*         | $0.35-0.55     |
| RTX 5080 16 ГБ | 95         | -           | 40\*         | $1.50-2.00     |
| RTX 5090 32GB  | 150        | 30\*        | 65\*         | $3.00-4.00     |
| A100 40 ГБ     | 100        | 25          | 45           | $0.80-1.20     |
| A100 80 ГБ     | 110        | 40          | 55           | $1.20-1.80     |
| H100 80GB      | 180        | 70          | 90           | $2.50-3.50     |

\*С квантизацией (Q4/Q8)

### Скорость генерации изображений

| GPU            | SD 1.5 (512) | SDXL (1024) | FLUX schnell | Clore.ai $/час |
| -------------- | ------------ | ----------- | ------------ | -------------- |
| RTX 3060 12GB  | 4 сек        | 15 сек      | 25 сек\*     | $0.02-0.04     |
| RTX 3090 24GB  | 2 сек        | 7 сек       | 12 сек       | $0.15-0.25     |
| RTX 4090 24GB  | 1 сек        | 3 сек       | 5 сек        | $0.35-0.55     |
| RTX 5080 16 ГБ | 0,8 сек      | 2,5 сек     | 4 сек        | $1.50-2.00     |
| RTX 5090 32GB  | 0,6 сек      | 1,8 сек     | 3 сек        | $3.00-4.00     |
| A100 40 ГБ     | 1,5 сек      | 4 сек       | 6 сек        | $0.80-1.20     |
| A100 80 ГБ     | 1,5 сек      | 4 сек       | 5 сек        | $1.20-1.80     |

\*С выгрузкой на CPU, более низкое разрешение

### Генерация видео (клип 5 сек)

| GPU           | SVD     | Wan2.1  | Hunyuan |
| ------------- | ------- | ------- | ------- |
| RTX 3090 24GB | 3 мин   | 5 мин\* | -       |
| RTX 4090 24GB | 1.5 мин | 3 мин   | 8 мин\* |
| RTX 5090 32GB | 1 мин   | 2 мин   | 5 мин   |
| A100 40 ГБ    | 1 мин   | 2 мин   | 5 мин   |
| A100 80 ГБ    | 45 сек  | 1.5 мин | 3 мин   |

\*Ограниченное разрешение

## Соотношение цена/производительность

### Лучший выбор по задачам

**Чат/LLM (модели 7B–13B):**

1. 🥇 RTX 3090 24 ГБ — лучшее соотношение цены и производительности
2. 🥈 RTX 3060 12 ГБ — самая низкая стоимость
3. 🥉 RTX 4090 24 ГБ — самая быстрая

**Генерация изображений (SDXL/FLUX):**

1. 🥇 RTX 3090 24 ГБ — отличный баланс
2. 🥈 RTX 4090 24 ГБ — в 2 раза быстрее
3. 🥉 A100 40 ГБ — производственная стабильность

**Большие модели (70B+):**

1. 🥇 A100 40 ГБ — лучшее соотношение для 70B
2. 🥈 A100 80 ГБ — полная точность
3. 🥉 RTX 4090 24 ГБ — бюджетный вариант (только Q4)

**Генерация видео:**

1. 🥇 A100 40 ГБ — хороший баланс
2. 🥈 RTX 4090 24 ГБ — потребительский вариант
3. 🥉 A100 80 ГБ — самые длинные клипы

**Обучение моделей:**

1. 🥇 A100 40 ГБ — стандартный выбор
2. 🥈 A100 80 ГБ — большие модели
3. 🥉 RTX 4090 24 ГБ — небольшие модели/LoRA

## Конфигурации с несколькими GPU

Некоторые задачи выигрывают от нескольких GPU:

| Конфигурация  | Сценарий использования     | Суммарный объем VRAM |
| ------------- | -------------------------- | -------------------- |
| 2x RTX 3090   | Инференс 70B               | 48 ГБ                |
| 2x RTX 4090   | Быстрый 70B, обучение      | 48 ГБ                |
| 2× RTX 5090   | 70B FP16, быстрое обучение | 64GB                 |
| 4× RTX 5090   | Модели 100B+               | 128 ГБ               |
| 4× A100 40 ГБ | Модели 100B+               | 160 ГБ               |
| 8x A100 80 ГБ | DeepSeek-V3, Llama 405B    | 640 ГБ               |

## Выбор вашего GPU

### Блок-схема принятия решения

```
Какова ваша основная задача?
│
├─ Чат/LLM
│  ├─ Размер модели?
│  │  ├─ ≤7B → RTX 3060 ($0.03–0.07/ч)
│  │  ├─ 7B–30B → RTX 3090 ($0.07–0.21/ч)
│  │  ├─ 30B–70B → RTX 5090 32 ГБ или 2× RTX 4090
│  │  └─ 70B+ → RTX PRO 6000 96 ГБ или 2× RTX 5090
│
├─ Генерация изображений
│  ├─ Модель?
│  │  ├─ SD 1.5 → RTX 3060 ($0.03–0.07/ч)
│  │  ├─ SDXL → RTX 3090 ($0.07–0.21/ч)
│  │  └─ FLUX → RTX 4090 ($0.14–0.42/ч)
│
├─ Генерация видео
│  ├─ Длина?
│  │  ├─ Короткое (2–5 сек) → RTX 4090 ($0.14–0.42/ч)
│  │  └─ Более длинное → 2× RTX 4090 или RTX PRO 6000
│
└─ Обучение
   ├─ LoRA/небольшие → RTX 4090 ($0.14–0.42/ч)
   └─ Полное дообучение → 2× RTX 4090 или RTX PRO 6000
```

## Советы по экономии

1. **Используйте Spot-заказы** - примерно у трети серверов spot-цена ниже on-demand, медиана скидки \~13%
2. **Начинайте с малого** - Сначала тестируйте на более дешевых GPU
3. **Квантуйте модели** - Q4/Q8 позволяет уместить более крупные модели в меньший VRAM
4. **Пакетная обработка** - Обрабатывайте несколько запросов одновременно
5. **Часы низкой нагрузки** - Лучшая доступность и иногда более низкие цены

> 📚 См. также: [Топ-10 самых дешевых GPU для обучения ИИ в 2025 году](https://blog.clore.ai/top-10-cheapest-gpus-for-ai-training/) | [Лучший GPU для обучения ИИ — подробное руководство](https://blog.clore.ai/best-gpu-for-ai-training/)

## Дальнейшие шаги

* [Матрица совместимости моделей](/guides/guides_v2-ru/nachalo-raboty/model-compatibility.md) - Какие модели работают на каких GPU
* [Каталог Docker-образов](/guides/guides_v2-ru/nachalo-raboty/docker-images.md) - Готовые к использованию образы
* [Руководство по быстрому старту](/guides/guides_v2-ru/quickstart.md) - Начните за 5 минут


---

# Agent Instructions
This documentation is published with GitBook. GitBook is the documentation platform designed so that both humans and AI agents can read, navigate, and reason over technical content effectively. Learn more at gitbook.com.

## Querying This Documentation
If you need additional information that is not directly available in this page, you can query the documentation dynamically by asking a question.

Perform an HTTP GET request on the current page URL with the `ask` query parameter, and the optional `goal` query parameter:

```
GET https://docs.clore.ai/guides/guides_v2-ru/nachalo-raboty/gpu-comparison.md?ask=<question>&goal=<endgoal>
```

`ask` is the immediate question: it should be specific, self-contained, and written in natural language.
`goal` is optional and describes the broader end goal you are ultimately trying to accomplish on behalf of the user. GitBook uses it to tailor the answer towards what is most useful for that goal.

The response will contain a direct answer to the question and relevant excerpts and sources from the documentation.

Use this mechanism when the answer is not explicitly present in the current page, you need clarification or additional context, or you want to retrieve related documentation sections.