Ctrlk
Clore.ai
For the complete documentation index, see llms.txt. This page is also available as Markdown.

Сравнение GPU

Полное руководство по сравнению GPU для задач ИИ на Clore.ai

Полное сравнение GPU, доступных на CLORE.AI, для AI-задач.

Найдите подходящий GPU для своей задачи на маркетплейс CLORE.AI.

Быстрая рекомендация

Ваша задача
Бюджетный вариант
Лучшее соотношение цены и качества
Максимальная производительность

Чат с ИИ (7B)

RTX 3060 12GB

RTX 3090 24GB

RTX 5090 32GB

Чат с ИИ (70B)

RTX 3090 24GB

RTX 5090 32GB

A100 80 ГБ

Генерация изображений (SD 1.5)

RTX 3060 12GB

RTX 3090 24GB

RTX 5090 32GB

Генерация изображений (SDXL)

RTX 3090 24GB

RTX 4090 24GB

RTX 5090 32GB

Генерация изображений (FLUX)

RTX 3090 24GB

RTX 5090 32GB

A100 80 ГБ

Генерация видео

RTX 4090 24GB

RTX 5090 32GB

A100 80 ГБ

Обучение моделей

A100 40 ГБ

A100 80 ГБ

H100 80GB

Потребительские GPU

NVIDIA RTX 3060 12 ГБ

Лучше всего подходит для: Бюджетный ИИ, SD 1.5, небольшие LLM

Характеристики
Значение

VRAM

12 ГБ GDDR6

Пропускная способность памяти

360 ГБ/с

Производительность FP16

12,7 TFLOPS

Тензорные ядра

112 (3-е поколение)

TDP

170 Вт

~Цена/час

$0.02-0.04

Возможности:

  • ✅ Ollama с моделями 7B (Q4)

  • ✅ Stable Diffusion 1.5 (512x512)

  • ✅ SDXL (768x768, медленно)

  • ⚠️ FLUX schnell (с выгрузкой на CPU)

  • ❌ Большие модели (>13B)

  • ❌ Генерация видео

NVIDIA RTX 3070/3070 Ti 8 ГБ

Лучше всего подходит для: SD 1.5, легкие задачи

Характеристики
Значение

VRAM

8 ГБ GDDR6X

Пропускная способность памяти

448–608 ГБ/с

Производительность FP16

20,3 TFLOPS

Тензорные ядра

184 (3-е поколение)

TDP

220–290 Вт

~Цена/час

$0.02-0.04

Возможности:

  • ✅ Ollama с моделями 7B (Q4)

  • ✅ Stable Diffusion 1.5 (512x512)

  • ⚠️ SDXL (только низкое разрешение)

  • ❌ FLUX (недостаточно VRAM)

  • ❌ Модели >7B

  • ❌ Генерация видео

NVIDIA RTX 3080/3080 Ti 10–12 ГБ

Лучше всего подходит для: Общие AI-задачи, хороший баланс

Характеристики
Значение

VRAM

10–12 ГБ GDDR6X

Пропускная способность памяти

760–912 ГБ/с

Производительность FP16

29,8–34,1 TFLOPS

Тензорные ядра

272–320 (3-е поколение)

TDP

320–350 Вт

~Цена/час

$0.04-0.06

Возможности:

  • ✅ Ollama с моделями 13B

  • ✅ Stable Diffusion 1.5/2.1

  • ✅ SDXL (1024x1024)

  • ⚠️ FLUX schnell (с выгрузкой)

  • ❌ Большие модели (>13B)

  • ❌ Генерация видео

NVIDIA RTX 3090/3090 Ti 24 ГБ

Лучше всего подходит для: SDXL, LLM 13B–30B, ControlNet

Характеристики
Значение

VRAM

24 ГБ GDDR6X

Пропускная способность памяти

936 ГБ/с

Производительность FP16

35,6 TFLOPS

Тензорные ядра

328 (3-е поколение)

TDP

350–450 Вт

~Цена/час

$0.05-0.08

Возможности:

  • ✅ Ollama с моделями 30B

  • ✅ vLLM с моделями 13B

  • ✅ Все модели Stable Diffusion

  • ✅ SDXL + ControlNet

  • ✅ FLUX schnell (1024x1024)

  • ⚠️ FLUX dev (с выгрузкой)

  • ⚠️ Видео (короткие клипы)

NVIDIA RTX 4070 Ti 12 ГБ

Лучше всего подходит для: Быстрый SD 1.5, эффективный инференс

Характеристики
Значение

VRAM

12 ГБ GDDR6X

Пропускная способность памяти

504 ГБ/с

Производительность FP16

40,1 TFLOPS

Тензорные ядра

184 (4-е поколение)

TDP

285 Вт

~Цена/час

$0.04-0.06

Возможности:

  • ✅ Ollama с моделями 7B (быстро)

  • ✅ Stable Diffusion 1.5 (очень быстро)

  • ✅ SDXL (768x768)

  • ⚠️ FLUX schnell (ограниченное разрешение)

  • ❌ Большие модели (>13B)

  • ❌ Генерация видео

NVIDIA RTX 4080 16 ГБ

Лучше всего подходит для: Производственный SDXL, LLM 13B

Характеристики
Значение

VRAM

16 ГБ GDDR6X

Пропускная способность памяти

717 ГБ/с

Производительность FP16

48,7 TFLOPS

Тензорные ядра

304 (4-е поколение)

TDP

320 Вт

~Цена/час

$0.06-0.09

Возможности:

  • ✅ Ollama с моделями 13B (быстро)

  • ✅ vLLM с моделями 7B

  • ✅ Все модели Stable Diffusion

  • ✅ SDXL + ControlNet

  • ✅ FLUX schnell (1024x1024)

  • ⚠️ FLUX dev (ограниченно)

  • ⚠️ Короткие видеофрагменты

NVIDIA RTX 4090 24 ГБ

Лучше всего подходит для: Высочайшая потребительская производительность, FLUX, видео

Характеристики
Значение

VRAM

24 ГБ GDDR6X

Пропускная способность памяти

1008 ГБ/с

Производительность FP16

82,6 TFLOPS

Тензорные ядра

512 (4-е поколение)

TDP

450 Вт

~Цена/час

$0.08-0.12

Возможности:

  • ✅ Ollama с моделями 30B (быстро)

  • ✅ vLLM с моделями 13B

  • ✅ Все модели генерации изображений

  • ✅ FLUX dev (1024x1024)

  • ✅ Генерация видео (короткого)

  • ✅ AnimateDiff

  • ⚠️ Модели 70B (только Q4)

NVIDIA RTX 5080 16 ГБ (Новинка — февраль 2025)

Лучше всего подходит для: Быстрый SDXL/FLUX, LLM 13B–30B, высокопроизводительный средний класс

Характеристики
Значение

VRAM

16 ГБ GDDR7

Пропускная способность памяти

960 ГБ/с

Производительность FP16

~80 TFLOPS

Тензорные ядра

336 (5-е поколение)

TDP

360 Вт

~Цена/час на Clore.ai

$1.50-2.00

Возможности:

  • ✅ Ollama с моделями 13B (быстро)

  • ✅ vLLM с моделями 13B

  • ✅ Все модели Stable Diffusion

  • ✅ SDXL + ControlNet (очень быстро)

  • ✅ FLUX schnell/dev (1024x1024)

  • ✅ Короткие видеофрагменты

  • ⚠️ Модели 30B (только Q4)

  • ❌ Модели 70B

NVIDIA RTX 5090 32 ГБ (Флагман — февраль 2025)

Лучше всего подходит для: Максимальная потребительская производительность, модели 70B, генерация видео высокого разрешения

Характеристики
Значение

VRAM

32 ГБ GDDR7

Пропускная способность памяти

1792 ГБ/с

Производительность FP16

~120 TFLOPS

Тензорные ядра

680 (5-е поколение)

TDP

575 Вт

~Цена/час на Clore.ai

$3.00-4.00

Возможности:

  • ✅ Ollama с моделями 70B (Q4, быстро)

  • ✅ vLLM с моделями 30B

  • ✅ Все модели генерации изображений

  • ✅ FLUX dev (1536x1536)

  • ✅ Генерация видео (более длинные клипы)

  • ✅ AnimateDiff + ControlNet

  • ✅ Обучение моделей (LoRA, небольшие дообучения)

  • ✅ DeepSeek-R1 32B distill (FP16)

Профессиональные/дата-центровые GPU

Многопроцессорные конфигурации с GPU класса 80GB не представлены на маркетплейсе Clore.ai. Самые крупные доступные сейчас машины — это 4× RTX PRO 6000 Blackwell (по 96GB, всего 380GB) и 8–11× RTX 5090 (по 32GB). Ёмкость A100 / H200 / B200 продаётся как голое железо по запросу. Проверьте Цены и доступность GPU перед выбором размера развёртывания.

NVIDIA A100 40 ГБ

Лучше всего подходит для: LLM для продакшена, обучение, большие модели

Характеристики
Значение

VRAM

40 ГБ HBM2e

Пропускная способность памяти

1555 ГБ/с

Производительность FP16

77,97 TFLOPS

Тензорные ядра

432 (3-е поколение)

TDP

400 Вт

~Цена/час

$0.15-0.20

Возможности:

  • ✅ Ollama с моделями 70B (Q4)

  • ✅ vLLM для продакшн-обслуживания

  • ✅ Все модели генерации изображений

  • ✅ FLUX dev (высокое качество)

  • ✅ Генерация видео

  • ✅ Дообучение моделей

  • ⚠️ 70B FP16 (впритык)

NVIDIA A100 80 ГБ

Лучше всего подходит для: Модели 70B+, видео, продакшн-нагрузки

Характеристики
Значение

VRAM

80 ГБ HBM2e

Пропускная способность памяти

2039 ГБ/с

Производительность FP16

77,97 TFLOPS

Тензорные ядра

432 (3-е поколение)

TDP

400 Вт

~Цена/час

$0.20-0.30

Возможности:

  • ✅ Все LLM до 70B (FP16)

  • ✅ vLLM для высокопроизводительного обслуживания

  • ✅ Все модели генерации изображений

  • ✅ Генерация длинного видео

  • ✅ Обучение моделей

  • ✅ DeepSeek-V3 (частично)

  • ⚠️ Модели 100B+

NVIDIA H100 80 ГБ

Лучше всего подходит для: Максимальная производительность, самые большие модели

Характеристики
Значение

VRAM

80 ГБ HBM3

Пропускная способность памяти

3350 ГБ/с

Производительность FP16

267 TFLOPS

Тензорные ядра

528 (4-е поколение)

TDP

700 Вт

~Цена/час

$0.40-0.60

Возможности:

  • ✅ Все модели на максимальной скорости

  • ✅ Модели с параметрами 100B+

  • ✅ Обслуживание нескольких моделей

  • ✅ Крупномасштабное обучение

  • ✅ Генерация видео в реальном времени

  • ✅ DeepSeek-V3 (671B)

Сравнение производительности

Инференс LLM (токенов/сек)

GPU
Llama 3 8B
Llama 3 70B
Mixtral 8x7B
Clore.ai $/час

RTX 3060 12GB

25

-

-

$0.02-0.04

RTX 3090 24GB

45

8*

20*

$0.15-0.25

RTX 4090 24GB

80

15*

35*

$0.35-0.55

RTX 5080 16 ГБ

95

-

40*

$1.50-2.00

RTX 5090 32GB

150

30*

65*

$3.00-4.00

A100 40 ГБ

100

25

45

$0.80-1.20

A100 80 ГБ

110

40

55

$1.20-1.80

H100 80GB

180

70

90

$2.50-3.50

*С квантизацией (Q4/Q8)

Скорость генерации изображений

GPU
SD 1.5 (512)
SDXL (1024)
FLUX schnell
Clore.ai $/час

RTX 3060 12GB

4 сек

15 сек

25 сек*

$0.02-0.04

RTX 3090 24GB

2 сек

7 сек

12 сек

$0.15-0.25

RTX 4090 24GB

1 сек

3 сек

5 сек

$0.35-0.55

RTX 5080 16 ГБ

0,8 сек

2,5 сек

4 сек

$1.50-2.00

RTX 5090 32GB

0,6 сек

1,8 сек

3 сек

$3.00-4.00

A100 40 ГБ

1,5 сек

4 сек

6 сек

$0.80-1.20

A100 80 ГБ

1,5 сек

4 сек

5 сек

$1.20-1.80

*С выгрузкой на CPU, более низкое разрешение

Генерация видео (клип 5 сек)

GPU
SVD
Wan2.1
Hunyuan

RTX 3090 24GB

3 мин

5 мин*

-

RTX 4090 24GB

1.5 мин

3 мин

8 мин*

RTX 5090 32GB

1 мин

2 мин

5 мин

A100 40 ГБ

1 мин

2 мин

5 мин

A100 80 ГБ

45 сек

1.5 мин

3 мин

*Ограниченное разрешение

Соотношение цена/производительность

Лучший выбор по задачам

Чат/LLM (модели 7B–13B):

  1. 🥇 RTX 3090 24 ГБ — лучшее соотношение цены и производительности

  2. 🥈 RTX 3060 12 ГБ — самая низкая стоимость

  3. 🥉 RTX 4090 24 ГБ — самая быстрая

Генерация изображений (SDXL/FLUX):

  1. 🥇 RTX 3090 24 ГБ — отличный баланс

  2. 🥈 RTX 4090 24 ГБ — в 2 раза быстрее

  3. 🥉 A100 40 ГБ — производственная стабильность

Большие модели (70B+):

  1. 🥇 A100 40 ГБ — лучшее соотношение для 70B

  2. 🥈 A100 80 ГБ — полная точность

  3. 🥉 RTX 4090 24 ГБ — бюджетный вариант (только Q4)

Генерация видео:

  1. 🥇 A100 40 ГБ — хороший баланс

  2. 🥈 RTX 4090 24 ГБ — потребительский вариант

  3. 🥉 A100 80 ГБ — самые длинные клипы

Обучение моделей:

  1. 🥇 A100 40 ГБ — стандартный выбор

  2. 🥈 A100 80 ГБ — большие модели

  3. 🥉 RTX 4090 24 ГБ — небольшие модели/LoRA

Конфигурации с несколькими GPU

Некоторые задачи выигрывают от нескольких GPU:

Конфигурация
Сценарий использования
Суммарный объем VRAM

2x RTX 3090

Инференс 70B

48 ГБ

2x RTX 4090

Быстрый 70B, обучение

48 ГБ

2× RTX 5090

70B FP16, быстрое обучение

64GB

4× RTX 5090

Модели 100B+

128 ГБ

4× A100 40 ГБ

Модели 100B+

160 ГБ

8x A100 80 ГБ

DeepSeek-V3, Llama 405B

640 ГБ

Выбор вашего GPU

Блок-схема принятия решения

Советы по экономии

  1. Используйте Spot-заказы - примерно у трети серверов spot-цена ниже on-demand, медиана скидки ~13%

  2. Начинайте с малого - Сначала тестируйте на более дешевых GPU

  3. Квантуйте модели - Q4/Q8 позволяет уместить более крупные модели в меньший VRAM

  4. Пакетная обработка - Обрабатывайте несколько запросов одновременно

  5. Часы низкой нагрузки - Лучшая доступность и иногда более низкие цены

📚 См. также: Топ-10 самых дешевых GPU для обучения ИИ в 2025 году | Лучший GPU для обучения ИИ — подробное руководство

Дальнейшие шаги

ПредыдущаяFAQ
СледующаяСовместимость моделей

Последнее обновление

Это было полезно?