GPU для станций и серверов

NVIDIA RTX PRO 6000 Blackwell: 96 ГБ для ИИ в рабочей станции и сервере

RTX PRO 6000 Blackwell — профессиональная видеокарта NVIDIA с 96 ГБ памяти GDDR7. Её берут, когда нужна большая память для LLM, генерации изображений и видео, 3D и симуляции без перехода на HGX-платформу. Выпускается в трёх исполнениях: для рабочих станций, компактная Max-Q и серверная.

96 ГБGDDR7 с ECC

PCIe 5.0 x16интерфейс

до 4экземпляров MIG

300–600 Втв зависимости от версии

Содержание

Три исполнения
Какую версию выбрать
Какие LLM помещаются в 96 ГБ
Где RTX PRO 6000 выигрывает у серверных H-серий

Три исполнения

Параметр	Workstation Edition	Max-Q Workstation	Server Edition
Память	96 ГБ GDDR7 ECC	96 ГБ GDDR7 ECC	96 ГБ GDDR7 ECC
Мощность	600 Вт	300 Вт	до 600 Вт, настраивается
Охлаждение	два вентилятора, продув насквозь	активное (турбина)	пассивное, обдув сервера
Размер	5,4″ × 12″, 2 слота	4,4″ × 10,5″, 2 слота	4,4″ × 10,5″, 2 слота
Выходы	4× DisplayPort 2.1	4× DisplayPort 2.1	4× DisplayPort 2.1
MIG	до 4	до 4	до 4

Серверная версия, по данным NVIDIA, несёт 24 064 ядра CUDA.

Какую версию выбрать

Workstation Edition — одна-две карты в башенной рабочей станции, максимальная производительность.
Max-Q — несколько карт в одной станции (NVIDIA указывает связки до 4 GPU): турбина выдувает тепло наружу, 300 Вт на карту.
Server Edition — стоечные серверы с направленным потоком воздуха, 24/7 и виртуализация.

Какие LLM помещаются в 96 ГБ

Модель на 70 млрд параметров в 8 битах занимает около 70 ГБ — остаётся запас под KV-кэш для нескольких пользователей; в 4 битах — около 35 ГБ. Две карты дают 192 ГБ для моделей крупнее или для одновременной работы нескольких моделей. MIG позволяет разделить одну карту на изолированные части для разных сервисов.

Сколько видеопамяти нужно под модель

Грубая оценка: веса = параметры × байты на параметр, плюс запас на KV-кэш и активации. Точный расчёт зависит от длины контекста, числа одновременных пользователей и движка (vLLM, TensorRT-LLM, llama.cpp).

Параметров, млрдТочностьЗапас на KV-кэш

Где RTX PRO 6000 выигрывает у серверных H-серий

Карта ставится в обычную рабочую станцию или сервер без HGX-платформы, умеет графику и видеовыходы, подходит для смешанных задач: ИИ плюс 3D, CAD, видео, цифровые двойники. Для обучения больших моделей на многих GPU с NVLink лучше платформы H200 и B200.

RTX PRO Blackwell в каталоге

GPU-ускоритель NVIDIA RTX PRO 6000 Blackwell 96GB — профессиональная видеокартв наличии 4 шт · цена по запросуGPU-ускоритель NVIDIA RTX PRO 5000 Blackwell 48GB — GPU/ускорительв наличии 4 шт · цена по запросуГрафический ускоритель NVIDIA RTX PRO 6000 Blackwell Workstation Edition (96 Гпод заказ · цена по запросуГрафический ускоритель NVIDIA RTX PRO 5000 Blackwell (48 ГБ GDDR7)под заказ · цена по запросу

Читайте дальше

H200 против H100Почему 141 ГБ HBM3e важнее для LLM, чем новые ядра.NVIDIA DGX Spark и станции на GB10128 ГБ единой памяти на столе: MSI, ASUS, Dell, HP, Lenovo, Acer.Какой сервер нужен под LLMСчитаем видеопамяти под модель и пользователей.Как запустить свою нейросетьOllama, vLLM, RAG и дообучение — по шагам.

Купить NVIDIA RTX Серверные видеокарты Собрать станцию

Вопросы и ответы

Вопросы по теме

Сколько памяти у RTX PRO 6000 Blackwell?

96 ГБ GDDR7 с ECC во всех трёх исполнениях.

Чем Max-Q отличается от обычной версии?

Потреблением 300 Вт вместо 600 Вт и турбинным охлаждением — удобно ставить несколько карт в одну станцию.

Подходит ли Server Edition для рабочей станции?

Нет, у неё пассивный радиатор — нужен направленный поток воздуха стоечного сервера.

Можно ли разделить карту между пользователями?

Да, технология MIG делит карту на экземпляры, до четырёх.

Источники: nvidia.com · nvidia.com · nvidia.com