NVIDIA Blackwell B200 и B300 против Hopper H100/H200: что изменилось для обучения и инференса

Коротко: Blackwell — поколение ускорителей NVIDIA после Hopper: B200 несёт 180 ГБ HBM3e с полосой около 8 ТБ/с, NVLink 1,8 ТБ/с и примерно в 2,3 раза больше производительности в FP8, чем H100, а также новые форматы FP6 и FP4. B300 (Blackwell Ultra) добавляет память до 288 ГБ, в 1,5 раза больше FP4 и сеть 800 Гбит/с на GPU. Цена прироста — TDP 1000–1100 Вт на ускоритель, около 14 кВт на 8-GPU узел и до 120–130 кВт на стойку NVL72 с жидкостным охлаждением.

Что такое Blackwell и Blackwell Ultra

Blackwell — архитектура ускорителей NVIDIA, пришедшая на смену Hopper (H100, H200). Главное конструктивное изменение — ускоритель собран из двух кристаллов предельного размера, связанных внутри корпуса каналом 10 ТБ/с; для программ это один GPU. Всего в нём 208 млрд транзисторов.

Флагман первого поколения — B200, обновлённая версия — B300 (Blackwell Ultra) с большим объёмом памяти и ускоренным FP4. В связке с процессором NVIDIA Grace они образуют суперчипы GB200 и GB300, из которых строятся стоечные системы NVL72.

Эта статья — о том, что изменилось относительно Hopper и когда переход оправдан. Общий обзор поколений от V100 и расчёт памяти под модель — в статье ускорители NVIDIA для ИИ.

Hopper и Blackwell: сравнение по цифрам

Данные по одному ускорителю в SXM-исполнении. Производительность Blackwell посчитана из спецификаций 8-GPU плат HGX (общая цифра, делённая на 8), показатели — без учёта разреженности.

Параметр	H100 SXM	H200 SXM	B200	B300
Память	80 ГБ HBM3	141 ГБ HBM3e	180 ГБ HBM3e	до 288 ГБ HBM3e
Полоса памяти	3,35 ТБ/с	4,8 ТБ/с	около 8 ТБ/с	около 8 ТБ/с
NVLink на GPU	900 ГБ/с (4-е пок.)	900 ГБ/с	1,8 ТБ/с (5-е пок.)	1,8 ТБ/с
FP8 / FP6	около 2 PFLOPS (FP6 нет)	около 2 PFLOPS (FP6 нет)	около 4,5 PFLOPS	около 4,5 PFLOPS
FP4	нет	нет	около 9 PFLOPS	около 13,5 PFLOPS
FP64	34 TFLOPS	34 TFLOPS	на уровне Hopper	сильно урезан
TDP, до	700 Вт	700 Вт	1000 Вт	1100 Вт в HGX B300
Сеть на GPU в эталонной схеме	400 Гбит/с	400 Гбит/с	400 Гбит/с	800 Гбит/с

Итог: в FP8 B200 примерно в 2,3 раза быстрее H100 на ускоритель, памяти — в 2,25 раза больше, NVLink — вдвое быстрее. B300 сохраняет производительность B200 в FP8, но даёт в 1,5 раза больше FP4 и около 1,6 раза больше памяти. Ценой стали FP64 — у GB300 NVL72 всего 100 TFLOPS в FP64 на 72 GPU, — и энергопотребление.

Что даёт FP4 и второе поколение Transformer Engine

У Hopper самый компактный аппаратный формат — FP8. Blackwell добавил FP6 и FP4 с масштабированием по маленьким блокам значений (micro-tensor scaling): каждый блок из нескольких чисел хранит свой множитель, и точность квантованной модели падает заметно меньше, чем при одном масштабе на весь тензор. Формат NVIDIA для этого — NVFP4.

Инференс. Веса в FP4 занимают в 4 раза меньше места, чем в BF16: модель на 405 млрд параметров — около 200 ГБ, то есть помещается в одну B300 или в две B200. Пиковая производительность FP4 вдвое выше FP8.
Обучение большей частью идёт в BF16 и FP8; обучение в FP4 развивается, но требует проверенных рецептов и поддержки во фреймворке.
Софт. Нужны версии TensorRT-LLM, vLLM, SGLang и фреймворков с поддержкой Blackwell и FP4; качество квантованной модели проверяют на своих данных.

Память: что помещается в одну карту

Объём HBM определяет, сколько GPU нужно на модель и сколько одновременных запросов выдержит сервер. Ориентиры по весам без учёта KV-кэша:

Модель на 70 млрд параметров в BF16 (около 140 ГБ) помещается в одну B200, а на Hopper требует двух H200 или двух H100 в FP8.
Модель на 405 млрд параметров в FP8 (около 405 ГБ) помещается в две B300 или три B200, на Hopper — в три-четыре H200.
8-GPU плата HGX B200 несёт 1,4 ТБ памяти, HGX B300 — 2,1 ТБ по данным NVIDIA, против 640 ГБ у HGX H100 и 1128 ГБ у HGX H200.

Для инференса большая память — это ещё и KV-кэш: длинные контексты и много одновременных пользователей. Здесь B300 даёт наибольший запас в классе 8-GPU серверов.

NVLink 5 и стоечные системы NVL72

Пятое поколение NVLink даёт 1,8 ТБ/с на GPU — вдвое больше, чем у Hopper. Внутри платы HGX 8 ускорителей связаны двумя чипами NVSwitch, общая полоса — 14,4 ТБ/с.

Главная новинка — NVL72: стойка, в которой 72 GPU связаны одним NVLink-доменом с полосой 130 ТБ/с. Она собрана из 18 вычислительных модулей (в каждом — по два суперчипа: процессор Grace и два GPU Blackwell) и 9 модулей коммутаторов NVLink. Для фреймворка это 72 GPU с общей памятью HBM3e 13,4 ТБ у GB200 NVL72 и около 20 ТБ у GB300 NVL72 плюс 17 ТБ памяти LPDDR5X процессоров Grace.

Это меняет подход к большим моделям: тензорный и экспертный (MoE) параллелизм можно разворачивать на 72 GPU без выхода в межузловую сеть. Но NVL72 — неделимая стоечная система с жидкостным охлаждением, её нельзя поставить в обычную стойку по частям.

Платформы Blackwell

Система	Состав	Память GPU	Мощность	Охлаждение
HGX B200 / DGX B200	8 × B200, 2 × x86 CPU, 10U (DGX)	1,4 ТБ	около 14,3 кВт (DGX B200)	Воздушное или жидкостное
HGX B300 / DGX B300	8 × B300, процессоры Xeon 6, 10U (DGX), ConnectX-8 800G	2,1 ТБ	около 14 кВт (DGX B300)	Воздушное или жидкостное, у плотных стоек — DLC
GB200 NVL72	72 × B200 и 36 × Grace в одной стойке	13,4 ТБ HBM3e	порядка 120–130 кВт на стойку	Только жидкостное
GB300 NVL72	72 × B300 и 36 × Grace, ConnectX-8 800G на GPU	около 20 ТБ HBM3e	уточняется по проекту производителя	Только жидкостное

Для сравнения: DGX H100 и DGX H200 — 8U и до 10,2 кВт. Переход на 8-GPU платформы Blackwell добавляет около 40% мощности на узел и 2U высоты; переход на NVL72 — это уже другой класс площадки.

Энергопотребление и охлаждение

TDP ускорителя вырос с 700 Вт (H100, H200) до 1000 Вт (B200) и 1100 Вт (B300 в HGX). Стойка из четырёх узлов HGX H100 — около 41 кВт, из четырёх HGX B200 — около 57 кВт; стойка NVL72 — порядка 120–130 кВт, а производители закладывают в проект электропитания пиковые значения ещё выше.

Воздух остаётся возможным для HGX B200 и части платформ HGX B300, но требует мощного холодного коридора, изоляции коридоров и ограничения числа узлов в стойке.
Жидкостное охлаждение кристаллов (DLC) — водоблоки на GPU и CPU, распределительный блок CDU и контур тёплой воды. Снимает основную часть тепла узла и позволяет ставить 4 и более узла в стойку; для NVL72 — единственный вариант.
Электропитание — трёхфазные вводы, PDU на 32–63 А на фазу, в стоечных системах — шинопроводы и полки питания.

Как посчитать киловатты, PDU и холод для своей стойки — в статье питание и охлаждение GPU-стойки.

Сеть под Blackwell

B200 работает с той же сетью, что и Hopper: эталонно — по карте ConnectX-7 на 400 Гбит/с на GPU. B300 и GB300 переходят на ConnectX-8 SuperNIC с 800 Гбит/с на GPU и интерфейсом PCIe Gen6, то есть 1,6 ТБ/с сети на 8-GPU узел. Под это нужны коммутаторы InfiniBand Quantum-X800 (144 порта 800G) или Ethernet Spectrum-X с портами 800G, а также новая оптика и кабели.

Если кластер на H100 построен на NDR 400G, узлы B200 можно добавить в ту же фабрику; для B300 на полной скорости потребуется 800G-сегмент. Расчёт портов и топологии — в статье сеть для AI-кластера.

Когда переход с Hopper имеет смысл

Ситуация	Рекомендация
Инференс моделей до 70 млрд параметров, нагрузка стабильна	Оставаться на H100/H200: они закрывают задачу, площадка уже готова
Инференс крупных моделей и MoE, длинный контекст, рост пользователей	B200 или B300: больше памяти и FP4 сокращают число серверов на ту же нагрузку
Обучение с нуля моделей на сотни млрд параметров	HGX B200/B300 или NVL72: вдвое быстрее NVLink и в 2,3 раза выше FP8 на GPU
HPC с двойной точностью (FP64)	H100/H200 или B200; B300 для таких задач не предназначен
Площадка до 40 кВт на стойку и только воздух	Hopper или HGX B200 с ограничением узлов в стойке; NVL72 невозможен
Новый ЦОД с жидкостным контуром	Blackwell и стоечные NVL72 дают максимум на киловатт и на квадратный метр

Сравнивать поколения стоит не по цене ускорителя, а по стоимости задачи: сколько узлов, киловатт и стоек нужно на заданное число токенов в секунду или на обучение модели за нужный срок.

Как спланировать переход: 6 шагов

Измерьте текущую нагрузку на Hopper: загрузка GPU, использование памяти, доля времени на обмен.
Определите узкое место: если упираетесь в память и KV-кэш — выигрыш от B200/B300 максимален; если в сеть — сначала модернизируйте фабрику.
Проверьте модели на FP8 и FP4: качество, поддержку в вашем стеке инференса.
Проверьте площадку: мощность на стойку, возможность жидкостного охлаждения, нагрузку на пол.
Решите судьбу сети: оставить 400G для B200 или строить 800G-сегмент под B300.
Запланируйте смешанный парк: обучение — на новых узлах, инференс и дообучение — на Hopper, с единым планировщиком.

Типичные ошибки

Ожидание замены «один в один». Узел Blackwell мощнее на 40%, выше на 2U и часто требует другого охлаждения — в стойку H100 он может не встать.
B300 под задачи FP64. Двойная точность в Blackwell Ultra сокращена; для научных расчётов выбирают Hopper или B200.
Новые GPU на старой сети. B300 с 400G-фабрикой не раскроет 800G SuperNIC, а кластер B200 с 100G не масштабируется.
NVL72 без готового контура. Стоечная система требует CDU, трубопроводов и электропитания на 120+ кВт до поставки.
FP4 без проверки качества. Квантование ускоряет инференс, но точность модели нужно подтверждать на своих данных.

Что учесть при закупке

Точная платформа: HGX B200 или HGX B300, исполнение (воздушное или жидкостное), процессоры, память, NVMe и сетевые карты.
Сеть: ConnectX-7 400G или ConnectX-8 800G, разъёмы OSFP, совместимые коммутаторы и оптика.
Инженерия: требования к вводам и PDU, к контуру жидкостного охлаждения (температура и расход воды, CDU), к нагрузке на пол.
ПО: версии драйверов, CUDA и фреймворков с поддержкой Blackwell; лицензии NVIDIA AI Enterprise при необходимости.
Сроки и гарантия: платформы Blackwell поставляются под заказ, график и условия гарантии фиксируйте в КП.

У нас можно подобрать NVIDIA B200, а также H200 и H100 для смешанного парка. Общая схема кластера — в статье AI-фабрика: из чего состоит ИИ-кластер.

Купить NVIDIA B200: цены и наличие → Весь каталог →

Вопросы по теме

Чем B200 отличается от H100?

B200 несёт 180 ГБ HBM3e против 80 ГБ, полосу около 8 ТБ/с против 3,35 ТБ/с, NVLink 1,8 ТБ/с против 900 ГБ/с и примерно в 2,3 раза больше производительности в FP8 на ускоритель. Добавлены форматы FP6 и FP4. TDP вырос с 700 до 1000 Вт.

Чем B300 отличается от B200?

B300 (Blackwell Ultra) несёт до 288 ГБ HBM3e против 180 ГБ, даёт в 1,5 раза больше FP4 и работает с сетью 800 Гбит/с на GPU через ConnectX-8. Производительность FP8 та же, а FP64 сильно урезана. TDP в HGX B300 — до 1100 Вт.

Что такое FP4 и где он нужен?

Четырёхбитный формат чисел с масштабированием по маленьким блокам значений. Он вчетверо сокращает память под веса относительно BF16 и вдвое повышает пиковую производительность относительно FP8. Применяется прежде всего для инференса, аппаратно ускоряется только на Blackwell.

Можно ли охлаждать B200 воздухом?

Да, есть воздушные платформы HGX B200 высотой 10U, например DGX B200 с потреблением около 14,3 кВт. Но в стойку помещается меньше узлов, а холодный коридор должен отводить десятки киловатт. Для плотных стоек выбирают жидкостное охлаждение.

Что такое GB200 NVL72?

Стоечная система из 72 GPU B200 и 36 процессоров Grace, объединённых одним NVLink-доменом на 130 ТБ/с, с 13,4 ТБ памяти HBM3e. Она полностью на жидкостном охлаждении и потребляет порядка 120–130 кВт на стойку.

Стоит ли менять H100 на Blackwell?

Если нагрузка — инференс моделей до 70 млрд параметров и площадка рассчитана на Hopper, H100 и H200 продолжают эффективно работать. Переход окупается при обучении крупных моделей, инференсе MoE и длинных контекстов, когда память и FP4 сокращают число серверов.

Подойдёт ли сеть NDR 400G для Blackwell?

Для B200 — да, эталонная схема та же: 400 Гбит/с на GPU. Для B300 на полной скорости нужен 800G: ConnectX-8 и коммутаторы Quantum-X800 или Spectrum-X с портами 800G.

Подходит ли Blackwell для научных расчётов FP64?

B200 сохраняет FP64 примерно на уровне Hopper. В B300 двойная точность сильно сокращена — у GB300 NVL72 всего 100 TFLOPS FP64 на 72 GPU, поэтому для HPC выбирают H100, H200 или B200.

Есть ли Blackwell в формате PCIe?

B200 и B300 выпускаются в формате SXM для плат HGX и в составе NVL72. Для обычных серверов в формате PCIe есть RTX PRO 6000 Blackwell Server Edition с 96 ГБ GDDR7 и поддержкой FP4.

Можно ли смешивать Hopper и Blackwell в одном кластере?

Да, в одной сети и под одним планировщиком: например, обучение на узлах B200, инференс на H100 и H200. В рамках одной задачи распределённого обучения узлы должны быть одинаковыми, иначе скорость определит более медленный.