Видеокарта для сервера: как выбрать ускоритель под задачу

Коротко: Видеокарта для сервера — это, как правило, дата-центровый ускоритель с пассивным радиатором, который охлаждается потоком воздуха от вентиляторов сервера, имеет память с ECC и работает с серверными драйверами NVIDIA. Карты рабочих станций (RTX A6000, RTX 6000 Ada) с турбинным охлаждением тоже ставят в серверы, а игровые GeForce — нет: их лицензия драйвера ограничивает использование в дата-центрах. Выбор определяют задача, объём памяти, мощность (от 40–72 Вт у A2 и L4 до 350–600 Вт у H100 и H200 NVL) и поддержка карты конкретной моделью сервера.

Чем серверная видеокарта отличается от обычной

Серверные GPU рассчитаны на работу 24/7 в корпусе с фронтальным обдувом. Главные отличия от настольных карт:

• Пассивное охлаждение. У большинства ускорителей нет вентиляторов: радиатор продувается воздухом, который создают вентиляторы сервера спереди назад.
• Память с ECC. Коррекция ошибок обязательна для вычислений, где сбой бита искажает результат.
• Серверные драйверы и функции. Поддержка vGPU, MIG, мониторинга через BMC, длинные ветки драйверов с поддержкой несколько лет.
• Квалификация. Производители серверов тестируют конкретные карты в своих платформах и выпускают для них комплекты кабелей и воздуховодов.
• Отсутствие видеовыходов. У большинства вычислительных ускорителей нет портов для монитора — изображение для консоли выводит встроенная графика BMC.

Карта без вентиляторов, поставленная в корпус без направленного потока воздуха, перегреется за минуты. Поэтому главный вопрос при выборе — не только «какая карта», но и «в каком сервере она будет работать».

Три класса карт: дата-центровые, профессиональные, потребительские

Карты рабочих станций — разумный компромисс для 4U-серверов и башенных систем, где нужны и вычисления, и графика. Потребительские карты в стоечных серверах создают проблемы с габаритами, разъёмами питания и отводом тепла, а гарантия производителя на них в таком применении обычно не распространяется.

Популярные модели серверных GPU

Подробное сравнение ускорителей NVIDIA по производительности — в статье как выбрать серверный GPU NVIDIA, а о роли типа памяти — в материале HBM-память ускорителей.

Задача → какую карту брать

Пассивное охлаждение: что важно знать

Пассивный ускоритель рассчитан на определённый расход воздуха через радиатор. Производитель сервера обеспечивает его за счёт усиленных вентиляторов, воздуховодов и профилей охлаждения в BIOS или BMC. Поэтому при установке GPU в сервер обычно требуется:

• Комплект вентиляторов повышенной производительности (high performance fans) — штатные вентиляторы базовой конфигурации могут не обеспечить нужный поток.
• Воздуховод или заглушки, которые направляют воздух через карту, а не в обход неё.
• Правильный слот. Сервер поддерживает GPU только в определённых слотах райзеров, где рассчитан поток воздуха.
• Температура в зале. Для мощных карт производитель сервера может ограничивать допустимую температуру входящего воздуха, например до 30–35 °C вместо стандартных 35 °C.

Турбинные карты рабочих станций работают и в серверах, но их вентилятор не синхронизирован с системой охлаждения сервера. Для 2U-серверов с плотной компоновкой предпочтительнее пассивные дата-центровые модели.

Питание: разъёмы, кабели и бюджет мощности

Слот PCIe даёт карте до 75 Вт, всё сверх этого подаётся через дополнительный разъём. Здесь много подводных камней.

• Карты до 75 Вт (L4, T4, A2) питаются только от слота — их можно ставить в большинство серверов.
• Дата-центровые карты Ampere (A10, A30, A40, A100 PCIe) используют 8-контактный разъём CPU 8-pin (EPS-12V), а не PCIe 8-pin. Кабели разной распиновки не взаимозаменяемы.
• L40S, H100 PCIe, RTX 6000 Ada и более новые карты используют 16-контактный разъём 12VHPWR или его доработанную версию 12V-2x6.
• Кабели питания GPU поставляются производителем сервера под конкретную модель шасси и карты. Использовать переходники неизвестного происхождения на 300–600 Вт рискованно.
• Блоки питания. Сервер с двумя-четырьмя мощными GPU требует БП 2000–2400 Вт и выше; при резервировании 1+1 нагрузку должен держать один блок.

Об электропитании стойки с GPU — в статье питание и охлаждение GPU-стойки.

Совместимость с сервером: слоты, габариты, BIOS

• Слоты. Полноразмерная карта (FHFL, около 267 мм длиной) занимает два слота по ширине. Нужен слот PCIe x16 с полной электрической шириной; PCIe 4.0 для поколения Ampere и Ada, PCIe 5.0 для Hopper и Blackwell.
• Райзеры. В 1U-серверах полноразмерные двухслотовые карты обычно не помещаются; в 2U — одна-три, в 4U GPU-платформах — до 8–10.
• BIOS. Для карт с большим объёмом памяти включите Above 4G Decoding и при необходимости Resizable BAR; для vGPU — SR-IOV и виртуализацию ввода-вывода.
• Привязка к процессорам. В двухпроцессорном сервере карты распределяют между процессорами с учётом NUMA, а сетевую карту для GPU-обмена ставят на тот же процессор.
• Списки совместимости. Проверяйте, указана ли карта в спецификации конкретной модели сервера (Dell, HPE, Lenovo, Supermicro), и программу NVIDIA-Certified Systems.

Драйверы и программное обеспечение

Для дата-центровых GPU NVIDIA выпускает ветки драйверов с длительной поддержкой (например, R535, R550, R570 и новее). Ветку выбирают под версию CUDA и фреймворков, которые нужны приложениям, и под поддерживаемую ОС.

• Bare metal и контейнеры. Драйвер плюс CUDA Toolkit, для контейнеров — NVIDIA Container Toolkit, для Kubernetes — GPU Operator.
• vGPU. Разделение карты между виртуальными машинами требует лицензий NVIDIA vGPU (vPC, vWS) или NVIDIA AI Enterprise и сервера лицензий. Поддерживаются VMware vSphere, ряд KVM-платформ и другие гипервизоры.
• Проброс целиком. Passthrough карты в одну ВМ лицензий vGPU не требует.
• MIG. На A100, A30, H100 и H200 одну карту можно разделить на изолированные экземпляры без гипервизора.

Особенности выбора железа под гипервизоры — в статье железо под виртуализацию.

Как выбрать видеокарту для сервера

1. Сформулируйте задачу: инференс, обучение, VDI, рендеринг или видеоаналитика.
2. Оцените требуемый объём памяти и её тип: GDDR для графики и небольших моделей, HBM для LLM и HPC.
3. Определите число карт и нужна ли связь между ними по NVLink.
4. Проверьте сервер: поддерживаемые модели GPU, слоты, райзеры, вентиляторы и кабели питания.
5. Посчитайте бюджет мощности: суммарное потребление карт, процессоров и дисков против мощности БП с учётом резервирования.
6. Проверьте охлаждение и температуру в серверной.
7. Выберите ветку драйвера и при необходимости лицензии vGPU.
8. Сравните новые и б/у варианты по сроку службы, гарантии и наличию.

Готовы подобрать под задачу связку «сервер + GPU» с проверенной совместимостью, комплектом питания и охлаждения.

Типичные ошибки

• Пассивная карта в сервере без GPU-комплекта. Перегрев и троттлинг под нагрузкой, а иногда аварийное отключение.
• Неверный кабель питания. Подключение PCIe 8-pin вместо CPU 8-pin к дата-центровой карте или наоборот может повредить оборудование.
• Игровая карта в 2U-сервер. Не помещается по высоте из-за бокового разъёма питания и выдувает горячий воздух внутрь.
• Ожидание vGPU без лицензий. Разделение карты между ВМ требует лицензий и сервера лицензирования NVIDIA.
• Слот x8 вместо x16. Механически карта встанет, но пропускная способность для обучения и загрузки моделей уменьшится.

На что смотреть при покупке б/у GPU

• Вывод nvidia-smi -q: модель, серийный номер, версия VBIOS, счётчики ECC, переназначенные строки памяти.
• Стресс-тест 1–2 часа (например, gpu-burn или DCGM Diagnostics dcgmi diag -r 3) с контролем температуры и частот.
• Состояние радиатора и разъёма питания: следы перегрева, деформация контактов.
• Соответствие OEM-версии серверу: некоторые карты с прошивкой конкретного производителя сервера работают только с его BMC-профилями охлаждения.

Общая методика — в статье приёмка б/у сервера: чек-лист.

Что учесть при закупке

• Партномер. Уточняйте точную модель и объём памяти, а также вариант: NVIDIA или OEM-исполнение производителя сервера.
• Комплект для сервера. Кабели питания, вентиляторы, воздуховоды, крепление и при необходимости NVLink-мост.
• Лицензии. Для vGPU — тип и число лицензий, для NVIDIA AI Enterprise — срок подписки.
• Гарантия. Для новых карт — гарантия производителя, для б/у — гарантия продавца и условия замены.
• Сроки. Ускорители старших моделей часто поставляются под заказ, учитывайте это в графике проекта.

Смотреть gpu и ai-серверы в наличии →