Сервер GIGABYTE G494-ZB1-AAP2 с 8x NVIDIA H200 NVL 141GB, 4U, 2x AMD EPYC

GIGABYTE G494-ZB1-AAP2 с 8x H200 NVL: GPU-узел для крупных моделей

GIGABYTE G494-ZB1-AAP2 в этой конфигурации — 4U-сервер для задач ИИ и высокопроизводительных вычислений. В нём установлены восемь ускорителей NVIDIA H200 NVL по 141 ГБ HBM3e, а платформа построена на двух процессорах AMD EPYC 9004/9005. Суммарный объём видеопамяти составляет 1128 ГБ, то есть около 1,1 ТБ.

Это классический GPU-сервер, а не MGX-платформа с выделенной сетевой фабрикой. Карты H200 NVL объединены внутри узла двумя группами по 4 GPU, каждая со своим 4-way NVLink bridge. Конфигурация рассчитана на мощный локальный узел для обучения, дообучения и обслуживания больших моделей, а не на кластер с акцентом на межузловой обмен. Из сетевых интерфейсов в спецификации указаны 2 порта 1GbE.

Ключевые особенности

• 8 ускорителей NVIDIA H200 NVL, по 141 ГБ HBM3e на карту (1128 ГБ суммарно).
• Пропускная способность памяти H200 NVL — 4,8 ТБ/с на ускоритель.
• Два процессора AMD EPYC 9004/9005 серии.
• 48 слотов DIMM и до 12 ТБ оперативной памяти DDR5 ECC REG.
• Платформа поддерживает до 10 двухслотовых PCIe Gen5 GPU; для H200 NVL предусмотрена конфигурация 8 GPU с двумя NVLink-группами по 4 карты.
• Дисковая подсистема: 8 отсеков 2,5" Gen5 NVMe/SATA/SAS-4, ещё 4 отсека 2,5" Gen5 SATA/SAS-4 и 2 слота M.2 (2280/22110).
• Суммарная пиковая производительность восьми H200: 480 TFLOPS в FP64 Tensor Core, 13 368 TFLOPS в BF16/FP16 и 26 728 TFLOPS в FP8. Значения для BF16/FP16 и FP8 даны с учётом структурной разреженности; без неё они вдвое ниже: около 6 684 и 13 364 TFLOPS.

Характеристики

Для каких задач подходит

Большой объём видеопамяти позволяет держать крупные модели и длинный контекст на одном сервере без агрессивной квантизации. По оценкам требуемой памяти, на узле можно разместить такие модели, как DeepSeek-V4-Pro (около 865 ГБ), GigaChat3.5-432B-A28B (около 868 ГБ), Kimi-K2.7-Code (около 595 ГБ), MiniMax-M3 (около 854 ГБ) и MiMo-V2.5-Pro (около 1,03 ТБ). Более лёгкие модели вроде gpt-oss-120b (около 196 ГБ) или gemma-4-31B-it (около 62,6 ГБ) допускают несколько параллельных инстансов и большие батчи.

Основные сценарии:

• обучение и дообучение языковых моделей;
• инференс и развёртывание LLM для production-сервисов;
• RAG-системы и аналитика данных;
• научные расчёты и HPC;
• генерация изображений и видео: Stable Diffusion XL, FLUX.2-dev, Kandinsky 5.0 с запасом по разрешению и числу параллельных задач.

Состояние, проверка и доставка

Сервер поставляется новым. «СервакМастер» тестирует оборудование перед отправкой и даёт гарантию 1 год с заменой компонентов. Доставка по России осуществляется через СДЭК и другие ведущие службы доставки. Подобрать конфигурацию под вашу нагрузку и уточнить детали поставки можно у менеджеров магазина.

Платформа G494-ZB1: что внутри

G494-ZB1-AAP2 — 4U-платформа GIGABYTE на материнской плате MZB3-G41 с двумя сокетами AMD EPYC 9005/9004. Она рассчитана на двухслотовые PCIe Gen5 ускорители, а для H200 NVL производитель указывает конфигурацию из восьми карт, объединённых 4-way NVLink-мостами. Параметры ниже взяты из публичных страниц производителя.

Встроенная сеть здесь только 1GbE. Для связи с другими узлами или быстрого доступа к хранилищу в свободные слоты PCIe Gen5 x16 обычно ставят адаптер 100/200/400 GbE или InfiniBand; совместимость конкретной карты уточняйте при заказе.

Какие модели ИИ поместятся в 1128 ГБ видеопамяти

Оценка по объёму весов: параметры × байт на параметр (FP16/BF16 = 2, FP8/INT8 = 1, INT4 ≈ 0,5). Сверху нужен запас под KV-кэш и активации, тем больший, чем длиннее контекст и больше одновременных запросов.

Практические моменты:

• Hopper поддерживает FP8 аппаратно. Модели в FP8 запускаются без пересчёта в FP16 и занимают вдвое меньше памяти.
• Восемь GPU — удобное число для тензорного параллелизма (степень двойки). Но карты связаны NVLink-мостами двумя группами по 4: тензорный параллелизм TP=4 внутри группы работает быстрее, чем TP=8 через границу групп, где обмен идёт по PCIe.

Питание, охлаждение и размещение

Пиковое потребление оценивается по паспортным значениям компонентов.

• Питание. Установлены четыре блока по 3000 Вт, 80 PLUS Titanium, с резервированием. Схема резервирования (N+1 или 2+2) в источниках не указана, уточняйте у менеджера. Подводить питание правильно по двум независимым линиям (PDU A и PDU B). Силовые шнуры в комплект платформы не входят.
• Тепло. Одни только GPU выделяют до 4,8 кВт, то есть около 16 400 BTU/ч (кВт × 3412). Полная нагрузка сервера — свыше 17 000 BTU/ч, которые нужно отвести кондиционированием стойки.
• Охлаждение. Воздушное. Для GPU мощностью 600 Вт производитель предлагает опциональный fan kit 8080; с ним глубина шасси растёт с 880 до 1000,5 мм. Условия работы GPU заявлены при температуре окружающей среды 25 °C; полный рабочий диапазон температур в источниках не указан.
• Стойка. 4U, 448 × 176 × 880 мм (1000,5 мм с fan kit). Данных о весе нет. Монтаж на рельсы (в комплекте L-образные рельсы), глубину стойки выбирайте с запасом на кабели.

Сравнение с соседними конфигурациями

G494-ZB1 и ZB4 используют одну платформу с разным набором слотов: ZB1 даёт до 10 GPU и 12 отсеков накопителей, ZB4 — 8 GPU и 12 отсеков NVMe. Вариант с SXM-модулями (G593) подойдёт, если нужна иная архитектура межкарточных связей, а версия на RTX PRO 6000 BSE — если достаточно 768 ГБ и бюджет вдвое меньше.

Частые вопросы

Можно ли добавить ещё GPU? Платформа поддерживает до 10 двухслотовых PCIe Gen5 GPU (10 слотов FHFL x16). Для H200 NVL производитель описывает конфигурацию из 8 карт с двумя NVLink-группами по 4, поэтому дооснащение сверх неё согласуйте при заказе.

Как GPU связаны между собой? H200 NVL объединены 4-way NVLink-мостами, группами по 4 карты. Между группами и с процессорами обмен идёт по PCIe Gen5 x16.

Какие процессоры и сколько памяти поддерживает платформа? Два сокета AMD EPYC 9005/9004 и 48 слотов DDR5 RDIMM (12 каналов на процессор). Для EPYC 9005 на родственной платформе ZB4 указана скорость до 5200 MT/s при одном модуле на канал.

Как управлять сервером удалённо? Через встроенный BMC (ASPEED AST2600) с выделенным портом управления 10/100/1000 и выводом VGA; для данных есть два порта 1GbE.

Условия гарантии описаны на странице «Гарантия», способы и сроки доставки — на странице «Доставка».

Характеристики