GIGABYTE XV24-SU0-AAJ1: GPU-сервер 2U с 4× RTX PRO 6000 BSE 96GB, Xeon 6737P и 768 ГБ RAM

GPU-сервер GIGABYTE XV24-SU0-AAJ1 для production-нагрузок ИИ

GIGABYTE XV24-SU0-AAJ1 в конфигурации «СервакМастер» — это компактный высокоплотный узел формата 2U на четыре графических ускорителя NVIDIA RTX PRO 6000 Blackwell Server Edition. Платформа рассчитана на продакшн-сценарии: инференс, развёртывание языковых моделей, RAG-системы и масштабирование за пределы одного сервера по быстрой сети.

Четыре GPU по 96 ГБ GDDR7 дают 384 ГБ суммарной видеопамяти. Этого достаточно, чтобы запускать крупные LLM в multi-GPU режиме (tensor/pipeline parallel), держать длинный контекст и несколько реплик одновременно, а также гонять тяжёлые генеративные пайплайны без постоянной борьбы за память.

Ключевые особенности

• 384 ГБ VRAM на узел: 4× NVIDIA RTX PRO 6000 BSE по 96 ГБ GDDR7.
• 768 ГБ оперативной памяти: 6 модулей по 128 ГБ DDR5 ECC REG Micron 6400 МГц 2Rx4 — крупные датасеты и индексы RAG можно держать в RAM.
• Сетевая подсистема: две карты NVIDIA MCX713106AC-VEAT, итого 4 порта 200GbE QSFP112 — для кластерных конфигураций, внешних хранилищ и нагруженных API.
• Процессор Intel Xeon 6737P: 32 ядра / 64 потока, 2,9–4,0 ГГц, 270 Вт.
• Накопитель: Solidigm D7-PS1030 6,4 ТБ в формате 2,5" U.2.
• Форм-фактор 2U: высокая плотность вычислений в стойке.
• Производительность четырёх GPU (по данным описания): FP32 — 480 TFLOPS, FP4 — 16 PFLOPS, RT Core — 1420 TFLOPS.

Характеристики

Для каких задач подходит

Сервер хорошо закрывает несколько классов задач:

• Инференс LLM. По описанию конфигурация рассчитана на модели вроде DeepSeek-R1-Distill-Llama-70B, gpt-oss:120b, GigaChat3.5-432B-A28B (Q4_K_M) и NVIDIA Nemotron-3-Super-120B (NVFP4). Очень крупные модели, такие как Mistral-Large-3-675B (IQ4_XS) и GLM-4.7-FP8, умещаются «впритык» и требуют аккуратной настройки контекста и размера batch.
• RAG-системы. Большой объём RAM и VRAM позволяет держать индексы и длинный контекст, обслуживая высокий QPS.
• Дообучение и обучение моделей. Подходит, когда важны большой batch и стабильная работа на FP16/FP8 в современном стеке CUDA.
• Генерация изображений и видео. Stable Diffusion XL, Flux.2-dev, SD Turbo и Kandinsky 5.0 можно параллелить по GPU для нескольких пользователей и очередей.
• Визуализация и рендеринг. Благодаря RT-ядрам платформа пригодна и для графических и 3D-пайплайнов.

Состояние, проверка и поставка

Сервер поставляется новым, как собранная «СервакМастер» конфигурация. Перед отправкой оборудование тестируется. На него действует гарантия 1 год с заменой компонентов. Доставка осуществляется по России СДЭК и другими ведущими службами доставки.

Характеристики