Сервер Supermicro SYS-521GE-TNRT: 10× RTX PRO 6000 BSE 96GB, 2× Xeon Platinum 8558, 384GB RAM

Supermicro SYS-521GE-TNRT с 10 GPU Blackwell: один узел для больших языковых моделей

Supermicro SYS-521GE-TNRT — 5U-платформа, рассчитанная на плотную установку GPU (до 10 штук) и повышенную тепловую нагрузку. В этой сборке она укомплектована десятью ускорителями NVIDIA RTX PRO 6000 Blackwell Server Edition по 96 GB GDDR7 каждый, то есть 960 GB видеопамяти на одном сервере.

Такой объём позволяет запускать крупные LLM без агрессивной квантизации за счёт распределения модели между картами (tensor/pipeline parallel) через vLLM или TensorRT-LLM. Два процессора Intel Xeon Platinum 8558 и 384 GB оперативной памяти DDR5 ECC REG обеспечивают платформу для подготовки данных, RAG-обвязки и параллельных сервисов.

Ключевые особенности

• 10× NVIDIA RTX PRO 6000 Blackwell Server Edition, по 96 GB GDDR7 с ECC, суммарно 960 GB VRAM.
• Архитектура NVIDIA Blackwell, интерфейс PCIe Gen5 x16, поддержка тензорных режимов, включая FP8 и FP4.
• Совокупная мощность десяти GPU по данным поставщика: 1200 TFLOPS в FP32, 40 PFLOPS в FP4, 3550 TFLOPS производительности RT-ядер.
• 2× Intel Xeon Platinum 8558 (48 ядер / 96 потоков, 2.1–4 GHz, 330 W).
• 12× 32 GB DDR5 ECC REG Samsung 6400 MHz 4Rx4 — всего 384 GB.
• 4× SSD Solidigm D7-PS1010 1.92 TB в формате 2.5" U.2.
• По описанию поставщика, на одном узле помещаются DeepSeek-V4-Pro (около 865 GB, без квантизации), GigaChat3.5-432B-A28B-bf16 (около 868 GB), GLM-5.2-FP8 (около 756 GB), Mistral-Large-3-675B (около 682 GB) и более лёгкие модели вроде gpt-oss:120b (около 196 GB).

Характеристики

Для каких задач подходит

Конфигурация ориентирована на инференс и развёртывание LLM в продакшене, RAG-системы, дообучение и обучение моделей. Запас видеопамяти полезен для длинного контекста (KV-cache), больших батчей и одновременной работы нескольких пайплайнов: самой модели, эмбеддингов, реранкера и индексатора.

Кроме языковых моделей, сервер подходит для генерации изображений и видео: поставщик указывает совместимость с Stable Diffusion XL 1.0, Flux.2-dev, SD Turbo и моделями Kandinsky 5.0. Отдельно можно использовать его для визуализации, рендеринга и видеоаналитики. Параллельные очереди распределяются по GPU внутри одного корпуса.

Состояние, проверка и гарантия

Сервер поставляется новым. Перед отправкой «СервакМастер» тестирует оборудование, на сборку действует гарантия 1 год с заменой компонентов. Доставка по России осуществляется СДЭК и другими ведущими службами доставки. Подобрать конфигурацию под вашу нагрузку и уточнить детали можно у специалистов магазина.

Характеристики