Серверы для инференса GigaChat 3.1 — готовые конфигурации с NVIDIA H100 и A100 в СервакМастер

AI-серверы под GigaChat 3.1: подбор и продажа в СервакМастер

В каталоге «СервакМастер» собраны серверные решения и GPU-системы, рассчитанные на развёртывание и промышленную эксплуатацию языковой модели GigaChat 3.1. Каждая конфигурация отбирается с расчётом на реальные нагрузки инференса: пропускную способность GPU-памяти, задержки межузлового взаимодействия и требования к непрерывной работе 24/7.

Чем GigaChat 3.1 отличается от типовых серверных задач

GigaChat 3.1 — крупная языковая модель (LLM) с десятками миллиардов параметров. В отличие от классических вычислительных задач, инференс LLM предъявляет специфические аппаратные требования:

• Вместимость GPU-памяти. Квантованная INT8-версия модели занимает от 40 до 80 ГБ; FP16-версия — вдвое больше. Без достаточного объёма HBM модель выгружается на CPU, что катастрофически снижает скорость.
• Пропускная способность HBM. Скорость генерации токенов определяется не тактовой частотой GPU, а скоростью чтения весов из памяти. NVIDIA H100 SXM5 обеспечивает 3,35 ТБ/с — именно это делает его стандартом для LLM-инференса.
• Межузловые интерконнекты. При тензорном параллелизме между несколькими GPU или узлами задержки на шине определяют суммарную производительность. InfiniBand NDR 400 Гб/с снижает их в 5–8 раз по сравнению с обычным Ethernet.
• Тепловой пакет и охлаждение. Один H100 SXM5 рассеивает до 700 Вт. Восемь карт в одном шасси требуют прямого жидкостного охлаждения или высокоэффективной принудительной вентиляции.

Готовые конфигурации

Начальный уровень — одиночный узел

Подходит для тестирования, пилотных проектов и небольших нагрузок:

• Процессор: AMD EPYC 9354 (32 ядра, 3,25 / 3,8 ГГц) или Intel Xeon Gold 6448Y
• GPU: 1–2 × NVIDIA A100 80 ГБ или H100 80 ГБ SXM5
• ОЗУ: от 512 ГБ DDR5 ECC RDIMM
• Хранилище: 2 × NVMe SSD 3,84 ТБ в RAID 1
• Сеть: 2 × 25GbE + опциональный порт InfiniBand HDR 200 Гб/с

Рабочий уровень — кластер из 2–4 узлов

Производственная производительность с запасом для роста нагрузки:

• Платформа: Supermicro SYS-420GP-TNR или ASUS ESC N8-E11
• Процессор: 2 × AMD EPYC 9554 (64 ядра, 3,1 / 3,75 ГГц)
• GPU: 8 × NVIDIA H100 80 ГБ SXM5 с NVLink 4.0
• ОЗУ: 2 ТБ DDR5-4800 ECC RDIMM (32 слота)
• Хранилище: 4 × NVMe U.2 7,68 ТБ + внешний Ceph-кластер
• Сеть: 2 × 100GbE + 8 × InfiniBand NDR 400 Гб/с (через ConnectX-7)

Флагманский уровень — DGX-класс

Для высоконагруженного продакшна и мультитенантных сред:

• Платформа: NVIDIA DGX H100 или Dell PowerEdge XE9680
• GPU: 8 × NVIDIA H100 80 ГБ SXM5, суммарно 640 ГБ HBM3
• Процессор: 2 × Intel Xeon Platinum 8480+ (60 ядер, 2,0 / 3,8 ГГц)
• ОЗУ: 2 ТБ DDR5-4800 ECC
• Хранилище: 8 × NVMe SSD 3,84 ТБ (NVMe RAID)
• Сеть: ConnectX-7 InfiniBand NDR 400 Гб/с, 2 × 10GbE для управления

Как выбрать подходящую конфигурацию

При расчёте под конкретный сценарий ориентируйтесь на следующие показатели:

Если самостоятельный расчёт затруднён — воспользуйтесь бесплатной консультацией наших инженеров через форму на сайте.

Что входит в покупку AI-сервера в СервакМастер

Помимо поставки оборудования, мы берём на себя весь цикл подготовки к запуску:

• Техническая консультация без ограничений. Поможем подобрать конфигурацию, исходя из вашего бюджета, целевых нагрузок и плана масштабирования.
• Предустановка программного стека. Ubuntu Server LTS, CUDA Toolkit, vLLM или Triton Inference Server — по вашему выбору.
• Нагрузочное тестирование перед отгрузкой. Стресс-тест GPU, проверка памяти, burn-in не менее 24 часов — сервер уходит к вам уже проверенным.
• Доставка по всей России. Надёжная упаковка, страхование груза, отслеживание на всём маршруте.
• Гарантийное обслуживание от 12 до 36 месяцев в зависимости от производителя и конфигурации. На большинство позиций действует программа NBD — замена неисправного компонента на следующий рабочий день.
• Постгарантийная поддержка. Аппаратный мониторинг, замена компонентов, консультации по расширению кластера.

Условия приобретения

Все позиции в каталоге поставляются с официальной гарантией производителя. Оплата по безналичному расчёту для юридических лиц, НДС включён в стоимость. Цена указана за базовую конфигурацию; итоговая стоимость зависит от выбранных компонентов, объёма заказа и условий поставки.

Для уточнения актуальной цены и наличия на складе воспользуйтесь кнопкой «Запросить цену» или свяжитесь с нами через форму обратной связи.