GIGABYTE H223-V10-AAW1: 2U-сервер с двумя NVIDIA GH200, 288 ГБ HBM3e и 960 ГБ RAM

Двухузловой AI-сервер на платформе NVIDIA GH200

GIGABYTE H223-V10-AAW1 — это 2U-платформа, в корпусе которой размещены два независимых вычислительных узла. Каждый узел построен на модуле NVIDIA GH200, где процессор Grace и графический ускоритель Hopper объединены в одном суперчипе. По сути, вы получаете два отдельных AI-сервера в одном корпусе, что экономит место в стойке, питание и охлаждение.

Суммарно система располагает 288 ГБ памяти HBM3e и 960 ГБ ECC LPDDR5X. Такой запас подходит для крупных языковых моделей, длинного контекста и задач, где данные не помещаются в память обычного GPU-сервера.

Ключевые особенности

• Два независимых узла GH200: один можно выделить под инференс или RAG, другой — под дообучение, тестирование или отдельный сервис.
• 288 ГБ видеопамяти HBM3e на два ускорителя Hopper.
• 960 ГБ оперативной памяти LPDDR5x с ECC.
• Хранилище: 8× 2,5" Gen5 NVMe и 4× M.2 NVMe (2280/22110).
• Компактный форм-фактор 2U, удобный для плотного размещения в стойке.
• Разделение нагрузки между командами и проектами проще, чем на обычном сервере с двумя GPU.

Характеристики

Для каких задач подходит

• Инференс больших языковых моделей, в том числе квантизованных версий крупных моделей, и обслуживание нескольких пользовательских сессий.
• Дообучение моделей и эксперименты с длинным контекстом.
• RAG-системы и корпоративные ассистенты.
• Генерация изображений и видео с помощью диффузионных моделей.
• Анализ данных и научные расчёты (HPC).

Совокупная производительность двух GH200 по тензорным ядрам: FP8 — 7916 TFLOPS, BF16/FP16 — 3958 TFLOPS, TF32 — 1979 TFLOPS, FP32 и FP64 Tensor Core — по 134 TFLOPS.

Состояние, проверка и поставка

Сервер поставляется новым. Перед отправкой «СервакМастер» тестирует оборудование, на него действует гарантия 1 год с заменой компонентов. Доставка по России осуществляется СДЭК и другими ведущими службами. Если нужна конфигурация под ваши задачи и бюджет, свяжитесь с менеджером — мы подберём подходящий вариант.

Характеристики