GIGABYTE G893-ZX1-AAX4: 8U GPU-сервер с 8× AMD Instinct MI355X 288GB

GIGABYTE G893-ZX1-AAX4: GPU-сервер для крупных AI- и HPC-нагрузок

GIGABYTE G893-ZX1-AAX4 — это 8U-платформа на восемь ускорителей AMD Instinct MI355X в форм-факторе OAM. Каждый ускоритель несёт 288 ГБ памяти HBM3e, поэтому на узле доступно 2304 ГБ (около 2,3 ТБ) видеопамяти с высокой пропускной способностью.

Такой объём позволяет держать в памяти очень крупные модели, длинный контекст и объёмный KV-cache, а также обслуживать много параллельных запросов на одном сервере. Платформа рассчитана на двухсокетную конфигурацию AMD EPYC и до 6 ТБ оперативной памяти DDR5.

Ключевые особенности

• 8 × AMD Instinct MI355X OAM, по 288 ГБ HBM3e на каждый ускоритель.
• Суммарно 2304 ГБ видеопамяти для крупных языковых и диффузионных моделей.
• Два процессора AMD EPYC 9005/9004 (сокет SP5, LGA 6096).
• До 6 ТБ оперативной памяти DDR5 ECC RDIMM, 24 слота.
• Восемь отсеков 2,5" под NVMe-накопители Gen5 и два слота M.2 для системных дисков.
• Совокупная производительность восьми ускорителей: 20 PFLOPS в FP16/BF16 Matrix (40 PFLOPS со структурированной разреженностью), 40 PFLOPS в FP8 (80,8 PFLOPS с разреженностью), 40 POPS в INT8 Matrix.
• В FP64 набор из восьми GPU даёт 628,8 TFLOPS, что важно для научных расчётов.

Характеристики

Для каких задач подходит

Сервер ориентирован на команды, которым тесно в обычных GPU-узлах:

• обучение и дообучение больших языковых моделей;
• промышленный инференс крупных моделей с высокой параллельностью запросов;
• RAG-системы и агентные сценарии, где нужен длинный контекст;
• генерация изображений и коротких видео на диффузионных моделях с распараллеливанием по восьми GPU;
• анализ данных и научные расчёты (HPC).

По объёму памяти конфигурация рассчитана на запуск полноразмерных моделей масштаба сотен гигабайт и даже около терабайта без агрессивной квантизации, а небольшие модели можно разносить по отдельным GPU и обслуживать параллельно.

Состояние, проверка, гарантия и доставка

Оборудование поставляется новым. Перед отправкой «СервакМастер» тестирует сервер, на технику действует гарантия 1 год с заменой компонентов. Доставка по России осуществляется СДЭК и другими ведущими службами. Если нужна конфигурация под ваши задачи и бюджет, свяжитесь с менеджером: он подберёт подходящий вариант на этой платформе.

Характеристики