Сервер GIGABYTE G383-R80-AAP1 на 4× AMD Instinct MI300A 128GB HBM3, 3U

Обзор: вычислительный узел на APU AMD Instinct MI300A

GIGABYTE G383-R80-AAP1 — это 3U-платформа, построенная вокруг четырёх ускорителей AMD Instinct MI300A. В отличие от классических GPU-серверов, здесь нет разделения на процессор и видеокарты: MI300A — это APU, в котором процессорные ядра, графическое ядро и память объединены в одном модуле. Каждый APU содержит 24 ядра Zen 4, GPU на архитектуре CDNA 3 (228 compute units) и 128 ГБ памяти HBM3.

Ключевое следствие такой компоновки — единое адресное пространство: и CPU, и GPU обращаются к одной и той же HBM3 без копирования данных через PCIe. Поэтому системная память здесь представлена той же HBM3, а привычные модули DIMM не используются. Сервер ориентирован на программный стек ROCm и подойдёт командам, которым важны пропускная способность памяти и тесная связка CPU и GPU внутри одного узла.

Ключевые особенности

• 4 APU AMD Instinct MI300A — по 24 ядра Zen 4 и 228 compute units CDNA 3 на каждый модуль.
• 512 ГБ HBM3 суммарно — четыре отдельных пула по 128 ГБ, доступные и процессору, и графическому ядру.
• Пропускная способность памяти в спецификации платформы достигает 5,3 ТБ/с.
• Единая память CPU и GPU — меньше накладных расходов на перемещение данных, проще программная модель.
• Хранилище: 8 отсеков 2,5" NVMe и один слот M.2 (2280/22110) на PCIe Gen5 x4.
• Компактный форм-фактор 3U — высокая плотность вычислений на единицу стойки.
• Новое оборудование в заводской комплектации.

Характеристики

Для каких задач подходит

Платформа рассчитана на сценарии, где объём и скорость памяти важнее набора отдельных видеокарт:

• Научные и инженерные расчёты (HPC) — моделирование и численные методы на ROCm.
• Обучение и дообучение моделей — большие батчи и длинный контекст благодаря 512 ГБ HBM3 в одном узле.
• Инференс больших языковых моделей — крупные модели в квантизации, в том числе с запасом под RAG и KV-cache.
• RAG-системы и анализ данных — когда процессорная и графическая части задачи работают с общим набором данных.

Следует учитывать, что память разделена на четыре пула по 128 ГБ — по одному на каждый APU, и планировать размещение моделей стоит с учётом этого.

Поставка и гарантия

Сервер поставляется новым. Перед отправкой «СервакМастер» тестирует оборудование, на него действует гарантия 1 год с заменой компонентов. Доставка по России осуществляется через СДЭК и другие ведущие службы доставки. Если нужна конфигурация на эту платформу под ваши задачи, свяжитесь с менеджером — мы предложим вариант под бюджет и требования.

Характеристики