AI-сервер Deepcool MATREXX 55 MESH (1× Radeon AI PRO R9700 32GB, 1× Ryzen 9 9950X, RAM 64GB)

Компактная ROCm-платформа для локального AI

Это настольный сервер в корпусе Deepcool MATREXX 55 MESH, собранный под локальный инференс и прикладную AI-разработку. Основа конфигурации — видеокарта GIGABYTE Radeon AI PRO R9700 AI TOP с 32 ГБ GDDR6 и процессор AMD Ryzen 9 9950X на материнской плате Supermicro H13SAE-MF.

Radeon AI PRO R9700 построена на архитектуре AMD RDNA 4, работает по интерфейсу PCIe 5.0 x16 и обеспечивает пропускную способность памяти 640 ГБ/с. Объём видеопамяти в 32 ГБ лучше всего подходит для моделей класса 7B–14B, а часть 32B-моделей можно запускать в квантизированном виде. Для обучения больших foundation-моделей этого объёма недостаточно, зато для персональной разработки и продакшн-инференса на одной GPU конфигурация подходит хорошо.

Ключевые особенности

• Одна видеокарта с 32 ГБ VRAM: большие модели помещаются без multi-GPU-схем.
• Поддержка вычислений в FP16, FP8, INT8 и INT4; для FP8 Matrix заявлено 383 TFLOPS (766 со структурированной разреженностью).
• 16-ядерный Ryzen 9 9950X (16c/32t, 4,3–5,7 ГГц) для предобработки данных и сопутствующих сервисов.
• 64 ГБ оперативной памяти DDR5 ECC (4 × 16 ГБ): запас для offload, когда модель упирается в предел видеопамяти.
• Быстрый NVMe-накопитель Samsung PM983 на 1,92 ТБ под модели и датасеты.
• Блок питания ThermalRight TG-1200 на 1200 Вт и шесть вентиляторов Phanteks F120SK для стабильного охлаждения при длительной нагрузке.

Характеристики

Для каких задач подходит

• Инференс LLM и кодовых ассистентов. Например, gpt-oss-20b (MXFP4, около 16 ГБ) работает с хорошим запасом, а DeepSeek-R1-Distill-Qwen-14B (около 29,5 ГБ) и Qwen3.5-27B-FP8 (около 30,9 ГБ) помещаются почти вплотную к лимиту VRAM, поэтому окружение нужно настраивать аккуратно.
• Генерация изображений: Stable Diffusion XL, Flux, SD Turbo; Kandinsky-5.0 T2I Lite может потребовать частичного offload в RAM.
• Короткие видеоролики на лёгких T2V-моделях, например Kandinsky-5.0 T2V Lite.
• RAG-системы, embedding-модели, ASR и NLP-задачи.
• Лёгкое дообучение в сценариях LoRA и анализ данных.

Состояние, проверка и поставка

Оборудование новое. Перед отправкой «СервакМастер» тестирует сборку, на комплектацию действует гарантия 1 год с заменой компонентов. Доставка выполняется по России службой СДЭК и другими транспортными компаниями.

Характеристики