Серверный ускоритель NVIDIA L4 24GB GDDR6 [900-2G193-0000-000], low-profile, PCIe 4.0 x16

NVIDIA L4 24GB: компактный ускоритель для инференса и видео

NVIDIA L4 — серверный ускоритель на архитектуре Ada Lovelace, рассчитанный на задачи ИИ-инференса, обработки видео и виртуализации там, где важны малое энергопотребление и компактность. Карта оснащена 24 ГБ памяти GDDR6 с поддержкой ECC и 192-битной шиной, поэтому на ней можно запускать языковые модели среднего размера, например в варианте 32B, в распределённых и периферийных инфраструктурах.

Это именно вычислительный ускоритель, а не графическая карта для монитора: видеовыходов у неё нет. Низкопрофильный однослотовый форм-фактор и пассивное охлаждение позволяют устанавливать L4 в плотные серверы с направленным воздушным потоком и добавлять несколько карт в одно шасси.

Ключевые особенности

• Архитектура Ada Lovelace с 7680 вычислительными ядрами и тензорными ядрами 4-го поколения; поддерживаются форматы FP32, TF32, FP16, BF16, FP8 и INT8.
• 24 ГБ GDDR6 с ECC, шина 192 бит — достаточный запас для инференса и пакетной обработки.
• TDP всего 72 Вт, питание через один разъём 16-pin.
• Низкопрофильный однослотовый корпус длиной 169 мм с пассивным охлаждением и бесшумной работой самой карты.
• Аппаратные видеоблоки: NVENC 8-го поколения и NVDEC 5-го поколения для кодирования и декодирования потокового видео.
• PCIe 4.0 x16 для подключения к современным серверным платформам.

Характеристики

Для каких задач подходит

• ИИ-инференс: запуск языковых и других моделей в корпоративных и периферийных узлах, где нет места для мощных карт с активным охлаждением.
• Обработка и транскодирование видео: потоковые сервисы, видеонаблюдение, подготовка контента с использованием NVENC и NVDEC.
• Виртуализация и плотные конфигурации: низкое тепловыделение позволяет ставить несколько ускорителей в один сервер. Учтите, что поддержка ПО vGPU для этой модели в характеристиках не указана.
• Компактные ИИ-узлы: небольшие серверы и рабочие станции, ограниченные по питанию и охлаждению.

Состояние, проверка и доставка

Ускоритель поставляется новым. Перед отправкой «СервакМастер» тестирует оборудование, на товар действует гарантия 1 год с заменой компонентов. Доставка осуществляется по России через СДЭК и другие ведущие службы доставки. Перед заказом убедитесь, что ваш сервер обеспечивает направленный обдув для пассивной карты и имеет подходящий разъём питания 16-pin.

Характеристики