Хостинг-провайдер immers·cloud сообщил о появлении в своих облачных конфигурациях видеокарты NVIDIA H100 NVL 94GB. Речь идёт о специализированной версии флагманского ускорителя NVIDIA, ориентированной на масштабные ИИ-нагрузки и плотные кластерные конфигурации, где память заканчивается быстрее, чем терпение у инженеров.
Новая GPU стала доступна в составе облачных серверов и предназначена для сценариев, где стандартный H100 уже не выглядит убедительно — не по причине слабости, а из-за банальной нехватки видеопамяти.
Чем отличается H100 NVL
Версия H100 NVL заметно отличается от «обычного» H100 и рассчитана на задачи, где объём данных и параллелизм выходят за привычные рамки:
-
94 ГБ памяти HBM3 — на 14 ГБ больше, чем у стандартного H100;
-
Пропускная способность памяти до 4 ТБ/с, что особенно чувствуется в моделях с активным обменом данными;
-
Тензорные ядра 4-го поколения и Transformer Engine с поддержкой FP8, обеспечивающие до девятикратного ускорения при обучении MoE-моделей;
-
поддержка драйверов R535 и новее, без необходимости шаманства с версиями.
В сумме это даёт ускоритель, рассчитанный не на одиночные эксперименты, а на долгую и тяжёлую работу в составе распределённых систем.
Для каких задач это имеет смысл
NVIDIA H100 NVL. Изображение: igorslab.de
NVIDIA H100 NVL в облаке immers·cloud ориентирована на сценарии, где компромиссы по памяти и пропускной способности уже не работают:
-
обучение и инференс больших языковых моделей;
-
кластерные ИИ-конфигурации с высокой плотностью данных;
-
задачи, где стабильность важнее рекордных цифр в презентациях;
-
проекты, в которых видеопамять заканчивается раньше, чем вычисления.
Иначе говоря, это инструмент для тех случаев, когда «ещё один батч не влез» — уже системная проблема, а не случайность.
Итог
Добавив NVIDIA H100 NVL 94GB в облачные конфигурации, immers·cloud расширил линейку решений для тяжёлых ИИ-нагрузок. Это ускоритель с акцентом на объём памяти и пропускную способность, а не на декоративные характеристики. Подходит не всем, но тем, кому подходит, альтернативы обычно искать уже негде.