Хостинг-провайдер immers·cloud расширил линейку облачных графических серверов — теперь пользователям доступно ещё больше мощностей с видеокартами NVIDIA Tesla H100. Это хорошая новость для тех, кто не просто слышал о глубоких нейросетях, но уже варится в их обучении по уши.
Железо с характером
Новые облачные серверы собраны на базе двух процессоров Intel Xeon Gold 6336Y (3-е поколение). Базовая частота — 2,4 ГГц, максимальная — 3,6 ГГц благодаря Turbo Boost. Каждый чип поддерживает инструкции Intel AVX-512 Deep Learning Boost — это как «ускоритель для ускорителя», особенно полезный в операциях перемножения и сложения в нейросетях.
Серверы поддерживают до 4 ТБ оперативной памяти DDR4 ECC Reg с частотой 3200 МГц. Местное хранилище организовано на надёжных SSD Intel, суммарным объёмом 3200 ГБ. Эти накопители специально разработаны для дата-центров и не теряют самообладание при высокой нагрузке.
Tesla H100 — тяжёлая артиллерия для ИИ
Каждый сервер оборудован графическим процессором NVIDIA Tesla H100 — с объёмом видеопамяти 80 ГБ стандарта HBM2e и ошеломляющей пропускной способностью 2 ТБ/с. Карта оснащена тензорными ядрами четвёртого поколения, а также Transformer Engine, умеющим жонглировать FP8 и FP16 почти как фокусник — с сохранением точности и снижением потребления памяти.
NVIDIA TESLA H100 Graphics Cards, 80GB, Bulk Tesla H100. Изображение: market.yandex.ru
Для коллективных экспертных моделей (MoE) Tesla H100 ускоряет обучение до 9 раз по сравнению с предыдущими поколениями — как если бы вы сели на гиперлуп вместо трамвая.
Вот как выглядит минимальная конфигурация облачного сервера, которые представлены у immers·cloud:
| Параметр | Значение |
|---|---|
| vCPU | 16 Core |
| ОЗУ | 64 GB |
| Диск | 160 GB SSD |
| GPU | 1 × NVIDIA Tesla H100 |
| Цена | 456,27 ₽ в час (~5 $) |
Немного чисел для тех, кто любит точность
Согласно тестам immers·cloud, одна Tesla H100 в облачной среде показывает следующие результаты:
-
Matrix multiply example — 5300 GFlop/s
-
Hashcat bcrypt — 210 000 H/s
Цифры говорят сами за себя — серверы immers·cloud теперь умеют больше, считают быстрее и вполне готовы к масштабным задачам искусственного интеллекта, будь то обучение языковых моделей или взлом паролей ради науки. Теперь, когда облако стало толще, нейросети в нём — явно не из ваты.