Обучение больших моделей
8U · HGXУзел для обучения и дообучения крупных моделей. Ускорители соединены через NVLink и NVSwitch, поэтому память восьми плат работает как единый пул — модель не приходится дробить между серверами.
- Платформа: Supermicro 8U GPU SuperServer или аналог
- Ускорители: NVIDIA HGX, 8 × SXM, 141 ГБ HBM3e каждый — 1128 ГБ суммарно
- Процессоры: 2 × Intel Xeon Scalable, до 64 ядер на сокет
- Оперативная память: до 8 ТБ DDR5-5600, 32 слота
- Хранение: до 19 отсеков 2,5" NVMe с горячей заменой + 2 × M.2 под систему
- Расширение: 8 слотов PCIe 5.0 x16 под сетевые адаптеры 400G
- Питание: 6 × 3000 Вт (4+2), уровень Titanium