Rotec Telecom
ГлавнаяОборудование → GPU-серверы для ИИ

GPU-серверы для систем искусственного интеллекта

Подбираем и поставляем вычислительные платформы под конкретную модель и объём данных: от одиночного сервера видеоаналитики до узла обучения на восьми ускорителях с межсоединением NVLink.

Как мы подходим к задаче

Сервер для искусственного интеллекта — это не «взять помощнее». Конфигурация определяется тем, что именно будет считаться: обучение большой модели с нуля, дообучение под задачу, инференс в продуктиве или видеоаналитика в реальном времени. От этого зависит тип ускорителя, объём его памяти, схема межсоединения и подсистема хранения.

Мы считаем конфигурацию от задачи: размер модели и датасета, требуемая пропускная способность обучения или число одновременных потоков инференса, ограничения по электропитанию и охлаждению в помещении заказчика.

Что берём на себя

  • Расчёт конфигурации под задачу и бюджет
  • Проверку требований по питанию, теплу и стойке
  • Поставку из Китая с полным таможенным оформлением
  • Сборку, прогон, установку драйверов и стека CUDA
  • Ввод в эксплуатацию и сервисную поддержку
Стойки вычислительных серверов в центре обработки данных
Типовые конфигурации

Четыре сборки, которые мы считаем чаще всего

Ниже — рабочие ориентиры по составу. Итоговая спецификация собирается под задачу: меняются модель ускорителя, объём памяти и дисков, сетевые адаптеры и схема охлаждения. Стоимость рассчитываем по запросу.

Обучение больших моделей

8U · HGX

Узел для обучения и дообучения крупных моделей. Ускорители соединены через NVLink и NVSwitch, поэтому память восьми плат работает как единый пул — модель не приходится дробить между серверами.

  • Платформа: Supermicro 8U GPU SuperServer или аналог
  • Ускорители: NVIDIA HGX, 8 × SXM, 141 ГБ HBM3e каждый — 1128 ГБ суммарно
  • Процессоры: 2 × Intel Xeon Scalable, до 64 ядер на сокет
  • Оперативная память: до 8 ТБ DDR5-5600, 32 слота
  • Хранение: до 19 отсеков 2,5" NVMe с горячей заменой + 2 × M.2 под систему
  • Расширение: 8 слотов PCIe 5.0 x16 под сетевые адаптеры 400G
  • Питание: 6 × 3000 Вт (4+2), уровень Titanium

Универсальная платформа PCIe

4U · до 8 GPU

Компромисс между ценой и производительностью: ускорители в обычных слотах PCIe, что упрощает обслуживание и замену. Подходит для дообучения, инференса под нагрузкой и смешанных задач.

  • Платформа: Supermicro 4U GPU SuperServer или аналог
  • Ускорители: до 8 × NVIDIA L40S 48 ГБ, либо H100 NVL / H200 NVL
  • Процессоры: 2 × Intel Xeon Scalable 4-го или 5-го поколения
  • Оперативная память: 1 ТБ DDR5 (16 × 64 ГБ), расширение до 8 ТБ
  • Хранение: 24 отсека 2,5" NVMe/SATA; типовой набор — 4 × 3,84 ТБ NVMe
  • Расширение: 12 слотов PCIe 5.0 x16
  • Питание: 2 × 3000 Вт с резервированием

Инференс в продуктиве

2U · до 4 GPU

Компактный узел для эксплуатации уже обученных моделей: генерация, распознавание, классификация потока запросов. Экономнее по стойке и электропитанию.

  • Платформа: Supermicro 2U GPU-система или аналог
  • Ускорители: до 4 × NVIDIA H100 NVL или L40S
  • Процессоры: 2 × Intel Xeon Scalable
  • Оперативная память: от 512 ГБ DDR5
  • Хранение: NVMe под модели и кэш
  • Сеть: 25/100 GbE

Видеосервер аналитики

2U · 1–2 GPU

Сервер под интеллектуальное видеонаблюдение: детекция, распознавание и подсчёт объектов в реальном времени. Конфигурация считается от числа камер, разрешения и набора аналитических модулей.

  • Ускорители: 1–2 × NVIDIA профессиональной серии
  • Программное обеспечение: SecurOS, российский реестр ПО
  • Хранение: расчёт под глубину архива и число потоков
  • Резервирование питания и дисков
  • Поставляется комплектом с лицензиями и пусконаладкой

Про видеоаналитику →

Производители

С какими платформами работаем

Supermicro

Основная платформа для сборок с ускорителями: широкий выбор шасси от 1U до 8U, поддержка воздушного и жидкостного охлаждения, гибкая комплектация под задачу.

NVIDIA

Ускорители вычислений: серия SXM с межсоединением NVLink для обучения, платы PCIe для инференса и профессиональные модели для видеоаналитики. Поставляются в составе серверных платформ.

Huawei и другие

Серверные платформы Huawei и аналогичных производителей — когда требования заказчика или условия поставки делают их предпочтительными. Подбираем исходя из доступности и сроков.

Оборудование этого класса не продаётся со склада в России в свободном доступе. Мы привозим его сами: внешнеторговый контракт, логистика и таможенное оформление — на нашей стороне. Заказчик получает сервер на площадку с НДС и полным комплектом документов.

Посчитать сервер под вашу задачу

Напишите, что планируете считать: тип модели, объём данных, ожидаемая нагрузка. Предложим одну-две конфигурации и назовём срок поставки.

Запросить расчёт