Кластер DGX Spark: когда одного узла мало
Узлы по ConnectX-7 работают как одна память — для моделей больше 128 ГБ.
Память по конфигурациям
Что помещается в каждую конфигурацию
| Узлов | Память всего | Доступно под модель, оценка | Что помещается |
|---|---|---|---|
| 1 | 128 ГБ | 108 ГБ | gpt-oss-120b, Qwen3 32B FP16, Llama 70B в Q4 |
| 2 | 256 ГБ | 199 ГБ | Llama 3.3 70B FP16, Qwen3 235B в Q4 |
| 3 | 384 ГБ | 285 ГБ | Модели до ~300 ГБ в памяти |
| 4 | 512 ГБ | 367 ГБ | Llama 3.1 405B в Q4 и аналоги |
Сеть между узлами: ConnectX-7, 200 Гбит/с. Сколько узлов собрать, согласуем в предложении под вашу модель.
Каким моделям нужен кластер
Выберите модель — шкала покажет, сколько узлов ей нужно.
Нужно 2 узла 169 ГБ из 199 ГБ
Все модели и чего кластер не даёт
| Модель | Квантизация | Память целиком | Нужно |
|---|---|---|---|
| gpt-oss-120b MXFP4MoE, ~5B активных параметров | MXFP4 | 77 ГБ | 1 узел |
| Qwen3 32B FP16 | FP16 | 81 ГБ | 1 узел |
| Llama 3.3 70B Q4 | Q4 | 52 ГБ | 1 узел |
| DeepSeek-R1-Distill 70B Q4 | Q4 | 52 ГБ | 1 узел |
| Llama 3.3 70B FP16 | FP16 | 169 ГБ | 2 узла |
| Qwen3 235B-A22B Q4MoE, ~22B активных параметров | Q4 | 157 ГБ | 2 узла |
| Llama 3.1 405B Q4Плотная модель, только кластер | Q4 | 266 ГБ | 3 узла |
Память ≈ параметры × байт на параметр × 1,15 + запас под KV-кэш. Для 2–4 узлов учтена потеря на распределение (оценка). Реальные цифры зависят от движка и контекста.
Что кластер не даёт. Второй узел добавляет память, но скорость одной сессии не удваивается: часть времени уходит на обмен между узлами. Если модель помещается в один узел, кластер не нужен.
Цена — по заявке
Один узел — 49 000 ₽ в месяц + НДС 5%, кластер считаем под конфигурацию и срок.
Условия кластера
Цену кластера считаем под число узлов и срок и называем в предложении вместе с датой старта.
Собираем и настраиваем связку узлов под вашу задачу. Тарифы на один узел: аренда DGX Spark.
Вопросы про кластер
Кластер даёт ускорение или только память?
В первую очередь память: два узла дают 256 ГБ на одну модель. Скорость одной сессии при этом не удваивается, часть времени уходит на обмен между узлами по ConnectX-7 (200 Гбит/с). Если модель помещается в один узел, кластер не нужен.
В облаке H100 быстрее и дешевле?
H100 быстрее, это так. Почасовая аренда выгодна для коротких всплесков. При загрузке 24/7 счёт за месяц выходит больше 49 000 ₽. Spark выигрывает по памяти на рубль: 128 ГБ, в которые помещаются модели 70–120B. Для продакшена с сотнями пользователей берите H100.
Как быстро можно начать?
Оставьте заявку с задачей и сроком. В рабочее время ответим, подтвердим конфигурацию и дату старта, настроим устройство и выдадим доступ. Если даты важны, закрепим устройство бронью.
Заявка на кластер
Напишите модель и срок — скажем, хватит ли одного узла.