Как пишет NVIDIA Developer, разработчики ИИ больше не ограничиваются запуском одной модели, они организуют работу нескольких моделей параллельно, связывая вызовы вывода и экспериментируя с архитектурами, требующими сотни гигабайт памяти. NVIDIA DGX Spark был создан для упрощения разработки ИИ на рабочем месте, и теперь вы сможете соединить еще больше узлов Spark вместе. На GTC Berlin NVIDIA объявила о поддержке кластеров DGX Spark из восьми узлов, масштабируя унифицированную память до 1 ТБ и открывая двери для моделей нового поколения, многопользовательских рабочих нагрузок и почти линейного предварительного обучения — все это выполняется локально. NVIDIA Sync упрощает создание кластеров. Его помощник по кластеризации управляет настройкой и управлением устройствами. Поддержка кластеров из восьми узлов в NVIDIA Sync появится до конца года. В статье представлены данные о производительности, показывающие, как масштабируются вывод, оркестрация и обучение по мере увеличения размера кластера. Основное преимущество кластера из восьми узлов — это память. Один DGX Spark предоставляет 128 ГБ унифицированной памяти; четыре узла достигают 512 ГБ; восемь узлов достигают 1 ТБ. Эта емкость открывает доступ к классу моделей, которые ранее не могли запуститься на четырехузловой системе, включая полную модель GLM 5.3 (753B) от Z.ai. Кластер также предназначен для интерактивного обслуживания этих моделей. В качестве раннего примера мы запустили GLM 5.3 Flash на кластере из восьми узлов и измерили примерно 80 токенов в секунду (TPS) в генерации, что подходит для интерактивной локальной разработки с использованием модели нового поколения смешанного эксперта. В таблице представлены показатели производительности полной модели GLM 5.3 (nvidia/GLM-5.3-NVFP4) на кластере DGX Spark из восьми узлов. Модель занимает около 470 ГБ в NVFP4, измеренная с помощью MTP3 при одновременности один, четыре и восемь. Показатели предварительного заполнения и декодирования также представлены. Оптимизированный бэкенд Spark, RoCEnante, снижает коллективную задержку для малых сообщений, что является типичным для декодирования на локальном оборудовании ИИ. Скорость декодирования масштабируется с увеличением количества узлов, от примерно 12 TPS на одном узле до 52 TPS на восьми узлах. При этом лучшая топология зависит от рабочей нагрузки: физическое кольцо обеспечивает отличную пропускную способность декодирования для одной модели, распределенной по всем узлам. Необходим коммутатор, если вы хотите разделить кластер на независимые группы или запустить рабочие нагрузки, требующие прямого соединения между узлами. NVIDIA NeMo Switchyard позволяет эффективно распределять запросы между моделями, что значительно увеличивает общую пропускную способность. В нашем прототипе мы использовали MiniCPM5 2B в качестве классификатора для простых задач и Qwen3.8 Flash Next для сложных. На стандартной оценке производительности routed agent показал качество, сопоставимое с конфигурацией только Qwen, при этом освобождая ресурсы кластера. Кластеры DGX Spark из восьми узлов предоставляют память для загрузки моделей нового поколения, гибкость для одновременной работы нескольких моделей и эффективность для обучения малых моделей с нуля — все это возможно на рабочем месте. Материал подготовлен нейросетью на основе оригинальной публикации. ИИ может ошибаться в деталях (цифры, имена, даты, цитаты) — для важной информации сверяйтесь с первоисточником.