Если дома есть два-три Mac и вы хотите локально запустить большую ИИ-модель, памяти одного компьютера может не хватить. exo позволяет объединить несколько устройств в один ИИ-кластер. Модель, которая не помещается в память одного компьютера, можно распределить между несколькими устройствами и запускать совместно. Проект уже набрал более 48 тысяч звёзд на GitHub. Устройства автоматически обнаруживают друг друга без ручной настройки. exo анализирует объём памяти и скорость сети каждого компьютера, самостоятельно определяя, как распределить модель между ними. Чем больше устройств, тем выше скорость работы. По данным разработчиков, два компьютера обеспечивают ускорение в 1,8 раза, а четыре — в 3,2 раза. В README представлены результаты реального тестирования DeepSeek V3.1 с 671 миллиардом параметров на кластере из четырёх Mac Studio. Зрелище нескольких компьютеров, совместно запускающих такую модель, действительно впечатляет. Для macOS уже есть готовое приложение, которое работает в фоновом режиме. Встроенная панель управления позволяет отслеживать состояние кластера и напрямую общаться с моделью. API совместим с форматами OpenAI, Claude и Ollama, поэтому к кластеру можно подключать уже используемые инструменты. https://github.com/exo-explore/exo 📱 @git_developer
Infrastructure1 分钟阅读
如果你家里有两三台 Mac,想要在本地运行大型 AI 模型,一台电脑的内存可能不够用。
如果你家里有两三台 Mac,想要在本地运行大型 AI 模型,一台电脑的内存可能不够用。 exo 允许您将多个设备组合成一个 AI 集群。不适合一台计算机内存的模型可以分布在多台计算机中......
GitHub Разработчика作者: GitHub Разработчика2026年10月21日 (14小时前)
提供 4 种语言版本AI 摘要:要点
- 如果你家里有两三台 Mac,想要在本地运行大型 AI 模型,一台电脑的内存可能不够用。 exo 允许您将多个设备组合成一个 AI 集群。不适合一台计算机内存的模型可以分布在多台计算机中......
Infrastructure
KZ·AI CAB2Инсайт дня
如果你家里有两三台 Mac,想要在本地运行大型 AI 模型,一台电脑的内存可能不够用。
全文为俄语
相关文章
Policy & regulation专题:Nvidia запускает новые открытые модели для агентов в бизнесе и на ПК#Nvidia#GPU & Суперкомпьютеры1 分钟
RUОткрытые модели NVIDIA поддерживают проекты в европейском госсекторе
Новые открытые модели NVIDIA помогают европейским правительствам эффективно управлять данными.
SMNTCN (Semanticon) — глобальные новости ИИ
RUЕвропейские пионеры используют модели NVIDIA Earth-2 для прогноза погоды
Модели NVIDIA Earth-2 помогают прогнозировать погоду и климат в Европе.
SMNTCN (Semanticon) — глобальные новости ИИ
RUNVIDIA трансформирует европейскую розницу с помощью ИИ и роботов
NVIDIA внедряет открытые модели и физический интеллект в европейскую розницу.
SMNTCN (Semanticon) — глобальные новости ИИ
Infrastructure
KZ·AI D8BFCompanies are using the NVIDIA DSX platform to solve their energy challenges
ENCompanies are using the NVIDIA DSX platform to solve their energy challenges
Companies are adopting the NVIDIA DSX platform to solve energy challenges and optimize infrastructure.
SMNTCN (Semanticon) — глобальные новости ИИ