Если дома есть два-три Mac и вы хотите локально запустить большую ИИ-модель, памяти одного компьютера может не хватить. exo позволяет объединить несколько устройств в один ИИ-кластер. Модель, которая не помещается в память одного компьютера, можно распределить между несколькими устройствами и запускать совместно. Проект уже набрал более 48 тысяч звёзд на GitHub. Устройства автоматически обнаруживают друг друга без ручной настройки. exo анализирует объём памяти и скорость сети каждого компьютера, самостоятельно определяя, как распределить модель между ними. Чем больше устройств, тем выше скорость работы. По данным разработчиков, два компьютера обеспечивают ускорение в 1,8 раза, а четыре — в 3,2 раза. В README представлены результаты реального тестирования DeepSeek V3.1 с 671 миллиардом параметров на кластере из четырёх Mac Studio. Зрелище нескольких компьютеров, совместно запускающих такую модель, действительно впечатляет. Для macOS уже есть готовое приложение, которое работает в фоновом режиме. Встроенная панель управления позволяет отслеживать состояние кластера и напрямую общаться с моделью. API совместим с форматами OpenAI, Claude и Ollama, поэтому к кластеру можно подключать уже используемые инструменты. https://github.com/exo-explore/exo 📱 @git_developer
If you have two or three Macs at home and want to run a large AI model locally, the memory on one computer may not be enough.
If you have two or three Macs at home and want to run a large AI model locally, the memory on one computer may not be enough. exo allows you to combine multiple devices into one AI cluster. A model that does not fit into the memory of one computer can be distributed among several...
AI Summary & Key Takeaways
- If you have two or three Macs at home and want to run a large AI model locally, the memory on one computer may not be enough
- exo allows you to combine multiple devices into one AI cluster
- A model that does not fit into the memory of one computer can be distributed among several...
If you have two or three Macs at home and want to run a large AI model locally, the memory on one computer may not be enough.
Related stories
RUОткрытые модели NVIDIA поддерживают проекты в европейском госсекторе
Новые открытые модели NVIDIA помогают европейским правительствам эффективно управлять данными.
RUЕвропейские пионеры используют модели NVIDIA Earth-2 для прогноза погоды
Модели NVIDIA Earth-2 помогают прогнозировать погоду и климат в Европе.
RUNVIDIA трансформирует европейскую розницу с помощью ИИ и роботов
NVIDIA внедряет открытые модели и физический интеллект в европейскую розницу.
Companies are using the NVIDIA DSX platform to solve their energy challenges
Companies are adopting the NVIDIA DSX platform to solve energy challenges and optimize infrastructure.