Если дома есть два-три Mac и вы хотите локально запустить большую ИИ-модель, памяти одного компьютера может не хватить. exo позволяет объединить несколько устройств в один ИИ-кластер. Модель, которая не помещается в память одного компьютера, можно распределить между несколькими устройствами и запускать совместно. Проект уже набрал более 48 тысяч звёзд на GitHub. Устройства автоматически обнаруживают друг друга без ручной настройки. exo анализирует объём памяти и скорость сети каждого компьютера, самостоятельно определяя, как распределить модель между ними. Чем больше устройств, тем выше скорость работы. По данным разработчиков, два компьютера обеспечивают ускорение в 1,8 раза, а четыре — в 3,2 раза. В README представлены результаты реального тестирования DeepSeek V3.1 с 671 миллиардом параметров на кластере из четырёх Mac Studio. Зрелище нескольких компьютеров, совместно запускающих такую модель, действительно впечатляет. Для macOS уже есть готовое приложение, которое работает в фоновом режиме. Встроенная панель управления позволяет отслеживать состояние кластера и напрямую общаться с моделью. API совместим с форматами OpenAI, Claude и Ollama, поэтому к кластеру можно подключать уже используемые инструменты. https://github.com/exo-explore/exo 📱 @git_developer
Материал бастапқы дереккөзден алынған:
GitHub Разработчика
Толық мәтінді GitHub Разработчика сайтында оқуҮйде екі немесе үш Mac компьютеріңіз болса және үлкен AI үлгісін жергілікті түрде іске қосқыңыз келсе, бір компьютердегі жад жеткіліксіз болуы мүмкін.
Үйде екі немесе үш Mac компьютеріңіз болса және үлкен AI үлгісін жергілікті түрде іске қосқыңыз келсе, бір компьютердегі жад жеткіліксіз болуы мүмкін. exo бірнеше құрылғыларды бір AI кластеріне біріктіруге мүмкіндік береді. Бір компьютердің жадына сыймайтын модель бірнеше... арасында таратылуы мүмкін.
AI қорытындысы: Басты тезистер
- Үйде екі немесе үш Mac компьютеріңіз болса және үлкен AI үлгісін жергілікті түрде іске қосқыңыз келсе, бір компьютердегі жад жеткіліксіз болуы мүмкін
- exo бірнеше құрылғыларды бір AI кластеріне біріктіруге мүмкіндік береді
- Бір компьютердің жадына сыймайтын модель бірнеше..
Үйде екі немесе үш Mac компьютеріңіз болса және үлкен AI үлгісін жергілікті түрде іске қосқыңыз келсе, бір компьютердегі жад жеткіліксіз болуы мүмкін.
Ұқсас материалдар
Anthropic тұрақты командаларсыз жұмыс істейтін жеке AI агенті Клод Дуэтті ұсынды
⚡️ Anthropic тұрақты командаларсыз жұмыс істейтін жеке AI агенті Клод Дуэтті ұсынды. Жаңа қызмет Claude Opus 5.5 негізінде құрастырылған және OpenAI және Grok Bot ұсынған Dots бәсекелесіне айналады. Дуэт бұлтта жұмыс істейді, браузер мен қосылған қолданбаларды пайдаланады және...
PHP сыни осалдықтары бүкіл әлем бойынша веб-сайттардың жаппай жабылуына әкелді. Қазір не белгілі?
🔴 PHP-нің маңызды осалдықтары бүкіл әлем бойынша веб-сайттардың жаппай жабылуына әкелді. Қазір не белгілі? 21 қазанда бірнеше елдердегі мемлекеттік веб-сайттар, ауруханалар және басқа ұйымдар РНР тіліндегі екі қауіпті осалдыққа байланысты уақытша жұмысын тоқтатты.
Anthropic керемет қуатты Opus 5.5 негізіндегі Клод дуэтін шығару арқылы OpenAI Dots және Grok Bot-ты қабылдауға шешім қабылдады.
Anthropic керемет қуатты Opus 5.5 негізіндегі Клод дуэтін шығару арқылы OpenAI Dots және Grok Bot-ты қабылдауға шешім қабылдады. • Claude Pro жоспарында қол жетімді (Dots айына $100 ChatGPT Pro жазылымын қажет етеді). • Opus 5.5 жүйесінде жұмыс істейді, ол әлемдегі ең жақсы модель деп аталады. • бар…
ENAutomating ML for Science: Can Frontier Agents Climb Scientific Hills in the Wild?
arXiv:2610.28763v1 Announce Type: new Abstract: Frontier coding agents are increasingly framed as end-to-end automated researchers, and ML for science offers a demanding test of that promise: improving a scientific model often requires domain insight beyond routine ML…