Infrastructure1 分钟阅读
标题为英语MoRI + vLLM: Wide Expert Parallelism and RDMA KV-Cache Transfer for Disaggregated MoE Serving on AMD
Running large Mixture-of-Experts models across pods creates two major challenges: expert dispatch and combine traffic, and moving the KV cache between prefill and decode. At North America 2026, Ravi Gupta, Rishi Madduri, and Shiksha Patel of AMD will present “MoRI + vLLM: Wide…
YouTube — PyTorch Official作者: PyTorch2026年10月14日 (10月14日)
提供 1 种语言版本AI 摘要：要点
- Running large Mixture-of-Experts models across pods creates two major challenges: expert dispatch and combine traffic, and moving the KV cache between prefill and decode
- At North America 2026, Ravi Gupta, Rishi Madduri, and Shiksha Patel of AMD will present “MoRI + vLLM: Wide…
相关文章
黄仁勋携迷你机器人上台，畅谈AI未来
🤖黄仁勋携迷你机器人上台畅谈AI未来在我们等待哈萨克斯坦NVIDIA负责人的同时，他在NVIDIA GTC Berlin 2026大会上发言，展示了法国Pollen Robotics打造的MicroDuck机器人。小机器人被训练走路......
Telegram — BlueScreen.kz
转而从事山羊养殖场工作，年薪 80 万美元
他们哼哼着，抱怨着，他们不喜欢什么。事实证明，水果和浆果比山羊硬得多。我是朱尔迪斯·科扎哈诺娃。欢迎来到戈洛梅尔克山羊农场。我是一名儿科医生，但我在制药行业工作了很长时间。一旦我有……
YouTube — Digital Business KZ
Policy & regulation专题：Nvidia запускает новые открытые модели для агентов в бизнесе и на ПК#Nvidia#GPU & Суперкомпьютеры1 分钟
RUОткрытые модели NVIDIA поддерживают проекты в европейском госсекторе
Новые открытые модели NVIDIA помогают европейским правительствам эффективно управлять данными.
SMNTCN (Semanticon) — глобальные новости ИИ
RUЕвропейские пионеры используют модели NVIDIA Earth-2 для прогноза погоды
Модели NVIDIA Earth-2 помогают прогнозировать погоду и климат в Европе.
SMNTCN (Semanticon) — глобальные новости ИИ