Where the Blocks Live: Tier-Aware KV-Cache Routing for vLLM at Scale
Привет, я Бон-хва Пак из Ware. На конференции Pite Wash в Северной Америке в 2026 году я представлю постер под названием «Где живет блок». Когда память GP заполняется, VLAD принудительно переместит кэш KB на CPU или в хранилище. VLAD будет отслеживать местоположение каждого…