量子位·2026-10-26 14:45· 17 天前评分69KV Cache砍掉99%,单卡吞吐飙6倍,港科CMU联手岩山科技开源新模型摘要一张卡,512路长推理同时跑 这条动态来自 量子位,可重点关注模型能力与工程、开源生态。推荐理由请对照量子位原文,核对完整说明及适用条件。本站只提供摘要与原文入口。完整内容请阅读原文。来源:量子位 · qbitai.com开源生态部署工程模型发布#模型发布#开源/仓库#部署/工程