3.2 写时复制与前缀共享:相同的开头只存一份 本节摘要:块表让每个物理块获得了独立身份,"多个请求引用同一块物理块"成为可能:读永远安全,写才触发复制——这就是写时复制。它向下减少显存占用,向上催生第 5 章的自动前缀缓存。本节讲清共享的时机、复制的粒度与正确性保证,并算一笔"一千个用户共享同一个系统提示词"的账。 别以为共享显存是危险动作——在块表的世界里,它反而是最自然的事。 会员。《3.2 写时复制与前缀共享:相同的开头只存一份》收录于灏天文库文集《vLLM》,原作者/来源:灏天文库,整理自「灏天文库」,提供技术教程、实践指南与问题解决方案,支持在线阅读、全文检索与知识沉淀,助力开发者系统化学习。本站整理收录,版权归原作者/开源协议所有。