文档摘要

2.3 过载保护与降级实战：优先级、熔断与恢复风暴 再好的限流也挡不住极端峰值。当系统真的过载——比如大促流量是平时的 10 倍，或者某个推理集群突然掉了一半节点——这时候能不能守住核心 SLO、避免雪崩，靠的是过载保护。这一节讲优先级队列、加权公平、熔断器，以及一个常被忽视却致命的"恢复风暴"。 我参与过一个事后复盘，系统在大促时过载，限流策略生效，大量请求被 429。运维紧急扩容，加了 30% 的 GPU 节点。按理说容量够了应该恢复，但系统却死活回不来——TTFT 依然高企，错误率依然攀升。折腾了 40 分钟才发现问题：客户端拿到 429 后按固定间隔重试，当系统刚恢复一点容量，所有积压的客户端同时发起重试，瞬间把刚恢复的系统再次压垮。如此反复震荡，扩容完全没用。

---