接口限流的几种做法与各自的代价
本文要点
- 先想清楚保护什么
- 固定窗口的代价
- 滑动窗口与令牌桶
- 拒绝之后要交代清楚
- 限流只是第一层
先想清楚保护什么
限流的目标是保护下游,不让瞬时流量把数据库或第三方接口打穿。先明确哪一段最脆弱,方法才有取舍依据。
如果瓶颈在数据库连接,限的是并发;如果瓶颈在第三方配额,限的是单位时间的调用次数,两者并不一样。
固定窗口的代价
每分钟一个计数器,超过阈值就拒绝,实现成本极低,这是最常见的起点。
它的问题在窗口边界:前一分钟末与后一分钟初各打满一次,瞬时压力可能达到阈值的两倍。
滑动窗口与令牌桶
滑动窗口把统计区间跟着请求移动,边界问题得到缓解,代价是要保存更细的时间片,内存占用上升。
令牌桶按固定速率放令牌,请求取到令牌才通过,允许一定突发,工程上用得最多;漏桶则强制均匀输出。
拒绝之后要交代清楚
被限流的请求必须有明确响应,返回码与建议的重试时间写清楚,否则调用方只会盲目重试,压力更大。
对内部调用可以带上当前配额与剩余量,让上游自己决定降级还是排队,比一刀切更可控。
限流只是第一层
真正过载时,保住核心链路比让所有服务一起变慢更可取。限流之后还要配套降级、队列与熔断。
参数不该写死在代码里,按接口分别配置、支持热更新,遇到突发才不用改代码重新发版。
读者留言 共 4 条
后后端老李2026-11-12
窗口边界的双倍压力我们遇到过,改成滑动窗口之后才稳。
小小许2026-11-12
返回码和建议重试时间写清楚这点太关键,不然上游一直重试。
运运维阿坤2026-11-12
参数热更新很有必要,之前改个阈值还要发版。
架架构笔记2026-11-12
先分清瓶颈在哪,再选方法,这条思路值得记下来。