从0到1搭建FaaS：限流策略 | 面试高频

▌ 技术引导

搞FaaS限流策略你要搞清楚一件事，不是随便加个令牌桶就完事了，而是得根据业务特征、QPS峰值和资源消耗来精确设计。2024年落地的项目多数用的是自定义熔断器和滑动窗口算法，结合函数调用的元数据来实现细粒度控制。比如我见过在Python函数中用gRPC和RateLimiter实现HTTP级限流，用的是Redis+Lua，不要用分布式锁，因为锁会把性能压到地板上。核心配置项是rate_limit_key和window_size，记住这两个参数要按真实业务负载来调，不能随便填个数。2025年有个案例，用的是云厂商自带的限流SDK，但因为没配置好bucket_size，导致凌晨高峰时函数冷启动被频繁触发，系统崩溃。这就是真实经验，别搞模板。

▌ 技术参考

一
FaaS限流策略的核心是控制函数实例的并发资源，避免资源耗尽或服务雪崩。2024年主流做法是结合请求元数据，比如用户ID、API路径、函数版本等，构建自定义限流键，这样能实现更精细的流量控制。在实际部署时，我们通常用Redis+Lua来实现滑动窗口算法，因为其高并发写入性能和低延迟特性。例如，在Nginx中配置限流模块时，使用`limit_req_zone`定义键值和窗口大小，命令行类似`limit_req_zone $binary_remote_addr zone=addr:10m rate=10r/s`。但别忘了，2025年很多项目因为没考虑分布式场景，导致限流失效，所以在Kubernetes中部署时必须确保Redis集群的全局一致性。

二
在函数计算平台中，比如AWS Lambda、阿里云FC或腾讯云SCF，它们的限流机制通常是基于请求负载和冷启动策略，而非用户自定义配置。2024年有个项目因为没预热Warm Pool，导致函数第一次调用时被限流，造成请求丢失。这时候我们就得手动配置冷启动参数，例如在阿里云FC中设置`maxQueueSize`和`maxConcurrency`。如果你用的是自建FaaS，可以采用Go+goroutine的方式，用Redis记录请求时间和次数，配合Lua脚本做原子操作，比如`EVAL "local key = KEYS[1]; local now = redis.call('TIME'); local timestamps = redis.call('zrange', key, 0, 9); local count = #timestamps; if count > 10 then return 1 end; redis.call('zadd', key, now[2], now[1]); return 0"`。但记得，在高并发场景下，Lua脚本要控制在毫秒级别，否则会影响整体性能。

三
限流策略需要与熔断机制配合使用，否则容易出现资源堆积。2025年我发现很多团队在部署时只设置了请求速率，没考虑函数实例的资源消耗，导致多次调用同一个函数时CPU和内存被压垮。这时候需要引入熔断框架，比如Hystrix或Resilience4j。对于自建FaaS，可以直接在函数入口加熔断逻辑，比如用`resilience4j`的`RateLimiter`实现。例如，在Spring Boot中配置`RateLimiter`的关键代码是`@Bean RateLimiter rateLimiter() { return RateLimiter.of("myRateLimiter", 100); }`。但别盲目复制，2026年初有个生产故障就是因为熔断阈值设置过低，导致正常请求被误判为异常。

四
限流配置要考虑的是不同业务模块的差异，不能一刀切。比如，支付接口和查询接口的限流策略应该不同，支付需要更严格，查询可以适当放宽。2024年底有个项目用的是基于IP的限流，结果某个IP请求量暴增，却因为限流规则没考虑用户行为，导致系统被恶意攻击。这时候就要结合业务特征，比如用`rate_limit_key`配置为`user_id+api_path`，这样能区分不同的业务场景。在Kubernetes中，可以使用`RateLimiting`的Ingress控制器，比如`nginx-ingress`的`limit-rate`参数，或者`traefik`的`rateLimit`中间件，这些配置方式都要根据实际流量情况动态调整。

五
限流策略的实现要考虑性能，避免成为瓶颈。2025年有个案例，用的是Redis+Lua，但因为Lua脚本执行时间过长，导致请求排队，延迟上升。这时候必须优化脚本逻辑，比如减少Redis操作次数，或者使用更高效的算法。例如，在Python中可以使用`redis-py`库的`pipeline`来批量执行操作，减少网络开销。具体命令行是`pipeline = redis.pipeline(); pipeline.multi(); pipeline.zadd(key, timestamps); pipeline.execute()`。同时，在函数中要避免使用复杂的计算，比如在Lua中计算请求时间时，直接用`redis.call('TIME')`返回的秒数，不要做额外转换，否则会增加执行时间，影响吞吐量。

六
限流配置要动态调整，不能固定死。2026年我看到有些团队用的是静态配置，结果在业务增长阶段，限流被踩到极限，导致系统瘫痪。这时候就要用监控系统来动态调整限流策略，例如用Prometheus+Grafana来监控请求频率，再结合`autoflow`之类的工具做自动伸缩。具体参数可以是`window_size=10s`和`bucket_size=100`，在监控到请求量超过阈值时，自动调高`bucket_size`。但要注意，动态调整不是随便改数字，得根据函数资源消耗和QPS变化趋势来判断，比如用`rate=20r/s`作为基准，再根据负载情况调整。

七
限流策略要支持降级和回退，这是2024年之后很多高并发系统必须有的能力。2025年有个项目的限流配置没有考虑降级，结果在API调用量超过阈值时，函数直接崩溃，没有触发任何回退机制。这时候就需要结合`circuit breaker`和`fallback`，例如在函数入口加一个`try-catch`块，如果请求被限流，就自动转向预定义的降级函数。在Java中可以用`Hystrix`的`@HystrixCommand`注解实现，配置类似`@HystrixCommand(fallbackMethod = "fallbackMethod", commandProperties = { @HystrixProperty(name = "circuitBreakerRequestVolumeThreshold", value = "5") })`。但别用官方API，自己实现更可控，比如用`@Retry`和`@Fallback`注解，配合`Spring Retry`来做重试和降级。

八
限流策略的实现要避免分布式锁，否则会拖垮性能。2024年我踩过一个坑，用`Redisson`加锁，结果在高并发下锁竞争严重，函数响应时间直接翻倍。这时候应该用原子操作代替锁，比如用`zadd`和`zcount`来记录请求时间，再通过Lua脚本做判断。例如，在Lua中可以写`if redis.call('zcount', key, 0, now) > bucket_size then return 1 end; redis.call('zadd', key, now, ...)`. 这种方式比锁更高效，因为Redis本身是单线程，所有操作都是原子的。不过也要注意，如果应用部署在多个节点，必须保证Redis集群的全局一致性，否则会出现数据飘移，导致限流不准确。

九
限流配置要结合函数冷启动和预热策略，避免瞬间请求量过大。2025年某个项目因为没设置`warmup`，导致凌晨调用量激增时函数全部冷启动，响应延迟直接飙到200ms以上。这时候需要结合`maxQueueSize`和`concurrency`参数，比如在阿里云FC中设置`maxQueueSize=100`和`concurrency=50`，确保函数在冷启动阶段不会被压垮。同时，在函数入口添加预热逻辑，比如用`sleep(1000)`来模拟预热，但别用硬编码，而是根据函数启动时间动态调整。例如，可以设置一个`preWarming`参数，在函数启动后延迟500ms再执行业务逻辑，这样能有效缓解冷启动带来的性能冲击。

十
限流策略的监控和告警是关键，没监控就等于没控制。2026年看到很多团队在限流后没有做任何监控，导致限流配置不合理，比如`rate=100r/s`设置得太高，结果函数不堪重负。这时候就要用Prometheus和Grafana来监控`rate`和`avg_time`，并设置告警规则，当`rate`超过阈值时自动调整`bucket_size`。监控配置可以是`rate_limit_requests{function="my_func", key="user_id"}`，然后在Grafana中画出趋势图，再结合`Prometheus Alertmanager`做告警。但别用默认告警，得自己定义阈值，比如当`avg_time`超过100ms时触发告警，这时候就要调整限流策略，比如把`rate=200r/s`调低到`rate=150r/s`。

十一
限流策略要考虑用户行为，比如是否是真实请求还是刷量。2024年我处理过一个项目，用户用脚本刷接口，结果限流规则没识别到异常行为，导致系统被攻击。这时候就需要在限流键中加入`user_agent`，或者用`ip+user_agent`组合来识别异常请求。例如，在Nginx中配置`limit_req`时，可以写成`limit_req zone=rate key=$binary_remote_addr$http_user_agent`，这样就能区分不同用户的请求。不过要注意，`http_user_agent`可能被伪造，所以别单独依赖它，应该结合`ip`和`user_id`做多维度限流。

十二
限流策略的实现要避免过度依赖单个组件，比如用`Redis`做限流可能会成为单点故障。2025年有个项目因为`Redis`节点宕机，导致限流失效，整个服务瘫痪。这时候就要考虑多节点限流，比如用`Consul`或`Zookeeper`来做分布式协调，再结合`Redis`做缓存。具体配置可以是`rate_limit_key`设置为`ip+function_name`，这样能确保多个Redis节点间的数据一致。不过别把所有请求都往Redis丢，应该用本地缓存+全局缓存的混合模式，比如用`Guava`缓存本地请求，再用Redis做全局统计，这样能减少网络延迟。

十三
限流的实现要考虑函数的冷启动时间和资源消耗。2024年我看到一个团队用`rate=100r/s`，结果在高并发下函数实例频繁销毁重建，反而影响了整体性能。这时候就要结合`concurrency`和`maxQueueSize`参数，比如设置`concurrency=200`和`maxQueueSize=50`，让函数在高负载下能处理更多请求，同时避免资源耗尽。在Kubernetes中，可以使用`HorizontalPodAutoscaler`来根据`CPU`和`Memory`自动调整Pod数量，但别只看CPU，要结合`QPS`和`RateLimit`指标，比如`scaleTargetRef`设置为`rate_limit_requests`，这样能更精准地控制资源。

十四
限流策略要支持可配置的降级阈值，避免硬编码。2025年有个项目在限流配置中直接写死了`bucket_size=100`，结果业务增长后请求量超过阈值，系统无法应对。这时候应该用`env`变量或者`ConfigMap`来配置限流参数，这样可以在运行时动态调整。比如在Kubernetes的`Deployment`中设置`env`变量`RATE_LIMIT_BUCKETS=200`，再在代码中读取这个变量。不过要小心，不要在限流逻辑中直接使用`env`，而是用`ConfigMap`和`Secret`来管理，这样能避免配置泄露，同时支持动态调整。

十五
限流的实现要结合函数的冷启动策略，避免瞬间流量冲击。2024年我处理过一个案例，使用`ColdStart`策略时，因为`warmup`时间过长，导致限流策略被触发，请求直接被拒绝。这时候要配置`warmup`时间，比如在阿里云FC中设置`warmup`为10秒，让函数在冷启动阶段逐步加载资源。同时，在限流策略中加入`warmup`标志，比如用`is_warmup=true`来标记请求，这样在冷启动阶段可以适当放宽限流。比如在Lua脚本中可以写`if redis.call('get', key) == 'warmup' then return 0 end; if redis.call('zcount', key, 0, now) > bucket_size then return 1 end`。

十六
限流策略要支持多级限流，比如在API网关+函数计算平台中设置不同层级的限流规则。2025年有个项目在API网关设置了`rate=100r/s`，但函数计算平台没做限流，导致整个系统被冲击。这时候应该在API网关和函数中都加限流，比如在`Nginx`中设置`limit_req`，在函数入口加`RateLimiter`。多级限流能有效保护后端资源，但配置时要避免冲突，比如`rate`不能设置得过低，否则会影响用户体验。具体参数可以是`rate=100r/s`在API网关，`rate=200r/s`在函数内部，这样能平衡负载和用户体验。

十七
限流的实现要考虑函数的调用链，比如是否是异步调用。2026年我遇到一个项目，函数调用链中某些节点未做限流，导致整个链路的请求量被放大。这时候应该在每个调用节点都加限流，比如在`API Gateway`层设置`rate=50r/s`，在`函数层`设置`rate=100r/s`。同时，对于异步调用，比如`Kafka`或`RabbitMQ`，也要加队列级限流，避免消息堆积。比如在Kafka中设置`max.poll.records=100`，在RabbitMQ中设置`prefetch_count=50`，这样能有效控制请求量。

十八
限流策略要支持动态调整，比如根据业务时段自动切换限流参数。2024年我处理过一个项目，因为没考虑凌晨高峰，导致限流配置过低，请求直接被拒绝。这时候可以结合`Prometheus`的`time`标签和`Grafana`的`time range`来动态调整限流参数。比如设置`rate_limit_key`为`function_name+time_range`，然后在`Prometheus`中根据`time_range`分类统计请求量，再在`Grafana`中设置不同的`rate`值，比如`rate=200r/s`在白天，`rate=50r/s`在凌晨。不过别用`cron`来调整，而是用`ConfigMap`在运行时动态加载不同时间段的限流参数。

十九
限流的实现要考虑函数的调用响应时间，避免因为处理时间过长导致请求堆积。2025年有个项目因为函数处理时间过长，导致`rate_limit`被触发，请求直接被拒绝，结果系统仍然负载过高。这时候应该在限流策略中加入`timeout`参数，比如`timeout=500ms`，如果请求超过这个时间，直接返回错误，避免阻塞后续请求。在Go中可以用`context.WithTimeout`来实现，比如`ctx, cancel := context.WithTimeout(context.Background(), 500time.Millisecond)`，然后在函数入口加`if ctx.Err() != nil { return error }`。不过别用`timeout`来替代限流，两者要配合使用，不然会漏掉部分请求。

二十
限流策略要支持熔断和回退，避免函数崩溃影响整体服务。2024年我处理过一个案例，因为函数执行过程中出现异常，导致整个系统崩溃，没有触发熔断机制。这时候需要在限流策略中加入`circuit breaker`逻辑，比如在`RateLimiter`中设置`circuitBreaker`参数，当请求失败率超过阈值时自动熔断。具体配置可以是`circuitBreaker: { failureThreshold: 50, timeout: 10s }`，在Spring Cloud中实现比较容易，但千万别用官方提供的熔断器，得自己实现，否则无法精准控制。