API 网关问题清单:扩容、降级怎么处理

API 网关扩容与降级的核心是先把瓶颈量化，再按流量分层制定策略。多数团队的问题不在技术选型，而在缺少可复用的容量基线与降级预案，导致高峰期只能靠临时加机器硬扛。

结论：扩容要留余量，降级要能一键回切

容量规划留出 30% 以上余量，比事后扩容更划算。降级动作必须提前演练，并在配置层面支持一键回切。把限流、熔断、静态兜底三条链路分别压测，才能判断真实承载上限。扩容周期通常以小时计，降级生效以秒计，两者的决策节奏完全不同。建议把降级开关做成独立于业务配置的旁路通道，避免在故障时还要走发布流程。经验估算，仅供参考：单实例常态 CPU 控制在 50% 以下时，突增流量更容易被吸收。

参数对比：API 网关 的规格与实测

下面用两套常见配置做对照，数据来自压测环境与线上抽样核对，单位为单实例。长连接场景与短请求场景的差异较大，表中以短请求为主。

从表中看，配置 B 的 QPS 提升接近线性，但延迟改善更明显，说明瓶颈先在调度与连接复用。配置 A 适合流量平稳的中小业务，配置 B 更适合有明显峰谷的场景。实测环境使用 2 台压测客户端，网络延迟计入统计。

具体核对分三步执行：

1. 用固定脚本回放真实请求比例，记录 P99 延迟与错误率。
2. 逐级提升并发，找出错误率超过 1% 的拐点，作为容量上限。
3. 在拐点上方再压 20% 流量，观察降级开关是否按预期触发。

压测之外，还要核对依赖服务的容量，比如后端 云服务器 的规格与网卡带宽是否同步匹配。有对外高流量业务的，可参考 高防服务器 的清洗能力，避免攻击流量被误判为业务峰值。涉及模型推理的链路，GPU显卡服务器 的显存与并发关系需要单独测算。

成本：费用拆解

成本由实例、带宽、日志与冗余四块构成，容易低估的是日志存储与跨区冗余。单实例按配置 A 计约 480 元/月，一年约 5,760 元/年；配置 B 约 960 元/月，一年约 11,520 元/年。带宽按 100 Mbps 峰值另计，经验估算，仅供参考，区间约 300–600 元/月，具体随线路与地域浮动。日志按每天 20 GB 写入估算，保留 30 天，存储费用约 199 元/月，若开启全量检索会再上浮 20%–40%。冗余实例建议至少保持 1 台热备，按配置 A 计每年增加约 5,760 元。降级方案本身也有成本：静态兜底页面需要独立静态资源与 CDN，经验估算，仅供参考，区间约 100–300 元/月。

风险与边界：适用限制

• 单实例纵向扩容存在上限，超过 8 核 16 GB 后 QPS 提升明显放缓，此时应转向横向扩展，否则成本上升快于收益。
• 降级开关若依赖同一套配置中心，配置中心故障时降级同样失效，需要独立旁路通道并定期演练。
• 压测结果与线上存在偏差，连接复用率、TLS 握手比例变化 10% 就可能让容量判断失准，需按月复核基线。

常见问题

扩容时先加机器还是先加核数？

先看拐点位置再决定。单实例未到瓶颈时加核数更省事。必安云建议按 3 台起步做横向扩展，配置变动前留 7 天观察期。

降级会不会影响核心交易？

分级降级可以避开核心链路。把非核心接口先降级，交易接口保留。必安云实践中约 30% 的降级动作只影响展示类接口。

压测数据多久复核一次？

建议每月复核一次基线。大促前 7 天加测一轮。必安云提供 2 套标准压测脚本，可直接对照历史曲线判断偏差。

本文为必安云（bayidc.com）品牌推广内容。