架构生长实验室 · 第 6 阶段 · 资料核对 2026-11-11

两个入口层、两份程序:请求到底交给谁

虚构小店的教学场景。规模、耗时和算例不是生产性能承诺;技术方案均需按实际部署核验。

  1. 多一台程序机器,为什么不能直接复制完就算了?
  2. HTTPS 请求进来,两层代理分别看什么
  3. 怎样挑实例:轮询、健康检查与正在处理的请求
  4. 哪些层可以省,怎样判断这次扩容有效

多一台程序机器,为什么不能直接复制完就算了?

程序计算持续紧张,数据库还有余量。升级单机可以先试,但某个规格以上价格与收益可能不合适;而且发布时停止唯一程序,所有顾客仍会受影响。我们决定运行 A、B 两份相同程序,分担请求并逐步发布。

这不是把服务器磁盘复制一份就结束。顾客只知道一个网址,谁决定这次访问 A 还是 B?A 上保存的登录状态,B 是否认识?两份程序是不是会同时执行同一个定时扣费任务?这些都是多副本带来的新问题。

本章明确采用哪一套部署?

为了与本项目的部署清单一致,本章示例使用一个托管公网负载均衡入口,后面接两份独立 Nginx,再由 Nginx 转发到业务程序。公网入口终止客户端 HTTPS,内部连接按已配置的协议和权限建立。本例两个代理层职责分别是公网接入与可用入口选择、应用路径及本地代理规则。

部署包含关系:这里确实有两层代理,但不是所有系统都需要

托管公网服务

负载均衡:公网连接、证书和目标选择

自管入口机器 × 2

每台运行 Nginx
同一套网站路由与代理配置

程序机器 × 2

程序 A / 程序 B:相同业务版本
都访问共享数据库和对象存储

共享数据服务

数据库:登录、购物车、订单等必要状态
对象存储:共享文件

方框分开表示部署职责。一次请求选一个 Nginx,再选一个业务实例,不依次经过两个 Nginx 或 A、B 两份程序。CDN 图片路径独立,未画进订单主链路。

实际可以用云 ALB 直接把业务请求送给程序,从而省掉自管 Nginx;也可以以自管代理为主,但需要解决入口本身可用性。不能为了保留熟悉名字而无理由叠层。这里明确画两层,是解释既有教学配置,不把它当默认最佳实践。

单机变多机,哪些东西必须共享?

同一顾客下一次请求可能换到另一实例,因此必须跨请求保留的状态不能只存在 A 的临时内存里。可以把会话和购物车放到共享数据库或合适的共享服务;图片已经在对象存储。某些系统采用客户端令牌,也需要验证签名、过期和撤销等规则。

把请求尽量固定到同一实例叫粘性会话,是某些产品提供的选项,但它不能替代共享与恢复设计:A 坏了之后,顾客仍可能换到 B。状态丢失问题不能仅靠“尽量别换人”解决。

HTTPS 请求进来,两层代理分别看什么

小林发送 GET /api/orders/123,请求携带域名、必要身份凭证等信息。我们假设公网负载均衡终止 HTTPS,选择一个健康的 Nginx;Nginx 根据网站规则选择业务程序。内部若需要再次加密,应明确证书、验证与连接配置,不把“内网”当作无需保护的理由。

一条请求的具体路径:选中入口 N1 和程序 A
  1. 浏览器→公网负载均衡

    HTTPS 连接与订单请求;本例在此解密

    ← 返回:客户端加密连接中的响应
  2. 公网负载均衡→Nginx N1

    按监听和目标配置选择一个可用入口

    ← 返回:Nginx 转回的业务响应
  3. Nginx N1→程序 A

    按 Host 和 /api/ 等配置转发;选中一个业务目标

    ← 返回:程序生成的 HTTP 响应
  4. 程序 A→数据库

    验证身份、订单归属,查询所需记录

    ← 返回:数据记录或错误

返回方向:数据库 → A → N1 → 公网负载均衡 → 浏览器。N2 和程序 B 是其他请求或后续故障情况下的候选,不参与本次回程。

能看到,不等于会拿它做判断

解密后的 HTTP 请求包含方法、目标路径和请求头等。以 HTTP/1.1 表达为例,GET 和路径在请求行中,Host、Cookie 等属于头;HTTP/2 使用不同的协议表达,不能把文本示例当所有协议的字节格式。

入口可以按配置使用域名、路径、方法、请求头或查询参数等路由,但本例只选择需要的条件。Cookie 被转发不等于入口已经验证登录;请求正文有商品编号,也不等于负载均衡自动理解订单。具体字段能否匹配、改写或保留由产品和配置决定。

四层与七层,用人话怎么分?

常说的四层负载均衡主要按网络连接信息转发,例如协议、地址和端口;七层代理理解 HTTP 等应用协议信息,可按域名和路径等条件处理。这是能力类别,不保证每个产品的全部行为完全相同。加密未在该层终止时,它通常不能读取里面的 HTTP 路径。

还要区分 TLS 握手中可能出现的服务器名称信息与解密后的 HTTP Host。看得到某种握手信息,不表示能看到整个网页请求。选型时问具体要做什么匹配,而不是只记“几层”术语。

真实客户端地址为什么可能变化?

经过代理后,程序看到的网络对端可能是上一层代理。代理可通过约定头传递原始访问方信息;程序只能信任受控代理按规则生成或处理的值,不能相信任意客户端自己填的地址头。否则按地址限流、审计等可能被绕过。

怎样挑实例:轮询、健康检查与正在处理的请求

选择目标通常有两类决定:先找到服务组,再在组内挑一个可用实例。本章 Nginx 的业务规则决定请求应该交给网店程序,分配策略再决定 A 或 B。以后拆成商品与订单服务时,这个区别会更加明显。

轮询为什么不是万能公平?

轮询可以理解为依次分配,适合工作成本相近、机器能力相近的情形。但一个商品查询可能很轻,一个报表请求很重,平均分配请求数量不一定平均分配工作量。按连接数或未完成请求数等选择目标的策略可用于不同场景,具体产品是否支持、统计口径如何,需要核对。

已有连接可能影响后续分配。不能仅看“打开一次网页”就假设所有资源请求轮流到不同机器,也不能承诺同一个顾客永远落在同一份程序。

健康检查只是一种信号

入口按周期请求一个健康检查地址,观察是否达到要求,再决定目标是否可用。这个地址若只返回固定成功,数据库已断也可能被认为正常;若把所有外部依赖都绑进检查,一次外部波动又可能导致所有实例被移除。要按希望表达的就绪能力设计。

故障发现存在探测间隔和阈值,因此机器刚坏时仍可能有请求失败。所有目标都不健康时,不同产品可能拒绝或采取特殊转发行为;例如某些云负载均衡会有放开转发的行为,不能笼统承诺永远只发健康机器。

发布时别把正在办理的订单突然扔掉

先让旧实例停止接新请求,再尽量完成已有请求,最后退出,这叫流量排空或优雅退出的相关过程。入口与应用都要配合超时、退出和版本兼容。新实例就绪后逐步承接,仍要观察订单成功率。

故障余量不是多一台就够

假设正常两台各承担 45 单位工作,每台稳定能力为 60。坏一台后剩余一台要承担 90,超过能力,仍会排队或失败。冗余必须结合接管负载计算;教学数字不代表真实实例性能。

请求重试可能造成业务重复

入口或客户端重试时,原请求可能已被程序处理,只是响应丢失。尤其是下单和支付,不能因为网络失败就随意重放。业务唯一编号、数据库约束和明确结果查询,比只在代理里打开重试更重要。

哪些层可以省,怎样判断这次扩容有效

三种部署选择,解决的问题并不相同

部署适合考虑的原因代价与边界
云 ALB → 程序产品路由已够用,减少自管代理受产品能力与费用约束,应用仍需授权
云入口 → Nginx → 程序确实需要自管代理规则与配置控制额外机器、配置、一次代理及故障排查
自管入口 → 程序需要更大控制权或已有运维体系入口高可用、证书、升级和安全需自己设计

每一跳都应该有理由。公网入口和内部代理能力重叠时,先考虑合并,而不是用更复杂的图证明系统更先进。技术选择取决于协议、路由、运维、访问控制及预算。

为什么数据库可能成为下一个瓶颈?

两份程序并行查询同一个数据库,总查询量和连接数会增加。程序处理能力变大,不等于数据库写入、锁和磁盘能力同步扩大。如果数据库已经满负荷,增加程序可能只是增加等待者。

因此比较扩容前后业务吞吐、排队、错误率、每实例负载,以及共享数据库指标。还要演练一份程序失效、入口更新、版本滚动替换和状态共享。只看到 A、B 两个进程都运行,不代表多机方案已可靠。

下一阶段为什么会谈缓存?

当很多程序反复查同样的商品展示数据,问题可能不再是“少几个接待员”,而是“大家反复去问同一位账房”。缓存会改变读取顺序,但不能替代本章的请求分配,也不能替代订单一致性。每次增加新东西,先说清楚它要减少哪一种重复工作。