负载均衡原理:流量分发为什么不是“平均”这么简单
当一个服务有多个实例时,系统就要面临一个非常直接的问题:这一批请求应该发给谁。如果所有流量都打到同一个实例上,那扩容就失去了意义;如果实例之间分发策略不合理,即便节点数量不少,也可能出现有的机器很忙、...
当一个服务有多个实例时,系统就要面临一个非常直接的问题:这一批请求应该发给谁。如果所有流量都打到同一个实例上,那扩容就失去了意义;如果实例之间分发策略不合理,即便节点数量不少,也可能出现有的机器很忙、...
当你开始学“upstream 与负载均衡”这类设计主题时,通常意味着单纯会操作已经不够了。系统开始变大、对象开始变多、协作开始变复杂,你会越来越频繁地遇到一种情况:看起来好像每个方案都能做,但真正难的...