预热
- 预热是一个服务启动,到承接 100% 流量之间的一种状态;
- 预热的越早期,服务分到的流量就越少;
- Dubbo 在做负载均衡的时候,会获取每个 Invoker 的权重,而权重的计算,会受预热时间的影响,预热的越早期,Invokder 计算得到的权重就越小,Invoker 被负载均衡算法选中的概率就越??;
Dubbo 提供的 4 中负载均衡算法
- Random(默认)
- RoundRobin
- LeastActive
- ConsistentHash
负载均衡中用到的设计模式
- 模板方法模式;
- 接口是 LoadBalancd;
- 抽象类是 AbstractLoadBalance;
- 模板方法是 select;
- 开放给子类实现的方法是 doSelect;
Random | 按权重随机
- 如果所有的 Invoker 的权重一样,就直接 nextInt();
- 如果不是所有的 Invoker 的权重都一样,则先计算出总权重,然后在总权重的范围内选一个值作为标定点,然后一个一个 Invoker 的权重去减这个标定点,直到减到负数,把表定点减到负数的 Invoker 就是被负载均衡到的 Invoker;
RoundRobin | 按权重平滑轮询
- 所谓平滑,就是防止权重大的 Invoker 被频繁的选中,在权重大的 Invoker 被选中的间隙,会选中一些权重低的 Invoker;
算法概述
- 每轮负载(选 Invoker)都会遍历所有 Invoker;
- 每个 Invoker 有自己的权重,还有一个用于累加自己权重的 current 属性;
- 所有 Invoker 之外有一个记录本轮遍历总权重的地方;
- 每便利到一个 Invoker,这个 Invoker 的 current += 自己的权重,并把自己的权重累加到记录本轮遍历总权重的地方;
- 一轮下来,current 最高的 Invoker 被选中,并把其 current -= 本轮遍历的总权重,完了本轮便利的总权重清零;
LeastActive | 按最少活跃调用数负载
- 会配合一个 Filter,记录所有 Invoker 的活跃数,每次从活跃数最小的 Invoker 中选一个;
ConsistentHash | Ketama 一致性哈希负载
- 一致性哈希是把节点散列到一个环上,请求来了,把参数也散列到这个环上,参数的落点顺时针遇到的第一个节点,就是这次负载的节点;
- Dubbo 的一致性哈希,是真实节点混着虚拟节点,一起散列到环上,这样能使真实节点散列的更均匀;
- 环的实现是基于 TreeMap 的有序型,TreeMap 上的 key 是各种算来算去完了一个 MD5;