Netflix之Ribbon

发布时间 2023-10-07 18:22:02作者: -Lucas

一、负载均衡

1、背景

当系统面临大量的用户访问,负载过高的时候,通常会增加服务器数量来进行横向扩展(集群),多个服务器的负载需要均衡,以免出现服务器负载不均衡,部分服务器负载较大,部分服务器负载较小的情况。通过负载均衡,使得集群中服务器的负载保持在稳定高效的状态,从而提高整个系统的处理能力。

2、目的

将请求分发到其他功能相同的服务。

3、分类

软件负载均衡:nginx,lvs
硬件负载均衡:F5
我们只关注软件负载均衡,
第一层可以用DNS,配置多个A记录,让DNS做第一层分发。
第二层用比较流行的是反向代理,核心原理:代理根据一定规则,将http请求转发到服务器集群的单一服务器上。

4、服务端负载均衡

在客户端和服务端中间使用代理,对客户端提供统一的入口,内部自己决定去那一台服务器。 nginx。

5、客户端负载均衡

根据自己的情况做负载,发起调用时选择一台服务进行请求。Ribbon就是。

6、区别

最大的区别在于服务端地址列表的存储位置,以及负载算法在哪里。
在客户端负载均衡中,所有的客户端节点都有一份自己要访问的服务端地址列表,这些列表统统都是从服务注册中心获取的。
在服务端负载均衡中,客户端节点只知道单一服务代理的地址,服务代理则知道所有服务端的地址。

二、Ribbon简介

Ribbon是Netflix开发的客户端负载均衡器,为Ribbon配置服务提供者地址列表后,Ribbon就可以基于某种负载均衡策略算法,自动地帮助服务消费者去请求 提供者。
Ribbon默认为我们提供了很多负载均衡算法,例如轮询、随机等。我们也可以实现自定义负载均衡算法。

三、Ribbon使用方式

1、Ribbon单独使用

作为一个独立的负载均衡组件。只是需要我们手动配置 服务地址列表。

2、Eureka配合使用

Ribbon可自动从Eureka Server获取服务提供者地址列表(DiscoveryClient),并基于负载均衡算法,请求其中一个服务提供者实例。

3、与OpenFeign和RestTemplate进行无缝对接

让二者具有负载均衡的能力。OpenFeign默认集成了ribbon。

四、Ribbon组成

官网首页:https://github.com/Netflix/ribbon

  • ribbon-core: 核心的通用性代码。api一些配置。
  • ribbon-eureka:基于eureka封装的模块,能快速集成eureka。
  • ribbon-examples:学习示例。
  • ribbon-httpclient:基于apache httpClient封装的rest客户端,集成了负载均衡模块,可以直接在项目中使用。
  • ribbon-loadbalancer:负载均衡模块。
  • ribbon-transport:基于netty实现多协议的支持。比如http,tcp,udp等。

五、Ribbon的负载均衡算法

1、ZoneAvoidanceRule(区域权衡策略)

默认实现,复合判断Server所在区域的性能和Server的可用性,轮询选择服务器。

2、BestAvailableRule(最低并发策略)

会先过滤掉由于多次访问故障而处于断路器跳闸状态的服务,然后选择一个并发量最小的服务。逐个找服务,如果断路器打开,则忽略。

3、RoundRobinRule(轮询策略)

以简单轮询选择一个服务器。按顺序循环选择一个server。

4、RandomRule(随机策略)

随机选择一个服务器。

5、AvailabilityFilteringRule(可用过滤策略)

会先过滤掉多次访问故障而处于断路器跳闸状态的服务和过滤并发的连接数量超过阀值得服务,然后对剩余的服务列表安装轮询策略进行访问。

6、WeightedResponseTimeRule(响应时间加权策略)

据平均响应时间计算所有的服务的权重,响应时间越快服务权重越大,容易被选中的概率就越高。刚启动时,如果统计信息不中,则使用RoundRobinRule(轮询)策略,等统计的信息足够了会自动的切换到WeightedResponseTimeRule。响应时间长,权重低,被选择的概率低。反之,同样道理。此策略综合了各种因素(网络,磁盘,IO等),这些因素直接影响响应时间。

7、RetryRule(重试策略)

先按照RoundRobinRule(轮询)的策略获取服务,如果获取的服务失败则在指定的时间会进行重试,进行获取可用的服务。如多次获取某个服务失败,就不会再次获取该服务。主要是在一个时间段内,如果选择一个服务不成功,就继续找可用的服务,直到超时。

六、配置负载均衡策略

1、注解方式

@Bean
public IRule myRule(){
	//return new RoundRobinRule();
	//return new RandomRule();
	return new RetryRule(); 
}

2、配置文件

针对某个服务定策略

provider:
  ribbon:
    NFLoadBalancerRuleClassName: com.netflix.loadbalancer.RandomRule

给所有服务定策略

# 配置文件方式优先级高于注解方式
ribbon:
  NFLoadBalancerRuleClassName: com.netflix.loadbalancer.RandomRule

七、Ribbon脱离Eureka

ribbon:
  eureka:
    enabled: false
  # Ribbon可以和服务注册中心Eureka一起工作,从服务注册中心获取服务端的地址信息,也可以在配置文件中使用listOfServers字段来设置服务端地址。
  listOfServers: localhost:80,localhost:81