• 如何解决FeignClient 首次请求花费大量时间/超时的问题
  • 发布于 1周前
  • 42 热度
    0 评论
前言
首先要了解 Feign 是如何进行远程调用的,这里面包括,注册中心、负载均衡、FeignClient 之间的关系,微服务通过不eureka或nacos 注册到服务端,Feign 是靠 Ribbon 做负载的,而 Ribbon 需要拿到注册中心的服务列表,将服务进行负载缓存到本地,然后 FeignClient 客户端在进行调用,大概就是这么一个过程。

Ribbon是如何进行负载的
首先我们要清楚 Ribbon 是如何进行负载的,也就是如何获取 nacos、eureka 的服务列表,这个很关键。


RibbonClientConfiguration
RibbonClientConfiguration 类中通过 LoadBalancer,我们知道 ribbon 是靠LoadBalancer 做负载的 无非就是 ILoadBalancer 接口的方法,依次是添加新的服务、在负载均衡里选择一个服务、markServerDown 服务下线、获取服务列表、获取存活的服务器、获取所有服务器(包括健康和不健康的)

ZoneAwareLoadBalancer
loadBalancer 默认的是 ZoneAwareLoadBalancer 负载均衡器,通过继承父类DynamicServerListLoadBalancer 的 restOfInit 方法,里面比较重要的两个方法,enableAndInitLearnNewServersFeature和updateListOfServers 方法

enableAndInitLearnNewServersFeature 方法里面。
LOGGER.info("Using serverListUpdater {}", serverListUpdater.getClass().getSimpleName());
serverListUpdater.start(updateAction);
让我们看 ServerListUpdater.start 方法的实现,通过自定义线程去拿,这就是获取服务列表。

Ribbon负载均衡策略
服务列表获取说了,当然负载均衡的策略这块也有必要讲一下,主要有七种;
RoundRobinRule(轮询策略,按照服务顺序依次循环调用)
WeightedResponseTimeRule(权重比策略,优先选择权重比高的服务,也就是服务响应时间比较短的,响应时间越长权重比越低)
RandomRule(随机策略,服务提供者列表随机选择一个服务)
BestAvailableRule(最小连接数策略,获取服务列表中连接数最小的服务实例)
RetryRule(重试策略,重试获取已经失效的服务,指定时间没有获取到返回NULL)
AvailabilityFilteringRule(可用性敏感策略,过滤非健康服务实例,选择lianji)
ZoneAvoidanceRule(区域敏感策略)


Ribbon-eager-load(饥饿加载)模式
Ribbon 对于负载 Client 是在服务启动后,发生调用的时候才会去创建 Client,所以在第一次发生 http 请求调用的时候,不光要算上 http 的请求时间,还要算上 Client 的创建时间,所以第一次调用的时候才会很慢,写个方法调用下。

System 服务调用 System2 服务
@GetMapping("/requestSystem2Api")
public String requestSystem2Api(){
    long startTime = System.currentTimeMillis();
    R<String> stringR = iTestServiceClient.testRequestMethod();
    if (null !=stringR){
        // 堆代码 duidaima.com
        log.info("接口返回:"+stringR.getMsg());
    }
    long needTime = System.currentTimeMillis() - startTime;
    log.info("接口调用需要的时间:"+needTime);
    return "";
}
从调用日志可以看出,第一次调用 System2 服务,Ribbon 的 DynamicServerListLoadBalancer 会将 feign 客户端进行负载,然后进行调用,第一次调用的时间就是会长一些,第二次调用直接进行请求可以看到调用时间很快。

开启Ribbon饥饿加载
  ribbon:
    nacos:
      enabled: true # 开启naocos轮询
    eager-load:
     enabled: true  # 开启Ribbon的饥饿加载模式(防止第一次请求超时的问题)
     clients: Lxlxxx-system2 # 指定需要开启的服务(需要开启Ribbon的饥饿加载模式)
     ReadTimeout: 10000
     ConnectTimeout: 10000
     MaxAutoRetries: 0
     MaxAutoRetriesNextServer: 1
     OkToRetryOnAllOperations: false
在项目启动的时候,可以从日志看到,已经把 Lxlxxx-system2 服务进行加载,从而避免了第一次请求超时的情况。

手动调用加载
对feign client的接口添加方法:
@Component
@FeignClient(value = BaseConstants.BASE_SERVER)
public interface BaseAppServiceClient extends IBaseAppServiceClient {

    @GetMapping("/actuator/health")
    String heartbeat();
}
添加ApplicationListener在spring context加载完后,找到所有的feign client,并通过反射执行一次heart beat,此时便会取巧地触发feign client的初始化:
@Component
public class EarlyInitFeignClientOnContextRefresh implements
        ApplicationListener<ContextRefreshedEvent> {
    Logger logger = LoggerFactory.getLogger(EarlyInitFeignClientOnContextRefresh.class);

    @Autowired()
    @Qualifier("cachingLBClientFactory")
    CachingSpringLoadBalancerFactory factory;

    @Override
    public void onApplicationEvent(ContextRefreshedEvent event) {
        ApplicationContext applicationContext = event.getApplicationContext();
        Map<String, Object> beans = applicationContext.getBeansWithAnnotation(FeignClient.class);
        for (Map.Entry<String, Object> entry :
                beans.entrySet()) {
            Class<?> clazz = entry.getValue().getClass();
            try {
                Method method = null;
                method = clazz.getMethod("heartbeat");
                method.invoke(entry.getValue());
                logger.warn("init feign client:  " + clazz.getName());
            } catch (NoSuchMethodException e) {
                logger.warn("init feign client fail: no method of heartbeat in " + clazz.getName());
            } catch (IllegalAccessException e) {
                logger.warn("init feign client fail: IllegalAccessException of " + clazz.getName());
            } catch (InvocationTargetException e) {
                logger.warn("init feign client fail: InvocationTargetException of " + clazz.getName());
            } catch (Exception e){
                logger.error(e.getMessage());
            }
        }

        logger.info("init feign client done!");
    }
}
总结
其实这种饥饿加载模式,类似于“客户端负载预热”的一个操作,项目启动的时候进行加载,防止服务之间调用可以因为数据量、业务逻辑处理复杂性导致接口超时,如果你的服务之间调用业务处理比较复杂、且慢,不妨可以试试这种解决方式。
用户评论