2017-05-26

springcloud微服务四：服务容错保护Hystrix断路器

使用

通过前边的学习，服务注册中心、服务提供者和服务消费者都成功建立并运行起来，而且通过默认的配置restTemplate及@loadbalanced注解开启了负载均衡。
在默认的情况下，负载均衡策略是线性轮询的方式，也就是说在客户端获取到的服务列表中依次交替，例如开启了三个服务server1、server2、server3，那么在线性轮询时，就会按这个顺序来调用。
我之前是开启了两个服务，一个端口是1001，另一个是2001，那么在之前的这种情况下，如果我关闭其中一个服务，就比如这里关闭1001端口的服务，当再次访问的时候，每访问两次，就会有一次是如下的error page：

Whitelabel Error Page
This application has no explicit mapping for /error, so you are seeing this as a fallback.
Fri May 26 09:31:57 CST 2017
There was an unexpected error (type=Internal Server Error, status=500).
I/O error on GET request for "http://HELLO-SERVICE/hello": Connection refused: connect; nested exception is java.net.ConnectException: Connection refused: connect

同时后台也会打印出错误日志：

java.net.ConnectException: Connection refused: connect
    at java.net.DualStackPlainSocketImpl.connect0(Native Method) ~[na:1.8.0_131]
    at java.net.DualStackPlainSocketImpl.socketConnect(Unknown Source) ~[na:1.8.0_131]
    at java.net.AbstractPlainSocketImpl.doConnect(Unknown Source) ~[na:1.8.0_131]
    at java.net.AbstractPlainSocketImpl.connectToAddress(Unknown Source) ~[na:1.8.0_131]
    at java.net.AbstractPlainSocketImpl.connect(Unknown Source) ~[na:1.8.0_131]
    at java.net.PlainSocketImpl.connect(Unknown Source) ~[na:1.8.0_131]
    at java.net.SocksSocketImpl.connect(Unknown Source) ~[na:1.8.0_131]
    at java.net.Socket.connect(Unknown Source) ~[na:1.8.0_131]

其实这个问题的原因就是，客户端的服务列表并不是在服务关闭的瞬间就会同步更新，而是根据它自己配置的更新服务列表间隔的时间每隔一段时间去注册中心获取一次。
因此，虽然这里我关闭了1001端口，但是实际上客户端并不知道，在它负载均衡进行线性轮询时，依旧会轮询之前保存的服务列表，但是发送请求后却发现这个服务实例并不存在，无法连接，于是就出现了上边的500错误。
这里为了演示，我是主动关闭了服务，但实际生产的过程中，难免会出现服务宕机或者网络故障等方面的问题，从而导致类似的无法连接到服务实例的情况。
那么这时候正常来说在这个故障恢复之前是不应该继续连接的，起码就算连接了也应该给用户展示更加友好的界面或其他信息，至于具体的情况就需要具体对待了。
而解决这个问题，就引出了服务容错保护机制Hystrix，也叫断路器。
既然之前说了消费方保存的服务列表是自己主动获取的，并非被动推送来的，那么可想而知这个断路器的定义也应该是在服务消费方。
首先需要引入hystrix相应的依赖，在之前的消费端pom.xml的基础上加上如下的配置：

<dependency>
    <groupId>org.springframework.cloud</groupId>
    <artifactId>spring-cloud-starter-hystrix</artifactId>
</dependency>

同时在服务消费端的主类加上@@EnableCircuitBreaker注解，这个注解的作用就是开启断路器功能，所谓的主类就是具有main方法的那个类，修改之后这里的代码如下：

@EnableCircuitBreaker
@EnableDiscoveryClient
@SpringBootApplication
public class RibbonClient1Application {
    @Bean
    @LoadBalanced
    RestTemplate restTemplate() {
        return new RestTemplate();
    }
    public static void main(String[] args) {
        SpringApplication.run(RibbonClient1Application.class, args);
    }
}

这里实际上有一点需要说明的是，这个类上边的三个注解其实是可以用一个注解代替的，这个注解是@SpringCloudApplication，通过源码可以知道这个注解包含了上述三个注解，也意味着一个标准的springcloud应用是应该包括服务的注册发现以及断路器功能的。
那么除开主类加一个注解之外，原本的服务类也需要有一定的修改，首先是在原本调用的方法上加上@HystrixCommand(fallbackMethod = “helloError”)，意思是当调用的服务出现故障的时候回调helloError方法，或者说当调用服务出现故障的时候回滚一步，然后转而调用helloError方法。
不管怎样，既然要调用helloError方法，很显然需要存在这个方法，因此还需要加入一个helloError方法，当然了这个方法名是自定义的，里边的逻辑也是要根据具体的业务需要定义的，我这里就很简单的返回一个字符串，修改之后的代码如下：

@RestController
public class ConsumerController {
    @Autowired
    RestTemplate restTemplate;
    @RequestMapping(value="/hello",method=RequestMethod.GET)
    @HystrixCommand(fallbackMethod = "helloError")
    public String hello(){
        String string = restTemplate.getForEntity("http://HELLO-SERVICE/hello", String.class).getBody();
        System.out.println(string);
        return string;
    }
    public String helloError() {
        return "服务器出现故障";
    }
}

就这样，一个简单地断路器功能就实现了，为了证明确实有效，我在两个服务正常运行的情况下再次关闭其中一个，然后再在浏览器访问的时候就不会再出现之前的500提示，后台也同样不再有error的日志，证明成功的处理了的这种故障，浏览器访问结果如图：
cloud1
当然了，我这里演示的时候，为了方便都是直接关掉了其中一台服务器，这相当于实际生产中的服务器突然宕机或者进程突然中断的情况，而实际上这种情况发生的几率还是比较少的。
由于在分布式高可用的系统中，一般不同的服务是部署在不同的服务器上，不同的服务器间就会涉及到网络通讯和数据传输，因此正常来说网络故障导致服务异常的情况会更多一些。
如果要演示这种情况，就可以在服务接收请求到返回数据之前加入线程休眠，从而模拟网络阻塞，只需要注意hystrix的默认超时时间是2000毫秒，也就是2秒就够了。

运行流程说明

流程图（来自网络）

cloud2

流程说明

hystrix运行流程说明:

每次调用创建一个新的HystrixCommand,把依赖调用封装在run()方法中.
执行execute()/queue做同步或异步调用.
判断熔断器(circuit-breaker)是否打开,如果打开跳到步骤8,进行降级策略,如果关闭进入步骤.
判断线程池/队列/信号量是否跑满，如果跑满进入降级步骤8,否则继续后续步骤.
调用HystrixCommand的run方法.运行依赖逻辑
5a:依赖逻辑调用超时,进入步骤8.
判断逻辑是否调用成功
6a:返回成功调用结果
6b:调用出错，进入步骤8.
计算熔断器状态,所有的运行状态(成功, 失败, 拒绝,超时)上报给熔断器，用于统计从而判断熔断器状态.
getFallback()降级逻辑.
8a:没有实现getFallback的Command将直接抛出异常
8b:fallback降级逻辑调用成功直接返回
8c:降级逻辑调用失败抛出异常
返回执行成功结果

fallback触发场景

综合上边的流程可知，四种情况将触发getFallback调用：
(1):熔断器开启拦截调用
(2):线程池/队列/信号量是否跑满
(3):run()方法调用超时
(4):run()方法抛出非HystrixBadRequestException异常

如何判断熔断器是否打开：

(1):熔断器打开标示，为true为打开，否则查询度量指标（10s的时间窗）
(2):请求阀值是否超标，默认是20个请求，超标则为true
(3):请求错误百分比是否超标，默认是50，超标则为true
当2和3都超标时，熔断器标示会设为true，打开状态。

依赖隔离

默认是线程池隔离，可以改成信号量。
信号量开销比线程池小很多，但不支持异步访问和设置超时。

2017-05-24

springcloud

springcloud微服务三：Eureka服务治理之注册服务提供者及服务的发现和消费

说明

当服务注册中心成功建立以后，就需要有服务的注册和消费，否则这个服务注册中心就没有了存在的意义，而实际上，一个简单的服务注册也是非常简单的，仅仅需要实现四部曲就好。

服务注册

步骤一

首先，还是建立一个基本的spring boot的项目，创建的时候选择web，然后在pom.xml文件中加入Eureka的依赖，和服务注册中心的maven配置一样，这里就不再罗列代码。

步骤二

第二步，就是修改application.properties文件，指定端口和服务名称以及注册中心的地址：

server.port=1001
spring.application.name=hello-service
eureka.client.serviceUrl.defaultZone=http://server1:1000/eureka/,http://server2:2000/eureka/

因为上一步中实现了注册中心的集群模式，因此这里可以指定两个，如果有更多的服务注册中心，还可以指定更多，中间以逗号分隔。

步骤三

第三步，使用注解开启自动装配，使服务能够向注册中心注册、向注册中心服务租约（实际上就是定时器持续发送心跳告诉服务注册中心自己还活着）、取消租约、查询服务列表等，这个注解是@EnableDiscoveryClient，添加以后的代码如下：

@EnableDiscoveryClient
@SpringBootApplication
public class EurekaService1Application {
    public static void main(String[] args) {
        SpringApplication.run(EurekaService1Application.class, args);
    }
}

步骤四

第四步，我们说要进行服务注册，当上边一切准备工作做好以后，自然需要有服务才能注册，而这个服务就是一个看起来很普通的controller类，如图：

@RestController
public class HelloController {  
    @Autowired
    private DiscoveryClient client;
    @RequestMapping(value="/hello",method=RequestMethod.GET)
    public String sayHello(){
        ServiceInstance instance=client.getLocalServiceInstance();
        return "hello "+instance.getHost()+","+instance.getPort()+","+instance.getServiceId();
    }
}

这里的DiscoveryClient可以获取注册到服务注册中心的服务的相关信息，并不是必须注入的，这里完全可以写成如下所示的代码：

@RestController
public class HelloController {  
    @RequestMapping(value="/hello",method=RequestMethod.GET)
    public String sayHello(){
        return "hello";
    }
}

当然了，因为只是了解服务注册的过程，所以这里仅仅这么简单，实际的业务逻辑自然不会是这样。

那么通过上边四步，一个能够注册到服务注册中心提供服务的服务就完成了，启动这个服务就会被注册到服务注册中心，我们可以通过服务注册中心的页面来查看：
cloud1

成功的创建了一个服务并注册到注册中心，同样的，为了高可用，我们可以再建一个具有同样功能的服务，而这个过程就更加的简单，只需要更改一下端口号，也就是server.port，然后重新启动就可以，启动后会看到上边的页面如下（当然了，这里也是为了测试方便，实际情况也应该是在两台机器上运行的两套代码才对）：
cloud2

这里我们会看到已经有了两个同应用名的服务，端口分别是1001和2001。
而在上述页面中还需要注意的是那一段醒目的红色提示，它的意思就是说开启了自我保护机制，也就是说当服务失效后，有可能注册中心还会保留一段时间该服务的信息，这样就可能导致服务消费方获取服务列表的时候依然能够获取到这个服务，但是实际上向该服务发送请求的时候又无法成功请求，那么学习的过程中可以使用以下配置关闭自我保护机制，然后如果再访问注册中心的页面便不会再出现这个提示，也不会出现那种服务失效后还保留在注册中心的情况。

#设置是否开启自我保护机制，默认是true
eureka.server.enable-self-preservation=false

服务发现

服务注册好以后，下边就是服务的发现和消费，通常有ribbon和feign两种方式，而feign实际上也是以ribbon为基础的，这两种后边都还需要具体详细的学习，所以这里只简单的演示一下消费的过程，不做太详细的解释。ribbon可以实现负载均衡，这里使用最简单的模板实现。
首先还是建立一个基础spring boot项目，然后pom.xml中加入eureka和ribbon的依赖以及eureka的版本信息：

<dependency>
    <groupId>org.springframework.cloud</groupId>
    <artifactId>spring-cloud-starter-eureka</artifactId>
</dependency>        
<dependency>
    <groupId>org.springframework.cloud</groupId>
    <artifactId>spring-cloud-starter-ribbon</artifactId>
</dependency>
<dependencyManagement>
        <dependencies>
            <dependency>
               <groupId>org.springframework.cloud</groupId>
               <artifactId>spring-cloud-dependencies</artifactId>
               <version>Brixton.RELEASE</version>
               <type>pom</type>
               <scope>import</scope>
            </dependency>
        </dependencies>
</dependencyManagement>

然后application.properties文件内容如下：

server.port=3001
spring.application.name=rabbit-client
eureka.client.serviceUrl.defaultZone=http://server1:1000/eureka/,http://server2:2000/eureka/

再然后就是创建项目时生成的类中加入@EnableDiscoveryClient参数开启自动装配，以及注入服务消费模板并开启负载均衡：

@Bean
@LoadBalanced
RestTemplate restTemplate(){
    return new RestTemplate();
}

之后的这个步骤实际不是必要的，只是为了能够更直观的在页面中看到结果，所以加入一个controller类，输出服务的一些基本信息：

@RestController
public class ConsumerController {    
    @Autowired
    RestTemplate restTemplate;
    @RequestMapping(value="/hello",method=RequestMethod.GET)
    public String hello(){
        return restTemplate.getForEntity("http://HELLO-SERVICE/hello", String.class).getBody();
    }
}

那么当我们启动这个消费端以后，页面访问localhost:3001/hello就可以看到如下页面：
cloud3

2017-05-23

springcloud

springcloud微服务二：Eureka服务治理之服务注册中心

理解

当初步的学习了spring boot，了解了spring boot的基本实现过程后，我就正式开始学习spring cloud，首先就从Eureka服务治理开始。

服务治理包含三个核心的角色：服务注册中心、服务提供者和服务消费者，他们相对独立，新的服务要向服务注册中心注册，新的消费者会向服务注册中心索引服务列表。

一番了解之后，让我想到了人才招聘。在我看来，现在普遍存在的招聘形式也是分为了三个部分：招聘网站或者人才市场、发布招聘需求的企业、需要找工作的人。当然了，也可以把企业和人换一下位置，那就是：招聘网站或者人才市场、找工作的人发布的简历、需要招聘的企业。

继续阅读全文 »

2017-05-22

springcloud

springcloud微服务一：spring boot基础项目搭建及问题处理

前言

公司接下来某个项目打算使用微服务架构，使用springcloud以及它集成的一些相关项目，因此虽然在其他方面的很多技术上还感觉急需提高，却又不得不以工作为重，先放下其他来了解一下这方面的技术。

一番了解后发现，spring cloud是建立在spring boot的基础上的，而之前虽然听说过，也随便看了一下spring boot，却没有真正使用，因此还必须先花时间学一下spring boot。

继续阅读全文 »

2017-01-30

java

JAVA代码发送邮件示例和解释(二)

之前有使用过一次在程序中发邮件的功能，也写了一篇相关的笔记，当时使用的是163邮箱，经过测试多个163账号都是可行的。但是最近把账号换成中国移动@chinamobilesz.com这种结尾的时候，却一直连接不上服务器，验证不通过，于是只好重新进行了一些改动，这期间也有参考另一个同事之前的写法，成功实现。

继续阅读全文 »

2017-01-30

java

JAVA代码发送邮件示例和解释笔记

下载和上传附件、发送短信和发送邮件，都算是程序中很常用的功能，之前记录了文件的上传和下载还有发送短信，由于最近比较忙，邮件发送的功能就没有时间去弄，好在昨晚终于走通代码成功以163邮箱发送邮件到qq邮箱，以下是相关代码，具体解释可以参考代码中注释：

继续阅读全文 »

2017-01-30

java

activiti基础操作

获取流程引擎

ProcessEngines.getDefaultProcessEngine()会在第一次调用时初始化并创建一个流程引擎，以后再调用就会返回相同的流程引擎。
使用对应的方法可以创建和关闭所有流程引擎：ProcessEngines.init() 和 ProcessEngines.destroy()。

继续阅读全文 »

2016-11-07

数据库

Mongodb3.0.5副本集搭建及spring和java连接副本集配置

这是去年写的一篇文档，最近突然发现并没有发不出来，因此现在补上，希望能对某些朋友有所帮助。因为当时记录时没有截图，因此这里看起来可能就比较单调。

继续阅读全文 »

2016-11-07

java

cookie、session和java过滤器理解和使用

基础知识理解：

cookie、session和过滤器通常都是用在web应用中，cookie和session用来保存一定的数据，过滤器Filter则是在浏览器发出请求之后，而后台执行特定的请求之前发生一定的作用。之所以把这三个放一起，是因为有很多时候都会是把他们结合在一起使用，例如有些登陆程序。

继续阅读全文 »

涂宗勋的博客

java全栈程序员，CSDN博客https://blog.csdn.net/tuzongxun

springcloud微服务四：服务容错保护Hystrix断路器

使用

运行流程说明

流程图（来自网络）

流程说明

fallback触发场景

如何判断熔断器是否打开：

依赖隔离

springcloud微服务三：Eureka服务治理之注册服务提供者及服务的发现和消费

说明

服务注册

步骤一

步骤二

步骤三

步骤四

服务发现

springcloud微服务二：Eureka服务治理之服务注册中心

理解

springcloud微服务一：spring boot基础项目搭建及问题处理

前言

JAVA代码发送邮件示例和解释(二)

JAVA代码发送邮件示例和解释笔记

activiti基础操作

获取流程引擎

Mongodb3.0.5副本集搭建及spring和java连接副本集配置

cookie、session和java过滤器理解和使用