从0开始搭建一个微服务的持续交付系统,教你如何快速搭建,


本文介绍了如何利用开源软件快速搭建一套微服务的持续交付系统。本文假设的环境是Linux操作系统,用到的软件包括Git、Jenkins、Salt、ZooKeeper、Apache等。开始之前,我先简单介绍下持续交付和微服务的概念,以便大家更好的理解本文的精华。

什么是持续交付?我们先举个物流的例子,现在各大电商都非常重视物流的自动化建设,在实现包括运输、装卸、包装、分拣、识别等作业过程的设备和设施自动化的同时,更在研究无人机和自动驾驶汽车送货,达到物流的全自动。

那么软件开发呢,从开发人员check in代码到代码仓库,到代码的构建、部署、测试、发布,我们可以形象地把这个过程称为“软件物流”,现实世界的物流实现了相当的自动化,“软件物流”也应如是,实现从开发人员check in代码(客户下单)到生产系统上线(送货上门)的自动化。

说到这里,我们可以给持续交付下一个“非专业”的定义,持续交付就是实现“软件物流”的自动化。

从0开始搭建一个微服务的持续交付系统,教你如何快速搭建

图1.持续交付流水线

图1摘自《持续交付:发布可靠软件的系统方法》,展示了持续交付具体包括的内容。本文重点讨论如何实现微服务的持续交付流程,所以会忽略掉整个流程的一些细节(如代码分析、单元测试等等)。

那什么是微服务呢?微服务的概念最初由Martin Fowler与James Lewis于2014年共同提出,微服务架构风格是一种使用一套小服务来开发单个应用的方式途径,每个服务运行在自己的进程中,并使用轻量级机制通信,通常是HTTP API,这些服务基于业务能力构建,并能够通过自动化部署机制来独立部署,这些服务使用不同的编程语言书写,以及不同数据存储技术,并保持最低限度的集中式管理。目前微服务的主流实现方式有两种:RESTful API和消息队列。

从0开始搭建一个微服务的持续交付系统,教你如何快速搭建

图2 RESTful微服务

从0开始搭建一个微服务的持续交付系统,教你如何快速搭建

图3 message queue微服务

图2、图3是两种典型微服务架构的简略图。当然现实中的系统会复杂的多,比如会有微服务聚合,多级缓存,注册中心等。

微服务相对单体式应用来说有明显的好处:

但在一个单体式应用拆分成数十个乃至上百个微服务,由于服务数量的增加,以及微服务支持多种编程语言的特性,对软件的构建,部署,测试,监控都带来了全新的挑战。本文将讨论如何通过持续交付来降低微服务构建,部署的复杂度。

微服务的持续交付:统一方法

由于微服务的特性,微服务的持续交付会比单体式应用的持续交付复杂的多。本节列出了为了降低微服务持续交付的复杂度,我们遵循的一些原则:

快速搭建微服务的持续交付:持续构建

下面我们结合一个虚构的项目来介绍持续交付的实现细节,假设我们有一个项目BetaCat,由ms1、ms2…msN,n个微服务构成。下面我们重点介绍ms1微服务如何实现持续交付,其它微服务可以类推。

本节讨论下如何实现持续构建,下一节会探讨持续部署。

从0开始搭建一个微服务的持续交付系统,教你如何快速搭建

图4 Jenkins处理仓库代码流程

如图4所示,开发人员check in 代码到Git仓库后,Jenkins会自动地进行构建工作,并把打好的包上传到Repo server上。

从0开始搭建一个微服务的持续交付系统,教你如何快速搭建

图5 配置文件示例

作为统一方法的一部分,我们在每个微服务仓库上创建了CI目录,用于配置文件的打包,在CI目录里,只放入需要参数化的配置文件,执行脚本等,并会严格遵循原有系统的目录结构,如图5所示,我们要求有start.sh、stop.sh及service(用于Linux的init启停该微服务)。

图5中配置文件参数化内容,参数部分用”{{“与”}}”包围起来,在持续部署的时候会根据传入的参数替换为特定的值。

我们还定义了持续构建的统一输出,对每个微服务采用tgz的打包格式,微服务ms1持续构建的输出文件示例如下:

  • ms1-1.0.7.tgz (可执行包)
  • ms1_config-1.0.7.tgz(配置文件包)

在可执行包里面要求把所有的依赖库(除了系统lib库)都包含在里面,对不同编程语言的微服务的构建工具没有强制要求,统一由Jenkins调用。C/C++我们推荐使用CMake,Java一般用Maven,Python直接打包。

配置文件包就是前面GIT仓库的CI目录直接打包而成。

从0开始搭建一个微服务的持续交付系统,教你如何快速搭建

图6 Bundle示例

同时为了在部署时不用具体指定每个微服务的版本号,我们引入了bundle的概念,如图6。在任何一个微服务构建之后,会触发bundle,sha512校验文件生成,并上传到Repo Server。

最后让我们看下持续交付上传到Repo Server的目录结构:

从0开始搭建一个微服务的持续交付系统,教你如何快速搭建

图7 目录结构

这样持续构建的工作就完成了,接下来就需要进行持续部署了。

快速搭建微服务的持续交付:持续部署

在开始持续部署的讨论之前,我们先描述一下软件运行注入配置的三个时点:

从0开始搭建一个微服务的持续交付系统,教你如何快速搭建

图8 配置注入的三个时间点打包时点,典型的是Java的war包,会把配置文件打包在一起。部署时点,在部署的时候利用专门的部署工具更新配置文件,这也是我们采用的方法;运行时点,程序运行时通过环境变量或注册中心/配置中心获得配置信息,如用Docker部署微服务时就要考虑通过这种方法来获得所需要的配置信息。

从0开始搭建一个微服务的持续交付系统,教你如何快速搭建

图9 采用salt进行部署

图9显示了我们对不同的环境统一采用salt进行部署。由于我们支持用户只输入bundle的版本信息来实现部署,这就要求在持续部署的时候,部署系统能自动获取每个微服务的版本号,为此我们对salt/foreman做了一点小改动,修改后返回的pillar格式包含各个微服务的版本,同时下载并解压对应的配置文件包到salt master的相应目录,以及关闭salt master file_list缓存:fileserver_list_cache_time: 0。

从0开始搭建一个微服务的持续交付系统,教你如何快速搭建

图10 foreman web界面以及Salt格式

图10左边表示我们在foreman web界面上设置的参数,右边表示通过salt pillar.items取得的格式,可以看到多了每个微服务的版本号信息。

下面我们按照部署三部曲(安装、配置注入、服务运行)来介绍部署规则文件(saltstate、sls文件)的编写:

1、betacat_ms1.sls 第一部分:安装

从0开始搭建一个微服务的持续交付系统,教你如何快速搭建

在这一部分,检查并创建安装目录,下载需要的可执行包,并解压到正确的位置,可执行包直接从Repo Server获取,并通过sha512验证文件的完整性。

2、betacat_ms1.sls 第二部分:配置注入

从0开始搭建一个微服务的持续交付系统,教你如何快速搭建

配置注入部分,读取配置文件包,通过salt master转换后下发给目标机。这里用红框标出了设计的核心。通过salt的file.recurse和之前持续部署中打好的配置程序包,并把所有的配置项传入。可以做到不用对多个配置文件单独编写部署逻辑,完全参数化。

3、betacat_ms1.sls 第三部分:服务运行

从0开始搭建一个微服务的持续交付系统,教你如何快速搭建

在这一部分,确保微服务在运行状态,并在必要的时候重启。这里需要特别指出的一点,在整个sls文件中,对不同的微服务来说,只有3个元参数:项目名称(BeatCat)、微服务名称(ms1)以及sig(ms1, 微服务进程的唯一识别字符串)。那么我们可以通过简单的脚本来自动生成sls文件,而不需要手工编写。大大降低持续部署的开发维护成本。

快速搭建微服务的持续交付:全自动化

为了支持持续交付流程的全自动化,我们引入了ZooKeeper,如图14。

从0开始搭建一个微服务的持续交付系统,教你如何快速搭建

图14 引入ZooKeeper后的流程

相关内容