微服务有哪些设计原则

近些年，前端发展呈百家争鸣式发展，框架层出不穷，版本更是迭代不穷，难免会出现前端项目技术栈不统一、所用框架版本不统一的情况。

如若某些项目，没有新的功能加入，又能线上稳定运行，但其技术栈却用的是 vue1.0，为了将其结合到新应用中去而对其重构，成本会很高。然而，微服务可以帮我们解决这个问题。

在既不重写原有系统的基础之下，又可以抽出人力来开发新的业务。其不仅仅对于业务人员来说是一个相当吸引力的特性，对于技术人员来说，不重写旧的业务，能在一些新技术上做挑战，也是一件很有意思的事情。

除此之外，在这两三年里，移动应用出现了一种趋势，用户不想装那么多应用。而往往一家大的商业公司，会提供一系列的应用。这些应用也从某种程度上，反应了这家公司的组织架构。然而，在用户的眼里他们就是一家公司，他们就只应该有一个产品。相似的，这种趋势也在桌面 Web 出现。聚合成为了一个技术趋势，体现在前端的聚合就是微服务化架构。

理想的前端微服务化，应该是符合如下几个特点：

路由分发式微前端，即通过设置路由，将不同的业务分发到不同的、独立前端应用上。其通常可以通过 HTTP 服务器的反向代理来实现，又或者是应用框架自带的路由来解决。

就当前而言，通过路由分发式的微前端架构应该是采用最多、最易采用的 “微前端” 方案。但是这种方式看上去更像是多个前端应用的聚合，即我们只是将这些不同的前端应用拼凑到一起，使他们看起来像是一个完整的整体。但是，它们并不是一个完整的整体，每次用户从 A 应用到 B 应用的时候，往往需要刷新一下页面。

通常可通过 nginx 配置反向代理，来进行路由分发，从而实现前端微服务。

它适用于以下场景：

iframe 可以创建一个全新的独立的宿主环境，这意味着我们的前端应用之间可以相互独立运行。

采用 iframe 有几个重要的前提：

即何时加载、卸载应用，如何监听应用事件等。

不论是基于 Web Components 的 Angular，或者是 VirtualDOM 的 React 等，现有的前端框架都离不开基本的 HTML 元素 DOM。

那么，我们只需要：

第一个问题，创建 DOM 是一个容易解决的问题。而第二个问题，则一点儿不容易，特别是移除 DOM 和相应应用的监听。当我们拥有一个不同的技术栈时，我们就需要有针对性设计出一套这样的逻辑。现有的框架有single-spa、qiankun、mooa等

常见的方式有：

其次，采用这种方式还有一个限制，那就是：规范！ 规范！ 规范！。在采用这种方案时，我们需要：

Web Components 组件可以拥有自己独立的 Scripts 和 Styles，以及对应的用于单独部署组件的域名。然而它并没有想象中的那么美好，要直接使用纯 Web Components 来构建前端应用的难度有：

现有的微前端框架有single-spa、qiankun、mooa。其均是在前端框架之上设计通讯、加载机制来实现的。

简单地说，API主导的连接方法可以被看作是API设计的一种分层方法（至少在本文中是这样）。其中，系统API公开系统的资产数据信息；中间的是流程API，与系统API一起进行编排和组合；顶端的体验API公开来自后端数据源的数据，提供最终用户体验。这种API分层方法与细粒度SOA模式很好地结合在一起，通常，这两者要么可以共存，要么细粒度SOA模式演化成基于细粒度SOA的分层API模式。

API主导的连接方法为细粒度SOA模式提供了一些层次结构，这些层次结构允许对API或微服务进行一致的管理和治理。然而，基于细粒度SOA的分层API模式也存在一些与细粒度SOA 模式类似的深层问题（这很直观）：

在细粒度SOA模式执行单个API调用的地方，基于细粒度SOA的分层API模式现在必须通过层执行多个调用。从“网络跳数”的角度来看，这种模式可能是低效的。但是，基于细粒度SOA的分层API模式中，层次结构的存在并不强制跨越网络来调用每个API。直接的跨层调用，而不是通过网络调用是完全有效的；分层的目的是为了增加灵活性，同时以一种很好地分离关注点的方式构建体系架构。

在细粒度SOA模式管理大量服务的地方，使用分层API将会管理来自多个层次的大量细粒度服务。您的管理工具可能不再像以前那样有效，因为它们可能无法可视化复杂的微服务视图。

最终应用程序的数据存储一致性在分层API模式下实际上得到了改善，因为访问数据的服务都是有组织，且集中地查询或修改应用程序的状态。（例如：系统API）

实际上，对于大多数企业来说，基于细粒度SOA的分层API模式是一个很好的模式，但是，就像细粒度SOA模式一样，在实践过程中会出现困难。然而，这种困难通常在大范围使用时才会显现出来。因此，只有在预期或正在经历大规模的使用时，我们才应该准备其他的模式。

问题：

没有一定层次结构的微服务架构是很难进行合理解释的，因为没有明显的方法来对每个微服务的用途进行分类和可视化。

解决方案：

通过创建按用途分组的分层API（系统层、流程及领域模型层，以及体验层），您可以更容易地管理微服务架构的复杂性。

应用：

将微服务架构分为多个层。通常情况下，可以使用标准化，并具有类似用途的一组微服务以类似的方式工作，从而进一步使微服务架构的复杂性合理化。

影响：

1.通过标准化和进一步分解微服务架构，可以提高快速变更的能力。

2.由于更专门化的层次结构，进程间服务调用的数量可能增加。

3.需要对服务监控和可视化工具进行检查，以确定它们是否能够正确地与分层架构一起工作。

目标：

1.快速的敏捷变更。

2.可伸缩性：理论上通过基于细粒度SOA的分层API模式可以提高可伸缩性，但实际上，除非有支持自动化的基础设施，否则可伸缩性往往会降低。

主要特点：

1.为了实现快速变更，可能存在低效的IPC（Inter-Process Communication，进程间通信）。

2.数据一致性和状态管理能力较差，但允许高度重用。重用本身会抵消变更的速度。

3.由于与现存模式的相似性，已有的问题往往同样会出现。

4.基于细粒度SOA的分层API模式在小范围内使用效果很好，在大规模情况下会出现困难。

5.由于采用了结构化的体系架构方法，所以具有很高的内聚性。

6.重点放在服务颗粒度要细，但通常没有考虑其能力。

7.基于细粒度SOA的分层API模式以集成为导向，每个微服务依赖于外部系统。这将会降低变更的速度。

基于细粒度SOA的分层API模式如何与SOA或API等现有系统共存？

基于细粒度SOA的分层API模式往往是与现有IT资产共存的最佳方式。由于分层减少了每个微服务的范围，并约束了其用途，因此该模式能够在不明显降低变更速度的情况下，最好地连接和利用现有IT系统。然而，通过细粒度和分层的设计来协调变更可能是一个挑战。您可能需要使用一定的技术手段来管理所有不同微服务之间的契约，或者使用完全自动化的测试技术来确保变更不会造成破坏。

什么是微服务？

微服务(Microservices Architecture)是一种架构风格，一个大型复杂软件应用由一个或多个微服务组成。系统中的各个微服务可被独立部署，各个微服务之间是松耦合的。每个微服务仅关注于完成一件任务并很好地完成该任务。在所有情况下，每个任务代表着一个小的业务能力。

微服务的概念源于2014年3月Martin Fowler所写的文章“Microservices” martinfowler.com/articles/mi…

单体架构(Monolithic Architecture )

企业级的应用一般都会面临各种各样的业务需求，而常见的方式是把大量功能堆积到同一个单体架构中去。比如：常见的ERP、CRM等系统都以单体架构的方式运行，同时由于提供了大量的业务功能，随着功能的升级，整个研发、发布、定位问题，扩展，升级这样一个“怪物”系统会变得越来越困难。

这种架构模式就是把应用整体打包部署，具体的样式依赖本身应用采用的语言，如果采用java语言，自然你会打包成war包，部署在Tomcat或者Jetty这样的应用服务器上，如果你使用spring boot还可以打包成jar包部署。其他还有Rails和Node.js应用以目录层次的形式打包

上图：单体架构

大部分企业通过SOA来解决上述问题，SOA的思路是把应用中相近的功能聚合到一起，以服务的形式提供出去。因此基于SOA架构的应用可以理解为一批服务的组合。SOA带来的问题是，引入了大量的服务、消息格式定义和规范。

多数情况下，SOA的服务直接相互独立，但是部署在同一个运行环境中（类似于一个Tomcat实例下，运行了很多web应用）。和单体架构类似，随着业务功能的增多SOA的服务会变得越来越复杂，本质上看没有因为使用SOA而变的更好。图1，是一个包含多种服务的在线零售网站，所有的服务部署在一个运行环境中，是一个典型的单体架构。

单体架构的应用一般有以下特点：

微服务架构（Microservices Architecture）

微服务架构的核心思想是，一个应用是由多个小的、相互独立的、微服务组成，这些服务运行在自己的进程中，开发和发布都没有依赖。不同服务通过一些轻量级交互机制来通信，例如 RPC、HTTP 等，服务可独立扩展伸缩，每个服务定义了明确的边界，不同的服务甚至可以采用不同的编程语言来实现，由独立的团队来维护。简单的来说，一个系统的不同模块转变成不同的服务！而且服务可以使用不同的技术加以实现！

上图：微服务架构

微服务设计

那我们在微服务中应该怎样设计呢。以下是微服务的设计指南：

微服务消息

在单体架构中，不同功能之间通信通过方法调用，或者跨语言通信。SOA降低了这种语言直接的耦合度，采用基于SOAP协议的web服务。这种web服务的功能和消息体定义都十分复杂，微服务需要更轻量的机制。

同步消息 REST

同步消息就是客户端需要保持等待，直到服务器返回应答。REST是微服务中默认的同步消息方式，它提供了基于HTTP协议和资源API风格的简单消息格式，多数微服务都采用这种方式（每个功能代表了一个资源和对应的操作）

异步消息 – AMQP, STOMP, MQTT

异步消息就是客户端不需要一直等待服务应答，有应到后会得到通知。某些微服务需要用到异步消息，一般采用AMQP, STOMP, MQTT 这三种通讯协议

消息格式 – JSON, XML, Thrift, ProtoBuf, Avro

消息格式是微服务中另外一个很重要的因素。SOA的web服务一般采用文本消息，基于复杂的消息格式（SOAP）和消息定义（xsd）。微服务采用简单的文本协议JSON和XML，基于HTTP的资源API风格。如果需要二进制，通过用到Thrift, ProtoBuf, Avro。

服务约定 – 定义接口 – Swagger, RAML, Thrift IDL

如果把功能实现为服务，并发布，需要定义一套约定。单体架构中，SOA采用WSDL，WSDL过于复杂并且和SOAP紧耦合，不适合微服务。

REST设计的微服务，通常采用Swagger和RAML定义约定。

对于不是基于REST设计的微服务，比如Thrift，通常采用IDL（Interface Definition Languages），比如Thrift IDL。

微服务集成 (服务间通信)

大部分微服务基于RPC、HTTP、JSON这样的标准协议，集成不同标准和格式变的不再重要。另外一个选择是采用轻量级的消息总线或者网关，有路由功能，没有复杂的业务逻辑。下面就介绍几种常见的架构方式。

点对点方式

点对点方式中，服务之间直接用。每个微服务都开放REST API，并且调用其它微服务的接口。

上图：通过点对点方式通信

很明显，在比较简单的微服务应用场景下，这种方式还可行，随着应用复杂度的提升，会变得越来越不可维护。这点有些类似SOA的ESB，尽量不采用点对点的集成方式。

API-网关方式

API网关方式的核心要点是，所有的客户端和消费端都通过统一的网关接入微服务，在网关层处理所有的非业务功能个。通常，网关也是提供REST/HTTP的访问API。服务端通过API-GW注册和管理服务。

上图：通过API-网关暴露微服务

所有的业务接口通过API网关暴露，是所有客户端接口的唯一入口。微服务之间的通信也通过API网关。\

采用网关方式有如下优势：

目前，API网关方式应该是微服务架构中应用最广泛的设计模式。

消息代理方式

微服务也可以集成在异步的场景下，通过队列和订阅主题，实现消息的发布和订阅。一个微服务可以是消息的发布者，把消息通过异步的方式发送到队列或者订阅主题下。作为消费者的微服务可以从队列或者主题共获取消息。通过消息中间件把服务之间的直接调用解耦。

上图：异步通信方式

通常异步的生产者/消费者模式，通过AMQP, STOMP, MQTT 等异步消息通讯协议规范。

数据的去中心化

单体架构中，不同功能的服务模块都把数据存储在某个中心数据库中。

每个微服务有自己私有的数据库，其它微服务不能直接访问。单体架构，用一个数据库存储所有数据

微服务方式，多个服务之间的设计相互独立，数据也应该相互独立（比如，某个微服务的数据库结构定义方式改变，可能会中断其它服务）。因此，每个微服务都应该有自己的数据库。

每个微服务有自己私有的数据库，其它微服务不能直接访问。每个微服务有自己私有的数据库，其它微服务不能直接访问。

数据去中心话的核心要点：

数据的去中心化，进一步降低了微服务之间的耦合度，不同服务可以采用不同的数据库技术（SQL、NoSQL等）。在复杂的业务场景下，如果包含多个微服务，通常在客户端或者中间层（网关）处理。

微服务架构的优点：

微服务架构的缺点：

微服务的一些想法在实践上是好的，但当整体实现时也会呈现出其复杂性。

关于微服务架构的取舍

将一个单体应用拆分成一组微小的服务组件，每个微小的服务组件运行在自己的进程上，组件之间通过如RESTful API这样的轻量级机制进行交互，这些服务以业务能力为核心，用自动化部署机制独立部署，另外，这些服务可以用不同的语言进行研发，用不同技术来存储数据 。

通过以上的定义描述，我们可以基本确定给出微服务的节特征：

用微服务来进行实践到生产项目中，首先要考虑一些问题。比如下图的微服务业务架构：

在上图图表展示的架构图中，我们假设将业务商户服务A、订单服务B和产品服务C分别拆分为一个微服务应用，单独进行部署。此时，我们面临很多要可能出现的问题要解决，比如：

1、客户端如何访问这些服务？

2、每个服务之间如何进行通信？

3、多个微服务，应如何实现？

4、如果服务出现异常宕机，该如何解决？

以上这些都是问题，需要一个个解决。

在单体应用开发中，所有的服务都是本地的，前端UI界面，移动端APP程序可以直接访问后端服务器程序。

现在按功能拆分成独立的服务，跑在独立的进程中。如下图所示：

此时，后台有N个服务，前台就需要记住管理N个服务，一个服务 下线 、 更新 、 升级 ，前台和移动端APP就要重新部署或者重新发包，这明显不服务我们拆分的理念。尤其是对当下业务需求的飞速发展，业务的变更是非常频繁的。

除了访问管理出现困难以外，N个小服务的调用也是一个不小的网络开销。另外，一般微服务在系统内部，通常是无状态的，而我们的用户在进行业务操作时，往往是跨业务模块进行操作，且需要是有状态的，在此时的这个系统架构中，也无法解决这个问题。传统的用来解决用户登录信息和权限管理通常有一个统一的地方维护管理（OAuth），我们称之为授权管理。

基于以上列出的问题，我们采用一种叫做网关（英文为API Gateway）的技术方案来解决这些问题，网关的作用主要包括：

网关(API Gateway)可以有很多广义的实现办法，可以是一个软硬一体的盒子，也可以是一个简单的MVC框架，甚至是一个Node.js的服务端。他们最重要的作用是为前台（通常是移动应用）提供后台服务的聚合，提供一个统一的服务出口，解除他们之间的耦合，不过API Gateway也有可能成为 单点故障 点或者性能的瓶颈。

最终，添加了网关(API Gateway)的业务架构图变更为如下所示：

所有的微服务都是独立部署，运行在自己的进程容器中，所以微服务与微服务之间的通信就是IPC（Inter Process Communication），翻译为进程间通信。进程间通信的方案已经比较成熟了，现在最常见的有两大类： 同步调用、异步消息调用 。

同步调用

同步调用比较简单，一致性强，但是容易出调用问题，性能体验上也会差些，特别是调用层次多的时候。同步调用的有两种实现方式：分别是 REST 和 RPC

基于REST和RPC的特点，我们通常采用的原则为： 向系统外部暴露采用REST，向系统内部暴露调用采用RPC方式。

异步消息的方式在分布式系统中有特别广泛的应用，他既能减低调用服务之间的耦合，又能成为调用之间的缓冲，确保消息积压不会冲垮被调用方，同时能保证调用方的服务体验，继续干自己该干的活，不至于被后台性能拖慢。需要付出的代价是一致性的减弱，需要接受数据 最终一致性 ，所谓的最终一致性就是只可能不会立刻同步完成，会有延时，但是最终会完成数据同步；还有就是后台服务一般要实现 幂等性 ，因为消息发送由于性能的考虑一般会有重复（保证消息的被收到且仅收到一次对性能是很大的考验）。最后就是必须引入一个独立的 Broker，作为中间代理池。

常见的异步消息调用的框架有：Kafaka、Notify、MessageQueue。

最终，大部分的服务间的调用架构实现如下所示：

在微服务架构中，一般每一个服务都是有多个拷贝，来做负载均衡。一个服务随时可能下线，也可能应对临时访问压力增加新的服务节点。这就出现了新的问题：

这就是服务的发现、识别与管理问题。解决多服务之间的识别，发现的问题一般是通过注册的方式来进行。

具体来说：当服务上线时，服务提供者将自己的服务注册信息注册到某个专门的框架中，并通过心跳维持长链接，实时更新链接信息。服务调用者通过服务管理框架进行寻址，根据特定的算法，找到对应的服务，或者将服务的注册信息缓存到本地，这样提高性能。当服务下线时，服务管理框架会发送服务下线的通知给其他服务。

常见的服务管理框架有：Zookeeper等框架。

如上的问题解决方案有两种具体的实现，分别是： 基于客户端的服务注册与发现 、 基于服务端的服务注册与发现 。

优点是架构简单，扩展灵活，只对服务注册器依赖。缺点是客户端要维护所有调用服务的地址，有技术难度，一般大公司都有成熟的内部框架支持。

优点是所有服务对于前台调用方透明，一般小公司在云服务上部署的应用采用的比较多。

前面提到，单体应用开发中一个很大的风险是，把所有鸡蛋放在一个篮子里，一荣俱荣，一损俱损。而分布式最大的特性就是网络是不可靠的。通过微服务拆分能降低这个风险，不过如果没有特别的保障，结局肯定是噩梦。

因此，当我们的系统是由一系列的服务调用链组成的时候，我们必须确保任一环节出问题都不至于影响整体链路。相应的手段有很多，比如说：

博客原文

至于为什么构建微服务架构的系统设计， 如何构建微服务架构 ，这些问题有很多文章介绍，我自己也有一篇文章介绍相关话题，感兴趣的同学可以翻看。

本文的主题思想是，介绍一下如何在进行微服务改造的初始阶段构建一个完美的目标架构，未来的一切改造动作都向着这个目标靠近，目标架构对我们进行的微服务改造实施起到一个指引的作用。

本文的素材来源是我厂的微服务改造目标架构产生的过程，记录下这个难忘又烧脑的过程，写完之后有可能就是一个流水账。希望微服务改造完成之后再看这篇文章时，发现开始的这些架构设计都落地了，简直就完美啦！！！

本次讨论会的成员来自技术部门的架构组和各个业务能力开发组的主要开发人员，同时也邀请了华为的软件专家现场指导。从参与人员上来看，既有能够总览公司当前现状的架构师，也有开发经验开发的一线开发人员（覆盖多数的业务场景），在每个人的心中都有一个美好的愿景，大家的思想互相碰撞融合，吸收各自的优秀方案，最后形成了一个相对完善的目标架构。

微服务改造是一个漫长的过程，看过一些公司的改造历程，类似规模的系统改造下来需耗时2年左右。因此，为了保证整个微服务改造过程能够有条不紊的进行，必需一个可落地实施的规划。我们的计划如下：

看起来这是一个相对稳妥的计划，经过这样一个微服务的改造过程之后，我们的所有业务系统结构更加合理，互相之间的耦合度降低，明确的业务边界，依赖关系接近一个从上到下的树形结构。

我们是一家第三方支付公司，同学们应该很容易能够想象到一个大致的业务系统范围，以及内部的系统组成架构。我们在网上也能够看到各大第三方支付公司的 系统架构图 ，我们虽然是一家小的支付公司，但是麻雀虽小五脏俱全，应有尽有。只是由于在发展初期都是业务驱动，涌现出了很多系统，很多都是独立建设的，难免系统建设的有些臃肿，很多系统之间存在大量不合理的调用，画出调用关系图来看，显得非常凌乱。并且很多功能重复建设，浪费资源。

目前的这个架构中，有一部分系统是已经经过了重构的，但是这些重构也是相对的独立的进行的，而且没有统一的规范。重构系统的设计完全取决于主要设计人员的知识视野，以及他对业务的理解。在技术选型上也是各有不同，一般选择相对熟悉并且把握比较大框架。每个系统在架构设计上也各有不同，最近建设的几个系统基本都是采用了微服务设计模式，也有采用SOA架构的，也有仅仅是做了前后分离设计的系统，完全是单体结构的项目也有存在。

虽然我们开始对系统建设有一定的规划，但是随着业务的快速野蛮发展，一味地追求快，迁就于业务设计。这样结果就是，不论是重构和改造的系统，还是新建的系统所包含的业务边界不明显，互相之间都存在重复的功能被开发，相对比较零散，建造系统的时候没有一种浑然天成的感觉。

这样的现状引发的问题主要有：

借着微服务架构的设计思想，指导我们进行系统改造。将基础服务从各个业务系统中剥离，形成统一服务能力；各种支撑系统实现高性能、高可用的基础设施逐渐完善；让业务系统能够更加专注于业务逻辑实现。利用领域驱动设计的指导思想，划清各系统的业务边界。经过这样的一番规划和设计之后，应该能够实现系统架构的完美升级。

微服务架构只是在概念上给我们指明了方向，制定了几个重要的设计原则： 服务尽可能小、可独立部署、自动化部署和运维 。这些概念需要在落地实施，由于理解上的差异以及公司的现状各式各样，每个公司实施下来肯定各有不同，都是每个公司自己特色的微服务架构，毕竟架构设计是服务于业务模块的。所以我厂也在讨论符合我们自己公司特色的微服务架构如何实施。

在讨论的过程中有几个争论的话题，在这里总结一下：

其实前面两点说的都是业务边界划分的问题，第一点是分层之后的纵向边界，第二点是横向边界。针对第一点，我们拿充值功能举例：

标准的充值流程是1. 用户银行卡上扣钱（支付接口）；2. 用户内部账户记账。详细的步骤这里没有说明，熟悉支付业务的同学应该了解，支付有多种支付方式，内部账户也有多种（标准充值上账是用户的现金账户）。若是标准的充值，这两步分别走的也是标准流程；若是有特殊的业务，充值是充到佣金账户，这样的特定业务的充值是否要放到充值中心实现？在第三方支付公司待久了会发现，有各种标准产品，也有很多定制化的产品。

我们的结论是：标准化的功能，由底层服务为产品层提供标准能力支撑，具有强烈的个别业务特性化的功能，由产品层直接调用更底层的能力自己封装实现。

就第二点而言，可能有些同学会疑惑，微服务架构的原则不是将服务拆分的尽可能小，实现高内聚、低耦合吗？为什么还有合并呢？我的理解是，这个原则只是适用于完全的业务逻辑设计，在系统建设中也有一些基本业务无关的组件要实现，这些公共服务（如，统一流水号、统一session管理等）应该抽象出来统一实现，被业务系统调用。还有一些在管理方式和用途上都很类似的数据，这些数据可放在一起管理，统一提供服务。

在做业务设计时，微服务的设计原则是避免单点模块，完全分布式、高内聚的服务好处很多，压力分散，互相之间影响较小，但是它们需要各自管理。其实这些好处都是相对的，在一个技术平均水平较高的公司里，内聚的系统相对较好，各种技术都能驾驭的很好。比如，支付订单系统是否要分散到各个产品系统中，还是统一做一个订单中心，这样在需要提高性能的时候，需要做一些异步化处理的时候，都能统一在一处实现性能提高。

在Martin Fowler对微服务的论证中能够看到，微服务架构不仅仅是系统架构，也是人员组织架构的指导。团队要尽可能的全栈，实现高内聚、低耦合。为了减少部门组织交叉协作带来的低效，我们负责的是一个个产品，不是一个交付了就完事的项目，产品的整个生命周期都应该由这个团队维护。这样的话，原来的组织结构在微服务改造的实施下也需要做出调整，这是需要领导的支持力度的。

在支撑系统和基础设施上，没有太多的讨论，这套底层运维服务相对比较标准，而且大部分已经建设完成，目前处于完善和优化的阶段。

总结一下，架构设计本身就是一门博弈权衡的学问，无论是现在流行的微服务架构还是之前的SOA等其它架构，都无例外。最好的架构设计是要适合公司本身的业务发展和规划，以及组织结构，目前的这些可能会阻碍微服务化的进程，但是从实际出发，这些业务和组织能够为微服务化做出多大的改变，也是需要考虑的问题。我们不是在做大刀阔斧的改革，微服务化改造应该是一个水到渠成的、循序渐进的优化过程。

第一次参与这么大范围的架构设计，发现需要权衡的东西太多了，有些设计原则是否需要坚持。

最终我根据大家讨论达成的共识，以及自己对业务的理解，做出了下面的架构设计图：

主流的微服务包括：

1、SpringCloud

Spring Cloud , 来自Spring，具有Spring 社区的强大支撑，还有Netflix强大的后盾与技术输出。Netflix作为一家成功实践微服务架构的互联网公司在几年前就把几乎整个微服务框架栈开源贡献给了社区，这些框架开源的整套服务架构套件是Spring Cloud的核心。

- Eureka:服务注册发现框架；

- Zuul:服务网关；

- Karyon：服务端框架；

- Ribbon：客户端框架；

- Hystrix：服务容错组件；

- Archaius：服务配置组件；

- Servo：Metrics组件；

- Blitz4j：日志组件；

2、Dubbo

Dobbo是一个分布式服务框架，是阿里开放的微服务化治理框架，致力于提高性能和透明化的RPC远程服务调用方案，以及SOA服务治理方案。其核心部分(官网)

- 远程通讯: 提供对多种基于长连接的NIO框架抽象封装，包括多种线程模型，序列化，以及“请求-响应”模式的信息交换方式；

- 集群容错: 提供基于接口方法的透明远程过程调用，包括多协议支持，以及软负载均衡，失败容错，地址路由，动态配置等集群支持；

- 自动发现: 基于注册中心目录服务，使服务消费方能动态的查找服务提供方，使地址透明，使服务提供方可以平滑增加或减少机器。

Dubbo 也是采用全 Spring 配置方式，透明化接入应用，对应用没有任何 API 侵入，只需用 Spring 加载 Dubbo的配置即可，Dubbo 基于 Spring 的 Schema 扩展进行加载。当然也支持官方不推荐的 API 调用方式。

3、lstio

lstio 作为用于微服务聚合层管理的新锐项目，是Google、IBM、Lyft（海外共享出行公司、Uber劲敌），首个共同联合开源的项目，提供了统一的连接，安全，管理和监控微服务的方案。

目前首个测试版是针对Kubernetes环境的，社区宣称在未来几个月内会为虚拟机和Cloud Foundry 等其他环境增加支持。lstio将 流量管理添加到微服务中，并为增值功能（如安全性、监控、路由、连接管理和策略）创造了基础。

- HTTP、gRPC 和 TCP 网络流量自动负载均衡；

- 提供了丰富的路由规则，实现细颗粒度的网络流量行为控制；

- 流量加密、服务件认证，以及强身份声明；

- 全范围（Fleet-wide）的策略执行；

- 深度遥测和报告。

微服务架构是一种软件设计方法，它将应用程序分解为通过定义明确的 API 进行通信的小型独立服务。由于每个服务都可以由自治团队开发和维护，因此它是最具可扩展性的软件开发方法。

微服务设计与单体开发截然相反。单体是一个实现所有功能的大型代码库（“厨房水槽”）。一切都在一个地方，没有一个组件可以孤立地工作。这意味着应用程序必须作为一个整体进行测试。

从好的方面来说，单体应用很容易启动和运行。由于单体架构不同部分之间的关系是透明的，因此进行广泛的更改很容易。

然而，随着公司的发展和团队规模的扩大，单体开发变得更加困难。很快，系统就不能再装在一个头上了——移动部件太多了，所以事情变慢了。

微服务使公司能够保持团队规模小而敏捷。这个想法是将应用程序分解为可以由紧密结合的团队自主开发和部署的小型服务。

公司采用微服务的主要原因是 可扩展性 。服务可以独立开发和发布，无需在组织内安排大规模的协调工作。

拥有分布式系统的一个好处是能够避免单个故障点。您可以使用支持云的技术在不同的可用区部署微服务，确保您的用户永远不会遇到中断。

使用微服务，开发团队可以保持小而有凝聚力。小组越小，沟通开销越少，协作越好。

亚马逊通过他们的两个披萨团队将团队规模发挥到了极致。这意味着一个团队应该足够小，可以吃两个比萨饼。

对于单体应用，语言和技术堆栈选项几乎从一开始就设置好了。新开发人员必须适应过去做出的任何选择。

相比之下，每个微服务都可以使用最适合解决手头任务的技术堆栈。因此，团队可以为工作和他们的技能选择最佳工具。例如，您可以使用 Go 或 C 实现高性能服务，并使用 Erlang 或 Elixir 实现高容错微服务。

随着小团队迭代速度更快，开发和测试周期更短。而且，由于他们还可以随时部署更新，微服务的部署频率比单体应用要高得多。

有这么多好处，似乎为新项目选择微服务是一件轻而易举的事。但是微服务设计也带来了一些严峻的挑战：

你怎么知道你是否在做正确的微服务设计？如果您的团队可以在不与其他团队协调的情况下随时部署更新，并且如果其他团队可以类似地部署他们的更改而不影响您，那么恭喜您，您掌握了微服务的诀窍。

失去微服务提供的好处的最可靠方法是不遵守解耦规则。如果我们仔细观察，我们会发现微服务都是关于自治的。当这种自主权丧失时，团队必须在开发和部署期间进行协调。需要完美的集成测试来确保所有微服务协同工作。

即便如此，详尽的测试也无法捕捉到所有问题。当出现问题时，耦合服务是很难调试的。当问题被发现时，修复它并不总是像回滚更新那么容易。

紧密的服务依赖关系创建团队依赖关系。

这些都是分布式计算带来的问题。如果您曾经使用过云服务，您就会知道将服务或机器分布在多个地理位置与在同一站点上运行所有内容不同。分布式系统具有更高的延迟，可能存在同步问题，并且更难管理和调试。这种高度耦合的服务架构实际上是一个 分布式单体 架构，具有两全其美的优点，也没有微服务应该带来的任何好处。

如果您在不与其他团队协调或依赖其他微服务的特定版本来部署您的微服务的情况下无法进行部署，那么您只是在分发您的单体应用。

微服务并没有 取代 单体。两者都是有效的方法。事实上，当团队仍在 探索 他们正在构建的东西时，单体应用可能是最佳选择。

单体应用就像是项目的自然起点，因为它易于开发、快速迭代、快速部署、易于调试，并且更能容忍设计错误。在可扩展性成为问题之前，单体应用可以让您走得更远。

微服务是我们开发软件的最具可扩展性的方式。但它们不是免费的午餐。如果您不小心，它们会带来一些很容易发生冲突的风险。当团队正在成长并且您需要保持快速和敏捷时，它们非常有用。但是你需要对要解决的问题有一个很好的理解，否则你最终会得到一个分布式的单体。

基于微服务架构和Docker容器技术的PaaS云平台建设目标是给我们的开发人员提供一套服务快速开发、部署、运维管理、持续开发持续集成的流程。平台提供基础设施、中间件、数据服务、云服务器等资源，开发人员只需要开发业务代码并提交到平台代码库，做一些必要的配置，系统会自动构建、部署，实现应用的敏捷开发、快速迭代。在系统架构上，PaaS云平台主要分为微服务架构、Docker容器技术、DveOps三部分，这篇文章重点介绍微服务架构的实施。

如果想学习Java工程化、高性能及分布式、深入浅出。微服务、Spring，MyBatis，Netty源码分析的朋友可以加我的Java高级交流：854630135，群里有阿里大牛直播讲解技术，以及Java大型互联网技术的视频免费分享给大家。

实施微服务需要投入大量的技术力量来开发基础设施，这对很多公司来说显然是不现实的，别担心，业界已经有非常优秀的开源框架供我们参考使用。目前业界比较成熟的微服务框架有Netflix、Spring Cloud和阿里的Dubbo等。Spring Cloud是基于Spring Boot的一整套实现微服务的框架，它提供了开发微服务所需的组件，跟Spring Boot一起使用的话开发微服务架构的云服务会变的很方便。Spring Cloud包含很多子框架，其中Spring Cloud Netflix是其中的一套框架，在我们的微服务架构设计中，就使用了很多Spring Cloud Netflix框架的组件。Spring Cloud Netflix项目的时间还不长，相关的文档资料很少，博主当时研究这套框架啃了很多英文文档，简直痛苦不堪。对于刚开始接触这套框架的同学，要搭建一套微服务应用架构，可能会不知道如何下手，接下来介绍我们的微服务架构搭建过程以及 需要那些 框架或组件来支持微服务架构。

为了直接明了的展示微服务架构的组成及原理，画了一张系统架构图，如下：

从上图可以看出，微服务访问大致路径为：外部请求 → 负载均衡 → 服务网关（GateWay）→ 微服务 → 数据服务/消息服务。服务网关和微服务都会用到服务注册和发现来调用依赖的其他服务，各服务集群都能通过配置中心服务来获得配置信息。

服务网关（GateWay）

网关是外界系统（如：客户端浏览器、移动设备等）和企业内部系统之间的一道门，所有的客户端请求通过网关访问后台服务。为了应对高并发访问，服务网关以集群形式部署，这就意味着需要做负载均衡，我们采用了亚马逊EC2作为虚拟云服务器，采用ELB(Elastic Load Balancing)做负载均衡。EC2具有自动配置容量功能，当用户流量达到尖峰，EC2可以自动增加更多的容量以维持虚拟主机的性能。ELB弹性负载均衡，在多个实例间自动分配应用的传入流量。为了保证安全性，客户端请求需要使用https加密保护，这就需要我们进行SSL卸载,使用Nginx对加密请求进行卸载处理。外部请求经过ELB负载均衡后路由到GateWay集群中的某个GateWay服务，由GateWay服务转发到微服务。服务网关作为内部系统的边界，它有以下基本能力：

1、动态路由：动态的将请求路由到所需要的后端服务集群。虽然内部是复杂的分布式微服务网状结构，但是外部系统从网关看就像是一个整体服务，网关屏蔽了后端服务的复杂性。

2、限流和容错：为每种类型的请求分配容量，当请求数量超过阀值时抛掉外部请求，限制流量，保护后台服务不被大流量冲垮；党内部服务出现故障时直接在边界创建一些响应，集中做容错处理，而不是将请求转发到内部集群，保证用户良好的体验。

3、身份认证和安全性控制：对每个外部请求进行用户认证，拒绝没有通过认证的请求，还能通过访问模式分析，实现反爬虫功能。

4、监控：网关可以收集有意义的数据和统计，为后台服务优化提供数据支持。

5、访问日志：网关可以收集访问日志信息，比如访问的是哪个服务？处理过程（出现什么异常）和结果？花费多少时间？通过分析日志内容，对后台系统做进一步优化。

我们采用Spring Cloud Netflix框架的开源组件Zuul来实现网关服务。Zuul使用一系列不同类型的过滤器（Filter），通过重写过滤器，使我们能够灵活的实现网关（GateWay）的各种功能。

如果想学习Java工程化、高性能及分布式、深入浅出。微服务、Spring，MyBatis，Netty源码分析的朋友可以加我的Java高级交流：854630135，群里有阿里大牛直播讲解技术，以及Java大型互联网技术的视频免费分享给大家。

服务注册与发现

由于微服务架构是由一系列职责单一的细粒度服务构成的网状结构，服务之间通过轻量机制进行通信，这就引入了服务注册与发现的问题，服务的提供方要注册报告服务地址，服务调用放要能发现目标服务。我们的微服务架构中使用了Eureka组件来实现服务的注册与发现。所有的微服务（通过配置Eureka服务信息）到Eureka服务器中进行注册，并定时发送心跳进行 健康 检查，Eureka默认配置是30秒发送一次心跳，表明服务仍然处于存活状态，发送心跳的时间间隔可以通过Eureka的配置参数自行配置，Eureka服务器在接收到服务实例的最后一次心跳后，需要等待90秒（默认配置90秒，可以通过配置参数进行修改）后，才认定服务已经死亡（即连续3次没有接收到心跳），在Eureka自我保护模式关闭的情况下会清除该服务的注册信息。所谓的自我保护模式是指，出现网络分区、Eureka在短时间内丢失过多的服务时，会进入自我保护模式，即一个服务长时间没有发送心跳，Eureka也不会将其删除。自我保护模式默认为开启，可以通过配置参数将其设置为关闭状态。

Eureka服务以集群的方式部署（在博主的另一篇文章中详细介绍了Eureka集群的部署方式），集群内的所有Eureka节点会定时自动同步微服务的注册信息，这样就能保证所有的Eureka服务注册信息保持一致。那么在Eureka集群里，Eureka节点是如何发现其他节点的呢？我们通过DNS服务器来建立所有Eureka节点的关联，在部署Eureka集群之外还需要搭建DNS服务器。

当网关服务转发外部请求或者是后台微服务之间相互调用时，会去Eureka服务器上查找目标服务的注册信息，发现目标服务并进行调用，这样就形成了服务注册与发现的整个流程。Eureka的配置参数数量很多，多达上百个，博主会在另外的文章里详细说明。

微服务部署

微服务是一系列职责单一、细粒度的服务，是将我们的业务进行拆分为独立的服务单元，伸缩性好，耦合度低，不同的微服务可以用不同的语言开发，每一个服务处理的单一的业务。微服务可以划分为前端服务（也叫边缘服务）和后端服务（也叫中间服务），前端服务是对后端服务做必要的聚合和剪裁后暴露给外部不同的设备（PC、Phone等），所有的服务启动时都会到Eureka服务器进行注册，服务之间会有错综复杂的依赖关系。当网关服务转发外部请求调用前端服务时，通过查询服务注册表就可以发现目标服务进行调用，前端服务调用后端服务时也是同样的道理，一次请求可能涉及到多个服务之间的相互调用。由于每个微服务都是以集群的形式部署，服务之间相互调用的时候需要做负载均衡，因此每个服务中都有一个LB组件用来实现负载均衡。

微服务以镜像的形式，运行在Docker容器中。Docker容器技术让我们的服务部署变得简单、高效。传统的部署方式，需要在每台服务器上安装运行环境，如果我们的服务器数量庞大，在每台服务器上安装运行环境将是一项无比繁重的工作，一旦运行环境发生改变，就不得不重新安装，这简直是灾难性的。而使用Docker容器技术，我们只需要将所需的基础镜像（jdk等）和微服务生成一个新的镜像，将这个最终的镜像部署在Docker容器中运行，这种方式简单、高效，能够快速部署服务。每个Docker容器中可以运行多个微服务，Docker容器以集群的方式部署，使用Docker Swarm对这些容器进行管理。我们创建一个镜像仓库用来存放所有的基础镜像以及生成的最终交付镜像，在镜像仓库中对所有镜像进行管理。

服务容错

微服务之间存在错综复杂的依赖关系，一次请求可能会依赖多个后端服务，在实际生产中这些服务可能会产生故障或者延迟，在一个高流量的系统中，一旦某个服务产生延迟，可能会在短时间内耗尽系统资源，将整个系统拖垮，因此一个服务如果不能对其故障进行隔离和容错，这本身就是灾难性的。我们的微服务架构中使用了Hystrix组件来进行容错处理。Hystrix是Netflix的一款开源组件，它通过熔断模式、隔离模式、回退（fallback）和限流等机制对服务进行弹性容错保护，保证系统的稳定性。

1、熔断模式：熔断模式原理类似于电路熔断器，当电路发生短路时，熔断器熔断，保护电路避免遭受灾难性损失。当服务异常或者大量延时，满足熔断条件时服务调用方会主动启动熔断，执行fallback逻辑直接返回，不会继续调用服务进一步拖垮系统。熔断器默认配置服务调用错误率阀值为50%，超过阀值将自动启动熔断模式。服务隔离一段时间以后，熔断器会进入半熔断状态，即允许少量请求进行尝试，如果仍然调用失败，则回到熔断状态，如果调用成功，则关闭熔断模式。

2、隔离模式：Hystrix默认采用线程隔离，不同的服务使用不同的线程池，彼此之间不受影响，当一个服务出现故障耗尽它的线程池资源，其他的服务正常运行不受影响，达到隔离的效果。例如我们通过andThreadPoolKey配置某个服务使用命名为TestThreadPool的线程池，实现与其他命名的线程池隔离。

3、回退（fallback）：fallback机制其实是一种服务故障时的容错方式，原理类似Java中的异常处理。只需要继承HystixCommand并重写getFallBack()方法，在此方法中编写处理逻辑，比如可以直接抛异常（快速失败），可以返回空值或缺省值，也可以返回备份数据等。当服务调用出现异常时，会转向执行getFallBack()。有以下几种情况会触发fallback：

1）程序抛出非HystrixBadRequestExcepption异常，当抛出HystrixBadRequestExcepption异常时，调用程序可以捕获异常，没有触发fallback，当抛出其他异常时，会触发fallback；

2）程序运行超时；

3）熔断启动；

4）线程池已满。

4、限流： 限流是指对服务的并发访问量进行限制，设置单位时间内的并发数，超出限制的请求拒绝并fallback，防止后台服务被冲垮。

Hystix使用命令模式HystrixCommand包装依赖调用逻辑，这样相关的调用就自动处于Hystrix的弹性容错保护之下。调用程序需要继承HystrixCommand并将调用逻辑写在run()中，使用execute()（同步阻塞）或queue()（异步非阻塞）来触发执行run()。

动态配置中心

微服务有很多依赖配置，某些配置参数在服务运行期间可能还要动态修改，比如：根据访问流量动态调整熔断阀值。传统的实现信息配置的方法，比如放在xml、yml等配置文件中，和应用一起打包，每次修改都要重新提交代码、打包构建、生成新的镜像、重新启动服务，效率太低，这样显然是不合理的，因此我们需要搭建一个动态配置中心服务支持微服务动态配置。我们使用Spring Cloud的configserver服务帮我们实现动态配置中心的搭建。我们开发的微服务代码都存放在git服务器私有仓库里面，所有需要动态配置的配置文件存放在git服务器下的configserver（配置中心，也是一个微服务）服务中，部署到Docker容器中的微服务从git服务器动态读取配置文件的信息。当本地git仓库修改代码后push到git服务器仓库，git服务端hooks(post-receive，在服务端完成代码更新后会自动调用)自动检测是否有配置文件更新，如果有，git服务端通过消息队列给配置中心（configserver，一个部署在容器中的微服务）发消息，通知配置中心刷新对应的配置文件。这样微服务就能获取到最新的配置文件信息，实现动态配置。

以上这些框架或组件是支撑实施微服务架构的核心，在实际生产中，我们还会用到很多其他的组件，比如日志服务组件、消息服务组件等等，根据业务需要自行选择使用。在我们的微服务架构实施案例中，参考使用了很多Spring Cloud Netflix框架的开源组件，主要包括Zuul（服务网关）、Eureka（服务注册与发现）、Hystrix（服务容错）、Ribbon（客户端负载均衡）等。这些优秀的开源组件，为我们实施微服务架构提供了捷径。

如果想学习Java工程化、高性能及分布式、深入浅出。微服务、Spring，MyBatis，Netty源码分析的朋友可以加我的Java高级交流：854630135，群里有阿里大牛直播讲解技术，以及Java大型互联网技术的视频免费分享给大家。