Nginx

Nginx:早期由俄国团队开发的可以处理动静分离,处理负载均衡的HTTP反向代理服务器

**反向代理:**反向代理服务器位于用户与目标服务器之间，但是对于用户而言，反向代理服务器就相当于目标服务器，即用户直接访问反向代理服务器就可以获得目标服务器的资源。同时，用户不需要知道目标服务器的地址，也无须在用户端作任何设定。

Nginx作用:动静分离,动态资源访问tomcat,静态资源.html,.js,.css等可以存储在nginx中.

负载均衡:通过nginx决定访问的后端服务器逻辑.

• nginx的文件目录

conf:保存nginx配置文件的目录

logs: access.log记录访问nginx的请求,error.log记录启动运行各种错误的日志

如果没有发现nginx进程(nginx.exe),打开logs中error.log，会有错误提示，具体到第几行

停止Nginx: 可在任务管理器中停止进程。

重启Nginx时,要先停止，查看进程是否消失,确定消失之后再运行启动,否则会出现多个nginx的进程相互冲突.

什么是负载均衡

负载:服务器承受的访问量压力;

均衡: 物理均衡(平均分配访问压力),逻辑均衡(根据服务器的性能决定访问的占比,性能越低占比越低,反之亦然);

轮询的方式默认权重为1，三个服务器轮流上，刷新换下一个。如果设置了权重，权重高的出现次数多

Nginx实现动静分离

动静分离:主要指的是前后端分离,前端的静态页面文件,交给独立运行服务器处理,后端的tomcat只处理请求的动态数据;

nginx作为http服务器,不能处理jsp,但是可以处理所有静态文件访问;可以将所有静态文件存放到nginx保存,提供访问的响应,如果有动态的路径需要服务器处理,再转发交给后端服务器tomcat。

分布式系统

什么是分布式

《分布式系统原理与范型》定义：“分布式系统是若干独立计算机的集合，这些计算机对于用户来说就像单个相关系统”。

分布式系统（distributed system）是建立在网络之上的软件系统。

分布式与集群的关系

集群指的是将几台服务器集中在一起，实现同一业务。

**分布式中的每一个节点，都可以做集群,**而集群并不一定就是分布式的。

软件架构演变

单体系统

当网站流量很小时，只需一个应用，将所有功能都部署在一个应用系统，以减少部署节点和成本。

此时，用于简化增删改查工作量的数**据访问框架(ORM)**是关键技术。

水平拓展

随着用户人数的增加，一套机器已经满足不了系统的负载，此时可以考虑系统的水平扩展，通过增加服务器数量来实现。

只需把系统打包好，拷贝到不同服务器，然后经过负载均衡器（Nginx、Apache）就可以轻松实现应用的水平扩展。

?弄多几个tomcat

垂直架构

当访问量逐渐增大，单一应用通过增加机器带来的加速度越来越小，可将系统拆成几个独立的系统，以提升效率。

拆分成前端和后端系统

分布式服务架构RPC

当垂直应用越来越多，应用之间交互不可避免，RPC远程过程调用技术实现不同系统之间的调用，解决了分布式系统各个服务之间的交互问题。

SOA

SOA将单体系统按照功能细分为不同的子系统，然后再由各个子系统依赖服务中间件（企业服务总线Enterprise Service Bus，简称ESB）来调用所需服务。

微服务

微服务架构其实和SOA架构类似，微服务是在SOA上做的升华。微服务架构重点强调的一个是”业务需要彻底的组件化和服务化”，原有的单个业务系统会拆分为多个可以独立开发、设计、运行的小应用。这样的小应用和其他各个应用之间，相互去协作通信，来完成一个交互和集成，这就是微服务架构。

组件化：组件表示一个可以独立更换和升级的单元，就以PC机为例，PC中的 CPU、内存、显卡、硬盘一样，独立更换升级而不影响其他单元。如果我们把PC作为组件以服务的方式构建，那么这台PC的CPU、内存、硬盘都是以组件方式提供服务，PC需要调用CPU做计算处理时，只需要知道CPU这个组件的地址即可。

RPC是什么

RPC【Remote Procedure Call】是指远程过程调用，是一种进程间通信方式，是一种技术的思想，而不是规范。

它允许程序调用另一个地址空间（通常是共享网络的另一台机器上）的过程或函数，而不用程序员显式编码这个远程调用的细节。

即程序员无论是调用本地的还是远程的函数，本质上编写的调用代码基本相同。

RPC解决分布式系统的各个服务之间互相交互问题

例如通过socket调用别人的

服务之间的交互可以用两种方式

• RPC

  • Netty（Socket）+自定义序列化

• RestAPI (严格来说，SpringCloud是使用Rest方式进行服务之间交互的，不属于RPC)

  • HTTP+JSON

分布式思想与基本概念

高并发

1) 通过设计 保证系统可以 并行处理 很多请求。应对大量流量与请求

Tomcat最多支持并发数？

Tomcat 默认配置的最大请求数是 150，也可以将其改大,具体能承载多少并发，需要看硬件的配置,CPU 越多性能越高，分配给 JVM 的内存越多性能也就越高，但也会加重 GC 的负担。

当某个应用拥有 250 个以上并发的时候，应考虑应用服务器的集群。

l 操作系统对于进程中的线程数有一定的限制：

Windows 每个进程中的线程数不允许超过 2000

Linux 每个进程中的线程数不允许超过 1000

另外，在 Java 中每开启一个线程需要耗用 1MB 的 JVM 内存空间用于作为线程栈之用。

Tomcat 默认的 HTTP 实现是采用阻塞式的 Socket 通信，每个请求都需要创建一个线程处理。这种模式下的并发量受到线程数的限制，但对于 Tomcat 来说几乎没有 BUG 存在了。

Tomcat 还可以配置 NIO (非阻塞)方式的 Socket 通信，在性能上高于阻塞式的，每个请求也不需要创建一个线程进行处理，并发能力比前者高。但没有阻塞式的成熟。

这个并发能力还与应用的逻辑密切相关，如果逻辑很复杂需要大量的计算，那并发能力必会下降。如果每个请求都含有很多的数据库操作，那么对于数据库的性能也是非常高的。

对于单台数据库服务器来说，允许客户端的连接数量是有限制的。

并发能力问题涉及整个系统架构和业务逻辑。

系统环境不同，Tomcat版本不同、JDK版本不同、以及修改的设定参数不同，并发量的差异还是满大的。

• maxThreads=”1000” 最大并发数 ，默认值为200
• minSpareThreads=”100”//初始化时创建的线程数，默认值为10
• acceptCount=”700”// 指定当所有可以使用的处理请求的线程数都被使用时，可以放到处理队列中的请求数，超过这个数的请求将不予处理，默认值为100

https://tomcat.apache.org/tomcat-8.0-doc/config/http.html

2) 高并发衡量指标

• 响应时间(RT)

  • 请求做出响应的时间，即一个http请求返回所用的时间

• 吞吐量

  • 系统在单位时间内处理请求的数量 （Nginx)

• QPS(Query/Request Per Second)、 TPS（Transaction Per Second）

• 每秒查询（请求）数、每秒事务数

  • 专业的测试工具：Load Runner
  • Apache ab
  • Apache JMeter
  • 并发用户数

• 承载的正常使用系统功能的用户的数量

高可用

服务集群部署

数据库主从+双机热备

• 主-备方式（Active-Standby方式）

主-备方式即指的是一台服务器处于某种业务的激活状态（即Active状态），另一台服务器处于该业务的备用状态（即Standby状态)。

主的down了，备用被激活为active状态

• 双主机方式（Active-Active方式）

双主机方式即指两种不同业务分别在两台服务器上互为主备状态（即Active-Standby和Standby-Active状态）

注册中心

保存某个服务所在地址等信息，方便调用者实时获取其他服务信息

负载均衡

动态将请求派发给比较闲的服务器

策略：

• 轮询(Round Robin)
• 加权轮询(Weighted Round Robin)
• 随机Random
• 哈希Hash
• 最小连接数LC
• 最短响应时间LRT

服务雪崩

服务之间复杂调用，一个服务不可用，导致整个系统受影响不可用

熔断

某个服务频繁超时，直接将其短路，快速返回mock（模拟/虚拟）值

限流

限制某个服务每秒的调用本服务的频率

API网关

API网关要做很多工作，它作为一个系统的后端总入口，承载着所有服务的组合路由转换等工作，除此之外，我们一般也会把安全，限流，缓存，日志，监控，重试，熔断等放到 API 网关来做

服务跟踪

追踪服务的调用链，记录整个系统执行请求过程。如：请求响应时间，判断链中的哪些服务属于慢服务（可能存在问题，需要改善）。

弹性云

Elastic Compute Service（ECS）弹性计算服务 阿里云 腾讯云

动态扩容，压榨服务器闲时能力 (根据服务器情况去扩展或减少服务器）

例如：双11,618，高峰时多配置些服务器，平时减少多余的服务器配置（用于其他服务应用），避免资源浪费

Spring Cloud

1.1. 微服务架构

常见的微服务框架有Spring Cloud，Dubbo(2012停更，2017年恢复更，18年2月Dubbo开源送给Appache组织)

解决SOA(面向服务)各个子系统之间的相互调用和管理。

SpringCloud Alibaba

Spring Cloud简介

Spring Cloud 架构

物联网（ IoT ，Internet of things ）即“万物相连的互联网”。

APIGateway作为一个系统的后端总入口，承载着所有服务的组合路由转换等工作，一般也会把安全，限流，缓存，日志，监控，重试，熔断等放到 API 网关来做

Breaker dashboard 断路器仪表板，是熔断监控页面

Config deshboard 配置仪表版，在Spring Cloud Alibaba中，已经把Config deshboard 和ServiceRegistry整合在一起。

Distributed Tracing分布式跟踪 ，是一个关键的基础功能,通过分布式追踪技术,我们可以深入分析一次请求调用所执行的路径、性能消耗,帮助定位性能瓶颈点。

Message Brokers 消息中间件。Rabbit MQ Kafka

SpringCloud网站

https://cloud.spring.io/spring-cloud-static/Hoxton.SR5/reference/htmlsingle/

英文困难的同学，也不耽误学习的

https://www.bookstack.cn/read/spring-cloud-docs/docs-index.md

组件概述