对于一个大型网站,主要有以下几个特征:
我们常见的大型网站,如百度、淘宝、京东等,都是一个分布式系统。这么复杂的系统也不是一天建成的,每个系统都经历了漫长的演变过程。
在大型网站中,其最核心的功能就是 计算 和 存储 。因此系统演变过程也主要围绕这两点进行。
在网站刚刚起步时,数据量、访问量都非常小,通常情况下,只需一台应用服务器就可以了。
起步时,我们把所有资源全部打包到部署文件中(如 XXX.war),其中包括
然后,将打好的发布包放到 Web 容器中,比如 Tomcat,最后启动容器,让其直接对外提供服务。
该部署策略有以下几个特征:
这时,有人会问,Java 应用程序直接对外,会不会存在一些安全或性能方面的问题呢?
是的,Tomcat 这种 Web 容器对链接的保持能力比较弱,当存在大量链接时,性能下降很快。同时,Tomcat 并不擅长静态资源的处理,对此,我们可以引入 Nginx,以缓解 Tomcat 的压力。
我们在单机部署基础上,添加 Nginx,也就有了进阶方案。
该方案存在以下特征:
此时,架构显得清晰很多,但我们发现一个问题,就是系统对静态资源和动态资源的处理是完全不同的。
对于静态资源的处理,相对简单,只是简单的文件读写。而,动态请求(也就是我们的业务承载者)会随着业务的发展越来越复杂。
由于 静态请求 与 动态请求 采用不同的处理策略,我们可以将其进行分离。
该部署方案存在以下特性:
静态资源服务器功能单一,部署繁琐,有没有一种更好的策略呢?
答案就是云服务,比如阿里云的 OSS 提供静态资源存储服务。CDN 提供访问加速服务,两者结合使用,就得到了一个海量容量并且性能超强的静态资源服务器(集群)。
结合 OSS 和 CDN,静态请求不会成为系统的瓶颈,因此,接下来只对动态请求进行讨论。
随着系统访问量的增加,动态请求出现了明显的瓶颈。
由于所有的动态请求全部由一台应用服务器进行处理,当访问量上升时,这台服务就成了系统的瓶颈。此时,我们需要将系统中的多个组件部署到不同的服务器上。
新部署有以下特征:
应用集群化,会面临很多挑战,主要的焦点是如何有效的分配用户请求。
首先要解决的问题便是,用户如何将请求发送到不同的 Nginx 中,最常见的方式便是 DNS 轮询。
大多域名注册商都支持多条 A 记录的解析,其实这就是 DNS 轮询,DNS 服务器将解析请求按照 A 记录的顺序,逐一分配到不同的 IP 上,这样就完成了简单的负载均衡。
这里的负载均衡器主要指的是 Nginx 的反向代理功能。当用户请求发送到 Nginx 后,Nginx 需要决定将请求转发到哪台应用服务器上。
反向代理(Reverse Proxy)是指以代理服务器来接受 internet 上的连接请求,然后将请求转发给内部网络上的服务器,并将从服务器上得到的结果返回给 internet 上请求连接的客户端,此时代理服务器对外就表现为一个反向代理服务器。
Nginx 对于后台服务器配置比较灵活,可以同时配置多台服务器,并根据负载策略将请求分发给后台服务器。
在单机时代,我们的请求只会发送到同一台机器上,不存在会话问题。当将应用集群部署时,用户的多次请求会发送到不同的应用服务器上。此时,如何对会话进行同步便是棘手问题。
这种方案主要由 Nginx 处理,让同样 session 请求每次都发送到同一台服务器进行处理。
Nginx 会将相同用户的请求发送到同一台应用服务器中。
这是最简单的策略,但存在一定的问题:
会话问题的根源在于 Session 由多个应用维护,我们可以使用某种机制,在多台 Web 服务间进行 Session 的数据同步。
由 Session 同步器在各个 Java 应用程序间完成 Session 的同步,最终使每个服务器中都存在所有用户的 Session 数据。
这个方案的问题:
我们可以将 Session 从 Web 服务中抽取出来,并对其进行集中存储。
将 Session 信息保存到 Session 存储集群中,Java 应用程序不在负责 Session 的存储。
这个方案的问题:
还可以将 session 数据放在 cookie 中,然后在 Web 服务器上从 cookie 中生成对应的 Session 数据。
将 Session 数据编码到 Cookie 中,每次 Java 应用程序使用 Session 时,都从 Cookie 中重建 Session。
该方案的问题:
随着系统访问量的持续增加,面对大量的数据读取请求,数据库有些不堪重负。
此时,我们需要对数据库进行优化。
通常情况下,数据库的读会帅选成为系统的瓶颈。对此,我们可以使用数据库主从机制,通过添加多个从库来减缓读压力。
与之前部署相比,该架构只是为数据库增加了若干个从库:
由于主库与从库间的数据同步需要时间,会出现数据不一致的情况,这块是业务上需要慎重考虑的一点。
随着业务越来越复杂,对功能和性能的要求也越来越高,最常见的便是数据库 like 语句性能已经无法满足需求;对于某些热点数据的访问,其性能也下降很快。
此时,我们需要引入其他组件来有针对性的解决问题。
针对数据库的 like 语句,通常情况下,是通过引入搜索引擎来解决;而热点数据的访问加速,是通过引入缓存服务来解决。
该架构的特征如下:
在对数据查询进行优化后,慢慢的系统的写性能成为了瓶颈。
此时,需要对数据的写性能进行扩展。
随着数据量的增长,写请求量的增加,数据库的写入逐渐成为了瓶颈。常规的写性能优化便是对数据库进行分库分表。
将不同的业务数据放到不同的数据库实例中。
把同一个表中的数据拆分到多的数据库中。
随着研发团队的规模越来越多,大家同时在一个项目中进行开发,导致频繁的冲突和相互影响。
此时,会将整个应用程序根据功能模块进行拆分,从而形成多个子网站或子频道。
面对一个巨无霸式的应用,就像面对一团毛线团,总有一种无法下手的感觉。对此,可以将其进行拆分,将其拆分为多个应用,每个应用独立开发、独立部署、独立维护。
该部署方案更加灵活,大大降低维护成本。
问题慢慢展现出来,系统间公共部分没有统一维护点,同样的功能、同样的代码分布在各个系统中。
当然,我们可以通过发布 jar 包的方式,共享功能代码;但当 jar 升级时,就需要所有的子系统同步升级,运维开销巨大。此时,我们需要引入服务化架构。
我们可以将通用功能封装成一个服务,独立开发、独立部署、独立维护。
在该方案中,我们将业务逻辑进行了进一步拆分:
服务化解决了系统之间的直接调用问题,也就是常说的 RPC,整个系统的协调点全部由应用服务完成。这种架构适用于多种场景,但在一些需要异步处理的极端场景就显得有心无力了。
此时,我们需要引入消息中间件。
服务化解决了直接调用问题,对于异步调用,最常见的便是消息中间件。
相比之前的架构,变化很小,只是在各个业务服务间添加了另外的一种调用方式。
冰冻三尺非一日之寒,一个大型系统的构建也不是一朝一夕的事情。我们需要根据业务情况、数据量情况、请求量情况对系统进行合理规划。
切记,架构不是越复杂越好,而是“ 适合自己的便是最好的 ”。