转载

微服务架构中缓存模式

在微服务世界中，每个人都使用缓存，缓存无处不在。缓存可以提高性能，减少后端负载，或者减少down机时间。有许多方法可以配置系统中的缓存，缓冲应该被放在系统的哪个层上?根据以往成功经验，系统中您应该只在一个地方使用缓存。不应该同时在多个层中组合模式和缓存，例如同样的内容在HTTP层和应用程序级别同时做缓存。这种方法可能导致更多的缓存失效问题，并使您的系统更容易出错，且难于调试。

微服务架构中缓存模式

如果您在一个特定的层上使用缓存，那么您可以选择使用哪种模式。最保守的方法是老式的客户机-服务器(或云)模式，这个问题的正确答案不止一个。您可以将缓存放在每个服务中，或者作为一个完全独立的缓存服务器。您还可以将它放在每个服务的前面，甚至作为属于服务的sidecar容器等等。本文下面，让我们总结一下您在微服务世界多种方式的缓存体系结构。

嵌入式缓存

最简单的缓存模式是嵌入式缓存。

嵌入式缓存

在上图中，流程如下:

1.请求进入负载平衡器。

2.负载均衡器将请求转发给应用程序服务之一。

3.应用程序服务接收请求，并检查是否相同的请求已经执行(并存储在缓存)◦

如果是，然后返回缓存数据。反之，则执行业务操作，并把结果数据存储在缓存中，并返回结果数据。

业务操作可以是任何值得缓存的内容。例如，执行计算、查询数据库或调用外部web服务等。

这种缓存逻辑非常简单，我们可以使用内置的数据结构或一些缓存库(如Guava cache)为其快速编写代码。我们还可以将缓存放在应用程序层中，并使用大多数web框架提供的缓存功能。例如，对于Spring，添加缓存层只需要向方法添加@Cacheable注释。

嵌入式缓存方法有一个严重的问题。假设有一个向我们的系统发出的请求，它第一次被转发到顶部的应用程序服务A。然后，同样的请求出现，但这一次负载平衡器将其转发给底部的应用程序服务B。这种情况下，我们收到了两次相同的请求，但是必须执行两次业务逻辑，因为图中的两个缓存是分别完成的。为了处理这样的问题，可以使用嵌入分布式缓存。

嵌入分布式缓存

嵌入式分布式缓存仍然是嵌入式缓存的模式;但是，这一次我们将使用Hazelcast(Hazelcast 是由Hazelcast公司开发和维护的开源产品，可以为基于jvm环境运行的各种应用提供分布式集群和分布式缓存服务)而不是默认的非分布式缓存库。从现在开始，所有缓存(嵌入到所有应用程序中)形成一个分布式缓存集群。因为Hazelcast是用Java编写的，所以您可以将它与Spring一起使用;

您需要做的就是添加以下CacheManager配置。

通过这几行代码，我们让Spring为它提供的所有缓存功能使用Hazelcast。

使用嵌入式缓存(分布式和非分布式)很简单，因为它不需要任何额外的配置或部署。而且，您总是可以获得低延迟的数据传输，因为缓存在物理上运行在相同的JVM中。稍后我们将更仔细地研究这个解决方案的优缺点。

下面让我们介绍另一个完全不同的缓存模式，客户机-服务器。

客户端/服务器式缓存

此时，图中所示流程如下:

1.请求进入负载均衡组件并被转发到应用程序服务

2.应用程序使用缓存客户机连接到缓存服务器

3.如果没有找到值，则执行通常的业务逻辑，缓存值并返回响应

该体系结构与经典的数据库体系结构相似。我们有一个中心服务器(或者更准确地说是一组服务器)，应用程序连接到该服务器。如果我们将客户机-服务器模式与嵌入式缓存进行比较，主要有两个区别:

首先，缓存服务器在我们的体系结构中是一个单独的单元，这意味着我们可以单独管理它(向上/向下伸缩、备份、安全)。然而，这也意味着它通常需要单独的项目事务处工作(甚至单独的项目事务处团队)。
第二个区别是应用程序使用缓存客户端库与缓存通信，这意味着我们不再局限于基于jvm的语言。有一个定义良好的协议，服务器部分的编程语言可以与客户端部分不同。这实际上是许多缓存解决方案(如Redis或Memcached)仅为其部署提供这种模式的原因之一。

我之前提到过，嵌入式缓存和客户机-服务器缓存的第一个区别是前者是单独管理的。一个单独的Ops团队甚至可以管理它，或者您可以更进一步，将管理部分转移到云计算中。

云端缓存

就架构而言，云类似于客户机-服务器，不同之处在于服务器部分被移到组织之外，由云提供商管理，因此您不必担心所有的组织问题。

如果您对某个示例感兴趣，可以在Hazelcast云平台上创建一个Hazelcast集群，然后，您可以在这里找到一个完整的客户机应用程序。

最有趣的部分是Spring配置:

@Bean 
CacheManager cacheManager() { 
 ClientConfig clientConfig = new ClientConfig(); 
 clientConfig.getNetworkConfig().getCloudConfig() 
 .setEnabled(true) 
 .setDiscoveryToken("KSXFDTi5HXPJGR0wRAjLgKe45tvEEhd"); 
 clientConfig.setGroupConfig(new GroupConfig("test-cluster", "b2f9845")); 
 return new HazelcastCacheManager( 
 HazelcastClient.newHazelcastClient(clientConfig)); 
}

使用客户机-服务器模式很简单，使用云模式更简单。它们都带来了类似的好处，比如将缓存数据与应用程序分离、独立管理(向上/向下扩展、备份)以及使用任何编程语言的可能性。然而，有一件事变得更加困难——延迟。对于嵌入式模式，缓存始终与应用程序位于同一台机器上(甚至在同一JVM中)。然而，当服务器部分被分离时，我们现在需要考虑它的物理位置。最好的选择是使用相同的本地网络(或者在云解决方案中使用相同的VPC)。

现在，让我们转移到一个新的稍微不寻常的模式，缓存作为一个边车。