Hazelcast是Hazelcast公司开源的一款分布式内存数据库产品,提供弹性可扩展、高性能的分布式内存计算。并通过提供诸如Map,Queue,ExecutorService,Lock和JCache等Java的许多开发人员友好的分布式实现。
Hazelcast部署拓扑在Hazelcast官方提供两种方式部署集群(图片均来自官方文档):
如需聚焦异步或高性能大批量任务的缓存服务,嵌入式方式是相对有优势的,最明显嵌入式方式访问数据延迟性低。
独立创建Hazelcast集群,统一管理,所有的应用程序如果需要访问缓存,可通过Hazelcast客户端(有java .NET C++的实现)或Memcache客户端或简单的REST客户端访问。后续demo示例以嵌入式为例。
Hazelcast数据分区在Hazelcast分布式环境中,默认情况下,Hazelcast有271个分区。 当启动第一个成员的时候,成员1在集群中的分区如下图:
当在集群中新添加一个节点2时,分区图如下:
在图示中,黑色分区是主分区,蓝色分区是副本分区(备份)。第一个成员具有135个主分区(黑色),并且每个分区都备份在第二个成员(蓝色)中。同时,第一个成员还具有第二个成员的主分区的副本分区。
随着成员的增多,Hazelcast将一些主要和副本分区逐个移动到新成员,使所有成员相等和冗余。只有最小量的分区将被移动到扩展Hazelcast。以下是具有四个成员的Hazelcast集群中的分区图示如下:
Hazelcast在群集成员之间平均分配分区。Hazelcast创建分区的备份,并将其分配给成员之间进行冗余。
上述插图中的分区是为了方便描述。通常,Hazelcast分区不会按照顺序分配(如这些图所示),而是随机分布。Hazelcast在成员间平均分配了分区和备份。
下面我们来使用Spring Boot集成Hazelcast实现分布式集群服务看看
首先新建一个Spring Boot的gradle项目,引入Hazelcast相关jar包:
dependencies { compile 'com.hazelcast:hazelcast' compile 'org.springframework.boot:spring-boot-starter-web' } 复制代码
当Hazelcast包在classpath上,Spring Boot将通过下面两种方式之一为我们创建一个HazelcastInstance实例:
方式一,通过配置属性指定的Hazelcast.xml文件创建: spring.hazelcast.config = classpath:hazelcast.xml
该方式需要编写一个hazelcast.xml文件,通过xml文件描述Hazelcast集群
方式二,通过提供一个com.hazelcast.config.Config javabean到Spring容器中(下面所有demo是基于java config方式)
@Bean public Config hazelCastConfig() { //如果有集群管理中心,可以配置 ManagementCenterConfig centerConfig = new ManagementCenterConfig(); centerConfig.setUrl("http://127.0.0.1:8200/mancenter"); centerConfig.setEnabled(true); return new Config() .setInstanceName("hazelcast-instance") .setManagementCenterConfig(centerConfig) .addMapConfig( new MapConfig() .setName("instruments") .setMaxSizeConfig(new MaxSizeConfig(200, MaxSizeConfig.MaxSizePolicy.FREE_HEAP_SIZE)) .setEvictionPolicy(EvictionPolicy.LRU) .setTimeToLiveSeconds(20000)); } 复制代码
上面代码通过提供Config的bean时候,主要做了如下几个事:
完整代码:
@SpringBootApplication public class StartUp { private Logger LOGGER = LoggerFactory.getLogger(StartUp.class); public static void main(String[] args) { SpringApplication.run(StartUp.class, args); } @Bean public Config hazelCastConfig() { //如果有集群管理中心,可以配置 ManagementCenterConfig centerConfig = new ManagementCenterConfig(); centerConfig.setUrl("http://127.0.0.1:8200/mancenter"); centerConfig.setEnabled(true); return new Config() .setInstanceName("hazelcast-instance") .setManagementCenterConfig(centerConfig) .addMapConfig( new MapConfig() .setName("instruments") .setMaxSizeConfig(new MaxSizeConfig(200, MaxSizeConfig.MaxSizePolicy.FREE_HEAP_SIZE)) .setEvictionPolicy(EvictionPolicy.LRU) .setTimeToLiveSeconds(20000)); } } 复制代码
下面我们通过修改server.port分别启动端口为8080和8081的成员服务 当启动完8080成员的时候,可以在8080控制台看到如下日志:
Members [1] { Member [172.17.42.1]:5701 - 0d39dd66-d4fb-4af4-8ddb-e9f4c7bbe5a1 this } 复制代码
因我们使用的是组播传播模式,5701为节点在组播网络中分配的端口 当启动完8081成员的时候,可以在8081控制台看到如下日志:
Members [2] { Member [172.17.42.1]:5701 - 0d39dd66-d4fb-4af4-8ddb-e9f4c7bbe5a1 Member [172.17.42.1]:5702 - a46ceeb4-e079-43a5-9c9d-c74265211bf7 this } 复制代码
回到8080控制台,发现多了一行日志:
Members [2] { Member [172.17.42.1]:5701 - 0d39dd66-d4fb-4af4-8ddb-e9f4c7bbe5a1 this Member [172.17.42.1]:5702 - a46ceeb4-e079-43a5-9c9d-c74265211bf7 } 复制代码
发现8081成员也加入进来了。两个控制台都能看到成员列表。集群就已经搭建成功。
为了验证结果,上面我们在集群中已经创建了一个名为instruments的分布式map数据结构,现在我们通过写个接口证明:
@GetMapping("/greet") public Object greet() { Object value = Hazelcast.getHazelcastInstanceByName("hazelcast-instance").getMap("instruments").get("hello"); if (Objects.isNull(value)) { Hazelcast.getHazelcastInstanceByName("hazelcast-instance").getMap("instruments").put("hello", "world!"); } LOGGER.info("从分布式缓存获取到 key=hello,value={}", value); return value; } 复制代码
首先通过访问8080服务的/greet,第一次访问instruments中是没有key为hello的键值对,会往里面塞入{"helo":"world!"},然后访问8081服务的/greet,这个时候应该是能取得改键值对的。
完整代码:
@RestController @SpringBootApplication public class StartUp { private Logger LOGGER = LoggerFactory.getLogger(StartUp.class); public static void main(String[] args) { SpringApplication.run(StartUp.class, args); } @Bean public Config hazelCastConfig() { //如果有集群管理中心,可以配置 ManagementCenterConfig centerConfig = new ManagementCenterConfig(); centerConfig.setUrl("http://127.0.0.1:8200/mancenter"); centerConfig.setEnabled(true); return new Config() .setInstanceName("hazelcast-instance") .setManagementCenterConfig(centerConfig) .addMapConfig( new MapConfig() .setName("instruments") .setMaxSizeConfig(new MaxSizeConfig(200, MaxSizeConfig.MaxSizePolicy.FREE_HEAP_SIZE)) .setEvictionPolicy(EvictionPolicy.LRU) .setTimeToLiveSeconds(20000)); } @GetMapping("/greet") public Object greet() { Object value = Hazelcast.getHazelcastInstanceByName("hazelcast-instance").getMap("instruments").get("hello"); if (Objects.isNull(value)) { Hazelcast.getHazelcastInstanceByName("hazelcast-instance").getMap("instruments").put("hello", "world!"); } LOGGER.info("从分布式缓存获取到 key=hello,value={}", value); return value; } } 复制代码
重启8080和8081服务 通过浏览器请求http://localhost:8080/greet 查看8080控制台日志: 2017-10-23 13:52:27.865 INFO 13848 --- [nio-8080-exec-1] com.hazelcast.StartUp: 从分布式缓存获取到 key=hello,value=nul
通过浏览器请求http://localhost:8081/greet 查看8081控制台日志: 2017-10-23 13:52:40.116 INFO 13860 --- [nio-8081-exec-2] com.hazelcast.StartUp: 从分布式缓存获取到 key=hello,value=world
Spring Boot为Hazelcast提供了明确的缓存支持。如果启用缓存, HazelcastInstance则会自动包含在CacheManager实现中。所以完全可以支持Spring Cache。
以往我们用Spring Cache都是基于Redis做存储后端,现在我们使用Hazelcast来尝试一下 首先在启动类上开启缓存 @EnableCaching
建立个service类,demo为了方便,写在一起 完整代码:
@EnableCaching @RestController @SpringBootApplication public class StartUp { private Logger LOGGER = LoggerFactory.getLogger(StartUp.class); public static void main(String[] args) { SpringApplication.run(StartUp.class, args); } @Bean public Config hazelCastConfig() { //如果有集群管理中心,可以配置 ManagementCenterConfig centerConfig = new ManagementCenterConfig(); centerConfig.setUrl("http://127.0.0.1:8200/mancenter"); centerConfig.setEnabled(true); return new Config() .setInstanceName("hazelcast-instance") .setManagementCenterConfig(centerConfig) .addMapConfig( new MapConfig() .setName("instruments") .setMaxSizeConfig(new MaxSizeConfig(200, MaxSizeConfig.MaxSizePolicy.FREE_HEAP_SIZE)) .setEvictionPolicy(EvictionPolicy.LRU) .setTimeToLiveSeconds(20000)); } @GetMapping("/greet") public Object greet() { Object value = Hazelcast.getHazelcastInstanceByName("hazelcast-instance").getMap("instruments").get("hello"); if (Objects.isNull(value)) { Hazelcast.getHazelcastInstanceByName("hazelcast-instance").getMap("instruments").put("hello", "world!"); } LOGGER.info("从分布式缓存获取到 key=hello,value={}", value); return value; } @Autowired private DemoService demoService; @GetMapping("/cache") public Object cache() { String value = demoService.greet("hello"); LOGGER.info("从分布式缓存获取到 key=hello,value={}", value); return value; } } @Service @CacheConfig(cacheNames = "instruments") class DemoService { private Logger LOGGER = LoggerFactory.getLogger(DemoService.class); @Cacheable(key = "#key") public String greet(String key) { LOGGER.info("缓存内没有取到key={}", key); return "world!"; } } 复制代码
连续访问两次8080服务的/cache接口 第一次控制台输出日志:
2017-10-23 14:10:02.201 INFO 13069 --- [nio-8081-exec-1] com.hazelcast.DemoService: 缓存内没有取到key=hello 2017-10-23 14:10:02.202 INFO 13069 --- [nio-8081-exec-1] com.hazelcast.StartUp: 从分布式缓存获取到 key=hello,value=world! 复制代码
第二次控制台输出日志: 2017-10-23 14:11:51.966 INFO 13069 --- [nio-8081-exec-3] com.hazelcast.StartUp: 从分布式缓存获取到 key=hello,value=world!
第二次比第一次相比少了执行service方法体内容,证明第二次是通过了缓存获取。
Spring Session已经支持使用Hazelcast作为会话缓存后端,首先引入Spring Session jar包
dependencies { compile 'com.hazelcast:hazelcast' compile 'org.springframework.boot:spring-boot-starter-web' compile 'org.springframework.session:spring-session' } 复制代码
要启用Hazelcast作为集群会话缓存后端,有两种方式 第一种Spring Boot配置文件里面配置spring.session.*属性: spring.session.store-type=hazelcast
第二种使用java注解开启: @EnableHazelcastHttpSession
这里选择第二种方式,要证明集群会话共享,我们定一个简单接口打印一下sessionId,通过同一浏览器访问8080和8081服务的该接口,看看不同服务请求的时候sessionId是否一致,完整代码如下:
@EnableCaching @RestController @EnableHazelcastHttpSession @SpringBootApplication public class StartUp { private Logger LOGGER = LoggerFactory.getLogger(StartUp.class); public static void main(String[] args) { SpringApplication.run(StartUp.class, args); } @Bean public Config hazelCastConfig() { //如果有集群管理中心,可以配置 ManagementCenterConfig centerConfig = new ManagementCenterConfig(); centerConfig.setUrl("http://127.0.0.1:8200/mancenter"); centerConfig.setEnabled(true); return new Config() .setInstanceName("hazelcast-instance") .setManagementCenterConfig(centerConfig) .addMapConfig( new MapConfig() .setName("instruments") .setMaxSizeConfig(new MaxSizeConfig(200, MaxSizeConfig.MaxSizePolicy.FREE_HEAP_SIZE)) .setEvictionPolicy(EvictionPolicy.LRU) .setTimeToLiveSeconds(20000)); } @GetMapping("/greet") public Object greet() { Object value = Hazelcast.getHazelcastInstanceByName("hazelcast-instance").getMap("instruments").get("hello"); if (Objects.isNull(value)) { Hazelcast.getHazelcastInstanceByName("hazelcast-instance").getMap("instruments").put("hello", "world!"); } LOGGER.info("从分布式缓存获取到 key=hello,value={}", value); return value; } @Autowired private DemoService demoService; @GetMapping("/cache") public Object cache() { String value = demoService.greet("hello"); LOGGER.info("从分布式缓存获取到 key=hello,value={}", value); return value; } @GetMapping("/session") public Object session(HttpSession session) { String sessionId = session.getId(); LOGGER.info("当前请求的sessionId={}", sessionId); return sessionId; } } @Service @CacheConfig(cacheNames = "instruments") class DemoService { private Logger LOGGER = LoggerFactory.getLogger(DemoService.class); @Cacheable(key = "#key") public String greet(String key) { LOGGER.info("缓存内没有取到key={}", key); return "world!"; } } 复制代码
访问8080服务/session接口,控制台日志如下: 2017-10-23 14:28:41.991 INFO 14140 --- [nio-8080-exec-2] com.hazelcast.StartUp: 当前请求的sessionId=e75ffc53-90bc-41cd-8de9-e9ddb9c2a5ee
访问8081服务/session接口,控制台日志如下: 2017-10-23 14:28:45.615 INFO 14152 --- [nio-8081-exec-1] com.hazelcast.StartUp: 当前请求的sessionId=e75ffc53-90bc-41cd-8de9-e9ddb9c2a5ee
集群会话共享生效。
在上面的demo中,在创建Config的时候,设置了一个ManagementCenterConfig配置,该配置是指向一个Hazelcast集群管理平台,比如demo中表示在本地启动了一个管理平台服务。该功能也是相对其他NoSql服务的一个优势。
要部署ManagementCenter管理平台有多种方式 比如通过https://download.hazelcast.com/management-center/management-center-3.8.3.zip地址下载,解压后启动; sh ./startManCenter.sh 8200 /mancenter
如果有docker环境,直接可以docker部署: docker run -ti -p 8200:8080 hazelcast/management-center:latest
部署成功后,访问http://ip:8200/mancenter,首次访问会让你配置个用户名密码,进入后 :
在左侧菜单栏,能看到现有支持的分布式数据格式,比如Maps下面名为instruments的是我们前面demo自己创建的,名为spring:session:sessions是我们用了Hazelcast做集群会话同步的时候Spring为我们创建的。
中间区域能看到所有节点成员的系统相关实时使用率,随便点击一个节点进去,能看到当前节点的系统实时使用率:
红圈里面的即是上面提到的节点数据分区数,通过左侧菜单栏的数据结构进去,能看到当前对应的数据结构的详细信息和实时吞吐量:
更多内容请参考下方参考资料。 示例代码可以通过https://github.com/zggg/hazelcast-in-spring-boot下载。
——————————————————分割线——————————————————
我是黑少,直男一枚,微服务硬核玩家,喜欢分享、爱交友人、崇尚“实践出真知”的理念,以折腾鼓捣代码为乐
我的微信:heishao (备注:掘金 )
微信公号:黑少微服务,专注微服务技术分享,非技术不八卦!