2020面试预备你也能收割Offer,Java程序员必会知识清单全在这份pdf文档里 编程技术

2020面试预备你也能收割Offer,Java程序员必会知识清单全在这份pdf文档里

关于程序员,除了做项目来提高自身的技术之外,还有一种提升自己的专业技能就是:多!看!书! 小编整理出一篇Java进阶架构师之路的核心知识,同时也是面试时面试官必问的知识点,篇章也是包括了很多知识点,其中包括了有基础知识、Java集合、JVM、多线程并发、spring原理、微服务、Netty 与RPC 、Kafka、日记、设计模式、Java算法、数据库、Zookeeper、分布式缓存、数据结构等...
阅读全文
Ubuntu 18.04下搭建单机Hadoop和Spark集群环境 Java

Ubuntu 18.04下搭建单机Hadoop和Spark集群环境

Hadoop在整个大数据技术体系中占有至关重要的地位,是大数据技术的基础和敲门砖,对Hadoop基础知识的掌握程度会在一定程度决定在大数据技术的道路上能走多远。 最近想要学习Spark,首先需要搭建Spark的环境,Spark的依赖环境比较多,需要Java JDK、Hadoop的支持。我们就分步骤依次介绍各个依赖的安装和配置。新安装了一个LinuxUbuntu 18.04系统,想在此系统上...
阅读全文
深刻理解HDFS工作机制 编程技术

深刻理解HDFS工作机制

深入理解一个技术的工作机制是灵活运用和快速解决问题的根本方法,也是唯一途径。对于HDFS来说除了要明白它的应用场景和用法以及通用分布式架构之外更重要的是理解关键步骤的原理和实现细节。在看这篇博文之前需要对HDFS以及分布式系统有一些了解。请参考这篇博客。本篇博文首先对HDFS的重要特性和使用场景做一个简要说明,之后对HDFS的数据读写、元数据管理以及NameNode、SecondaryNameno...
阅读全文
Hadoop 入门实践 编程技术

Hadoop 入门实践

Hadoop 2.0 架构 Hadoop 包括如下几个模块: Hadoop Common:公共基础组件; Hadoop Distributed File System(HDFS):分布式文件系统; Hadoop YARN:任务和资源管理框架; Hadoop MapReduce:基于YARN的并行数据处理系统; 其它基于Hadoop的项目(包括Pig,Hive...
阅读全文
Hadoop中如何将namenode和secondary namenode分开在不同服务器上。 编程技术

Hadoop中如何将namenode和secondary namenode分开在不同服务器上。

在一套已经搭建好的Hadoop集群中,默认将namenode和secondary namenode都在master上运行,现在介绍一种方法,将他们分开配置。 Cluster环境,具体环境参考另一篇博客《Hadoop 集群cluster搭建》。简单来说4台机器,hadoop1做master,其他三台hadoop2 hadoop3 hadoop4作为slave。现在我要将secondary nam...
阅读全文
Hadoop - Ambari集群管理剖析 编程技术

Hadoop - Ambari集群管理剖析

1.Overview Ambari是Apache推出的一个集中管理Hadoop的集群的一个平台,可以快速帮助搭建Hadoop及相关以来组件的平台,管理集群方便。这篇博客记录Ambari的相关问题和注意事项。方便为初学者省去搭配各个社区版的烦恼。 2.How to works 在Ambari的官方WIKI上介绍了如何去使用Ambari,[ 官方文档 ]。官方说法比较简要,下面我补充相关...
阅读全文
Hadoop NameNode 高可用 (High Availability) 实现解析 编程技术

Hadoop NameNode 高可用 (High Availability) 实现解析

NameNode 高可用整体架构概述 在 Hadoop 1.0 时代,Hadoop 的两大核心组件 HDFS NameNode 和 JobTracker 都存在着单点问题,这其中以 NameNode 的单点问题尤为严重。因为 NameNode 保存了整个 HDFS 的元数据信息,一旦 NameNode 挂掉,整个 HDFS 就无法访问,同时 Hadoop 生态系统中依赖于 HDFS 的各个组件...
阅读全文
Loading...