多台机器分布式存储
多台机器分布式计算
二、Hadoop
1、Hadoop 介绍
狭义上说:Hadoop 指的是 Apache 软件基金会的一款开源软件。
Java 语言实现
Hadoop 核心组件
Hadoop HDFS(分布式文件存储系统):解决海量数据存储
Hadoop YARN(集群资源管理和任务调度框架):解决资源任务调度
Hadoop MapReduce(分布式计算框架):解决海量数据计算
广义上 Hadoop 指的是围绕 Hadoop 打造的大数据生态圈
底层是 HDFS ==》 YARN ==》 调度、资源管理、任务部署、安全 ==》各种各样基于 Hadoop 的计算
框架
2、Hadoop 发展史
Hadoop 之父:Doug Cutting
为了解决数十亿网页的存储和索引问题
根据 Google 的 3 篇论文得到启发
3、Hadoop 现状
HDFS 作为分布式文件存储系统,处在生态圈的底层与核心地位;
YARN 作为分布式通用的集群资源管理和任务调度平台,支撑各种计算引擎运行,保证了
Hadoop 的地位;
MapReduce 作为大数据生态圈第一代分布式计算引擎,由于自身设计的模型所产生的弊
端,导致企业一线几乎不再直接使用 MapReduce 进行编程处理,但是很多软件的底层依然在使
用 MapReduce 引擎来处理数据。
4、Hadoop 特性优点
扩容能力
成本低
效率高
可靠性
评论0