没有合适的资源?快使用搜索试试~ 我知道了~
VMware workstation 16虚拟机下hadoop集群安装过程
需积分: 1 10 下载量 16 浏览量
2021-06-02
11:10:39
上传
评论
收藏 443KB PDF 举报
温馨提示
试读
16页
VMware workstation 16虚拟机下hadoop集群安装过程,详细介绍采用vmware虚拟机安装 hadoop系统的过程, 为学习hadoop创造一个良好的环境
资源推荐
资源详情
资源评论
更多 IT 认证课程请访问 美河学习在线 www.eimhe.com
VMware workstation 16 虚拟机下 hadoop 集群安装过程
Hadoop 俗称分布式计算,最早作为一个开源项目,最初只是来源于谷歌的两份白皮书。
然而正如十年前的 Linux 一样,虽然 Hadoop 最初十分简单,但随着近些年来大数据的兴起,
其也获得了一个充分体现价值的舞台。这也正是业内普遍将 Hadoop 看做是下一个 Linux 的
原因。
一.基于 VMware workstation 16 的 hadoop
环境简述
本文介绍基于多台 vmware 虚拟机来安装 hadoop 集群的过程及方法,通过这个小的集
群让您在本地电脑上就可以研究 hadoop 的相关工作过程,有人会有疑问在小的虚拟机集群
上研究的结果, 写的程序能否在大集群上工作正常?可以肯定的没问题的。
Hadoop 的一个特性是线性增长特性,即当前数量情况下,处理时间是 1, 若是数据量
加倍, 后处理时间加倍, 若是在这种情况下, 处理能力也加倍则处理时间也是 1.
正常情况 hadoop 需要较多的服务器才能搭建, 但是我们在家里学习如何去找那么服务
器, 解决办法可以找几台 pc 机,在 pc 机上安装 linux 系统就可以了。
当然我们还有更简单的办法, 就是找一台高性能的电脑, 在电脑上安装虚拟机软件,
里面创建若干台虚拟机, 然后让这些虚拟机构成一个小的内部局域网络,在这个网络上我
们安装 linux 软件, java 软件, 安装 hadoop 程序,我们就可以创建一个简单 hadoop 的研
究系统, 进行软件的开发调试, 在这个小的分布式集群上开发的程序可以无缝移植到相同
版本的 hadoop(不同 hadoop 的版本兼容性不是很好, 特别是低版本同高版本, 他们的 api
也有些许变化)集群中。
需要 VMware workstation 16
链接:https://pan.baidu.com/s/1Kpe-2ayIVxzt0K7YT4S_hw 提取码:8kut
如下是在笔者笔记本上构建的一个 hadoop 的虚拟机系统, 相关网络拓扑结构如下:
更多 IT 认证课程请访问 美河学习在线 www.eimhe.com
虚拟机 0,机器名称:db, ip:192.168.186.10
虚拟机 1,机器名称:red, ip:192.168.186.11
虚拟机 2,机器名称:mongdb, ip:192.168.186.12
虚拟机 3,机器名称:nginx,ip:192.168.186.13
如上图, 4 台虚拟机通过一个虚拟的交换机互联, 开发机器也连接到这个虚拟交换机
上, 虚拟的交换机同 adsl 相连接,这样整个系统都可以直接上网了。
下面是几个虚拟机的典型配置,如下:
Db 的配置,如上, 这个机器的内存配置比较高, 这个机器是机器的 master 服务器,
需要较多的内存。 因此配置了 1.3g 内存。
下面是 red 的配置, mongdb 及 nginx 的配置同这个机器配置相同,配置如下:
更多 IT 认证课程请访问 美河学习在线 www.eimhe.com
这个机器的配置同 db 机器配置相同, 仅仅是内存小了些, 这里内存是 188m, 作为
调试环境已经足够用了。
二.基于 vmware 虚拟机环境配置
1. 网卡的 Ip 地址配置
采用静态 ip 配置方式, 防止重新启动后 dhcp 分配新的 ip 后,造成不必要的混乱。 配
置如下:
更多 IT 认证课程请访问 美河学习在线 www.eimhe.com
2. Hosts 文件配置
[root@db ~]# cat /etc/hosts
# Do not remove the following line, or various programs
# that require network functionality will fail.
127.0.0.1 localhost.localdomain localhost
::1 localhost6.localdomain6 localhost6
192.168.186.10 db
192.168.186.11 red
192.168.186.12 mongdb
192.168.186.13 nginx
需要确保每一台机器的 hosts 文件配置如上图所示。
剩余15页未读,继续阅读
资源评论
CodeGolang
- 粉丝: 55
- 资源: 1088
上传资源 快速赚钱
- 我的内容管理 展开
- 我的资源 快来上传第一个资源
- 我的收益 登录查看自己的收益
- 我的积分 登录查看自己的积分
- 我的C币 登录后查看C币余额
- 我的收藏
- 我的下载
- 下载帮助
最新资源
- DatabaseWatermarkingBasedonTextFormat
- -移动通信-网络课程设计与研究
- 基于Python的PCA人脸识别算法的原理及实现代码+文档详解.zip
- 甘肃移动全业务工程建设项目管理流程优化研究
- 549springboot + vue 民宿管理平台.zip (可运行源码+数据库文件+文档)
- ZArchiver.Pro_0.9.5.apk
- vmware环境配置.mp4
- 548springboot + vue 大学生社团活动平台.zip(可运行源码+数据库文件+文档)
- 微信小程序 辩论倒计时小程序源码 作业设计demo 计算机专业参考
- 深入探究文件IO,嵌入式Linux
资源上传下载、课程学习等过程中有任何疑问或建议,欢迎提出宝贵意见哦~我们会及时处理!
点击此处反馈
安全验证
文档复制为VIP权益,开通VIP直接复制
信息提交成功