没有合适的资源?快使用搜索试试~ 我知道了~
资源推荐
资源详情
资源评论















基
于
Docker
构
建
Hadoop
平
台
------ written by Mike.Wang 2022.07.15
0.
绪
论
使
⽤
Docker
搭
建
Hadoop
技
术
平
台
,
包
括
安
装
Docker
、
Java
、
Scala
、
Hadoop
、
Hbase
、
Spark
。
集
群
共
有
5
台
机
器
,
主
机
名
分别
为
h01
、
h02
、
h03
、
h04
、
h05
。
其
中
h01
为
master
,
其
他
的
为
slave
。
虚
拟
机
配
置
:
建
议
1
盒
2
线
程
、
8G
内
存
、
30G
硬
盘
。
最
早
配
置
4G
内
存
,
HBase
和
Spark
运
⾏
异
常
。
JDK 1.8
Scala 2.11.12
Hadoop 3.3.3
Hbase 3.0.0
Spark 3.3.0
1. Docker
1.1 Ubuntu 22.04
安
装
Docker
在
Ubuntu
下
对
Docker
的
操
作
都
需
要
加
上
sudo
,
如
果
已
经
是
root
账
号
了
,
则
不
需
要
。
如
果
不
加
sudo
,
Docker
相
关
命
令会
⽆
法
执
⾏
。
在
Ubuntu
下
安
装
Docker
的
时
候
需
在
管
理
员
的
账
号
下
操
作
。
安
装
完
成
之
后
,
以
sudo
启
动
Docker
服
务
。
显
⽰
Docker
中
所
有
正
在
运
⾏
的
容
器
,
由
于
Docker
才
安
装
,
我
们
没
有
运
⾏
任
何
容
器
,
所
以
显
⽰
结
果
如
下
所
⽰
。
1.2
使
⽤
Docker
现
在
的
Docker
⽹
络
能
够
提
供
DNS
解
析
功
能
,
我
们
可
以
使
⽤
如
下
命
令
为
接
下
来
的
Hadoop
集
群
单
独
构
建
⼀个
虚
拟
的
⽹
络
。
可
以
采
⽤
直
通
、
桥
接
或
macvlan
⽅
式
,
这
⾥采
⽤
桥
接
模
式
,
可
以
做
到
5
台
主
机
互
联
,
并
能
访
问
宿
主
机
和
⽹
关
,
可
以
连
接
外
⽹
,
便
于
在
线
下
载
程
序
资
源
。
以
上
命
令
创
建
了⼀个
名
为
hadoop
的
虚
拟
桥
接
⽹
络
,
该
虚
拟
⽹
络
内
部
提
供
了
⾃
动
的
DNS
解
析
服
务
。
使
⽤
下
⾯
这
个
命
令
查
看
Docker
中
的
⽹
络
,
可
以
看
到刚刚创
建
的
名
为
hadoop
的
虚
拟
桥
接
⽹
络
。
mike@ubuntu2204:~$ wget -qO- https://get.docker.com/ | sh
mike@ubuntu2204:~$ sudo service docker start
mike@ubuntu2204:~$ sudo docker ps
CONTAINER ID IMAGE COMMAND CREATED STATUS PORTS NAMES
mike@ubuntu2204:~$
mike@ubuntu2204:~$sudo docker network create --driver=bridge hadoop

查
找
ubuntu
容
器
打
开
https://hub.docker.com/
官
⽹
,
搜
索
ubuntu
,
找
到
官
⽅
认证
镜
像
,
这
⾥
选
取
第
⼀个
点
击
第
⼀个
ubuntu
,
查
找
可
选
⽤
的
版
本
,
这
⾥
选
取
22.04
mike@ubuntu2204:~$ sudo docker network ls
[sudo] password for mike:
NETWORK ID NAME DRIVER SCOPE
3948edc3e8f3 bridge bridge local
337965dd9b1e hadoop bridge local
cb8f2c453adc host host local
fff4bd1c15ee mynet macvlan local
30e1132ad754 none null local
mike@ubuntu2204:~$

下
载
ubuntu 22.04
版
本
的
镜
像
⽂
件
查
看
已
经
下
载
的
镜
像
根
据
镜
像
启
动
⼀个
容
器
,
可
以
看
出
shell
已
经
是
容
器
的
shell
了
,
这
⾥
注
意
@
后
⾯
的
容
器
ID
与上
图
镜
像
ID
⼀
致
输
⼊
exit
可
以
退
出
容
器
,
不
过
建
议
使
⽤
Ctrl + P + Q
,
退
出
容
器
状
态
,
但
仍
让
容
器
处
于
后台
运
⾏
状
态
。
查
看
本机
上
所
有
的
容
器
mike@ubuntu2204:~$ sudo docker pull ubuntu:22.04
mike@ubuntu2204:~$ sudo docker images
[sudo] password for mike:
REPOSITORY TAG IMAGE ID CREATED SIZE
newuhadoop latest fe08b5527281 3 days ago 2.11GB
ubuntu 22.04 27941809078c 6 weeks ago 77.8MB
mike@ubuntu2204:~$
mike@ubuntu2204:~$ sudo docker run -it ubuntu:22.04 /bin/bash
root@27941809078c:/#
mike@ubuntu2204:~$

此
处
会
看
到刚刚创
建
好
的
容
器
,
并
在
后台
运
⾏
。
这
⾥
因
为
是
后
期
制
作
的
教
程
,
为了
节
省
内
存
,
只
保
留
了
5
台
hadoop
的
容
器
,
最
原
始
的
容
器
已
经
删
除
。
启
动
⼀个
状
态
为
退
出
的
容
器
,
最
后
⼀个
参
数
为
容
器
ID
进
⼊
⼀个
容
器
关
闭
⼀个
容
器
2.
安
装
集
群
主
要
是
安
装
JDK 1.8
的
环
境
,
因
为
Spark
要
Scala
,
Scala
要
JDK 1.8
,
以
及
Hadoop
,
以
此
来构
建
基
础
镜
像
。
2.1
安
装
Java
与
Scala
进
⼊
之
前
的
Ubuntu
容
器
先
更
换
apt
的
源
2.1.1
修
改
apt
源
备
份
源
先
删
除
就
源
⽂
件
,
这
个
时
候
没
有
vim
⼯
具
..
mike@ubuntu2204:~$ sudo docker ps -a
[sudo] password for mike:
CONTAINER ID IMAGE COMMAND CREATED STATUS PORTS
NAMES
8016da5278ae newuhadoop "/bin/bash" 3 days ago Up 2 days
h05
409c7e8aa2e9 newuhadoop "/bin/bash" 3 days ago Up 2 days
h04
0d8af236e1e7 newuhadoop "/bin/bash" 3 days ago Up 2 days
h03
72d62b7d4874 newuhadoop "/bin/bash" 3 days ago Up 2 days
h02
d4d3ca3bbb61 newuhadoop "/bin/bash" 3 days ago Up 2 days 0.0.0.0:8088-
>8088/tcp, :::8088->8088/tcp, 0.0.0.0:9870->9870/tcp, :::9870->9870/tcp h01
mike@ubuntu2204:~$
mike@ubuntu2204:~$ sudo docker start 27941809078c
mike@ubuntu2204:~$ sudo docker attach 27941809078c
mike@ubuntu2204:~$ sudo docker stop 27941809078c
root@27941809078c:/# cp /etc/apt/sources.list /etc/apt/sources_init.list
root@27941809078c:/#
root@27941809078c:/# rm /etc/apt/sources.list

复
制
以
下
命
令
,
回
⻋
,
即
可
⼀
键
切
换
到
阿
⾥
云
ubuntu 22.04
镜
像
:
(
此
时
已
经
是
root
权
限
,
提
⽰
符
为
#
)
再
使
⽤
apt update / apt upgrade
来
更
新
,
update
更
列
表
,
upgrade
更
新
包
2.1.2
安
装
Java
与
Scala
安
装
jdk 1.8
,
直
接
输
⼊
命
令
测
试
⼀下
安
装
结
果
接
下
来
安
装
scala
测
试
⼀下
安
装
结
果
bash -c "cat << EOF > /etc/apt/sources.list && apt update
deb http://mirrors.aliyun.com/ubuntu/ jammy main restricted universe multiverse
deb-src http://mirrors.aliyun.com/ubuntu/ jammy main restricted universe
multiverse
deb http://mirrors.aliyun.com/ubuntu/ jammy-security main restricted universe
multiverse
deb-src http://mirrors.aliyun.com/ubuntu/ jammy-security main restricted universe
multiverse
deb http://mirrors.aliyun.com/ubuntu/ jammy-updates main restricted universe
multiverse
deb-src http://mirrors.aliyun.com/ubuntu/ jammy-updates main restricted universe
multiverse
deb http://mirrors.aliyun.com/ubuntu/ jammy-proposed main restricted universe
multiverse
deb-src http://mirrors.aliyun.com/ubuntu/ jammy-proposed main restricted universe
multiverse
deb http://mirrors.aliyun.com/ubuntu/ jammy-backports main restricted universe
multiverse
deb-src http://mirrors.aliyun.com/ubuntu/ jammy-backports main restricted
universe multiverse
EOF"
root@27941809078c:/# apt update
root@27941809078c:/# apt upgrade
root@27941809078c:/# apt install openjdk-8-jdk
root@27941809078c:/# java -version
openjdk version "1.8.0_312"
OpenJDK Runtime Environment (build 1.8.0_312-8u312-b07-0ubuntu1-b07)
OpenJDK 64-Bit Server VM (build 25.312-b07, mixed mode)
root@27941809078c:/#
root@27941809078c:/# apt install scala
剩余22页未读,继续阅读
资源评论


欣婷
- 粉丝: 231
- 资源: 1
上传资源 快速赚钱
我的内容管理 展开
我的资源 快来上传第一个资源
我的收益
登录查看自己的收益我的积分 登录查看自己的积分
我的C币 登录后查看C币余额
我的收藏
我的下载
下载帮助


安全验证
文档复制为VIP权益,开通VIP直接复制
