没有合适的资源?快使用搜索试试~ 我知道了~
1. CDH架构及安装 2. Hadoop安装 3. Hive安装 4. Hbase安装 5. Spark安装 6. Kafka安装 7. 其他安装测试
资源推荐
资源详情
资源评论
6.所有机器安装安装jdk
7.所有机器安装依赖包
8.安装mysql数据库
随机选择一台机器,计划在hadoop2安装mysql数据库
9.安装cloudera服务端
9.1 解压服务端管理安装包
解压完可以在/opt目录下看到文件
CDH安装包(Parecls包)
版本号必须与Cloudera Manager相对应
下载地址: https://archive.cloudera.com/cdh5/parcels/5.14.0/
需要下载下面3个文件:
CDH-5.14.0-1.cdh5.14.0.p0.23-el7.parcel
CDH-5.14.0-1.cdh5.14.0.p0.23-el7.parcel.sha1
manifest.json
MySQL jdbc驱动
文件名: mysql-connector-java-.tar.gz
下载地址: https://dev.mysql.com/downloads/connector/j/
解压出: mysql-connector-java-bin.jar
yum -y install chkconfig python bind-utils psmisc libxslt zlib sqlite cyrus-sasl-plain
cyrus-sasl-gssapi fuse portmap fuse-libs redhat-lsb
Mysql数据库信息
安装节点:hadoop2
用户:root
密码:12345678
#所有节点上传cloudera-manager-centos7-cm5.14.0_x86_64.tar.gz文件并解压
[root@hadoop2 ~]# tar -zxvf /root/cloudera-manager-centos7-cm5.14.0_x86_64.tar.gz -C /opt
[root@hadoop2 ~]# tar -zxvf cloudera-manager-centos7-cm5.14.0_x86_64.tar.gz -C /opt
[root@hadoop3 ~]# tar -zxvf cloudera-manager-centos7-cm5.14.0_x86_64.tar.gz -C /opt
[root@hadoop4 ~]# tar -zxvf cloudera-manager-centos7-cm5.14.0_x86_64.tar.gz -C /opt
[root@hadoop5 ~]# tar -zxvf cloudera-manager-centos7-cm5.14.0_x86_64.tar.gz -C /opt
9.2 创建客户端运行目录
9.3 创建cloudera-scm用户
#所有节点创建cloudera-scm用户
useradd --system --home=/opt/cm-5.14.0/run/cloudera-scm-server --no-create-home --
shell=/bin/false --comment "Cloudera SCM User" cloudera-scm
9.4 初始化数据库
初始化数据库(只需要在Cloudera Manager Server节点执行)
将提供的msyql驱动包上传到hadoop2的root home目录下,然后将mysql jdbc驱动放入相应位置:
#上传驱动包到hadoop2的root home目录下
[root@hadoop2 ~]# mv mysql-connector-java-5.1.46.jar mysql-connector-java.jar
[root@hadoop2 ~]# cp mysql-connector-java.jar /opt/cm-5.14.0/share/cmf/lib/
[root@hadoop2 ~]# /opt/cm-5.14.0/share/cmf/schema/scm_prepare_database.sh mysql -h hadoop2
-uroot -p'123456' --scm-host hadoop2 scm scm '123456'
#需要设置Mysql数据库的密码级别
mysql -u root -p123456
set global validate_password_policy=0;
set global validate_password_length=6;
[root@hadoop2 ~]# /opt/cm-5.14.0/share/cmf/schema/scm_prepare_database.sh mysql -h hadoop2
-uroot -p'123456' --scm-host hadoop2 scm scm '123456'
JAVA_HOME=/usr/java/jdk1.8.0_211-amd64
Verifying that we can write to /opt/cm-5.14.0/etc/cloudera-scm-server
[root@hadoop2 ~]# cd /opt/
[root@hadoop2 opt]# ll
total 0
drwxr-xr-x. 4 1106 4001 36 Apr 3 2018 cloudera
drwxr-xr-x. 9 1106 4001 88 Apr 3 2018 cm-5.14.0
[root@hadoop2 opt]# cd cloudera/
[root@hadoop2 cloudera]# ll
total 0
drwxr-xr-x. 2 1106 4001 6 Apr 3 2018 csd
drwxr-xr-x. 2 1106 4001 6 Apr 3 2018 parcel-repo
[root@hadoop2 cloudera]#
#所有节点手动创建文件夹
[root@hadoop2 ~]# mkdir /opt/cm-5.14.0/run/cloudera-scm-agent
[root@hadoop2 ~]# mkdir /opt/cm-5.14.0/run/cloudera-scm-agent
[root@hadoop3 ~]# mkdir /opt/cm-5.14.0/run/cloudera-scm-agent
[root@hadoop4 ~]# mkdir /opt/cm-5.14.0/run/cloudera-scm-agent
[root@hadoop5 ~]# mkdir /opt/cm-5.14.0/run/cloudera-scm-agent
Creating SCM configuration file in /opt/cm-5.14.0/etc/cloudera-scm-server
Executing: /usr/java/jdk1.8.0_211-amd64/bin/java -cp /usr/share/java/mysql-connector-
java.jar:/usr/share/java/oracle-connector-java.jar:/opt/cm-5.14.0/share/cmf/schema/../lib/*
com.cloudera.enterprise.dbutil.DbCommandExecutor /opt/cm-5.14.0/etc/cloudera-scm-
server/db.properties com.cloudera.cmf.db.
[ main] DbCommandExecutor INFO Successfully connected
to database.
#显示初始化成功
All done, your SCM database is configured correctly!
[root@hadoop2 ~]#
脚本参数说明: ${数据库类型} -h ${数据库所在节点ip/hostname} -u${数据库用户名} -p${数据库密码} –scm-host
${Cloudera Manager Server节点ip/hostname} scm(数据库) scm(用户名) scm(密码)
9.5 修改所有节点客户端配置
#将其中的server_host参数修改为Cloudera Manager Server节点的主机名
[root@hadoop2 ~]# vim /opt/cm-5.14.0/etc/cloudera-scm-agent/config.ini
[General]
# 将默认的server_host=localhost 修改成hadoop2
server_host=hadoop2
9.6 上传CDH安装包
#将如下文件放到CM Server-hadoop2节点的/opt/cloudera/parcel-repo/目录中:
#CDH-5.14.0-1.cdh5.14.0.p0.3-el7.parcel
#CDH-5.14.0-1.cdh5.14.0.p0.3-el7.parcel.sha1
#manifest.json
# 重命名sha1文件
[root@hadoop2 parcel-repo]# mv CDH-5.14.0-1.cdh5.14.0.p0.3-el7.parcel.sha1 CDH-5.14.0-
1.cdh5.14.0.p0.3-el7.parcel.sha
9.7 更改安装目录用户组权限
所有节点更改cm相关文件夹的用户及用户组
[root@hadoop2 ~]# chown -R cloudera-scm:cloudera-scm /opt/cloudera
[root@hadoop2 ~]# chown -R cloudera-scm:cloudera-scm /opt/cm-5.14.0
[root@hadoop2 ~]#
9.8 启动Cloudera Manager和agent
Server(hadoop2)节点
剩余67页未读,继续阅读
资源评论
Soyoger
- 粉丝: 3160
- 资源: 34
上传资源 快速赚钱
- 我的内容管理 展开
- 我的资源 快来上传第一个资源
- 我的收益 登录查看自己的收益
- 我的积分 登录查看自己的积分
- 我的C币 登录后查看C币余额
- 我的收藏
- 我的下载
- 下载帮助
安全验证
文档复制为VIP权益,开通VIP直接复制
信息提交成功