没有合适的资源?快使用搜索试试~ 我知道了~
资源详情
资源评论
资源推荐
Titan 数据运营系统部署流程手册
二○二○ 年 七 月
文档修改历史记录
版本状
态
修改日期
备注
v 1.0
2020/07/25
Titan 运营系统骨架和基础设施搭建
目录
第 1 章 部署环境 .............................................................................................................................3
1.1 系统配置 ............................................................................................................................3
1.2 系统依赖配置 ....................................................................................................................4
1.2.1 JDK 配置 ..................................................................................................................4
1.2.2 防火墙配置 .............................................................................................................5
1.2.3 主机名配置 .............................................................................................................5
1.2.4 免密 ssh 配置 .........................................................................................................6
1.3 依赖组件配置 ....................................................................................................................6
1.3.1 Hadoop 配置 ............................................................................................................6
1.3.2 Mysql 配置 ............................................................................................................18
1.3.3 Hive 配置 ..............................................................................................................20
1.3.4 Zookeeper 配置 ....................................................................................................27
1.3.5 HBase 配置 ............................................................................................................30
1.3.6 Kafka 配置 ............................................................................................................34
1.3.7 Flulme 配置 ..........................................................................................................36
1.3.8 Spark 配置 ............................................................................................................37
1.3.9 Atlas 配置..............................................................................................................38
1.3.10 Azkaban 配置 .....................................................................................................41
第 2 章 模块安装与配置 ...............................................................................................................49
2.1 总体说明 ..........................................................................................................................49
2.2 数据库数据初始化 ..........................................................................................................49
2.3 系统安装部署 ..................................................................................................................49
2.3.1 数据提取、存储子系统........................................................................................49
2.3.2 分析结果可视化展示子系统................................................................................53
2.3.3 分析、迁移定时任务子系统................................................................................54
2.4 模块使用 ..........................................................................................................................56
第 3 章 其他事项 ...........................................................................................................................57
3.1 故障排查 ..........................................................................................................................57
3.1.1 hive metastroe 的问题 ........................................................................................57
3.1.2hiveserver2 的启动问题 ......................................................................................58
3.2 Q&A ....................................................................................................................................59
第 1 章 部署环境
1.1 系统配置
操作系统的版本:CentOS Linux release 7.5.1804 (Core)
系统内核:3.10.0-862.el7.x86_64
内存:32GB
CPU 个数:6
CPU 核数:1
CPU 型号:Intel(R) Xeon(R) Silver 4116 CPU @ 2.10GHz
1.2 系统依赖配置
1.2.1 JDK 配置
➢ 安装步骤:
如虚拟机上有自带的 OpenJDk 必须卸载后安装(通过 yum –y remove [包
名]的方式卸载 rpm –qa |grep jdk 查询)
本次安装使用的 jdk 版本为 jdk-8u151-linux-x64.tar.gz 版本,新建一个 jdk
的安装目录, /usr/local/下新建了 Java 目录,命令:mkdir
/usr/local/java ,
把 jdk-8u151-linux-x64.tar.gz 压缩包通过 Xftp 放入/usr/local/java 文件夹
内并通过 tar 命令解压:tar –vxf {java 安装包名}
配置环境变量
1. 在"/etc/profile"文件的尾部添加以下内容:
# set java environment
export JAVA_HOME=/usr/local/java/jdk1.8.0_151
export
CLASSPATH=.:$JAVA_HOME/jre/lib/rt.jar:$JAVA_HOME/lib/dt.jar:$JA
VA_HOME/lib/tools.jar
export PATH=$PATH:$JAVA_HOME/bin
2. 通过 source /etc/profile 使配置文件立即生效
➢ 检验安装成功:
输入 java –version 判断是否安装成功
成功标志:
(base) [root@master ~]# java -version
java version "1.8.0_151"
Java(TM) SE Runtime Environment (build 1.8.0_151-b12)
Java HotSpot(TM) 64-Bit Server VM (build 25.151-b12, mixed mode)
1.2.2 防火墙配置
➢ 关闭防火墙:
systemctl stop firewalld
systemctl disable firewalld
➢ 成功标志:
输入:firewall-cmd --state
(base) [root@master ~]# firewall-cmd --state
not running
1.2.3 主机名配置
➢ 修改 host 文件
剩余59页未读,继续阅读
查理捡钢镚
- 粉丝: 17
- 资源: 317
上传资源 快速赚钱
- 我的内容管理 展开
- 我的资源 快来上传第一个资源
- 我的收益 登录查看自己的收益
- 我的积分 登录查看自己的积分
- 我的C币 登录后查看C币余额
- 我的收藏
- 我的下载
- 下载帮助
安全验证
文档复制为VIP权益,开通VIP直接复制
信息提交成功
评论0