没有合适的资源?快使用搜索试试~ 我知道了~
docker-mesos-pyspark-hdfs:使用docker容器的模拟多节点mesos(py)spark集群示例
共13个文件
zookeeper:1个
start_leader:1个
follower:1个
需积分: 10 1 下载量 151 浏览量
2021-05-06
00:53:58
上传
评论
收藏 9KB ZIP 举报
温馨提示
这些脚本使您可以模拟多节点Mesos集群,以使用Docker容器运行Spark(除了Hadoop,Hadoop目前仅配置为单个节点)。 只需稍加修改IP地址,就可以轻松地将其适应于实际的多节点部署。 基本安排是这样的: Docker主机,该主机还充当Spark客户端(提交Spark任务的位置)。 这就是您要构建映像并在其上运行容器的内容。 运行Zookeeper流程以协调Mesos领导者的Docker容器 运行Mesos主进程以充当领导者的Docker容器 运行Mesos从属进程以充当跟随者的Docker容器 运行Hadoop来通过HDFS托管文件的Docker容器 几乎所有内容都是通过run脚本来处理的。 请注意,您也可以有多个Zookeeper,但是run脚本尚未正确处理这些IP的收集。 客户端设置 如果您没有docker和docker-compose ,请运行: ./ru
资源推荐
资源详情
资源评论
收起资源包目录
docker-mesos-pyspark-hdfs-master.zip (13个子文件)
docker-mesos-pyspark-hdfs-master
run 5KB
example.py 681B
readme.md 3KB
docker
Dockerfile.mesos 489B
Dockerfile.zookeeper 586B
assets
start_leader 201B
start_follower 58B
core-site.xml 1KB
ssh_config 69B
start_hadoop 383B
Dockerfile.leader 104B
Dockerfile.follower 279B
Dockerfile.hadoop 1KB
共 13 条
- 1
资源评论
工程求知者
- 粉丝: 31
- 资源: 4608
上传资源 快速赚钱
- 我的内容管理 展开
- 我的资源 快来上传第一个资源
- 我的收益 登录查看自己的收益
- 我的积分 登录查看自己的积分
- 我的C币 登录后查看C币余额
- 我的收藏
- 我的下载
- 下载帮助
安全验证
文档复制为VIP权益,开通VIP直接复制
信息提交成功