没有合适的资源?快使用搜索试试~ 我知道了~
1.作业完成时间取决于最慢的任务完成时间 2.推测执行机制 3.执行推测任务的前提条件 4.不能启用推测执行机制情况
资源详情
资源评论
资源推荐
可以慢,但不要停
Yarn任务推测执行
任务的推测执行
1.作业完成时间取决于最慢的任务完成时间
一个作业由若干个Map任务和Reduce任务构成。因硬件老化、软件Bug等,某些任务可能运行非
常慢。
典型案例:系统中有99%的Map任务都完成了,只有少数几个Map老是进度很慢,完不成,怎么办?
2.推测执行机制
发现拖后腿的任务,比如某个任务运行速度远慢于任务平均速度。为拖后腿任务启动一个备份
任务,同时运行。谁先运行完,则采用谁的结果。
3.执行推测任务的前提条件
4.不能启用推测执行机制情况
5.推测执行算法原理
(1)每个Task只能有一个备份任务;
(2)当前Job已完成的Task必须不小于0.05(5%)
(3)开启推测执行参数设置。Hadoop2.7.2 mapred-site.xml文件中默认是打开的。
# mapred-site.xml
<property>
<name>mapreduce.map.speculative</name>
<value>true</value>
<description>If true, then multiple instances of some map tasks may be
executed in parallel.</description>
</property>
<property>
<name>mapreduce.reduce.speculative</name>
<value>true</value>
<description>If true, then multiple instances of some reduce tasks may be
executed in parallel.</description>
</property>
(1)任务间存在严重的负载倾斜;
(2)特殊任务,比如任务向数据库中写数据
Asama浅间
- 粉丝: 22
- 资源: 299
上传资源 快速赚钱
- 我的内容管理 展开
- 我的资源 快来上传第一个资源
- 我的收益 登录查看自己的收益
- 我的积分 登录查看自己的积分
- 我的C币 登录后查看C币余额
- 我的收藏
- 我的下载
- 下载帮助
安全验证
文档复制为VIP权益,开通VIP直接复制
信息提交成功
评论0