大数据企业级调优的完整过程：9.1 Fetch抓取；9.2 本地模式；9.3 表的优化；9.4 数据倾斜；9.5 并行执行
85 浏览量
2023-07-02
22:12:16
上传
评论
收藏 726KB DOCX 举报
第 9 章 企业级调优
9.1 Fetch 抓取
Fetch 抓取是指，Hive 中对某些情况的查询可以不必使用 MapReduce 计算。例如：
SELECT * FROM employees;在这种情况下，Hive 可以简单地读取 employee 对应的存储目录
下的文件，然后输出查询结果到控制台。
在 hive-default.xml.template 文件中 hive.fetch.task.conversion 默认是 more，老版本 hive
默认是 minimal，该属性修改为 more 以后，在全局查找、字段查找、limit 查找等都不走
mapreduce。
<property>
<name>hive.fetch.task.conversion</name>
<value>more</value>
<description>
Expects one of [none, minimal, more].
Some select queries can be converted to single FETCH task minimizing latency.
Currently the query should be single sourced not having any subquery and
should not have
any aggregations or distincts (which incurs RS), lateral views and joins.
0. none : disable hive.fetch.task.conversion
1. minimal : SELECT STAR, FILTER on partition columns, LIMIT only
2. more : SELECT, FILTER, LIMIT only (support TABLESAMPLE and virtual
columns)
</description>
</property>
案例实操：
1）把 hive.fetch.task.conversion 设置成 none，然后执行查询语句，都会执行 mapreduce
程序。
hive (default)> set hive.fetch.task.conversion=none;
hive (default)> select * from emp;
hive (default)> select ename from emp;
hive (default)> select ename from emp limit 3;
2）把 hive.fetch.task.conversion 设置成 more，然后执行查询语句，如下查询方式都不会
执行 mapreduce 程序。
hive (default)> set hive.fetch.task.conversion=more;
hive (default)> select * from emp;
hive (default)> select ename from emp;
hive (default)> select ename from emp limit 3;
9.2 本地模式
大多数的 Hadoop Job 是需要 Hadoop 提供的完整的可扩展性来处理大数据集的。不过，
有时 Hive 的输入数据量是非常小的。在这种情况下，为查询触发执行任务消耗的时间可能
会比实际 job 的执行时间要多的多。对于大多数这种情况，Hive 可以通过本地模式在单台机
器上处理所有的任务。对于小数据集，执行时间可以明显被缩短。
用户可以通过设置 hive.exec.mode.local.auto 的值为 true，来让 Hive 在适当的时候自动
剩余12页未读，继续阅读
资源评论
