没有合适的资源?快使用搜索试试~ 我知道了~
【MapReduce篇07】MapReduce之数据清洗ETL1
需积分: 0 3 下载量 43 浏览量
2022-08-04
15:30:57
上传
评论 1
收藏 427KB PDF 举报
温馨提示
试读
7页
【MapReduce篇07】MapReduce之数据清洗ETL1
资源推荐
资源详情
资源评论
不可有傲气,但要有傲骨
MapReduce之数据清洗ETL
简单版数据清洗
需求
去除日志中字段长度小于等于11的日志。
Mapper代码
public class LogMapper extends Mapper<LongWritable, Text, Text, NullWritable>{
Text k = new Text();
@Override
protected void map(LongWritable key, Text value, Context context) throws
IOException, InterruptedException {
// 1 获取1行数据
String line = value.toString();
// 2 解析日志
boolean result = parseLog(line,context);
// 3 日志不合法退出
if (!result) {
return;
}
// 4 设置key
k.set(line);
// 5 写出数据
context.write(k, NullWritable.get());
}
// 2 解析日志
private boolean parseLog(String line, Context context) {
// 1 截取
String[] fields = line.split(" ");
// 2 日志长度大于11的为合法
if (fields.length > 11) {
资源评论
顾露
- 粉丝: 15
- 资源: 315
上传资源 快速赚钱
- 我的内容管理 展开
- 我的资源 快来上传第一个资源
- 我的收益 登录查看自己的收益
- 我的积分 登录查看自己的积分
- 我的C币 登录后查看C币余额
- 我的收藏
- 我的下载
- 下载帮助
安全验证
文档复制为VIP权益,开通VIP直接复制
信息提交成功