需求：统计一堆文件中单词出现的个数（WordCount案例）
3、Mapper
5、Driver
4、Reducer
// 3.1 将MapTask传给我们的文本
内容先转换成String
// 3.2 根据空格将这一行切分成单词
// 3.3 将单词输出为<单词，1>
// 4.1 汇总各个key的个数
// 4.2 输出该key的总次数
// 5.1 获取配置信息，获取job对象实例
// 5.3 关联Mapper/Reducer业务类
// 5.4 指定Mapper输出数据的kv类型
// 5.5 指定最终输出的数据的kv类型
// 5.6 指定job的输入原始文件所在目录
// 5.7 指定job的输出结果所在目录
// 5.2 指定本程序的jar包所在的本地路径
// 5.8 提交作业
ityouxin ityouxin
ityouxin
ityouxin
ityouxin, 1
ityouxin, 1
ityouxin, 1
ityouxin, 1
ityouxin, 2
1、输入数据
2、输出数据
ityouxin ityouxin
ss ss
cls cls
jiao
banzhang
xue
hadoop
ityouxin 2
banzhang1
cls 2
hadoop 1
jiao 1
ss 2
xue 1
3）环境准备
（1）创建 maven 工程，MapReduceDemo
（2）在 pom.xml 文件中添加如下依赖
<dependencies>
<dependency>
<groupId>org.apache.hadoop</groupId>
<artifactId>
hadoop-client</artifactId>
<version>3.1.3</version>
</dependency>
<dependency>
<groupId>junit</groupId>
<artifactId>
junit</artifactId>
<version>4.12</version>
</dependency>
<dependency>
<groupId>org.slf4j</groupId>
<artifactId>
slf4j-log4j12</artifactId>
<version>1.7.30</version>
</dependency>
</dependencies>
（2）在项目的 src/main/resources 目录下，新建一个文件，命名为“log4j.properties”，
在文件中填入。
log4j.rootLogger=INFO, stdout
log4j.appender.stdout=org.apache.log4j.ConsoleAppender
log4j.appender.stdout.layout=org.apache.log4j.PatternLayout
log4j.appender.stdout.layout.ConversionPattern=%d %p [%c] - %m%n
log4j.appender.logfile=org.apache.log4j.FileAppender
log4j.appender.logfile.File=target/spring.log
log4j.appender.logfile.layout=org.apache.log4j.PatternLayout
log4j.appender.logfile.layout.ConversionPattern=%d %p [%c] - %m%n
（3）创建包名：com.ityouxin.mapreduce.wordcount
4）编写程序
评论0