MapReduce 编程之 倒排索引

标签: mapreduce 编程 倒排索引 | 发表时间:2013-11-19 22:23 | 作者:xiaozhuaixifu
出处:http://blog.csdn.net

本文调试环境: ubuntu 10.04 , hadoop-1.0.2

hadoop装的是伪分布模式,就是只有一个节点,集namenode, datanode, jobtracker, tasktracker...于一体。

本文实现了简单的倒排索引,单词,文档路径,词频,重要的解释都会在代码注视中。

第一步,启动hadoop, 开发环境主要是用eclipse. 在本地文件系统中新建三个文本文档作为数据源:并且上传到HDFS文件系统上:

如上图,在HDFS上新建了一个输入路径文件夹:input1,此路径将会作为后面程序的输入参数;

如果你打开了eclipse,你同样会在DFSLocation中看到此目录文件信息:

好了,然后开始写代码吧,代码的详细解释,你可以在刘鹏老师的hadoop实战中第三章找到:

import java.io.IOException;
import java.util.StringTokenizer;

import org.apache.hadoop.conf.Configuration;
import org.apache.hadoop.fs.Path;
import org.apache.hadoop.io.Text;
import org.apache.hadoop.mapreduce.Job;
import org.apache.hadoop.mapreduce.Mapper;
import org.apache.hadoop.mapreduce.Reducer;
import org.apache.hadoop.mapreduce.lib.input.FileInputFormat;
import org.apache.hadoop.mapreduce.lib.input.FileSplit;
import org.apache.hadoop.mapreduce.lib.output.FileOutputFormat;
import org.apache.hadoop.util.GenericOptionsParser;


public class InvertedIndex {

	// Map过程
	public static class InvertedIndexMapper extends
			Mapper<Object, Text, Text, Text>{
		
		private Text keyInfo = new Text();
		private Text valueInfo = new Text();
		private FileSplit split;
		
		public void map(Object key, Text value, Context context) 
				throws IOException, InterruptedException{
			
			//获得<key,value>对所属的FileSplit对象
			split = (FileSplit)context.getInputSplit();
			
			StringTokenizer itr = new StringTokenizer(value.toString());
			
			while(itr.hasMoreTokens()){
				//key值由单词和文档URL组成,如:word:filename.txt
				//至于为什么采用这样的格式,因为可以利用MapRedeuce框架自带的Map端排序
				keyInfo.set(itr.nextToken() + ":" + split.getPath().toString());
				//初始词频为1
				valueInfo.set("1");
				context.write(keyInfo, valueInfo);
			}
		}
	}
	
	//Combine 过程
	public static class InvertedIndexCombiner extends 
			Reducer<Text, Text, Text, Text>{
		
		private Text info= new Text();
		
		public void reduce(Text key, Iterable<Text> values, Context context)
				throws IOException, InterruptedException{
			
			int sum = 0;
			for(Text value : values){
				sum += Integer.parseInt(value.toString());
			}
			
			int splitIndex = key.toString().indexOf(":");
			//现在value由如下格式组成:文档URL:词频,为保证在Shuffle过程的key 值相同,这样才能
			//哈希到同一个reducer.
			info.set(key.toString().substring(splitIndex + 1) + ":" + sum);
			
			//key由单词组成
			key.set(key.toString().substring(0, splitIndex));
			context.write(key, info);
		}
	}
	
	//Reducer过程
	public static class InvertedIndexReducer extends
			Reducer<Text, Text, Text, Text>{
		
		private Text result = new Text();
		
		//				 输入端键值       value格式是一个列表,进入Reducer的key是经过排序的,因为相同的key则产生了一个列表{values}
		public void reduce(Text key, Iterable<Text> values, Context context)
				throws IOException, InterruptedException{
			
			
			String fileList = new String();
			for(Text value : values){
				fileList += value.toString() + ";";
			}
			//合并每个单词的所有values
			result.set(fileList);
			
			context.write(key, result);
		}
	}
		
	
	public static void main(String[] args) throws Exception{
		
		Configuration conf = new Configuration();
		String[] otherArgs = new GenericOptionsParser(conf, args).getRemainingArgs();
		if(otherArgs.length != 2){
			System.err.println("args is wrong!");
		    System.exit(2);
		}
		
		Job job = new Job(conf, "InvertedIndex");
		job.setJarByClass(InvertedIndex.class);
		
		job.setMapperClass(InvertedIndexMapper.class);
		
		job.setMapOutputKeyClass(Text.class);
		job.setMapOutputValueClass(Text.class);
		
		job.setCombinerClass(InvertedIndexCombiner.class);
		
		job.setReducerClass(InvertedIndexReducer.class);
		
		job.setOutputKeyClass(Text.class);
		job.setOutputValueClass(Text.class);
		
		//程序添加的两个参数指定输入输出文件路径
		FileInputFormat.addInputPath(job, new Path(otherArgs[0]));
		FileOutputFormat.setOutputPath(job, new Path(otherArgs[1]));
		
		System.exit(job.waitForCompletion(true) ? 0 : 1);
	}

}

注意新建的不是JAVA工程哦,是M-P工程,还要注意输入目录路径在程序运行之前不应该存在,此处我指定为output1

在运行配置里,输入两个参数,即输入路径和输出路径。

运行时你将会看到如此信息:

运行结束后你将在你的HDFS文件系统上的output1 文件夹下看到程序的执行结果:

这就是正确的结果了,统计出每个单词出现的文档路径及词频数。一个简单的M-P编程是列就是这样子了的。

笔者刚开始学习hadoop,欢迎交流,如有错误,恳请指出。



作者:xiaozhuaixifu 发表于2013-11-19 22:23:12 原文链接
阅读:102 评论:0 查看评论

相关 [mapreduce 编程 倒排索引] 推荐:

MapReduce 编程之 倒排索引

- - CSDN博客云计算推荐文章
本文调试环境: ubuntu 10.04 , hadoop-1.0.2. hadoop装的是伪分布模式,就是只有一个节点,集namenode, datanode, jobtracker, tasktracker...于一体. 本文实现了简单的倒排索引,单词,文档路径,词频,重要的解释都会在代码注视中.

MapReduce案例之倒排索引

- - 行业应用 - ITeye博客
1       倒排索引. "倒排索引"是文档检索系统中最常用的数据结构,被广泛地应用于全文搜索引擎. 它主要是用来存储某个单词(或词组)在一个文档或一组文档中的存储位置的映射,即提供了一种根据内容来查找文档的方式. 由于不是根据文档来确定文档所包含的内容,而是进行相反的操作,因而称为倒排索引(Inverted Index).

基于hadoop的mapreduce实现倒排索引

- - ITeye博客
基于 hadoop 的 mapreduce 实现倒排索引. 倒排索引(英语: Inverted index ),也常被称为反向索引、置入档案或反向档案,是一种索引方法,被用来存储在全文搜索下某个单词在一个文档或者一组文档中的存储位置的映射. 它是文档检索系统中最常用的数据结构.

MapReduce编程模型

- - CSDN博客云计算推荐文章
MapReduce是一个Google发明的编程模型,也是一个处理和生成超大规模数据集的算法模型的相关实现. 用户首先创建一个Map函数处理一个基于对的数据集合,输出的中间结果基于对的数据集合,然后再创建一个Reduce函数用来合并所有的具有相同中间Key值的中间Value值.

Hadoop MapReduce高级编程

- - 互联网 - ITeye博客
•combine函数把一个map函数产生的对(多个key, value)合并成一个新的. 将新的作为输入到reduce函数中,其格式与reduce函数相同. •这样可以有效的较少中间结果,减少网络传输负荷. •什么情况下可以使用Combiner.

倒排索引

- - ITeye博客
倒排索引是文档检索系统中最常见的数据结构,被广泛的应用于搜索引擎. 它是一种根据内容查找文档的方式. 由于不是根据文档来找内容,而是根据进行了相反的操作,因此叫做倒排索引. 倒排索引的一个简单结构如下图所示:. 最常见的是使用词频作为权重,即单词在一个文档中出现的次数. 因此,当搜索条件为“MapReduce”“is”“simple”的时候,对应的集合为{(0.txt,1),(1.txt,1),(2.txt,2)}且{(0.txt,1),(1.txt,2)}且{(0.txt,1),(1.txt,1)}={0.txt,1.txt}.

MapReduce编程实战之“高级特性”

- - CSDN博客云计算推荐文章
本篇介绍MapReduce的一些高级特性,如计数器、数据集的排序和连接. 计数器是一种收集作业统计信息的有效手段,排序是MapReduce的核心技术,MapReduce也能够执行大型数据集间的“”连接(join)操作. 计数器是一种收集作业统计信息的有效手段,用于质量控制或应用级统计. 计数器还可用于辅助诊断系统故障.

Hadoop MapReduce编程入门案例

- - CSDN博客云计算推荐文章
Hadoop入门例程简析中. (下面的程序下载地址: http://download.csdn.net/detail/zpcandzhj/7810829). (1)Hadoop新旧API的区别. 新的API倾向于使用虚类(抽象类),而不是接口,因为这更容易扩展. 例如,可以无需修改类的实现而在虚类中添加一个方法(即用默认的实现).

MapReuce 编程总结-多MapReduce执行

- - CSDN博客云计算推荐文章
学习hadoop,必不可少的就是写MapReduce程序,当然,对于简单的分析程序,我们只需一个MapReduce就能搞定,这里就不提单MapReuce的情况了,网上例子很多,大家可以百度Google一下. 对于比较复杂的分析程序,我们可能需要多个Job或者多个Map或者Reduce进行分析计算.         多Job或者多MapReduce的编程形式有以下几种:.