文档章节

评论管家第二期

海上明月共潮生
 海上明月共潮生
发布于 2017/07/03 20:04
字数 320
阅读 0
收藏 0

package com.movie.step;

import java.io.IOException;
import java.util.Map;

import org.apache.hadoop.conf.Configuration;
import org.apache.hadoop.fs.Path;
import org.apache.hadoop.io.IntWritable;
import org.apache.hadoop.io.Text;
import org.apache.hadoop.mapreduce.InputSplit;
import org.apache.hadoop.mapreduce.Job;
import org.apache.hadoop.mapreduce.Mapper;
import org.apache.hadoop.mapreduce.Reducer;
import org.apache.hadoop.mapreduce.lib.input.FileInputFormat;
import org.apache.hadoop.mapreduce.lib.input.FileSplit;
import org.apache.hadoop.mapreduce.lib.output.FileOutputFormat;

import com.movie.arith.Recommend;

/**
 * combine source data
 * 
 * @author yourkkc the matrix of user to score to movies;
 * 
 * yong hu ju zheng
 */
public class UserMatrix {

    // input collect
    public static class TheMapper extends Mapper<Object, Text, Text, Text> {

        private final static Text k = new Text();
        private final static Text v = new Text();

        @Override
        protected void map(Object key, Text value, Mapper<Object, Text, Text, Text>.Context context)
                throws IOException, InterruptedException {
            FileSplit inputSplit = (FileSplit) context.getInputSplit();
            String txtName = inputSplit.getPath().getName();
            int itemId = Integer.parseInt(txtName.substring(3, txtName.length() - 4));
            String[] token = value.toString().split(",");
            if (token.length > 1) {// like userID itemID:score:time
                k.set(Integer.parseInt(token[0]) + "");
                v.set(itemId + ":" + token[1] + ":" + token[2]);
                context.write(k, v);
            }
        }

    }

    public static class TheReduce extends Reducer<Text, Text, Text, Text> {

        private final static Text v = new Text();

        @Override
        protected void reduce(Text k, Iterable<Text> values, Reducer<Text, Text, Text, Text>.Context context)
                throws IOException, InterruptedException {

            StringBuffer sBuffer = new StringBuffer();
            for (Text value : values) {
                sBuffer.append("," + value.toString());
            }
            v.set(sBuffer.toString().replaceFirst(",", ""));// userID
                                                            // itemID:score:time,itemID:score:item
            context.write(k, v);
        }

    }
    
    
    public static class TheMapper1 extends Mapper<Object, Text, Text, Text> {

        private final static Text k = new Text();
        private final static Text v = new Text();

        @Override
        protected void map(Object key, Text value, Mapper<Object, Text, Text, Text>.Context context)
                throws IOException, InterruptedException {
            FileSplit inputSplit = (FileSplit) context.getInputSplit();
            String txtName = inputSplit.getPath().getName();
            int itemId = Integer.parseInt(txtName.substring(3, txtName.length() - 4));
            String[] token = value.toString().split(",");
            if (token.length > 1) {// like userID itemID:score:time
                k.set(Integer.parseInt(token[0]) + "");
                v.set(itemId + ":" + token[1]);
                context.write(k, v);
            }
        }

    }
    

    public static class TheReduce1 extends Reducer<Text, Text, Text, Text> {


        @Override
        protected void reduce(Text k, Iterable<Text> values, Reducer<Text, Text, Text, Text>.Context context)
                throws IOException, InterruptedException {

            StringBuffer sBuffer = new StringBuffer();
            for (Text value : values) {
                context.write(k, value);
            }
        }

    }

}
 

© 著作权归作者所有

共有 人打赏支持
上一篇: 评论管家之MR
下一篇: 评论管家系统
海上明月共潮生
粉丝 0
博文 4
码字总数 1130
作品 0
绥化
私信 提问
可心耳语-属于网络工程师的人声电台(第二期)

第二期请点击链接噢 可心耳语-第二期 自人声电台第一期发布之后就广受同学们的好评,也很感谢各位同学的包容和理解,因为在第一次录音情况下,可以说有许多漏洞和不足之处,原以为会受到一些...

叶焕新
2017/06/01
0
0
你是儒系程序名猿,还是佛系开发大神?

“全球最受欢迎的职业”大家猜猜看最受欢迎的 Dream Job 会是啥?biubiu~前方高萌预警! 据说熊猫饲养员已成为全世界招妒 No.1 的高光靶子 这样岁月静好的工作谁不想要? 但现实中的职场却是...

p5deyt322jacs
2018/05/14
0
0
【开源项目】之仓鼠管家和OpenHamtaro

项目背景 大家好,我是多多的爸爸,多多是在李志唱了“多多你不要哭”之后来到这个世界上的小女孩。 前段时间给多多买了个语音仓鼠玩具,主要功能就是你说一句,它重复一句,里头有个电机,讲...

机智宝
2016/09/07
5.3K
9
【深圳】开源中国 OSC 源创会第 5 期

本期图文回顾链接:http://www.oschina.net/question/12_33994 深圳聚会详细地址:南山数字文化产业基地2楼IT茶馆 公交站:荔香公园 公交:42、233、368、81、78、350、373、21、369、390、2...

红薯
2011/12/10
0
0
chatbot人工智能机器人开发,提供教学视频

【业务需求】 学习人工智能开发,40分钟开发出一个chatbot机器人的Demo(比较简单,如有兴趣也可使用Waston API增强chatbot认知能力),利用Bluemix平台的Waston Conversation 服务; 完整教...

宋庆离
2017/07/24
5
10

没有更多内容

加载失败,请刷新页面

加载更多

《1984》读后感作文4000字

《1984》读后感作文4000字: 新年的第一天,开始阅读Gorge Owell的政治寓言小说。以前阅读的是上译的董乐山的译本,也拜读过刘绍铭的译本,两人在翻译上各有千秋。董先生的译本显得有些压抑严...

原创小博客
16分钟前
1
0
Django集成Markdown编辑器【附源码】

专注内容写作的你一定不要错过markdown 简单介绍 markdown是一种标记语言,通过简单的标记语法可以使普通的文本内容具有一定的格式,使用非常简单,学习成本极低 目前各大Blog平台都已支持m...

运维咖啡吧
34分钟前
1
0
C++中虚函数的作用是什么?它应该怎么用呢?

C++中虚函数的作用: 1、简单地说,那些被virtual关键字修饰的成员函数,就是虚函数。 2、实现多态性,多态性是将接口与实现进行分离。 3、当基类指针指向一个子类对象,通过这个指针调用子类...

天王盖地虎626
38分钟前
0
0
简单聊聊Linux学习经历

学习,是我们一生中都规避不了的一个话题,人的一生中都是在不断的学习,无论是功成名就的人士,还是一无是处的小混混,始终都处在一个不断学习的环境中,只是学习的内容千差万别,有的人是为...

linuxprobe16
39分钟前
2
0
面试之ssm粗略简答

说实在的,spring源码对我来说可能就是报错的时候会一个个点进去找错误源头,其他都是为了让自己学习大神们优秀的编程思想和理念(顺便面试的时候吹吹牛皮~) 这次zhjj就直接抛了一个范围很...

无极之岚
44分钟前
3
0

没有更多内容

加载失败,请刷新页面

加载更多

返回顶部
顶部