文档章节

评论管家第二期

海上明月共潮生
 海上明月共潮生
发布于 2017/07/03 20:04
字数 320
阅读 0
收藏 0

package com.movie.step;

import java.io.IOException;
import java.util.Map;

import org.apache.hadoop.conf.Configuration;
import org.apache.hadoop.fs.Path;
import org.apache.hadoop.io.IntWritable;
import org.apache.hadoop.io.Text;
import org.apache.hadoop.mapreduce.InputSplit;
import org.apache.hadoop.mapreduce.Job;
import org.apache.hadoop.mapreduce.Mapper;
import org.apache.hadoop.mapreduce.Reducer;
import org.apache.hadoop.mapreduce.lib.input.FileInputFormat;
import org.apache.hadoop.mapreduce.lib.input.FileSplit;
import org.apache.hadoop.mapreduce.lib.output.FileOutputFormat;

import com.movie.arith.Recommend;

/**
 * combine source data
 * 
 * @author yourkkc the matrix of user to score to movies;
 * 
 * yong hu ju zheng
 */
public class UserMatrix {

    // input collect
    public static class TheMapper extends Mapper<Object, Text, Text, Text> {

        private final static Text k = new Text();
        private final static Text v = new Text();

        @Override
        protected void map(Object key, Text value, Mapper<Object, Text, Text, Text>.Context context)
                throws IOException, InterruptedException {
            FileSplit inputSplit = (FileSplit) context.getInputSplit();
            String txtName = inputSplit.getPath().getName();
            int itemId = Integer.parseInt(txtName.substring(3, txtName.length() - 4));
            String[] token = value.toString().split(",");
            if (token.length > 1) {// like userID itemID:score:time
                k.set(Integer.parseInt(token[0]) + "");
                v.set(itemId + ":" + token[1] + ":" + token[2]);
                context.write(k, v);
            }
        }

    }

    public static class TheReduce extends Reducer<Text, Text, Text, Text> {

        private final static Text v = new Text();

        @Override
        protected void reduce(Text k, Iterable<Text> values, Reducer<Text, Text, Text, Text>.Context context)
                throws IOException, InterruptedException {

            StringBuffer sBuffer = new StringBuffer();
            for (Text value : values) {
                sBuffer.append("," + value.toString());
            }
            v.set(sBuffer.toString().replaceFirst(",", ""));// userID
                                                            // itemID:score:time,itemID:score:item
            context.write(k, v);
        }

    }
    
    
    public static class TheMapper1 extends Mapper<Object, Text, Text, Text> {

        private final static Text k = new Text();
        private final static Text v = new Text();

        @Override
        protected void map(Object key, Text value, Mapper<Object, Text, Text, Text>.Context context)
                throws IOException, InterruptedException {
            FileSplit inputSplit = (FileSplit) context.getInputSplit();
            String txtName = inputSplit.getPath().getName();
            int itemId = Integer.parseInt(txtName.substring(3, txtName.length() - 4));
            String[] token = value.toString().split(",");
            if (token.length > 1) {// like userID itemID:score:time
                k.set(Integer.parseInt(token[0]) + "");
                v.set(itemId + ":" + token[1]);
                context.write(k, v);
            }
        }

    }
    

    public static class TheReduce1 extends Reducer<Text, Text, Text, Text> {


        @Override
        protected void reduce(Text k, Iterable<Text> values, Reducer<Text, Text, Text, Text>.Context context)
                throws IOException, InterruptedException {

            StringBuffer sBuffer = new StringBuffer();
            for (Text value : values) {
                context.write(k, value);
            }
        }

    }

}
 

© 著作权归作者所有

共有 人打赏支持
海上明月共潮生
粉丝 0
博文 4
码字总数 1130
作品 0
绥化
可心耳语-属于网络工程师的人声电台(第二期)

第二期请点击链接噢 可心耳语-第二期 自人声电台第一期发布之后就广受同学们的好评,也很感谢各位同学的包容和理解,因为在第一次录音情况下,可以说有许多漏洞和不足之处,原以为会受到一些...

叶焕新
2017/06/01
0
0
【开源项目】之仓鼠管家和OpenHamtaro

项目背景 大家好,我是多多的爸爸,多多是在李志唱了“多多你不要哭”之后来到这个世界上的小女孩。 前段时间给多多买了个语音仓鼠玩具,主要功能就是你说一句,它重复一句,里头有个电机,讲...

机智宝
2016/09/07
5.3K
9
你是儒系程序名猿,还是佛系开发大神?

“全球最受欢迎的职业”大家猜猜看最受欢迎的 Dream Job 会是啥?biubiu~前方高萌预警! 据说熊猫饲养员已成为全世界招妒 No.1 的高光靶子 这样岁月静好的工作谁不想要? 但现实中的职场却是...

p5deyt322jacs
05/14
0
0
AndroidShareGroup技术周报(第二期)

AndroidShareGroup技术周报(第二期) 某学姐2016-08-1216 阅读 技术 0x00前言 这周可爱的群友们又进行了一些技术讨论。 关于 并不一定每周都会写,关键还是看群讨论里是否有有价值的内容。 ...

某学姐
2016/08/12
0
0

没有更多内容

加载失败,请刷新页面

加载更多

下一页

es6

在实际开发中,我们有时需要知道对象的所有属性,原生js给我们提供了一个很好的方法:Object.keys(),该方法返回一个数组 传入对象,返回属性名 var obj = {'a':'123','b':'345'};console.l...

不负好时光
5分钟前
0
0
叮!您收到一份超值Java基础入门资料!

摘要:Java语言有什么特点?如何最大效率的学习?深浅拷贝到底有何区别?阿里巴巴高级开发工程师为大家带来Java系统解读,带你掌握Java技术要领,突破重点难点,入门面向对象编程,以详细示例...

全部原谅
7分钟前
0
0
web.xml容器加载顺序

容器对于web.xml的加载过程是context-param >> listener >> fileter >> servlet

Aeroever
9分钟前
1
0
Docker容器日志查看与清理

1. 问题 docker容器日志导致主机磁盘空间满了。docker logs -f container_name噼里啪啦一大堆,很占用空间,不用的日志可以清理掉了。 2. 解决方法 2.1 找出Docker容器日志 在linux上,容器日...

muzi1994
10分钟前
0
0
J2Cache 和普通缓存框架有何不同,它解决了什么问题?

不少人看到 J2Cache 第一眼时,会认为这就是一个普普通通的缓存框架,和例如 Ehcache、Caffeine 、Spring Cache 之类的项目没什么区别,无非是造了一个新的轮子而已。事实上完全不是一回事!...

红薯
13分钟前
365
8

没有更多内容

加载失败,请刷新页面

加载更多

下一页

返回顶部
顶部