文档章节

IKAnalyzer实现扩展词库+动态更新词库的方法

傲娇字符
 傲娇字符
发布于 2017/10/11 10:50
字数 1107
阅读 40
收藏 0

当前IKAnalyzer从发布最后一个版本后就一直没有再更新,使用过程中,经常遇到需要扩展词库以及动态更新字典表的问题,此处给出一种解决办法(注意:本方法中的IKAnalyzer代码我已经将源码移植到了自己的工程中,目录结构也进行了修改):

 

1、将扩展字典表做成可动态生成:

 1)、在IKAnalyzer.cfg.xml中添加扩展字典路径

    blob.png

 2)、在分词的时候,先采取动态生成上面两个字典表的方式进行更新,例如事先将字典词库放在数据表中,需要分词之前先更新字典。当然此方法只支持第一次调用的时候动态加载词库,如果服务没有重启之前,数据库中添加的词是不会进行重新加载的。下面是动态生成字典表的实现类:

package com.chz.apps.sm.IKAnalyzer;

import java.io.ByteArrayInputStream;
import java.io.IOException;
import java.io.InputStream;
import java.io.InputStreamReader;
import java.io.Reader;
import java.util.ArrayList;
import java.util.List;

import com.chz.apps.sm.model.IkanalyzerExtendModel;
import com.chz.base.util.FileUtil;
import com.chz.plugin.IKAnalyzer.core.IKSegmenter;
import com.chz.plugin.IKAnalyzer.core.Lexeme;

/**
 * @Description 分词工具类
 * @author gongstring<1@gongstring.com>
 * @createTime 2016年11月28日 下午2:46:06
 */
public class IKAnalyzerTool {

	/**
	 * 是否已经初始化过词库,如果没有,则会自动先调用词库
	 */
	private static boolean init_words = false;
	
	/**
	 * 扩展关键字
	 */
	private static List<String> extendWords = new ArrayList<String>();

	/**
	 * 停用关键字
	 */
	private static List<String> stopWords = new ArrayList<String>();
	
	
	/**
	 * @Description 初始化词库以及停用词
	 * @author gongstring<1@gongstring.com>
	 * @createTime 2016年11月28日 下午2:29:59
	 */
	public static void initWords(){
		//从关键字表中查询扩展关键字,并生成到指定文件中
		IKAnalyzerTool.extendWords = new ArrayList<String>();
		List<IkanalyzerExtendModel> extendWords = IkanalyzerExtendModel.dao.findByProperty("status", 1);
		String fileDirPath = IKAnalyzerTool.class.getResource("/com/chz/apps/sm/IKAnalyzer/").getPath();
		String filePath = fileDirPath+"extend.dic";
		FileUtil.removeFile(filePath);//先删除文件,此处重新生成
		for (int i = 0; i < extendWords.size(); i++) {
			String txt = extendWords.get(i).getStr("extend_word");
			FileUtil.appendToFile(filePath, txt,true);
			IKAnalyzerTool.extendWords.add(txt);
		}
		//从关键字表中查询停用关键字,并生成到指定文件中
		IKAnalyzerTool.stopWords = new ArrayList<String>();
		List<IkanalyzerExtendModel> stopWords = IkanalyzerExtendModel.dao.findByProperty("status", 0);
		String stopFilePath = fileDirPath+"stopword.dic";
		FileUtil.removeFile(stopFilePath);//先删除文件,此处重新生成
		for (int i = 0; i < stopWords.size(); i++) {
			String txt = stopWords.get(i).getStr("extend_word");
			FileUtil.appendToFile(stopFilePath, txt,true);
			IKAnalyzerTool.stopWords.add(txt);
		}
		init_words = true;
	}

	/**
	 * @Description 分词操作
	 * @author gongstring<1@gongstring.com>
	 * @createTime 2016年11月28日 下午3:30:10
	 * @param str
	 * @param justExist 是否只显示已经在词库中维护了的关键词
	 * @return
	 */
	public static List<String> IKAnalysis(String str,boolean justExist) {
		List<String> tmp = IKAnalysis(str);
		List<String> result = new ArrayList<String>();
		if(justExist){
			for (int i = 0; i < tmp.size(); i++) {
				if(IKAnalyzerTool.extendWords.contains(tmp.get(i))){
					result.add(tmp.get(i));
				}
			}
		}else{
			result = tmp;
		}
		return result;
	}
	
	/**
	 * @Description 根据字符串自动拆分成关键字集合
	 * @author gongstring<1@gongstring.com>
	 * @createTime 2016年11月28日 下午2:55:24
	 * @param str
	 * @return
	 */
	public static List<String> IKAnalysis(String str) {
		if(!init_words){
			initWords();
		}
		
		List<String> result = new ArrayList<String>();
		try {
			// InputStream in = new FileInputStream(str);//
			byte[] bt = str.getBytes();// str
			InputStream ip = new ByteArrayInputStream(bt);
			Reader read = new InputStreamReader(ip);
			IKSegmenter iks = new IKSegmenter(read, true);
			Lexeme t;
			while ((t = iks.next()) != null) {
				result.add(t.getLexemeText());
			}
		} catch (IOException e) {
			// TODO Auto-generated catch block
			e.printStackTrace();
		}
		return result;

	}
	
}

 

2、修改源码,实现动态更新字典表。通过查看源码IKAnalyzer.dic.Dictionary.java文件得出,字典对象是采取单例模式,也就是第一次加载后,后续不在重新加载,这样即使字典表内容变化,缓存中的字典库是不会变更的,所以需要修改源码,可以手动更新静态对象的内容,此处我采取添加clear方法,在需要更新时候调用,将instance对象设置为null,下次调用字典的时候,程序就会自动加载了

/**
	 * @Description 清空字典缓存,用于动态更新字典表
	 * @author gongstring<1@gongstring.com>
	 * @createTime 2016年11月29日 上午9:56:15
	 */
	public static void clear(){
		singleton = null;
	}

 

blob.png

 

源码修改完后,可以选择编译重新打包,或者将jar包中的class文件删除,java类在工程中按照源目录存放。

3、手动调用,我这里是做的一个页面,点击更新字典库时,调用更新代码:

/**
	 * @Description 刷新关键词缓存
	 * @author gongstring<1@gongstring.com>
	 * @createTime 2016年11月29日 上午9:33:49
	 */
	public void refreshCache(){
		IKAnalyzerTool.initWords();//重新加载词汇
		Dictionary.clear();//将字典表缓存清空
		this.renderSuccessJson(EnvConfig.APP_PATH+"/sm/ikanalyzerExtend");
	}

 

4、可能存在的性能问题:由于词库一般会比较大,所以每次大批量更新可能会出现性能损耗。。。

注:本文转载自gongstring.com,转载目的在于传递更多信息,并不代表本网赞同其观点和对其真实性负责。如有侵权行为,请联系我们,我们会及时删除。

© 著作权归作者所有

共有 人打赏支持
傲娇字符
粉丝 6
博文 43
码字总数 17111
作品 0
武汉
架构师
私信 提问
IKAnalyzer分词器自定义扩展字典设置不起作用

IKAnalyzer配置如下: ext.dic是自定义扩展词库,我在里面添加了一项: 欧洲杯四强赛 希望IKAnalyzer能把它当作一个词,不要把它拆分,可是运行结果却是: 加载扩展词典:/ext.dic 加载扩展停止词典...

vnetoolxw
2014/03/29
9.6K
8
在IDEA中Lucene使用的IKAnalyzer扩展词库应该怎么配置?

IKAnalyzer扩展词库应该放在哪个目录下?

My-Qian
2018/09/04
1K
0
在Solr4.9中使用IKAnalyzer,实现同义词,扩展词库,停顿词的添加

在使用solr4.9的过程中,使用了IKAnalyzer分词器,其中遇到了不少问题,现在做个记录,以备后续只用。 首先使用IKAnalyzer是看到群里有人介绍,但是貌似现在IKAnalyzer已经没人更新了。。。不...

翊骷
2014/09/11
0
1
OSChina开源社区的中文分词方案是怎么实现的?

想请教一个问题:OSChina开源社区的中文分词方案红薯是怎么实现的?之前用IKAnalyzer, 庖丁, mmseg4j做过测试和比较, 都或多或少有一些问题,之前的一个项目结合搜狗词库+IK做的分词,基本上...

程明东
2012/02/15
1K
2
solr配置停止词,同义词和扩展词库

停止词:lucene的停止词是无功能意义的词,比如is 、a 、are 、”的”,“得”,“我” 等,这些词会在句子中多次出现却无意义,所以在分词的时候需要把这些词过滤掉。 扩展词库:就是不想让...

zachary124
2013/07/05
0
2

没有更多内容

加载失败,请刷新页面

加载更多

Linux Wireshark普通用户启动使用方案

当系统安装好Wireshark后请正常启动是否可以进行正常使用,如果不行请参考下列指导 向系统添加一个用户组 sudo groupadd wireshark //如提示此组存在可跳过 将指定用户添加到这个组中 sudo...

CHONGCHEN
今天
1
0
CSS 选择器参考手册

CSS 选择器参考手册 选择器 描述 [attribute] 用于选取带有指定属性的元素。 [attribute=value] 用于选取带有指定属性和值的元素。 [attribute~=value] 用于选取属性值中包含指定词汇的元素。...

Jack088
今天
2
0
数据库篇一

数据库篇 第1章 数据库介绍 1.1 数据库概述  什么是数据库(DB:DataBase) 数据库就是存储数据的仓库,其本质是一个文件系统,数据按照特定的格式将数据存储起来,用户可以对数据库中的数据...

stars永恒
今天
4
0
Intellij IDEA中设置了jsp页面,但是在访问页面时却提示404

在Intellij IDEA中设置了spring boot的jsp页面,但是在访问时,却出现404,Not Found,经过查找资料后解决,步骤如下: 在Run/Debug Configurations面板中设置该程序的Working Directory选项...

uknow8692
昨天
4
0
day24:文档第五行增内容|每月1号压缩/etc/目录|过滤文本重复次数多的10个单词|人员分组|

1、在文本文档1.txt里第五行下面增加如下内容;两个方法; # This is a test file.# Test insert line into this file. 分析:给文档后增加内容,可以用sed 来搞定;也可以用while do done...

芬野de博客
昨天
4
0

没有更多内容

加载失败,请刷新页面

加载更多

返回顶部
顶部