文档章节

产品级搜索技术-全文本索引

zhiqiangw
 zhiqiangw
发布于 2016/12/08 16:28
字数 1186
阅读 17
收藏 0

介绍

大部分技术员在处理搜索问题的时候,往往直接依赖数据库的查询功能,通过普通 SQL 语句的数值比较, 范围的过滤等就可以完成绝大多数我们需要的查询了, 但是如果你希望通过关键字的匹配来进行查询过滤, 那么就需要基于相似度的查询, 而不是原来的精确数值比较, 那么这种查询我们第一个想到的肯定是 LIKE 的 SQL 语句, 但是LIKE模糊查询它的工作原理是全表扫描, 如果数据量非常大, 那么会造成非常严重的卡顿, 也可能出现整个项目崩掉, 而全文索引的设计就是避免这种情况的发生

全文搜索分类 1. 自然语言搜索(默认类型):MySQL 会把搜索的字符串解析成一系列的单词,然后去搜索包含的行; 
2. 布尔模式搜索:可以为搜索的字符串里加修饰词,或者必须是什么短语,安顺序搜索等 
3. 查询扩展搜索:这种搜索分为两个阶段。第一阶段,是自然语言搜素。第二阶段,则先把原来的搜索字符串,与第一阶段的搜索里高度匹配的那些行,连接到一起。

全文搜索的特性 1. 全文搜索基于 FullText 索引。在 FullText 索引, 里只能出现在 CHAR VARCHAR TEXT 这几种类型里 
2. 全文搜索会 忽略那些常见词:常见词,指的是至少一半的行里都出现过,超过 50% 的词,都为常见词; 
3. 有些为内建的常用单词:也叫停用词,比如:the after other 
4. 比较短的单词也会被停用

所谓的中文全文索引,就是用一本字典,把一段中文字,拆分为一个个的词语,这样来符合 FullText 的单词定义。然后完全可以把中文看作成英文,进行全文本索引!

建表语句

  1. 创建表,不一定要主键索引
create table apothegm(  
     attribution varchar(40),
     phrase  text
) engine = myisan;
  1. 增加全文索引
alert table apothegm  
    add fulltext (phrase),
    add fulltext (attribution),
    add fulltext (phrase,attribution);
个人理解:
    1. 索引分为,单列索引和复合索引。
    2. 每次在进行搜索的时候,必须要有一个 FullText 索引,而它正好是由查询命令里列出的那些字段组成。
    3. 索引越多,写入数据越慢,但是索引的方式也就越多,越加便捷。

自然语言索引

  1. 基本 SQL 语句
//应用其第一个 FullText 索引
select * from apothegm where match(phrase) againts('time');  
//应用其第三个 FullText 索引
select * from apothegm where match(phrase,attribution) againts('time');  
  1. 输出相关程度 : 自然语言类型的全文搜索。其输出是按照相关程度递减顺序排列,相关度是一个非负数的浮点数,其中 0代表毫不相关
select phrase,match(phrase) against('time') as relavance from apothegm

PS:把匹配的结构,当作一个独立字段,其中 relavance 为相关程度的意思  
  1. 多个词一起查询,比如查询 hard 或者 soft
select * from apothegm where match(phrase) againts('hard soft');  

布尔模式的全文索引

特点 1. 50% 一样的规则:不生效了 
2. 查询结果不再按照 相关程度排序 
3. 也可以对非 FullText 索引列进行搜索,只是速度相比,有 FullText 的速度要慢

使用的方式

  1. 基本方式:要在 MATCH 后面加IN BOOLEAN MODE,(不加说明,默认使用自然排序IN NATURAL LANGUAGE MODE
select * from apothegm where match(phrase) againts('hard' in boolean mode);  
  1. 按单词出现顺序检索,把对应单词用双引号引起来;
select * from apothegm where match(phrase) againts('“bell book and candle”' in boolean mode);  
  1. 可以搜索必须出现,必须不出现,分别用 + 和 -标示:
select * from apothegm where match(phrase) againts('+bell  -candle' in boolean mode);  
  1. 可以用*作为通配符, 标示以什么开头的。但是还是必须遵守,单词不能过短的约定。

配置全文搜索引擎

全文索引的参数是可以配置的,可以通过系统变量的办法进行修改。

  1. 变量 ft_min_word_len 和 ft_max_word_len 来设置单词所具有的最小长度,和最大长度。默认最小值与最大值分别为 4 和 84
  2. 在 my.conf 的 mysqld 下添加 下面语句,然后重启。
 ft_min_word_len = 1
  1. 如果是已经建立 FullText 索引表,必须重新建立这些索引关系,但也是可以快速修复。
 repair table tbl_name quick; 
  1. 如果是在此之后新建的 FullText 索引,都可以更新使用这个值。

参考

原文出处

本文转载自:

zhiqiangw
粉丝 12
博文 193
码字总数 142771
作品 0
郑州
程序员
私信 提问
Solr简单介绍

简介 Solr是一个高性能,采用Java5开发,Solr基于Lucene的全文搜索服务器。同时对其进行了扩展,提供了比Lucene更为丰富的查询语言,同时实现了可配置、可扩展并对查询性能进行了优化,并且提...

邵鸿鑫
2016/06/29
0
0
MySQL 5.1 GA 非正式发布

MySQL 5.1 经过了整整三年的开发,经历了 5.1.3 Alpha 到 现在的 5.1.30 版本后,正式版终于发布了,这使得 MySQL 5.1 成为下一个产品级的版本。 MySQL 5.1主要的新特性包括有: 表和索引的分...

红薯
2008/11/26
275
1
为什么要设置 Mysql 的 ft_min_word_len=1

form: http://bbs.phpcms.cn/thread-73186-1-1.html //============================================== 为什么要设置 Mysql 的 ftminword_len=1 ? 从 Mysql 4.0 开始就支持全文索引功能,但......

jia程序员
2011/03/01
0
0
Elasticsearch:准确值与全文本

概括地说,Elasticsearch将数据分成两类:准确值(Exact values)和全文本(Full text)。 准确值就是它们听上去的那样。诸如日期或用户ID。当然字符串也可以是准确值,如用户名或邮件地址。...

翟志军
2015/05/28
1K
4
Elasticsearch与Solr

Elasticsearch简介* Elasticsearch是一个实时的分布式搜索和分析引擎。它可以帮助你用前所未有的速度去处理大规模数据。 它可以用于全文搜索,结构化搜索以及分析,当然你也可以将这三者进行...

满小茂
2016/01/07
134
0

没有更多内容

加载失败,请刷新页面

加载更多

从零基础到拿到网易Java实习offer,我做对了哪些事

作为一个非科班小白,我在读研期间基本是自学Java,从一开始几乎零基础,只有一点点数据结构和Java方面的基础,到最终获得网易游戏的Java实习offer,我大概用了半年左右的时间。本文将会讲到...

Java技术江湖
昨天
5
0
程序性能checklist

程序性能checklist

Moks角木
昨天
7
0
VUE 计算属性

本文转载于:专业的前端网站▶VUE 计算属性 1、示例代码 <!DOCTYPE html><html lang="zh"> <head> <meta charset="UTF-8" /> <title>vue示例</title> </hea......

前端老手
昨天
6
0
快速搭建LNMT平台和环境部署 Tomcat详解

Tomcat部署的基本概念 1. CATALINA_HOME与CATALINA_BASE分别指什么?     CATALINA_HOME指的是Tomcat的安装目录     bin:\\Tomcat一些脚本存放目录,比如启动脚本startup.bat/start...

网络小虾米
昨天
7
0
float浮动

float浮动 float浮动概念及原理: 文档流:文档流是文档中可显示对象在排列时所占用的位置。 加浮动的元素,会脱离文档流,会沿父容器靠左或靠右排列,如果之前已经有浮动的元素,会挨着浮动...

studywin
昨天
8
0

没有更多内容

加载失败,请刷新页面

加载更多

返回顶部
顶部