谈谈lucene中的BytesRefHash

原创
2018/12/03 20:08
阅读数 787

lucene中很多的数据结构都采用了个性化的实现,而且没有利用一些通用的开源的其它框架,主要的目的还是为了灵活可控、保证高效率、节约内存,BytesRefHash就是其中一个基本的、重要的、核心的数据结构。

根据lucene中给出的注释,BytesRefHash是一个类似于HashMap的数据结构,但我个人认为它更像一个ArrayList与HashSet的混合物。因为它并不能像传统的HashMap一样存储任意的key和value,只能基于元素的索引号与元素值进行一些简单的读取、判断元素是否存在等功能。基于元素的索引号读取元素类似于ArrayList,判断元素是否存在(内部实现通过哈希算法实现)类似于HashSet。

在其内部有一个核心的类就是ByteBlockPool,基于该类可以保证数据在物理上的连续性,带来的好处是提高数据的访问效率,并节约内存空间。

关于提高数据的访问效率比较好理解,因为物理上连续的数据能更好的利用cpu cache。能节约内存空间主要是因为java对象的内存布局主要包含3个部分:对象头、数据域和padding,而BytesRefHash主要是对BytesRef字节对象进行处理,通过对字节对象的合并连续存储能够减少对象头和padding占用的空间,从而节约内存。

BytesRefHash为了实现的方便将值的大小限制在32766及以下。

展开阅读全文
加载中
点击引领话题📣 发布并加入讨论🔥
打赏
0 评论
0 收藏
0
分享
返回顶部
顶部