BM25算法浅析
2013-11-18 00:30
447 查看
转载自:http://ipie.blogbus.com/logs/104136815.html
BM25算法,通常用来作搜索相关性平分。一句话概况其主要思想:对Query进行语素解析,生成语素qi;然后,对于每个搜索结果D,计算每个语素qi与D的相关性得分,最后,将qi相对于D的相关性得分进行加权求和,从而得到Query与D的相关性得分。
BM25算法的一般性公式如下:
其中,Q表示Query,qi表示Q解析之后的一个语素(对中文而言,我们可以把对Query的分词作为语素分析,每个词看成语素qi。);d表示一个搜索结果文档;Wi表示语素qi的权重;R(qi,d)表示语素qi与文档d的相关性得分。
下面我们来看如何定义Wi。判断一个词与一个文档的相关性的权重,方法有多种,较常用的是IDF。这里以IDF为例,公式如下:
其中,N为索引中的全部文档数,n(qi)为包含了qi的文档数。
根据IDF的定义可以看出,对于给定的文档集合,包含了qi的文档数越多,qi的权重则越低。也就是说,当很多文档都包含了qi时,qi的区分度就不高,因此使用qi来判断相关性时的重要度就较低。
我们再来看语素qi与文档d的相关性得分R(qi,d)。首先来看BM25中相关性得分的一般形式:
其中,k1,k2,b为调节因子,通常根据经验设置,一般k1=2,b=0.75;fi为qi在d中的出现频率,qfi为qi在Query中的出现频率。dl为文档d的长度,avgdl为所有文档的平均长度。由于绝大部分情况下,qi在Query中只会出现一次,即qfi=1,因此公式可以简化为:
从K的定义中可以看到,参数b的作用是调整文档长度对相关性影响的大小。b越大,文档长度的对相关性得分的影响越大,反之越小。而文档的相对长度越长,K值将越大,则相关性得分会越小。这可以理解为,当文档较长时,包含qi的机会越大,因此,同等fi的情况下,长文档与qi的相关性应该比短文档与qi的相关性弱。
综上,BM25算法的相关性得分公式可总结为:
从BM25的公式可以看到,通过使用不同的语素分析方法、语素权重判定方法,以及语素与文档的相关性判定方法,我们可以衍生出不同的搜索相关性得分计算方法,这就为我们设计算法提供了较大的灵活性。
参考资料:
1. Project2--Lucene的Ranking算法修改:BM25算法
2. Okapi BM25算法详解
3. 谈谈BM25评分
相关文章推荐
- BM25算法浅析
- BM25算法 仅供自己记录学习
- BM25 算法
- bm25 算法
- BM25算法 [转]
- Project2--Lucene的Ranking算法修改:BM25算法
- 向量相似度算法,BM25,Jelinek-Mercer平滑
- java每日小算法(25)
- 【视觉=立体视觉】立体匹配算法 StereoBM/StereoSGBM/StereoVar(OpenCV中源码分析)+SAD块匹配算法+GC算法+HH算法
- 浅析计算机网络(5)-选路算法
- 浅析lvs的十种负载调度算法
- 算法马拉松25 二分答案(组合数新高度!!!无敌的降维)
- [方差+lucas定理] 51nod 算法马拉松25 D. 小Q的集合
- 【算法学习笔记】25.贪心法 均分纸牌问题的分析
- bm 算法实现
- 【数据结构与算法】浅析线性递归和尾递归
- 栈和队列3|进制转换 - 数据结构和算法25
- 数据结构25:矩阵转置算法(三元组顺序表)
- 字符串模式匹配算法——BM、Horspool、Sunday、KMP、KR、AC算法
- BF,KMP,BM三种字符串匹配算法性能比较