搜索引擎排序基础：TF-IDF框架-邝金华博客

这是一篇关于搜索引擎排序基础TF-IDF框架的普及文章，并非网上偶尔可见的一些泛泛而谈甚至断章取义的内容，而是结合搜索引擎的理论，和自己观察到的较多实例所总结的切实的知识。虽然可能相对比较难以理解，但相信我，这些用来理解的时间绝对是值得的。

写这篇文章主要是为了对后面一篇《SEO实践》系列的文章中要提到的一些内容先写好基础理论，就不放到正篇里面去占用篇幅了。

本文先引用一段张俊林的《这就是搜索引擎》中对于TF-IDF框架的概述。由于原文较长，这里概述下我所认为的重点，或许会有概述不足之处，所以更详细的内容推荐看原书。

（注：“TF-IDF”或“TF*IDF”是写法习惯问题，书中用的是TF*IDF，不意味着两者之间有区别）

TF-IDF原理概述

当用户在搜索引擎搜索一个词的时候，它会将词去和索引库内的文档去进行匹配计算，将和词语最相关的一定数量的文档取出，参与后续的排名计算。此处“最相关”的量化指标被成为“权值”，而对于绝大多数搜索引擎，权值的计算中TF*IDF框架都是比较重要的一部分。其中被主要考虑到的因子为：词频TF和逆文档频率IDF。

词频因子（TF）

TF计算因子代表了词频，即一个单词在文档中出现的次数。一般来说，词频越高越显得文档和该词相关，就应该给予这个单词更高的权重。

具体计算词频因子的时候，基于不同的出发点，可以采纳不同的计算公式。最简单的方式是直接利用词频数，比如一个文档中某单词出现5次，它的TF值就是5。

一种词频因子的变体计算公式是：W = 1+log（TF）

即将词频数值TF取Log值来作为词频权值，比如单词在文档中出现4次，其词频因子权值为3，公式中的数字1是为了平滑计算之用。因为如果TF值为 1的情况下，取Log后值为0，即本来出现了一次的单词，按照这种方法计算会认为这个单词从来没有在文档中出现过，为了避免这种情况，采用+1的方式来进行平滑。之所以要对词频取Log，是基于如下考虑：即使一个单词出现了10次，也应该在计算特征权值时，比出现1次的情况权值大10倍，所以加入Log机制抑制这种过大的差异。

还有种比较重要的变体计算公式将文档的长度也纳入考虑。因为与短文档相比的话，长文档内所有单词的TF值会普遍比短文档的值高。这边不详提了。

逆文档频率因子（IDF）

IDF代表的是文档集合范围的一种全局因子，它只和给定的文档集合有关，与具体文档无关。所以IDF考虑的不是文档本身的特征，而是特征单词之间的相对重要性。

计算公式如下：IDF = log（N/n）

其中N代表文档集合中总共有多少个文档，而n代表特征单词在其中多少个文档中出现过，即文档频率。由公式可以，当越多的文档包含某个单词时，则其IDF值越小，意味着这个词区分不同文档的能力越差。

TF*IDF框架

TF-IDF值的计算公式为：

Weight = TF * IDF

当这个值越大时，文档就与该词越相关。

百度所实际运用的

对于百度，TF-IDF框架自然是被运用到的。但对于单个索引词排名时，TF-IDF不是关键词排名的决定性因素。百度的排名本质是概率检索模型。

根据我以前对百度上做过的简单统计分析，百度对于TF计算至少运用了上述的Log平滑计算方法。除了前面提到的之外，当一个关键词的出现次数超过一定阈值时，其TF值会随着出现次数的增多，而继续以Log形式使排名下降。