中文公众事件信息熵计算方法
通信原理信息熵
通信原理信息熵通信原理中的信息熵是指在信息传输中所包含的信息量的度量。
信息熵的概念最早由克劳德·香农在1948年提出，他定义了信息熵作为信息传输中的不确定性度量。
信息熵通常用来描述一个随机变量中所包含的信息量的平均值。
在通信系统中，信息熵可以用来衡量信息源的不确定性，即信息源产生的符号的平均信息量。
信息熵越高，表示信息源产生的符号越不确定，需要更多的信息来描述。
相反，信息熵越低，表示信息源产生的符号越确定，需要较少的信息来描述。
信息熵的计算公式为H(X) = - Σ P(x) log2 P(x)，其中P(x)为随机变量X取某个值的概率。
这个公式告诉我们，信息熵的计算需要知道每个符号出现的概率。
如果一个符号出现的概率很高，那么它所携带的信息量就很低，因为我们可以预测它的出现。
相反，如果一个符号出现的概率很低，那么它所携带的信息量就很高，因为它的出现是不可预测的。
信息熵的单位是比特（bit），表示信息量的大小。
一个比特表示一个二进制选择的结果，即两种可能性中的一种。
例如，抛一次硬币的结果可以用1比特来表示，因为它有两种可能的结果：正面或反面。
如果我们抛两次硬币，结果可以用2比特来表示，因为它有四种可能的结果：正正、正反、反正、反反。
在通信系统中，信息熵的概念对于设计编码方案和传输协议非常重要。
在编码方案中，我们希望尽可能地利用信息熵的特性，减少冗余信息，提高编码效率。
在传输协议中，我们需要考虑信道容量和传输速率，以确保能够有效地传输信息。
信息熵的概念也与信息压缩和数据压缩密切相关。
在信息压缩中，我们希望通过去除冗余信息来减少数据的存储空间和传输带宽。
信息熵提供了一个理论上的界限，即最低的压缩率。
在数据压缩算法中，我们可以利用信息熵的特性来设计压缩算法，以提高压缩效率。
除了信息熵，通信原理中还有其他重要的概念，如信噪比、传输速率和带宽等。
这些概念共同构成了通信系统的基础知识。
了解和理解这些概念对于设计和优化通信系统非常重要。
信息熵算法
第九讲 限失真信源编码定理与多用户信息论
1. 信息率失真函数 2. 限失真信源编码定理 3. 相关信源编码 4． 多址信道和广播信道
第十讲
1. 2. 3.
通信系统的保密理论 完全保密性 理论保密性 实际保密性
信息论基础
2011 年 3 月
教材和参考书：
傅祖芸 编著《信息论－基础理论与应用》， 电子工业出版社，2006，第二版.
孟庆生《信息论》，西安交通大学，1986。
（数学家写的研究生教材，含编码和密码）
朱雪龙《应用信息论基础》，清华大学出版社,2000。
（研究生教材，面向电子类，含编码方法。）
王育民、梁传甲《信息与编码理论》，西电教材。
因为每个p<1，所以它们的以不小于1的数为底的 对数是不大于零的。
3、确定性： H (1,0, 0) 0
确定的事物是无信息可言的。有一个符号概率为1 的信源，其熵为0。
4、扩展性：
lim
0
H
(
p1,
p2
,
pq , ) H ( p1, p2,
pq )
lim log 0
0
（0 概率的事件信息量为0 ？）
香农第一定理以及各种信源编码方法 。 3、围绕信道编码所展开的讨论。它给出了信息传输率、
信道容量等概念，最主要的结论是香农第二定理，以及 基于该定理的各种信道编码，如分组码、卷积码等。 4、围绕带限信道传输的能力所展开的讨论，最主要的结论 是信道容量公式，即香农公式。
5、 基于信息传输时允许一定程度的失真和差错所展开 的讨论。由此得到信息率失真理论、香农第三定理、 信息价值等。这是目前还在不断发展和完善的理论， 在通信以外得学科不断得到应用。
信息论汉字熵
对于信息论的认识二十世纪四十年代末C E SHANNON建立了一套计算信息数量的方法。
我们可以根据事情发生概率的大小，用下式计算信息量 I ：I＝－log2P (1)式中P是收到的消息中所指的事件的概率。
信息量的单位简称‘比特’bit(它来自英语binary的 b和 digit的it，笔者注) 。
有了(1)式，我们就可以对信息进行定量计算。
例如，通常中文电报是四位阿拉伯数字。
假定每个阿拉伯数字出现的可能性是相同的，即每个数字出现的概率为十分之一。
那么我们可以计算出收到每个阿拉伯数字所含的信息量为I＝－log21/10=3.3比特，因而每个汉字是4×3.3=13.2比特。
下面我们计算一封10000个字母的英文信所含的信息量。
假定每个字母都以等可能性出现，英文字母共26个，把空白也算作一个字母，那么共有27个字母。
于是每个字母出现的概率为1/27。
每个字母的信息量均为－log21/27=4.76比特。
拿27个字母来平均，得到的结果也是4.76比特。
一万个字母共有47600比特的信息量。
如果考虑各个字母出现的概率不相同，那么每个字母的平均信息量为I＝－ΣP i logP i (2)根据统计结果，英文字母的出现概率如下表所示：把它们代入(2)式可以算出每个字母的平均信息量为4.03比特。
由此可见，字母的出现概率愈均匀，信息量愈大，反之就愈小。
在极端情况下，假设27个字母中有26个出现的概率为零，一个字母出现的概率为1，则信息量为零。
从上述的例子可以看到，字母以等概率出现时，每个字母所含的信息量最大。
要传输同样的信息量，字母以等概率出现时所需的长度(即字母个数)最短。
从传输信息量的角度来看，这是最理想的情况。
因为可以用最少的字母传递最多的信息量。
然而，实际的语言或文字总是达不到上述的极限。
就是说，传输同样的信息量需要较多的字母，具有一定的多余性。
从信息量的角度来看，这似乎是不利的。
但是，我们将会看到，由有了多余性，使人类的语言或文字具有一定的抗干扰能力。
中文信息熵的计算
中文信息熵的计算
中文信息熵的计算可以通过以下步骤实现：
1. 统计中文文本中每个汉字出现的次数，得到一个频率分布表。
2. 计算每个汉字的概率，即该汉字出现次数除以总汉字数。
3. 根据每个汉字的概率计算信息量，即I(x) = -log2(p(x))，其中x为某个汉字，p(x)为该汉字出现的概率。
4. 将所有汉字的信息量相加，得到中文文本的信息熵。
例如，假设一段中文文本中共出现了100个汉字，其中“我”出现了20次，“你”出现了15次，“他”出现了10次，其他汉字出现次数不足5次，那么可以得到以下频率分布表：
汉字| 出现次数| 出现概率| 信息量
---|---|---|---
我| 20 | 0.2 | 2.32
你| 15 | 0.15 | 2.74
他| 10 | 0.1 | 3.32
其他| 55 | 0.55 | 0.88
根据信息量公式，可以计算出每个汉字的信息量，最后将信息量相加
得到中文文本的信息熵：
H = 2.32 * 0.2 + 2.74 * 0.15 + 3.32 * 0.1 + 0.88 * 0.55 = 1.54因此，这段中文文本的信息熵为1.54。
信息论实验-熵和平均互信息
实验3
• Y=X+N • X为-1和1的等概分布信源 • N服从（ -sqrt(3), sqrt(3)）的均匀分布，方 差为1 • N服从均值为0，方差为1的高斯分布 • 比较两种情况下的y的错误率，试说明原因。
熵和平均互信息
1 信息熵的定义与计算
离散信源X的熵定义为自信息的平均值,记为H(X)
H ( X ) p ( x ) log p ( x )
x
简记为 H ( X ) H ( p 1 , p 2 , p n )
2.熵的基本性质(1)
对称性
非负性 p=(p1,p2,…,pn)中，各分量的次 序可以任意改变 自信息非负，熵为自信息的 平均 熵非负
实验1
• 二元信源X输出符号为{0,1}，PX(0)=0.5， 条件概率分别为PY|X(0|0) = PY|X(1|1)=1-p， PY|X(1|0)= PY|X(0|1)=p。 • 比较x和y的错误率与p的关系 • I（X;Y）与p的关系
Page 7
实验2
• 一个三元无记忆信源，符号集为{0,1,2} ， 为 的概率，用Matlab软件绘制熵函数曲线， 并分析信源熵的性质。
扩展性
可加性
0
lim log 0 lim0 H q 1 ( p 1 , p 2 , , p n - , ) H q ( p 1 , p 2 , , p n )
即：小X )
H(X1X2…XN)= H(X1)+ H(X2|X1)+ … + H(XN|X1…XN-1) 复合事件集合的不确定性为各个分事件集合的不确定性的和
Page 3
3.熵的基本性质(2)
极值性
定理2. 4. 3 (离散最大熵定理) 对于离散随机变量集合，当集合中的事件等概率发生 时，熵达到最大值
信息熵的计算方法
信息熵的计算方法信息熵是信息论中的一个重要概念，用来衡量一个随机变量的不确定性。
在实际应用中，我们经常需要计算信息熵来评估信息的复杂度和不确定性，从而为数据分析和决策提供依据。
本文将介绍信息熵的计算方法，希望能够帮助读者更好地理解和运用这一概念。
信息熵的定义。
在介绍信息熵的计算方法之前，我们先来回顾一下信息熵的定义。
对于一个离散型随机变量X，其概率分布为P(X=x_i)，其中i=1,2,...,n。
那么X的信息熵H(X)定义为：H(X) = -Σ P(X=x_i) log2 P(X=x_i)。
其中log2表示以2为底的对数。
信息熵H(X)衡量了随机变量X的不确定性，当X的概率分布更加均匀时，其信息熵会更大，反之则会更小。
计算方法。
下面我们将介绍信息熵的具体计算方法。
假设我们有一个离散型随机变量X，其取值范围为{x1, x2, ..., xn}，对应的概率分布为{p1, p2, ..., pn}。
那么，我们可以按照以下步骤来计算X的信息熵：1. 计算每个取值对应的信息量。
首先，我们需要计算每个取值对应的信息量，即-log2P(X=x_i)。
这一步可以通过遍历所有取值，计算其信息量并存储起来。
2. 计算加权平均值。
接下来，我们需要将每个取值的信息量进行加权平均，即Σ P(X=x_i) (-log2 P(X=x_i))。
这一步可以通过遍历所有取值，根据其概率分布进行加权求和。
3. 计算信息熵。
最后，我们将加权平均值取负号，即-H(X) = Σ P(X=x_i) log2 P(X=x_i)。
这一步即可得到随机变量X的信息熵。
举例说明。
为了更好地理解信息熵的计算方法，我们举一个简单的例子。
假设我们有一个随机变量X，其取值范围为{0, 1}，对应的概率分布为{0.3, 0.7}。
那么，我们可以按照以下步骤来计算X的信息熵： 1. 计算每个取值对应的信息量。
当X=0时，-log2 P(X=0) = -log2 0.3 ≈ 1.737。
信息熵(informationentropy)百科物理
信息熵（informationentropy）百科物理
广泛的阅读有助于学生形成良好的道德品质和健全的人格，向
往真、善、美，摈弃假、恶、丑;有助于沟通个人与外部世界的联系，使学生认识丰富多彩的世界，获取信息和知识，拓展视野。
快
一起来阅读信息熵(informationentropy)百科物理吧~
信息熵〔informationentropy〕
信息熵(informationentropy)
是信息论中信息量的统计表述。
香农(Shannon)定义信息量为：
`I=-Ksum_ip_ilnp_i`，表示信息所消除的不确定性(系统有序程度)的量度，K为待定常数，pi为事件出现的概率，$sump_i=1$。
对于N
个等概率事件，pi=1/N，系统的信息量为I=-Klnpi=KlnN。
平衡态
时系统热力学函数熵的最大值为$S=-
ksum_iW_ilnW_i=klnOmega$，k为玻尔兹曼常数，Wi=1/为系统各状
态的概率，$sum_iW_i=1$，为系统状态数，熵是无序程度的量度。
信息量I与熵S具有相同的统计意义。
设K为玻尔兹曼常数k，那
么信息量I可称信息熵，为$H=-ksum_ip_ilnp_i$，信息给系统带
来负熵。
如取K=1，对数底取2，熵的单位为比特(bit);取底为e，
那么称尼特。
信息熵是生命系统(作为非平衡系统)在形成有序结构
耗散结构时，所接受的负熵的一部分。
由查字典物理网独家提供信息熵(informationentropy)百科物理，
希望给大家提供帮助。
汉字信息熵
汉字信息熵汉字信息熵是衡量汉字信息量的一种指标，它是通过对汉字出现的频率进行统计和计算得出的。
汉字信息熵的大小反映了汉字的信息丰富程度，也是汉字在信息传递中的重要性的体现。
汉字信息熵的计算方法是基于信息论的原理。
信息论是由克劳德·香农于1948年提出的一种研究信息传递和处理的数学理论。
在信息论中，熵是衡量信息量的一种度量，它表示信息的不确定性。
而汉字信息熵则是对汉字出现的频率进行统计和计算得出的信息熵。
汉字信息熵的计算公式如下：H(X) = -∑(P(xi) * log2P(xi))其中，H(X)表示汉字信息熵，P(xi)表示汉字xi出现的概率。
通过对大量文本进行分析和统计，可以得出汉字的出现频率以及对应的概率。
根据这些数据，就可以计算出每个汉字的信息熵。
汉字信息熵的大小与汉字的常用程度相关。
常用的汉字出现的频率较高，信息熵较低；而不常用的汉字出现的频率较低，信息熵较高。
因此，汉字信息熵可以用来衡量汉字的重要性和使用频率。
在实际应用中，汉字信息熵有着广泛的应用。
比如，在信息检索中，可以根据汉字的信息熵来确定检索关键词的重要性和权重，从而提高检索的准确性和效率。
在自然语言处理中，可以根据汉字的信息熵来进行文本分类和语义分析，从而实现智能化的文本处理和理解。
汉字信息熵还可以用来研究汉字的演化和变异规律。
通过对不同时期和不同地域的汉字信息熵进行比较，可以了解汉字的变化和发展规律，从而推测汉字的起源和演化过程。
汉字信息熵是衡量汉字信息量的一种重要指标，它可以用来衡量汉字的重要性和使用频率，也可以用来进行文本处理和语义分析。
汉字信息熵的研究对于汉字的保护、发展和应用都具有重要的意义。
通过对汉字信息熵的深入研究，可以更好地理解和利用汉字这一独特的文化符号。
- 1、下载文档前请自行甄别文档内容的完整性，平台不提供额外的编辑、内容补充、找答案等附加服务。
- 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
- 3、如文档侵犯您的权益，请联系客服反馈,我们会尽快为您处理(人工客服工作时间：9:00-18:30)。
中文信息处理报告课题名称搜索引擎中的关键技术及解决学院（系）电子信息与工程学院专业计算机科学与技术学号072337学生姓名张志佳完成时间2009年1月 3 日目前，国内的每个行业，领域都在飞速发展，这中间产生了大量的中文信息资源，为了能够及时准确的获取最新的信息，中文搜索引擎应运而生。
中文搜索引擎与西文搜索引擎在实现的机制和原理上大致相同，但由于汉语本身的特点，必须引入对于中文语言的处理技术，而汉语自动分词技术就是其中很关键的部分，也是进行后续语义或者是语法分析的基础。
汉语自动分词到底对搜索引擎有多大影响？对于搜索引擎来说，最重要的并不是找到所有结果，最重要的是把最相关的结果排在最前面，这也称为相关度排序。
中文分词的准确与否，常常直接影响到对搜索结果的相关度排序。
分词准确性对搜索引擎来说十分重要，但如果分词速度太慢，即使准确性再高，对于搜索引擎来说也是不可用的，在Internet上有上百亿可用的公共Web页面，如果分词耗用的时间过长，会严重影响搜索引擎内容更新的速度。
因此对于搜索引擎来说，分词的准确性和速度，都需要达到很高的要求。
更具体的说，现在的搜索引擎要达到下面的三要求，才能适应当今这样一个信息爆炸的时代，分别是：数据量达到亿，单次查询毫秒级，每日查询总数能支持千万级。
撇开搜索引擎要用到的数量庞大的服务器硬件和速度巨快的网络环境不提，就单单说说搜索引擎中软件部分的三大核心技术。
我个人以为：一个优秀的搜索引擎，它必需在下面三个方面的技术必须是优秀的：中文分词，网络机器人（Spider）和后台索引结构。
而这三方面又是紧密相关的，想要解决中文分词问题，就要解决搜索时间和搜索准确率两方面的难题。
而搜索时间上便是通过网络机器人（Spider）和后台索引结构的改进实现的，搜索准确率则是通过分词本身算法的求精来实现的。
下面的文章将从这两个大的方面来解决这两方面的问题。
为了能够更清楚的来说明现在的搜索引擎是如何解决这几个难题的，首先对搜索引擎的组成及工作原理在这里简要的说明一下。
搜索引擎的工作，可以看做三步：从互联网上抓取网页，建立索引数据库，在索引数据库中搜索排序。
从互联网上抓取网页利用能够从互联网上自动收集网页的Spider系统程序，自动访问互联网，并沿着任何网页中的所有URL爬到其它网页，重复这过程，并把爬过的所有网页收集回来。
下面是搜索引擎的工作原理图：Array搜索引擎工作原理图1搜索引擎工作原理图中的相关术语说明如表1：表1一，搜索引擎中的关键技术介绍在介绍关于搜索引擎中的分词技术是如何解决的，相对搜索引擎中其它的一些关键技术做一下简要的介绍，对谈一下自己对相关技术的一些想法。
其实这些技术和中文分词技术是很有关联性的。
可能给你一片几千字的文章，让你对它进行分词可能你通过编编程序便可以实现，但是搜索引擎要解决的问题是怎样去处理互联网中海量的，且没有规则的信息，要解决的问题就不仅仅是简简单单的分词问题了，可以说下面要介绍的一些关键技术正是分词技术的一个基础，是为分词建立一个良好的搜索环境和数据结构。
1，网络机器人（Spider）的设计为了保证搜索到的信息的实时性与相关性，就要保证在互联网上面搜到的网页获取的很及时。
并且对于互联网上面现在已经有几十亿的网页进行处理，必然要选择一种很好的方法才可以。
搜索引擎是通过两种方式来获得互联网上面的Web页面的，一种是定期（比如Google一般是28天）派出Spider（蜘蛛）程序，抓取网络上面的新页面，将相关的信息记录在数据库中。
另一种方式是网站的拥有者向搜索引擎提交网址信息，同样将相关的信息记录到数据库中。
而上面所说的Spider（蜘蛛）程序，是一种专业的Bot程序，是一个功能很强的Web 扫描程序。
它可以在扫描Web页面的同时，检索相应的超链接并加入扫描队列等待以后的扫描。
我们知道网络上面的超链接的使用是很普遍的，因此一个Spider程序理论上可以扫描互联网上的所有页面。
比如搜索巨头Google公司，就利用网络机器人程序来遍历Web 站点，并实时的更新已经建立的数据库。
从中我们也不难看出，一个网页抓取程序（即Spider）设计的好坏对搜索引擎的性能的影响是很大的。
Spider程序结构网络机器人必须从一个网页迁移到另一个网页，所以必须找到该页面上的超连接。
程序首先解析网页的HTML代码，查找该页面内的超连接然后通过递归和非递归两种结构来实现Spider程序。
非递归结构方法使用队列的数据结构，当Spider程序发现超连接后并不调用自己本身而是把超连接加入到等待队列中。
当Spider程序扫描完当前页面后会根据制定的策略访问队列中的下一个超连接地址。
虽然这里只描述了一个队列，但在实际编程中用到了四个队列，他们每个队列都保存着同一处理状态的URL。
等待队列：在这个队列中，URL等待被Spider程序处理。
新发现的URL也被加入到这个队列中。
处理队列：当Spider程序开始处理时，他们被送到这个队列中。
错误队列：如果在解析网页时出错，URL 将被送到这里。
该队列中的URL 不能被移入其他队列中。
完成队列：如果解析网页没有出错，URL 将被送到这里。
该队列中的URL 不能被移入其它队列中。
Spider 程序的非递归处理过程以上的图表示了队列的变化过程，在这个过程中，当一个URL 被加入到等待队列中时Spider 程序就会开始运行。
只要等待队列中有一个网页或Spider 程序正在处理一个网页，程序就会继续他的工作。
当等待队列为空并且当前没有任何网页时，Spider 程序就会停止它的工作。
2，索引数据库设计技术大型搜索引擎的数据库储存了互联网几十亿的网页索引，数据量达到几千个G 甚至几万个G 。
为了充分的为后面考虑在后面查询中能够跟快捷，更准确。
搜索引擎在分析索引系统程序对收集回来的网页进行分析，提取相关网页信息，根据一定的相关度算法进行大量复杂计算，得到每一个网页针对页面内容中及超链中每一个关键词的相关度，然后用这些相关信息建立网页索引数据库。
当用户输入关键词搜索后，由搜索系统程序从网页索引数据库中找到符合该关键词的所有相关网页。
因为所有相关网页针对该关键词的相关度早已算好，所以只需按照现成的相关度数值排序，相关度越高，排名越靠前。
最后，由页面生成系统将搜索结果的链接地址和页面内容摘要等内容组织起来返回给用户。
3，网页评级（PageRank ，HillTop ）技术由于互联网上面的Web 页面的数据量大，用传统的方法来确定检索表达式和网页的相关度会花太多的时间，不能够满足用户的需求。
采用网页评级技术可以保证系统能够快速的反应，并把重要的的网页返回给用户。
Google 每天要处理的网页高达2亿次，占全球的搜索量的1/3。
Google 却能够提供快速的搜索速度和高命中率搜索结果，完全取决于它所使用的复杂的文本匹配算法及其搜索程序所使用的Pagerank 技术。
Pagerank 技术是用来计算页面的重要性，对于每一个链入赋予不同的权值，链接提供的页面越重则此链入权值就越高，也就是说当前页面的重要程度是由其他的页面来决定的。
下面是PageRank 的算法：∑=+-=+++-=n i Ti C Ti PR d d Tn C Tn PR T C T PR d d A PR 1)()()1()(/)())1(/)1(()1()(其中，PR(A)是页面A 的级别，PR(Ti)是页面Ti 的级别，页面Ti 链向页面A ，C(Ti)是页面Ti 链出的链接数量，d 是阻尼系数，取值在0～1之间。
从这个公式，我们可以直观的描述：一个来自PageRank 3拥有7个外向链接页面上的链接，要比一个PageRank9拥有200个外向链接页面上的链接，更有价值。
链接到你网页的页面的PageRank 非常重要，不过其页面上链接的个数同样重要。
一个网页上的链接数越多，你所能够从这个网页获取的价值就越少。
从上面的式子可以看出来，当要计算某个页面的网页级数时，由于互联网上面的页面几乎都是可以相互链接的，因此要得到某一个页面的网页级数，就要即一个超大维数的方程组。
这对于现在的计算机的性能来说，完全是不现实的。
Google 采用的是一种近似的迭代方法来计算网页的级别，也就是先给每一个网页一个初值，然后在调用上面的公式，循环进行运算来得到网页的级别。
根据研究实际要进行100次的迭代才能得到整个互联网满意的页面级别值。
不过前面已经说过搜索引擎在获取网页时是定期的，所以总的来说这种方法在现在的Web 搜索来说还算可以。
下面的一种图片便是用Pagerank 算法来进行对网页评级的一个结果。
从中我们也不难发现像Google 这样的大型热门网站获得网页级别是处在金字塔的顶端的，Swingline 等网站获得的网页级别就比较低。
图1 Pagerank 算法对网页评级的结果但是这种方法也并不是完善的，当你仔细的思考一下，就会发现，在互联网中，像Google ，百度这样的热门网站中，会在很多的网站中都有链接。
但你在查询框中查询“篮球”时，就会有很多这样不相关的网页指向它，从而得到较高的级别。
而事实上他们与“篮球”不太相关，而对于这种特俗的情况，我们可以在上面的计算公式中添加一些限制因素，来避免这种情况的出现。
比如在计算是可以将链入的的网页的内容和本网页进行匹配一下，根据相关程度来决定这种链入是否有效。
通过对由超过50，000万个变量和20亿个词汇组成的方程进行计算，PageRank 能够对网页的重要性做出客观的评价。
使得在对互联网中海量的Web网页的搜索节省了时间，同时也使得搜索的结果更接近用户的期望值。
从上面的分析中我们也看到Pagerank算法仍然存在着不足。
近几年来也有一些新的排名算法出现，比如HillTop算法，它集成了Pagerank，HITS，相关性算法的优点于一身，是Google核心排名算法之一。
HillTop算法是一种查询相关性链接的分析算法，它克服了的Pagerank的查询无关性的缺点。
简单的说HillTop算法是针对热门查询词来对Web网页进行重新排序的技术。
而只针对热门关键词，是因为HillTop算法运行效率较比较低的限制。
我们可以看到HillTop算法通过不同等级的评分确保了评价结果对关键词的相关性，通过不同位置的评分确保了主题的相关性，通过可区分短语数量防止了关键词的堆砌。
在HillTop算法中存在着一种博弈的思想，在链接方面同类型的网站时，既需要竞争又需要合作，只有被对方“认可”的网站，对热门关键关键词的查询才会被排在搜索结果的前面。
HillTop使得那些小的网站不能够在此便处于劣势，除非你对热门关键词能够提前预知出来，然而即使预制出来了，这种持续也会很短。