基于路径与深度的同义词词林词语相似度计算
基于同义词词林的词语相似度计算方法
基于同义词词林的词语相似度计算方法
田久乐;赵蔚
【期刊名称】《吉林大学学报（信息科学版）》
【年(卷),期】2010(028)006
【摘要】为解决词语相在语义网自适应学习系统中相似度计算不清的问题,以同义词词林为基础,提出并实现了一种基于同义词词林的词语相似度计算方法,充分分析并利用了同义词词林的编码及结构特点.该算法同时考虑了词语的相似性,和词语的相关性.进行人工测试,替换测试以及与当前流行的基于"知网"的词语相似度算法对比测试的结果表明,该算法与人们思维中的相似度值基本一致,有较高的准确性.【总页数】7页(P602-608)
【作者】田久乐;赵蔚
【作者单位】东北师范大学,计算机科学与信息技术学院,长春,130117;东北师范大学,计算机科学与信息技术学院,长春,130117
【正文语种】中文
【中图分类】TP391.5
【相关文献】
1.基于信息内容的词林词语相似度计算 [J], 彭琦;朱新华;陈意山;孙柳;李飞
2.基于词林的词语相似度的度量 [J], 吕立辉;梁维薇;冉蜀阳
3.基于路径与深度的同义词词林词语相似度计算 [J], 陈宏朝;李飞;朱新华;马润聪
4.基于路径与词林编码的词语相似度计算方法 [J], 王松松;高伟勋;徐逸凡
5.基于同义词词林和规则的中文远程监督人物关系抽取方法 [J], 谢明鸿;冉强;王红斌
因版权原因，仅展示原文概要，查看原文内容请购买。
基于《知网》的词汇语义相似度计算
基于《知网》的词汇语义相似度计算
《知网》是一个中文语料库，可以用来进行文本语义相似度计算。
常
见的基于《知网》的词汇语义相似度计算方法有：
1.基于《知网》的同义词词林:《知网》中的同义词词林收录了大量
的同义词、近义词和相关词，可以通过比较两个词在同义词词林中的位置，来衡量它们的语义相似度。
比如，可以通过比较两个词在同一类和同一级
别下的位置，来判断它们的相似度。
2.基于《知网》的词语标注：《知网》中的词语标注包括词义分类和
关系标注等信息，可以通过比较两个词的词义分类和关系标注信息，来衡
量它们的语义相似度。
3.基于《知网》的词语关联度计算：可以通过计算两个词在《知网》
中的关联度来判断它们的语义相似度。
常用的方法有基于路径的关联度计
算和基于信息内容的关联度计算。
这些方法都是基于《知网》的语料库信息进行计算的，可以根据具体
需求选择适合的方法进行词汇语义相似度计算。
一种改进的基于路径的语义相似度计算算法
微 电 子 学 与 计 算 机M I CRO EL EC T RO N ICS & CO M P U T E R28 卷 第 8 期 2011 年 8 月Vol . 28 No . 8A u gust 2011一种改进的基于路径的语义相似度计算算法曾 诚1 ,2 ,韩光辉3 ,李 兵2 ,朱子龙2(1 湖北大学 数学与计算机科学学院 , 湖北 武汉 430062 ; 2 武汉大学 计算机学院 ,湖北 武汉 430072 ;3 武汉商业服务学院 信息工程系 ,湖北 武汉 430056)摘 要 : 在概念之间的相似程度计算算法中 ,基于路径的语义相似度算法扮演着重要的角色. 首先分析常用的几种基于路径的相似度计算算法 ,然后针对 Wu 和 Pal m er 算法中存在的两个缺陷 ,提出了一种改进算法. 从整体上来 讲 ,这种算法的改进较为直观 ,容易实现 ,算法时间复杂度和 Wu 和 Pal m er 算法类似. 关键词 : 语义相似度 ;路径 中图分类号 : T P 311 . 5文献标识码 : A文章编号 : 1000 - 7180 (2011) 08 - 0129 - 03An Improved Algorithm of Se m ant i cSimilarity C omputing B a s ed on PathZEN G Che n g 1 ,2 , H A N G ua ng 2h u i 3 , L I Bi n g 2 , Z H U Z i 2lo ng 2(1 College of Mat h ematics & C o m p u t er S cience , H u bei U n iver s it y , W uha n 430062 , China ;2 S choo l of C o m p u ter S cience , W uha n U n iver s it y , W uha n 430072 , China ;3 Dep a r t m ent of Info r m atio n Engineering , W uha n C o m mercial S er vice C o llege , W uhan 430056 , China )Abstract : In t he kinds of si m ila rit y co mp uting al g o rit hm s bet ween co ncep t s , p at h 2ba sed sema ntic simila rit y alg o 2 rit h m p lays a n impo rt a nt ro le . In t hi s p ap er several p at h 2ba sed simila rit y co m p ut atio n al g o rit hm s a re fir s t int r o 2 duced , an d t h en a n imp r o v ed alg o r it h m i s p r o v ided i n o r d er to o v erco m e t h e t w o def e ct s in Wu a n d Pal m er alg o 2 rit h m s. G eneral sp e a k ing , t h i s imp r o v ed al g o r it h m i s co m p a r atively i n t u itive a n d ea s y to imp lement , a n d it ’s time co m p lexit y i s simila r to Wu and Pal m er . K ey w ords : sema n tic simila r it y ; Pat h引言语义相似度是指两个概念之间的相似程度. 在计算概念相似度时 ,主要利用到 IS 2A 关系构成的概 念层次结构 ,如 Wo r dNet 中的上位关系构成的层次 语义网[ 1 ] . 概念相似度计算方法中 ,基于路径的语义 相似度算法扮演着重要的角色 ,其主要理论依据是 : 在由 IS 2A 关系构成的语义网中 ,两个概念节点之间 距离越近 ,它们之间相似度越大.基于路径的语义相似度算法简介基于路径的语义相似度计算主要是基于 IS 2A关系构成的层次结构. 在 Wo r dNet 中如只保留上下 位关系 ,就构成了一个 IS 2A 关系网. 图 1 所展示的 上下位关系即是取自 Wo r d Net 中的一个实例 :从图 1 可知 ,{ c hai r } 和 { t a ble } 之间的路径 长度为 3 ,{ seat } 和 { t a b le } 之间路径长度为 2 .基于路径长度的计算方法的核心思想主要基于 这样一个事实 :概念之间路径长度越长 ,距离越大 , 相似度也就越小. 下面介绍一下几种使用频率较高1 2 收稿日期 : 2011 - 05 - 09 ; 修回日期 : 2011 - 06 - 22基金项目 : 国家重大基础研究发展计划“九七三”项目( 2007CB310801 ) ; 国家自然科学基金项目 ( 60873083 , 60803025 , 60970017 ,60903034 ,61003073)C2 间的最短路径长度,l s o ( C1 , C2 ) 表示在最短路径情况下的最近公共祖先,dep t h ( C) 表示概念 C 的层次深度. W u Pa mle r 算法是L C 算法的一种改进,它考虑了概念深度对相似度的影响.(3) 给边赋权值的算法给边赋予权值wei ght ,基本策略也是基于层次越深,划分越细,距离越小. 具体赋值多少是一个值得考虑的问题. 最初徐德智[ 4 ] 等提出式(3) :1wei g ht ( C) = (3)2Dep ( C)之后他们考虑到概念的宽度,即概念的下位关系数目,认为一个概念下位关系越多,表明该概念被划分得越细,那么这些下位关系之间语义距离应该越小. 这样有相同深度的两个概念,宽度越大,其通往下位关系的边的权值越小. 于是, 他们又提出式(4) :wei g ht ( C) =图1 Wo r d Net 中chair 和t a b le 的上位关系图的基于路径的相似度计算算法:(1) L e acock 和Cho d o r o w算法L eacock 和Cho d o r o w算法[ 2 ] 相对较为简单,直接基于路径长度,是关于路径长度的减函数. 算法的公式如式(1) :1( C 为根) L e n( C2 , C2 ) ( )Wi d CSi m L C = - lo g(1)MA X D EP T H 1 1Wi d( C)××wei g ht (p a r e n t ( C) )( C 不是根)式中, S i m L C 表示C1 和C2 间的相似度值, l e n( C1 ,C2 ) 表示C1 和C2 间的最短路径长度, MA X _D EP T H 是指Wo r d Net 层次语义结构中最深层次值. 该算法只利用了路径信息, 而没有考虑密度信息. 下面W u Pal me r算法将弥补这一缺陷.(2) W u 和Pal me r算法W u Pal mer [ 3 ] 算法适当的考虑了概念的密度信息,认为层次越深,概念之间的语义距离越小,相似度越大. 即使概念A 和B 、C 和D 之间路径长度一样,若它们在层次结构中所处的深度不一样,它们的相似度也应该不一样,并且,深度大的,语义距离小,相似度大,如图2 所示.2(4)式中, Wi d ( C) 表示概念C 的宽度,p a re nt ( C) 表示概念C 的上位概念.给边赋权值后,计算两个概念之间的语义距离,只需将路径上所经过边的权值叠加,选出最小距离.相似度计算,只需满足是语义距离的减函数,徐等采用式(5) :t 1Si m ( C1 , C2 ) = 1 -×a ×Di s t ( C1 , C2 ) (5)2式中, a 为Dep ( C2 ), Di s t ( C 1 , C 为C2 ) 1Dep ( C1 + Dep ( C2 )和C2 间的语义距离, t 为可调节参数.基于路径的语义相似度算法改进3基于路径的算法中心原理是:概念间路径越短、概念层次越深,相似度越大. 概念的层次说明了概念被划分的精细程度,概念划分得越精细,概念间的语义距离越小,概念间相似度越大. 概念间的路径长度直观地反映了概念之间的语义距离. 其原理在Wu和Pal me r算法中得到了体现.但是,在W u 和Pal me r 算法中有几个问题得不到体现:(1) 假设存在概念A 和B , C 和D ,还有它们的最近公共祖先概念P ,如图3 所示.图2 Wu p a l m er 考虑密度信息示例图算法公式如式(2) :2 ×dep t h(l s o ( C1 , C2 ) )Si m W P =le n( C1 , C2 ) + 2 ×dep t h(l s o ( C1 , C2 ) )(2)式中, S i m W P 表示相似度值, l e n( C1 , C2 ) 表示C1 和< A , P2 , B > , 然而, 根据Wu 和Pal mer 算法只考虑最短路径, 则只考虑了最短路径< A , P2 , B > , 更优路径< A , P1 , B > 被忽略, 因为le n( A , P2 , B)>le n( A , P1 , B) .W u 和Pal me r 算法只考虑了最短路径情况, 然而最短路径情况不一定是最优情况, 需要对所有通路进行比较,得出最优通路和最优解.综合上述两点, 对W u 和Pal me r算法进行修改,如式(6) 所示. 其中,对于概念C1 和C2 之间给定的通路,l s o ( C1 , C2 ) 是指概念C1 和C2 的最下层公共祖先概念,l e n( C1 , l s o ( C1 , C2 ) ) 是指概念C1 和l s o ( C1 , C2 ) 之间的距离,同理, l e n( C2 , l s o ( C1 , C2 ) )是指概念C2 和l s o ( C1 , C2 ) 之间的距离, l e n( C1 , C2 )图3 概念A 和B 与概念C 和D 比较示意图从图3 知道, 概念A 和B 之间的路径长度为4 ,概念C 和D 之间的路径长度也为4 , 并且它们的最低层上位概念都是P. 由W u 和Pal me r 算法知,Si m ( A , B) 等于Si m ( C , D) . 然而根据上层概念密度较小,语义距离较大,可知A 和p a re nt ( A) 之间的语义距离小于D 和p a re nt ( D) 之间的语义距离. 也就是说, Si m ( A , B)应该小于Si m ( C, D) .W u 和Pal mer 算法不能很好地区分对待这种情况. W u 和Pal me r算法关心的只是概念间的路径长度,而没有考虑到如何利用路径的布局结构. 由上层概念间语义距离越大可知路径左右越不均衡,其相似度越大. 如图3 所示,左边情形相似度大于右边情形.(2) 因为Wo r dNet 中的上位关系错综复杂,概念之间路径的最短,不一定表示Si m W P 最大. 也就是说可能存在一些特别的情况,使得概念之间路径长度不是最短,而由W u 和Pal me r 公式算出的相似度却是最大. 因为算法中还涉及到一个可变部分dep t h (l s o ( C1 , C2 ) ) . 其具体含义可以由图4 表述.是le n( C1 , l s o ( C1 , C2 ) )之和.和le n( C2 , l s o( C1 , C2) )在Wo r d Net 中, 一个概念可能有多个上位概念,也就是说,一个概念到根概念{e ntit y} 可能有n条不同的路径, 那么路径长度可能也不一样, ma x2dep t h ( C) 是指所有从概念C 到根的最长路径长度,也称为概念 C 的最大深度. MA X _ D EP T H 是Wo r dN et 中的最大深度,在Wo r dN et 3 . 0 中,其值被定义为20 .从式(6) 可知,分母部分比W u 和Pal mer 算法多出了le n( C1 ,l s o ( C1 , C2 ) )le n( C2 ,l s o ( C1 , C2 ) )×,MA X_D EP T H该部分是用来解决问题1 的. 由不等式a ×b ≤( a +b) 2 / 4 , 得知, 在a + b 的值一定的情况下, a ×b 的值当a 和b 的值相等时, 取最大, 也就是说:在 a + b 的值一定的情况下, a 和b 偏差越大, a ×b 的值越小.这一特性, 正好跟问题1 中的情形相反, 问题1 中是a 和b 偏差越大,相似度越大,因此,可以将a ×b 值当做分母部分来解决问题1 .然而,当最近公共祖先概念相同时,主要由路径长度决定相似度大小,只有在路径长度一致的情况下才需要路径的左右均衡情况做最后甄别. 也就是说, 路径长度应该是主要成分,路径均衡度是次要成分. 因此, 对le n( C1 , l s o 图4 最短路径非最大相似度示意图由图可4 知, 概念A 跟B 之间存在多条通路. 从图4 中得知,l e n( P1 , A)为3 ,le n( P1 , B)为3 ,( C1 , C2 ) ) 和le n( C2 , l s o ( C1 ,C2 ) ) 除MA X _D EP T H2 ,使其变成一个次要成分, 其值小于1 , 是分母的小数部分; le n( C1 , C2 )定整数部分.S im ( C, C) = MA X是主要成分,其值决P1 ) 为10 ,则由路径< A , P1 , B> 得到的相le n( R ,似度为2 3 10/ ( 3 + 3 + 2 3 10) = 0 . 769 ;le n( P2 ,A )为3 , l e n( P2 ,B )为2 , l e n( R , P2 ) 为8 , 则由路径> 得到的相似度为2 3 8/ (3+ 2 +< A , P2 , B(6)(下转第135 页) 2 3 8) = 0 .762 .可知路径< A , P1 , B > 优于路径法[J ] . 北京石油化工学院学报 , 2009 , 17 (1) :43 - 47 . [ 3 ] 沈勇. 一种基于 H TML 文档的信息隐藏方案[ J ] . 武汉大学学报 :自然版 ,2004 ,50 ( s 1) :217 - 220 .[ 4 ] Mo hamed L a hcen Ben S aad , Sun Xingming. Technique swit h st ati stic s fo r web p age wat er mar king [J ] . Pro ceed 2 ings of Wo rld Academy of S cience , Engi neering andTech n o lo g y , 2005 , 6 (7) :300 - 303 .[ 5 ] 孙星明 ,黄华军 ,王保卫 ,等. 一种基于等价标记的网页 信息隐藏算法[J ] . 计算机研究与发展 ,2007 ,44 ( 5) : 756- 760 .[ 6 ] 龙银香. 基于 H TML 标签的信息隐藏模型[ J ] . 计算机 应用研究 ,2007 ,24 (5) :137 - 140 . [ 7 ] Qij u n Zhao , Ho n gt ao L u. PCA - ba s ed web p a ge wat er 2ma r k ing [ J ] . Pat t e r n Reco g nitio n , 2007 , 40 : 1334 - 1341 .[ 8 ] 李建国 , 马小虎 , 沈晓峰. 一种基于重复标记属性的多网页信息隐藏方法 [ J ] . 计算机应用与软件 , 2009 , 26(8) :62 - 63 .图 4 多表格结构的信息嵌入界面结束语基于网页表格属性 ,提出了双比特的隐藏规则和算法实现 ,使嵌入容量增大了一倍. 提出的多表格 进出管理方法 ,解决了多个表格结构的网页信息隐 藏困难 ,能够适应各种表格的组合和嵌套情况 ,使算 法具有很好的实用性 ,适应面广.5 作者简介 :秦彩云 女 , (1963 - ) ,研究生 , 实验师. 研究方向为网络信 息安全方向. 张晓明 男 , (1968 - ) ,博士 ,教授. 研究方向为网络系统与安全方向.赵国庆 男 , (1965 - ) ,硕士 ,副教授. 研究方向为信息安全.参考文献 :[ 1 ] 李文治 , 张晓明 , 殷雄. 一种基于能量关系的鲁棒音频扩频水印算法 [ J ] . 微电子学与计算机 , 2009 , 26 ( 8) : 144 - 147 . [ 2 ] 张晓彦 , 张晓明. 一种基于表格属性的网页信息隐藏算(上接第 131 页)式(6) 通过计算所有通路的相似度值 ,并选出最 大值作为两个概念的相似度值 ,来解决问题 2 . 因为所有通路都考虑了 ,因此避免了问题 2 中所描述的 情况.1990 , 3 (4) : 235 - 244 .[ 2 ] L eaco ck C la udia , Ma r tin Cho d o ro w . Co mbining localco nt ext a nd Wo r dNet simila rit y fo r wo r d sen se identi f i 2 catio n [ C ]/ / Ch ri stiane Fell ba um. Wo r dNet , A n elec 2t r o n ic lexical dat a b a s e . Cambridge : M I T Pre s s , 1998 : 265 - 283 .[ 3 ] Wu Zhibiao , Ma rt ha Pal mer . Ver b sema nt ic s and lexicalselectio n [ C ]/ / AC L ’94 Proceedings of t he 32 nd a nn u almeeting o n A sso ciatio n fo r C o mp ut atio nal L ingui stic s . St ro ud sbur g : A sso ciatio n fo r Co mp ut atio n al L ingu i s 2t ic s , 1994 : 133 - 138 .[ 4 ] 徐德智 ,郑春卉 , P a s s K. 基于 SU M O 的概念语义相似度研究[J ] . 计算机应用 , 2006 , 26 (1) :180 - 183 .结束语本文首先分析常用的几种基于路径的相似度计算算法 ,然后提出了一种改进的基于路径的概念相 似度计算算法 , 通过对 W u 和 Pal me r 算法进行改 进 ,弥补了文中提出的两个问题. 这种改进较为直 观 ,容易实现 ,而且算法复杂度和 Wu 和 Pal me r 算 法类似 ,没有增加多余的时间开销.4 作者简介 :参考文献 :[ 1 ] G eo r g e A Miller , Richa r d Beckwit h , Ch ri s tia n e Fell 2ba um , et al . Int r o d uctio n to wo r d Net : an o n - line lexi 2 cal dat aba s e [J ] . Inter n atio n al J o u r n al of L e xico g rap h y ,曾 诚 韩光辉 李 兵 男 ,副教授. 研究方向为网络化软件工程. 男 ,副教授. 研究方向为软件工程形式化. 男 ,教授. 研究方向为网络化软件工程.。
词林相似度值计算
词林相似度值计算词林相似度值是一种计算词语之间相似度的方法，它根据词语在词林中的编码进行计算。
词林是一种基于义项和层级关系构建的中文词语分类系统，它将词语按照意义进行分类，并将每个意义编码为一个六位数字。
通过比较两个词语的编码，可以计算它们之间的相似度。
词林相似度值的计算方法如下：1.获取词语编码：首先，通过在词林中查找两个词语的编码，可以得到它们在分类系统中的位置。
2.计算编码相似度：将两个编码进行逐位比较，相同位置的数字相同则得分为1，不同则得分为0。
将得分进行累加，得到总得分。
3.标准化相似度值：将总得分除以编码的长度，得到归一化后的相似度值。
这个值的范围是0到1，越接近1表示两个词语之间的相似度越高。
词林相似度值的计算原理很简单，但在实际应用中有很多用途。
比如，在自然语言处理中，可以利用词林相似度值来衡量两个词语的语义相似度。
通过计算不同词语之间的相似度值，可以帮助机器理解句子的意思，进行语义分析和信息检索。
此外，词林相似度值还可以用于信息推荐和信息过滤。
通过计算用户的兴趣与某一条信息的相似度，可以为用户推荐他们感兴趣的内容，或者过滤用户不感兴趣的内容。
词林相似度值的计算是基于义项和层级关系的，因此它适用于大部分的词语和短语。
然而，它也有一些局限性。
首先，它只考虑了词语间的相似度，而没有考虑上下文语境的影响。
在某些情况下，两个词语虽然在词义上相似，但在具体语境中的使用方式却可能不同。
其次，词林相似度值只是基于编码的比较，没有考虑到词语含义的丰富度和语义的复杂性。
总之，词林相似度值是一种简单而有效的计算词语相似度的方法。
它通过比较词语在词林中的编码，衡量词语之间的语义相似度。
词林相似度值在自然语言处理、信息推荐等领域具有广泛的应用前景。
然而，它也有一些局限性，需要在实际应用中综合考虑其他因素。
基于路径与词林编码的词语相似度计算方法
基于路径与词林编码的词语相似度计算方法
王松松;高伟勋;徐逸凡
【期刊名称】《计算机工程》
【年(卷),期】2018(044)010
【摘要】现有词语相似度计算方法主要针对词语的路径结构进行计算,较少深入考虑词语的语义信息,导致计算结果不够准确.针对该问题,提出一种改进的词语语义相似度计算方法.将词语的词林编码与路径结构相结合,同时利用局部敏感哈希算法和海明距离计算词林编码之间的相似度.在MC和RG数据集上的实验结果表明,该方法可使皮尔逊相关系数分别达到0.897 4和0.866 8,较传统基于路径和深度的计算方法准确性更高.
【总页数】8页(P160-167)
【作者】王松松;高伟勋;徐逸凡
【作者单位】上海师范大学信息与机电工程学院,上海200134;上海师范大学信息与机电工程学院,上海200134;上海师范大学信息与机电工程学院,上海200134【正文语种】中文
【中图分类】TP391
【相关文献】
1.基于同义词词林的词语相似度计算方法 [J], 田久乐;赵蔚
2.一种基于《知网》的词语相似度计算方法 [J], 史俊冰
3.基于信息内容的词林词语相似度计算 [J], 彭琦;朱新华;陈意山;孙柳;李飞
4.基于词林的词语相似度的度量 [J], 吕立辉;梁维薇;冉蜀阳
5.基于路径与深度的同义词词林词语相似度计算 [J], 陈宏朝;李飞;朱新华;马润聪因版权原因，仅展示原文概要，查看原文内容请购买。
文本相似度计算研究进展综述
中图分类号： TP 391. 1
文献标志码： A
A survey on research progress of text similarity calculation
WANG Hanru，ZHANG Yangsen
（ Computer School，Beijing Information Science ＆ Technology University，Beijing 100101，China）
( T1，T2，…，Tn) 构成了一个文档向量空间，采用空 间向量间的余弦相似度计算文本相似度。
VSM 的缺陷在于： ①对于大规模语料，VSM 会 产生高维稀疏矩阵，导致计算复杂度增加； ② VSM 假设文本中的各个特征词独立存在，割裂了词与词 之间的关系以及段落间的层次关系。因而用向量空 间进行文本相似度计算时，通常改进 TF-IDF 的计算 方法以提高精确度。例如，张奇等［4］将文本用 3 个 向量（ V1，V2，V3） 表示，V1 中的每一维代表特征词 的 TF-IDF 值，V2 根据一个 bi-gram 是否出现取值 0 或 1，V3 使用 tri-gram 信息，取值同 V2，用回归模型 将 3 对向量相似度综合得到句子的相似度； 华秀 丽［5］等利用 TF-IDF 选择特征项，利用知网计算文本 的语义相似度。 2. 2 基于主题模型：
1） 语言的多义同义问题。同一个词在不同的 语境下，可以 表 达 不 同 的 语 义，例 如“苹 果 ”既 可 以 表示水果，也可以表示科技公司； 同理，相同的语义 也可以由不同的词表达，例如“的士”、“计程车”都 可以表示出租车。
以检测出两段文本的抄袭程度； 在文本聚类方面，相 似度阈值可以作为聚类标准； 在自动文摘中，相似度 可以反映局部信息拟合主题的程度。
“深度学习”计算词和句子的语义相似度及应用
“深度学习”计算词和句子的语义相似度及应用随着互联网数据的爆炸式增长，语义计算在信息处理和信息检索中的需求越来越大。
其中，语义相似度计算是计算机自然语言处理的重要应用之一。
语义相似度计算可以帮助机器理解人类语言，实现诸如文本分类、命名实体识别、情感分析、问答系统、机器翻译等自然语言处理的应用。
传统的语义相似度计算方法包括基于词典、基于知识库、基于语法和基于统计等方法，但这些方法在计算语义相似度时存在许多问题，例如处理复杂句子和表达多义词语的语义准确率较低。
为此，深度学习算法被引进用于语义相似度计算任务中。
深度学习算法是一种基于人工神经网络的机器学习方法，它通过在大量标注好的数据上训练模型，学习模式并自动地提取特征来处理复杂的自然语言处理任务。
深度学习算法在语义相似度计算中的应用主要包括两种：基于单个句子的语义相似度计算和基于两个句子的语义相似度计算。
基于单个句子的语义相似度计算使用卷积神经网络（CNN）或循环神经网络（RNN）模型，将句子表示为向量，然后计算向量之间的相似度。
例如，利用CNN模型将输入的句子表示为向量，然后计算向量之间的相似度，可用于句子分类和情感分析等任务。
而利用RNN模型可以处理比较长的序列输入，可用于文本分类和自然语言生成等任务，如生成与输入句子相似的句子。
基于两个句子的语义相似度计算通常使用Siamese神经网络，该神经网络有两个完全相同的子网络用于处理两个句子的表示。
在两个句子的表示之间使用距离度量函数，例如余弦相似度或曼哈顿距离计算两个句子的相似度。
这种方法可以用于文本匹配和问答系统等任务。
总之，深度学习算法在自然语言处理中有着广泛的应用前景，尤其在语义相似度计算方面。
随着数据集的不断增大和深度学习算法的不断改进，我们相信深度学习算法本身和基于深度学习算法的自然语言处理方法都将得到进一步的改善和完善。
词语相似度计算
词语相似度计算词语相似度计算 当事物可以计算的时候就产⽣了智能 ----Alert⼀、词语相似度 词义相似度计算在很多领域中都有⼴泛的应⽤，例如信息检索、信息抽取、⽂本分类、词义排歧、基于实例的机器翻译等等。
国内很多论⽂主要是基于同义词林和知⽹来计算的。
本⽂的词语相似度计算是基于《同义词词林》的。
⼆、同义词林介绍《同义词词林》是梅家驹等⼈于1983年编纂⽽成，这本词典中不仅包括了⼀个词语的同义词, 也包含了⼀定数量的同类词, 即⼴义的相关。
《同义词词林》的编写年代久远，之后没有更新。
哈⼯⼤花费了⼤量的⼈⼒物⼒完成了⼀部具有汉语⼤词表的哈⼯⼤信息检索研究室《同义词词林扩展版》，《同义词词林扩展版》收录词语近7万条。
原版的《同义词词林》⽬录如下：哈⼯⼤《同义词词林扩展版》保留《同义词词林》原有的三层分类体系，并在此基础上对词语继续细分类，增加两层，得到最终的五层分类体系，这样词典中的词语之间就体现了良好的层次关系，如下图表⽰的词语树形结构：例如：“东南西北”的编码为Cb02A01=C是第1层、b是第⼆层、02是第三层、A是第四层、01是第五层，=号有特殊的意义。
词语的编码规则如下：表中的编码位是按照从左到右的顺序排列。
第⼋位的标记有3种，分别是“=”、“#”、“@”， “=”代表“相等”、“同义”。
末尾的“#”代表“不等”、“同类”，属于相关词语。
末尾的“@”代表“⾃我封闭”、“独⽴”，它在词典中既没有同义词，也没有相关词。
三、词语相似度定义1 语义相似度。
给定两个词汇w1和w2,它们之间的相似度通过Sim(w1,w2):S*S->[0,1],表⽰集合S中的两个词汇w1和w2的相似程度。
简单的说相似度函数是个值域在[0,1]间的函数。
本⽂的计算公式参考了《基于同义词词林的词语相似度计算⽅法》⼀⽂，相似度函数计算公式如下：若两个义项的相似度⽤Sim表⽰，n表⽰所在分枝层分⽀数，k表⽰两个分⽀间的距离。
- 1、下载文档前请自行甄别文档内容的完整性，平台不提供额外的编辑、内容补充、找答案等附加服务。
- 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
- 3、如文档侵犯您的权益，请联系客服反馈,我们会尽快为您处理(人工客服工作时间：9:00-18:30)。
中图分类号 ： Ｔ Ｐ ３ ９ １
文 献标 识码 ：
Ａ Ｐａ ｔ ｈ ａ ｎ ｄ Ｄｅ ｐ ｔ ｈ － Ｂａ ｓ ｅ ｄ Ａｐ ｐ ｒ ｏ ａ ｃ ｈ ｔ ｏ ＷＯ ｒ ｄ Ｓ ｅ ｍａ ｎ ｔ ｉ ｃ Ｓ ｉ ｍｉ ｌ ａ ｒ ｉ ｔ ｙ Ｃａ ｌ ｃ ａ ｌ ａ ｔ ｉ ｏ ｎ ｉ ｎ ，ｗｈ ｉ ｌ ｅ ｄ ｙ ｎ ａ ｍｉ ｃ ａ ｌ ｌ ｙ ａ ｄ ｊ ｕ ｓ ｔ ｉ ｎ ｇ ｔ ｈ ｅ ｓ ｈ ｏ ｒ ｔ ｅ ｓ ｔ ｐ ａ ｔ ｈ ｂ ｅ ｔ ｗｅ ｅ ｎ ｔ ｗｏ ｓ ｅ ｎ ｓ ｅ ｓ ｔ ｈ ｒ ｏ ｕ ｇ ｈ ｔ ｈ ｅ ｉ ｒ ｂ ｒ ａ ｎ ｃ ｈ ｉ ｎ ｔ ｅ ｒ ｖ ａ ｌ ｉ ｎ ｔ ｈ ｅ ｌ ｏ ｗ—
Ｇｕ ａ ｎ ｇ ｘ ｉ Ｎｏ ｒ ｍａ ｌ Ｕｎ ｉ ｖ ｅ ｒ ｓ ｉ ｔ ｙ，Ｇｕ ｉ ｌ ｉ ｎ， Ｇｕ ａ ｎ ｇ ｘ ｉ ５ ４ １ ０ ０ ４， Ｃｈ ｉ ｎ ａ ）
Ａｂ ｓ ｔ ｒ ａ ｃ ｔ：Ｉ ｎ ｔ ｈｉ ｓ ｐａ ｐ ｅ ｒ，ｗｅ ｐｒ ｏｐ ｏｓ ｅ ａ ｗｏｒ ｄ ｓ ｅ ｍａ ｎｔ ｉ ｃ ｓ ｉ ｍｉ ｌ ａ ｒ ｉ ｔ ｙ ａ ｐｐｒ ｏ ａ ｃ ｈ ｂ ａ ｓ ｅ ｄ ｏ ｎ ｔ ｈｅ ｐａ ｔ ｈ ａ ｎｄ ｄｅ ｐｔ ｈ ｉ ｎ Ｃｉ Ｉ ｉ ｎ ． Ｔｈｉ ｓ ａ ｐｐｒ ｏａ ｃ ｈ ｅ ｘｐ ｌ ｏ ｉ ｔ ｓ ｔ ｈ ｅ ｓ ｈｏ ｒ ｔ ｅ ｓ ｔ ｐ ａ ｔ ｈ ｂｅ ｔ ｗｅ ｅ ｎ ｔ ｗｏ ｗｏ ｒ ｄ ｓ ｅ ｎｓ ｅ ｓ ａ ｎｄ ｔ ｈ ｅ ｄ ｅ ｐ ｔ ｈ ｏ ｆ ｔ ｈｅ ｉ ｒ ｌ ｏ ｗｅ ｓ ｔ ｃ ｏ ｍ ｍ ｏｎ ｐ ａｒ ｅ ｎｔ ｎｏ ｄ ｅ ｉ ｎ
ＣＨ ＥＮ Ｈｏ ｎ ｇ ｃ ｈ ａ ｏ， ＬＩ Ｆｅ ｉ ， ＺＨ Ｕ Ｘｉ ｎ ｈｕ ａ ，Ｍ Ａ Ｒｕ ｎ ｃ ｏ ｎ ｇ
（ Ｇｕ ａ ｎ ｇ ｘ ｉ Ｋｅ ｙ Ｌａ ｂ ｏ ｆ Ｍｕ ｌ ｔ ｉ — ｓ ｏ ｕ ｒ ｃ ｅ Ｉ ｎ ｆ ｏ ｒ ｍａ ｔ ｉ ｏ ｎ Ｍｉ ｎ ｉ ｎ ｇ＆ Ｓ ｅ ｃ ｕ ｒ ｉ ｔ ｙ，
第 ３ Ｏ卷
第 ５期
中文 信息 学报
Ｊ ０Ｕ ＲＮＡＬ ＯＦ ＣＨ Ｉ ＮＥＳ Ｅ Ｉ ＮＦＯＲＭ Ａ ＴＩ ＯＮ ＰＲＯＣＥＳ Ｓ Ｉ ＮＧ
Ｖｏ １ ．３ ０，Ｎｏ ．５ Ｓ ｅ ｐ ． ，２ Ｏ １ ６
２ ０ １ ６年 ９月
文章 编号 ： １ ０ ０ ３ — ０ ０ ７ ７ （ ２ ０ １ ６ ） ０ ５ — ０ ０ ８ ０ － ０ ９
基 于路 径 与深 度 的 同义 词词 林 词语 相 似度 计算
陈宏 朝 ， 李 飞， 朱新华 ， 马润 聪
（ 广西师范大学 多源信息挖掘与安全重点实验室 ， 广西 桂 林 ５ ４ １ ０ ０ ４ ） 摘 要： 该 文提 出 了一 种 基 于 路 径 与 深 度 的 同义 词 词 林 词 语 语 义 相 似 度 计 算 方 法 。该 方 法 通过 两 个词 语 义项 之 间
ｔ ｈ ｅ ｈ ｉ ｅ ｒ ａ ｒ ｃ ｈ ｙ ｔ ｒ ｅ ｅ ｔ ｏ ｃ ａ ｌ ｃ ｕ ｌ ａ ｔ ｅ ｔ ｈ ｅ ｓ ｅ ｍａ ｎ ｔ ｉ ｃ ｓ ｉ ｍｉ ｌ ａ ｒ ｉ ｔ ｙ ｂ ｅ ｔ ｗｅ ｅ ｎ ｔ ｗｏ ｗｏ ｒ ｄ ｓ ｅ ｎ ｓ ｅ ｓ ．Ｉ ｎ ｏ ｒ ｄ ｅ ｒ ｔ ｏ ｉ ｍｐ ｒ ｏ ｖ ｅ ｔ ｈ ｅ ｒ ａ ｔ ｉ ｏ ｎ ａ ｌ ｉ ｔ ｙ ｏ ｆ ｃ ａ ｌ ｃ ｕ ｌ ａ ｔ ｉ ｎ ｇ ｔ ｈ ｅ ｐ ａ ｔ ｈ ａ ｎ ｄ ｄ ｅ ｐ ｔ ｈ，ｗｅ ａ ｓ ｓ ｉ ｇ ｎ ｄ ｉ ｆ ｆ ｅ ｒ ｅ ｎ ｔ ｗｅ ｉ ｇ ｈ ｔ ｓ ｔ ｏ ｔ ｈ ｅ ｅ ｄ ｇ ｅ ｓ ｂ ｅ ｔ ｗｅ ｅ ｎ ｔ ｈ ｅ ｄ ｉ ｆ ｆ ｅ ｒ ｅ ｎ ｔ ｌ ａ ｙ ｅ ｒ ｓ ｉ ｎ ｃ ｌ ａ ｓ ｓ ｉ ｆ ｉ ｃ ａ —
的 最 短 路 径 以 及 它 们 的 最 近 公 共 父 结 点 在 层 次 树 中 的深 度 计 算 出两 个 词语 义 项 的 相 似 度 。在 处 理 两 个 词 语 义 项 的最短路径与其最近公共父结点的深度时 ， 为提 高路 径 与 深 度 计 算 的合 理 性 ， 为 分 类树 中不 同层 之 间 的 边 赋 予 不
同的 权 值 ， 同 时通 过 两 个 义 项在 其 最 近公 共 父 结 点 中 的 分 支 间 距 动 态调 节 词 语 义 项 间 的 最 短 路 径 ， 从 而 平 衡 两 个
词 语 的 相 似 度 。该 方 法 修 正 了 目前 相 关 算 法 只 能 得 出几 个 固定 的 相 似 度 值 ， 所 有 最 近 公 共 父 结 点 处 于 同一 层 次 的 义 项 对 之 间的 相 似 度 都 相 同的 不 合 理 现 象 ， 使 词语语 义相似 度的计 算结果更 为合理 。实验表 明， 该 方 法 对 ＭＣ ３ ０ 词对的相似度计算值与人工判定值相 比， 取得 了 ０ ． ８ ５ ６的 皮 尔 逊 相 关 系数 ， 该 结 果 高 于 目前 大 多数 词 语 相 似 度 算