信息熵理论的应用研究
基于信息熵理论的S-T分析法及案例研究
２ １年 ２ ００ 月
软 件 导 刊
Ｓｏ ｔ ｒ ｉｅ ｆｗａｅ Ｇｕｄ
ＶＯ ． Ｏ２ １９Ｎ ． Ｆｅ ． ｂ ２Ｏｌ ０
基 于信 息 熵 理 论 的 Ｓ Ｔ分 析 法及 案 例 研 究 —
余 彪 王 兴 辉 ．
（ ． 西 师 范 学 院 计 算 机 信 息 工 程 学 院 ， 西 南 宁 ５ ０ ２ ；． 西 教 育 学 院 ， 西 南 宁 ５ ０ ２ ） １广 广 ３ ０ １ ２广 广 ３ ０ ３
１
Ｓ Ｔ分 析 法 即 Ｓｕ ｅｔＴ ａ ｈｒ 析 法 ， 要 用 于 对 教 学 过 — ｔｄ ｎ— ｅｃ ｅ 分 主
程 的定量 分 析。 — Ｓ Ｔ分 析 是 一 种 能 够 以 图 形 的 方 法 直 观 表 现 教 学 性 格 的 教 学 分 析 方 法 。 它 可 用 于 对 教 学 过 程 及 其 分 析 ， 行 “ 进 定 量 地 处 理 、 量 地 评 价 ．它 是 一 种 客 观 有 效 的 、 形 化 的 教 定 ” 图 学 分 析 方 法 ， 以 有 效 记 录 、 析 、 究 教 学 过 程 。 Ｓ Ｔ教 学 分 可 分 研 — 析 通 过 实 际 观 察 教 学 过 程 或 观 看 录 像 资 料 ， 以 确 定 的 采 样 频 率 ． 课 堂 教 育 进 程 进 行 采 样 ， 根 据 样 本 点 的 行 为 类 别 ， 相 对 并 以
和学生 问 的信息传 递过 程 。 是一种 在 时间轴 上展 开和变 化 的 它
过 程 。Ｓ Ｔ教 学 分 析 方 法 正 是 基 于 教 学 过 程 的 这 种 特 点 ， 效 — 有
地 记 录教学 过程 中的数 据 ， 通过 对这 些数 据 的分 析 ， 处理 ． 得到
熵在物理学中的应用
熵在物理学中的应用
熵是热力学中的一个重要概念，它描述了一个系统的无序程度。
在物理学中，熵的应用非常广泛，下面我们来看看其中的一些例子。
熵在热力学中的应用是最为广泛的。
热力学中的熵是一个状态函数，它可以用来描述一个系统的热力学状态。
当一个系统的熵增加时，它的无序程度也会增加，这意味着系统的能量变得更加分散，而不是集中在某个地方。
因此，熵可以用来描述一个系统的热力学稳定性，即系统越稳定，其熵值越低。
熵在信息论中也有着重要的应用。
信息熵是一个用来描述信息量的概念，它可以用来衡量一个信息源的不确定性。
当一个信息源的熵越高，它所提供的信息量就越大，因为我们需要更多的信息来描述这个系统。
因此，信息熵可以用来描述一个信息源的复杂程度，即信息源越复杂，其熵值越高。
熵还可以用来描述一个系统的混沌程度。
在混沌理论中，熵被用来描述一个混沌系统的无序程度。
当一个混沌系统的熵增加时，它的无序程度也会增加，这意味着系统的行为变得更加难以预测。
因此，熵可以用来描述一个混沌系统的稳定性，即系统越稳定，其熵值越低。
熵在物理学中的应用非常广泛，它可以用来描述一个系统的无序程
度、热力学稳定性、信息源的复杂程度以及混沌系统的稳定性。
熵的应用不仅仅局限于物理学领域，它还被广泛应用于化学、生物学、经济学等领域。
熵的理论和应用
熵的理论和应用熵是一个非常重要的概念，不仅在物理学中有着广泛的应用，而且在信息科学、化学以及统计学等很多领域都起到至关重要的作用。
熵理论的建立和发展是一个复杂而又具有挑战性的过程，它的应用涵盖了很多方面，给人类社会带来了诸多福利。
在本文中，笔者将会详尽地介绍熵的理论和应用，并且探讨一些未来可能的研究方向。
一、熵的理论1. 熵的定义熵一词最初来自热力学，是描述热量转移的一个重要概念。
在20世纪初期，熵的定义从热力学扩展到了统计学和信息论中，成为了一种普遍的物理量。
根据热力学的定义，熵常被描述为一个系统的混乱程度，它的大小取决于系统的状态，随着系统微小改变而微小改变，当系统达到平衡态时达到最大值。
2. 熵的热力学意义熵与系统的混乱程度有关，具体来说，热力学意义的熵可以表示系统的无序程度。
比如一个有序的水晶是具有低熵的，而一个无序的气体则是具有高熵的。
此外，熵还有一个重要的特性，即不可逆性。
根据热力学的第二定律，系统的熵会随时间的推移而不断增加，也就是说，一个系统可以降低其内部的能量，但是不能降低其熵。
3. 熵的信息学意义在信息科学中，熵的意义与热力学是有关联的。
与热力学中的系统具有无序程度类似，信息论中的熵可以表示信息序列中的随机程度。
具体来说，假设有一组由0和1组成的二进制数列，它在信息量上的不确定性就可以用熵来表示，而且熵的大小与二进制数列中的随机性成正比。
二、熵的应用1. 热力学应用从热力学的角度来看，熵是一个复杂的、有趣的、多样化的物理量，对许多领域都有着广泛的应用。
在宇宙学中，黑洞的热力学属性以熵的形式表示，它的大小与该黑洞的质量、温度和面积等参数有关。
此外，熵还可以用于预测化学反应的热力学性质、分析物质中的相变等过程。
2. 信息学应用在信息科学中，熵的应用也是非常广泛的。
比如说，信息熵可以用于测量网络协议中的无序行为、衡量密码学中密码随机性、量化音频编码中的压缩效率等。
此外，熵还被应用于网络安全、奇异性等众多领域，产生了巨大的效益。
《信息熵的研究》论文
写一篇《信息熵的研究》论文
《信息熵的研究》
近年来，信息熵作为一种重要的理论工具在众多领域得到了广泛应用。
信息熵作为数学模型可以衡量系统中未知元素的可预测性，从而提供是否能够给出有效的决策依据，及其实际的研究应用更加广泛。
首先必须清楚的了解什么是信息熵。
信息熵是衡量系统中未知元素的可预测性的一种度量，它为把握不同客观存在的间接提供了参考。
其次，我们要了解信息熵如何应用到实际的研究当中去。
它主要应用在风险评估，了解不同风险领域的熵值高低及其各自之间的关联性，可以帮助我们识别和分析风险因素。
此外，信息熵还可以用于计算对不确定性的反应，以便评估某种决策的可靠性。
最后，信息熵还可以用于理解复杂的系统，优化系统和实现可持续发展。
本研究将介绍信息熵的基本概念，并从多种角度深入探讨它的实际应用。
首先，将介绍信息熵的概念和涉及到的基本数学原理，包括对概率分布的衡量和熵的定义等。
其次，研究将探讨信息熵在实践中的应用案例。
探讨信息熵在风险评估中的应用，预测结果的可靠性，以及优化复杂系统的实现等。
最后，总结性的分析研究信息熵的未来研究趋势，总结信息熵的优势和不足，以及信息熵应用对于现实社会的综合影响等。
因此，本文将从宏观和微观两个角度，全面而深入地剖析信息熵在现代社会中的应用和作用，并为后续研究提供基础知识和
方法支持。
本文的研究认为，信息熵可以帮助我们理解复杂的系统，以实现有效的决策，实现更好的可持续发展。
熵的研究和应用
熵的研究和应用在物理学、化学、信息论等领域中，熵是一个非常重要的概念。
熵被定义为系统内分子的混乱程度，也可以简单地说成是无序度量。
在自然界和科学技术中，熵的研究和应用都起着十分重要的作用。
一、熵的研究和理论发展熵的概念最早可追溯到 19 世纪中叶，当时物理学家 Clausius引入了熵的概念，用于研究热量在物体之间传递的问题。
熵作为一个物理量，被应用于热力学中，可以用来描述系统的热力学状态或过程。
熵在热力学中的应用，是描述物质能量转化的过程中有多少能量被耗散的物理量。
随着现代物理学和化学的发展，熵的概念逐渐演化出了更加广泛的理论体系。
在现代物理学中，熵的概念被广泛应用于热力学、统计物理学、信息论等领域。
熵的运用，可以揭示系统的性质和变化，帮助人类更好地理解自然现象和物质世界的本质。
二、熵的应用1、热力学中的应用热力学中，熵通常被称为热熵，是一个热力学量纲，可用于描述无定形固体、气体和溶液的微观结构。
热熵可以用来衡量热力学系统的混乱程度，通常是随系统的复杂性和无序程度增加而增加。
例如，当有机化合物燃烧时，原子团聚在一起，熵降低，能源就会被释放。
相反，当物质分解、蒸发或溶解时，熵增加，能量就会被吸收。
2、统计物理学中的应用在统计物理学中，熵被用来描述微观粒子的混乱程度与排列方式。
这一理论有助于揭示分子和原子如何组成物质，并且有助于研究物质的性质和行为，如导电性、磁性、机械性能等。
3、信息学中的应用熵的概念也被应用于信息学中。
信息熵，通常被称为信息量度或信息混乱度，是用来衡量信息的无序度量。
例如，在通信系统和编码中，熵被用来衡量数据的信息密度。
对于一个随机的消息，信息熵越高，消息传输的差错率就越高。
4、生态学中的应用在生态学中，熵被用来描述自然界的生态平衡状态。
当生态系统中的物种数目、密度、分布等属性发生改变时，系统整体的熵也会发生变化。
例如，当一些外来物种进入生态系统中时，整个生态平衡会失去平衡，熵会增加。
熵的应用和意义
浅谈熵的意义及其应用摘要：介绍了熵这个概念产生的原因，以及克劳修斯对熵变的定义式；介绍了玻尔兹曼从微观角度对熵的定义及玻尔兹曼研究工作的重要意义；熵在信息、生命和社会等领域的作用；从熵的角度理解人类文明和社会发展与环境的关系。
关键词：克劳修斯熵玻尔兹曼熵信息熵生命熵社会熵0 前言：熵是热力学中一个非常重要的物理量，其概念最早是由德国物理学家克劳修斯（R.Clausius）于1854年提出，用以定量阐明热力学第二定律，其表达式为dS=(δQ/T)rev。
但克劳修斯给出的定义既狭隘又抽象。
1877年，玻尔兹曼（L.Boltzmann）运用几率方法，论证了熵S与热力学状态的几率W之间的关系，并由普朗克于1900给出微观表达式S=k logW,其中k为玻尔兹曼常数。
玻尔兹曼对熵的描述开启了人们对熵赋予新的含义的大门，人们开始应用熵对诸多领域的概念予以定量化描述，促成了广义熵在当今自然及社会科学领域的广泛应用【1】【2】。
1 熵的定义及其意义克劳修斯所提出的熵变的定义式为dS=(δQ/T)rev，由其表达式可知，克劳修斯用过程量来定义状态函数熵，表达式积分得到的也只是初末状态的熵变，并没有熵的直接表达式，这给解释“什么是熵”带来了困难。
【1】直到玻尔兹曼从微观角度理解熵的物理意义，才用统计方法得到了熵的微观表达式：S=k logW。
这一公式对应微观态等概出现的平衡态体系。
若一个系统有W个微观状态数，且出现的概率相等，即每一个微观态出现的概率都是p=1/W，则玻尔兹曼的微观表达式还可写为：S=-k∑plogp。
玻尔兹曼工作的杰出之处不仅在于它引入了概率方法，为体系熵的绝对值计算提供了一种可行的方案，而且更在于他通过这种计算揭示了熵概念的一般性的创造意义和价值：上面所描述的并不是体系的一般性质量和能量的存在方式和状态，而是这些质量和能量的组构、匹配、分布的方式和状态。
玻尔兹曼的工作揭示了正是从熵概念的引入起始，科学的视野开始从对一般物的质量、能量的研究转入对一般物的结构和关系的研究，另外，玻尔兹曼的工作还为熵概念和熵理论的广义化发展提供了科学依据。
熵值法的原理及实例讲解
熵值法的原理及实例讲解熵值法是一种多指标综合评价方法，其原理是通过计算各指标间的熵值来评估不同指标的重要性，进而确定各指标的权重，用于多指标决策问题的分析与决策。
该方法具有较强的定量分析能力和适用性，广泛应用于各类复杂问题的决策和评价。
熵值法的基本原理是基于信息论中的信息熵理论，即通过计算指标的熵值来度量指标的不确定性或信息量大小。
信息熵越大，代表指标的不确定性越高，包含的信息量也越大。
因此，指标的熵值越高，其权重越小，反之亦然。
熵值的计算公式为：E = - Σ(pi * ln(pi))其中，E表示指标的熵值，pi表示指标i的权重。
指标权重的计算需要将指标的实测值进行标准化处理，然后计算各指标的权重，并归一化处理才能得到实际的权重系数。
下面以企业综合评价为例来讲解熵值法的具体步骤和应用。
1.选择评价指标假设要对一家企业进行综合评价，我们选择了一组适合该企业的指标，包括销售收入、利润率、资产回报率、员工满意度等。
2.数据标准化对于每个指标的原始数据，需要进行标准化处理，将其转化为0-1之间的数值。
可以采用最小-最大标准化方法，即将原始数据减去最小值，再除以最大值减去最小值，得到标准化后的数据。
3.计算指标的熵值根据标准化后的数据，计算每个指标的熵值。
首先计算每个指标的权重，假设有n个指标，则每个指标的权重为：pi = xi / Σ(xi)，其中xi表示指标i的标准化后的数值。
然后根据熵值公式，计算每个指标的熵值。
4.计算权重系数根据各指标的熵值，计算其权重系数。
首先计算指标的信息熵占总熵的比例，即指标的权重系数=w=(1-Ei)/(n-Σ(Ei))，其中Ei表示指标i的熵值，n表示指标的个数。
然后对权重系数进行归一化处理，得到权重系数的实际权重。
5.计算综合得分根据各指标的实际权重和标准化后的数据，计算出各指标的加权得分，并对各指标得分进行加权求和，得到企业的综合评价得分。
根据得分的大小，可以对企业进行等级评定或排序。
基于熵理论的评价指标权重应用与研究
基于熵理论的评价指标权重应用与研究基于熵理论的评价指标权重应用与研究摘要：评价指标权重的确定是多目标决策的一个重要环节，它将直接影响评价结果。
本文把熵与多目标评价方法TOPSIS结合起来，分析候选基因与乳腺癌易感性之间强弱的评价值，综合考虑定性和定量因素，同时消除了主观因素对权重确定的影响，通过最终的分析结果，为进一步发现乳腺癌候选基因提供理论依据。
关键词：熵；熵权TOPSIS；乳腺癌一、引言熵是热力学中的一个名词，在信息论中又称为平均信息量，它是信息无序度的度量，信息熵越大，信息的无序度越高，其信息的效用值越小；反之，信息熵越小，信息的无序度越小，信息的效用值越大。
因此，在综合评估中，通常运用信息熵评估系统信息的有序程度及信息的效用值。
同时最大熵技术也广泛应用于多目标决策问题各评价指标权重的确定[1]。
基于此，本文把熵与多目标评价方法TOPSIS结合来分析乳腺癌候选基因与乳腺癌易感性之间强弱的评价值，进而综合考虑定性和定量因素，并最终给出了分析结果，为进一步发现乳腺癌候选基因提供了理论依据。
二、熵、熵权TOPSIS方法空间统计学中，距离综合评价法是一种以空间统计学为基础的分析方法，它是通过将统计数据转化为多维坐标系中的点，在空间中确定出参考点，即最优样本点和最劣样本点，然后计算各样本点到参考点的距离来分析评价的方法。
具体计算步骤如下。
1.对数据的初步分析处理。
假设用P个指标对n个数据进行评价，先构造原始数据，X′=（X1′，X2′，X3′…XP′）=（XIJ′）n*p并对数据进行处理，进行指标同向化，将逆指标、适度指标转为正指标后得到矩阵：X′=（X1，X2，X3…XP）=（XIJ′）n*p i=1…n；j=1…p。
2.无量纲化。
为消除量纲，并在数量上统一，TOPSIS法使用无量纲化公式yij=得到无量纲矩阵Y′=（Y1′，Y2′，Y3′…YP′）3.确定权重，构造加权数据矩阵。
传统的TOPSIS法在确定评价指标的权重时，一般采用专家意见调查法或层次分析法等方法，这些方法存在着较大的主管因素，不同的人对各个指标的重要度有不同的评价。
- 1、下载文档前请自行甄别文档内容的完整性，平台不提供额外的编辑、内容补充、找答案等附加服务。
- 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
- 3、如文档侵犯您的权益，请联系客服反馈,我们会尽快为您处理(人工客服工作时间：9:00-18:30)。
信息熵理论的应用研究[摘要] 广告活动是信息的活动，信息熵是信息活动的度量标准。
本文利用信息熵理论对广告活动中的信息处理、广告传播、广告效果测定和广告受众进行了论证，指出了广告信息活动的规律。
[关键词] 信息熵；负熵；广告活动；广告受众广告是一种非人际的信息传播，是信息交流的工具。
广告系统实质上是信息系统，它具备了信息传播的五要素：谁——通过什么媒介——对谁——说了什么——取得了什么效果。
广告的信息传播包括：广告发布者(包括广告主、广告制作者和传播者，即信息源)、广告信息内容、广告媒介、广告受众、广告效果等要素。
信息熵理论是描述信息系统发展的基本理论，利用信息熵从信息的角度分析广告行为、预判广告活动的发展趋势，是研究广告活动的一种新方法。
一、熵、信息熵与广告活动的理论分析熵是一个重要的物理概念，热力学中的熵通常被用于表征一个物理系统的无序程度。
随着科学综合化的发展，熵又远远超出物理学范围。
1948年，香农(shannon)第一次将熵这一概念引入到信息论中，从此，熵这一概念被广泛用于信息的度量，在自然科学和社会科学众多领域中得到广泛应用，并成为一些新学科的理论基础，由狭义熵发展为广义熵。
正如爱因斯坦的评价那样：“熵理论对于整个科学来说是第一法则”。
熵表示的是系统固有的、规律性的本质。
在没有外界作用下，一个系统的熵越增，不可用能就越大，动力越小；换言之，一个系统的熵不相同时，对于相等的进程，它们的利用价值可以大不相同。
一个孤立系统的熵永不减少，这叫做熵增原理。
根据这一原理，以熵变为判据，不仅可以判断过程进行的方向，而且还能给出孤立系统达到平衡的条件。
熵增原理揭示了一切自发过程都是不可逆的这一共同本质。
为了打破平衡，必须与外部系统交换熵，从外部系统得到的熵称为负熵，目的是使本系统的熵值减少，更具有活力。
从物理熵理论引伸到信息学、社会学等领域我们称之为信息熵。
首先定义信息：信息是认识主体所感受的或所表达的事物运动的状态和运动状态变化的方式。
信息是人们在适应外部世界和控制外部世界的过程中，同外部世界进行交换的内容。
信息度量如下：若一个事件产生的概率是P，则它的信息量I为：I=-log2p。
事件发生的概率越小，所含信息量越大。
信息的特征为：1、接收者在收到信息之前，对它的内容是不知道的，所以信息是新知识、新内容；2、信息是能使认识某一事物的未知性或不确定性减少的有用知识；3、信息可以产生，也可以消失，同时信息可以被携带、贮存及处理；4、信息是可以量度的，信息量有多少的差别。
对于n个事件构成的概率系统，每一事件产生的平均信息量为：H=-∑pilog2pi(i=1，2，…n)。
H为信息熵。
信息熵的大小用于表示概率系统的不确定程度。
根据信息熵理论的基本观点，信息的价值取决于信息不确定性减少的量。
这个量是由信源和接受者之间的相关性决定的。
一般情况下，获得信息的多少取决于接受者的知识背景和社会背景。
由于接受者支付信息的成本不同和知识背景不同，导致接受者处理信息存在差异性。
广告活动的实质是信息处理、变换和传播的过程。
广告是形式，是信息的载体；信息是内容，是广告的本质。
从信息的角度分析广告，广告活动就是信息熵的变化过程。
广告活动可以用信息熵衡量，它主要涉及信息流、信息熵、信息负熵的处理。
广告系统包括三个子系统：对于广告的发布者是广告创作子系统；对于广告接受者是广告接受子系统和以媒体为主的传播子系统。
广告系统既然是信息系统，必然是统计熵增的。
在一个广告系统中，广告效益的增长依赖于大量资源消耗的支持，而效益增长过程中消耗的大量资源，会导致熵的不断积累，熵增加会导致广告系统失去平衡和系统功能弱化，失去可持续性发展的动力。
广告系统要摆脱“死寂”，唯一的办法就是从外界不断吸取负熵，以平衡熵增机制，维持系统均衡。
二、信息熵理论在广告信息处理中的应用格威克认为：“广告创意就是你发现了人们习以为常的事物中的新含义”。
国内通常定义为：“广告创意是通过创造性的构思，创造意象，表达广告内容的方法”。
广告创意是信息的处理和变换，是复杂的思维意识及信息的高级活动，它是负熵的流入。
如果设广告创意为一个孤立子系统，创作思维是这个子系统的能量，广告的原创性为信息熵。
熵的变化决定着广告创意的发展。
如果因循守旧，不接纳外界的新信息，那么在经过一段时间的创作后，其熵的增加达到最大值，新的知识减少。
即广告独创性中包含的信息递减，信息不确定性减少的量逐渐减少，结果是各种类型广告的创意趋于模式化或雷同化。
广告创意中体现负熵的原则是原创性，它建立在关联性基础之上。
关联性体现的熵值逐渐增大，原创性引入的创意的负熵使系统熵减，目的是提高广告中信息含量，吸引受众的注意。
例如，某著名的4A广告公司曾经为许多国际大公司策划过许多成功的广告，但是由于广告创意思维的模式化，在为治疗痔疮药品进行电视广告创作时习惯地套用某快餐的创意方法，由于创意缺乏新的信息，导致广告所表达的信息偏离目标，导致商品销售额大幅下降。
广告专家已经对这一则广告作品进行了详尽的分析，但忽略了产生这个结果的根源——广告创意时缺乏负熵的吸收。
负熵的吸收是指对商品的、市场的、消费者的信息收集。
根据香农公式C=Wlog2(1+S/N)广告信息送达率C与发送广度W成正比，与信噪比S/N成正比。
(发送广度在下面讨论)信噪比是指本发送广告所含信息与其他广告所含信息送达到受众的到达率之比。
在目前广告泛滥、信息爆炸的时代，广告信息噪声量极大。
受众在接收广告信息时，需要有利于他们进行信息处理的客观条件。
如果受到外界的干扰、刺激，或者接触时间受到限制，则不利于这一心理过程；如果有可能多次重复接触同一广告信息，则此心理过程会更加有效。
广告信息引起关注的途径是提高信噪比S/N，而提高S/N，靠抑制其他广告信息N是不可能的，唯一途径是提高本广告的信息含量S，在关联性、原创性、震憾性创作上吸收、借鉴其他学科的信息，输入负熵。
三、信息熵理论在广告传播中的应用传播不是一种简单的过程，而是由发送者(传者)、传播渠道、信息、接收者(受者)、传者与受者之间的关系、传播发生的场合，以及信息所涉及的一系列事件构成，是一个复杂的系统，称为传播子系统。
由于受众接受多种信息，而且受众的记忆分为长期记忆空间和短期记忆空间，为了占领受众的长期记忆空间，信息必须特性鲜明，强化重复。
广告的传播过程就是发布者向受众传播信息的过程。
广告是把想要传递的“信息”，借助语言、图像等被“符号化”之后传达给广告受众；广告受众对接收到的信息进行“符号解读”，从而使“信息”得以“再现”。
原来的“信息”若能如实地“再现”，传播就可顺利完成。
在传播过程中，若出现噪音，或传受双方的感受性不同，信息就难以通畅地传播。
在广告接受过程中不确定性信息的减少是我们追求的目标。
根据香农公式我们应该拓宽广告信息的发送广度W，采用组合媒体渠道，多方到达，加强受众记忆。
但是广告信息送达率C与发送广度W之间不是线性关系，当W趋于无限大时，C 的极限值为1.44S/N，只与信噪比有关。
所以，在应用媒体策略时要注意成本与效果的非线性关系。
根据信息熵理论，广告接受子系统具有熵增加的趋势，随着时间的流逝对广告信息的记忆会流失。
为了强化对信息的记忆，广告的传播应该是持续地、长期地、不间断地向广告接受子系统输出负熵，培养潜意识中的记忆。
四、信息熵理论在广告效果测定中的应用广告效果是指广告通过广告媒体传播之后所产生的影响，或者说媒体受众对广告宣传的结果性反应。
广告的有效计划与控制，主要基于广告效果的测定。
测定广告效果所要的研究技术，随着广告发布者想要达到的目的不同而有所差异。
在西方国家，对广告效果的研究较受重视，而在我国对广告效果的研究比沟通效果研究的广告效果测定是对广告受众接收到的到达信息量进行定量分析，广告过程是一种广告与广告受众间以符号进行信息传递的过程。
信息定量分析首先遵守信息增长定律。
到达信息量与广告发布的持续时间的关系近似是指数关系，根据D.J普赖斯信息增长定律：H(t)=aebt式中a是系数，b是信息持续增长率，t是持续时间，H(t)是在t时间内信息累积量。
可以得出在时间T=ln2/b时间内信息量增长1倍(b为信息持续增长率)。
根据广告效果测定所获得的数据可以计算出本广告应持续的时间。
其次，遵循信息老化定律，主要指标是半衰期和信息老化衰减的节奏，根据布鲁克斯半衰定律：C(t)=Ke-at式中C(t)为信息累积量，a为老化率。
我们可以计算出广告更换的最佳时机。
根据信息熵的理论，我们可以分析出整个广告过程中信息的迁移过程、行为的分步和变化过程，在此基础上，可作出各类行为的频度分布，进而调整广告活动计划。
五、结语信息熵理论应用到广告系统必须遵循广告的基本理论和信息熵的基本原理。
根据广告信息中的基本属性，按照信息的激励——响应的模式，通过反馈方式，加强过程的调控。
广告的价值体现在受众对广告激励(信息熵的)输入后的响应(接受)。
只有广告信息从无序的广泛传输跃迁为点到点的倾诉才是有价值的信息，才能达到广告的目的。
参考文献：[1]李东进.现代广告学.北京：中国发展出版社，2006.[2]科佛，托马斯.信息论基础.北京：机械工业出版社，2005.[3]樊志育.广告效果研究.北京：中国友谊出版社，1998.[4]沈世镒.信息论与编码理论.北京：科学出版社，2002.[5]朱宝荣.现代心理学原理与应用上海：上海人民出版社，2006.。