算法第1章算法概述详解
算法与数据结构学习指导第一章
算法与数据结构学习指导第一章第1章概述讲课提要【主要内容】1．数据结构的研究目的和研究内容2．数据结构中的几个重要概念和术语3．算法设计的基本要求以及算法复杂度的分析和计算方法【教学目标】1．了解数据结构的研究目的和研究内容2．掌握数据结构中的重要概念和术语3．掌握算法设计的基本要求以及算法复杂度的分析和计算方法【所需课时】2次课。
[第一次课]1．数据结构的研究目的和研究内容2．数据结构中的重要概念和术语[第二次课]3．算法设计的基本要求以及算法复杂度的分析和计算方法学习指导1．概念和术语数据：是能输入到计算机中并能被计算机程序处理的符号的总称。
数据元素：是数据的基本单位，它在计算机处理和程序设计中通常作为一个整体进行考虑和处理。
一个数据元素可由若干数据项组成。
数据对象：是具有相同特征的数据元素的集合，是数据的一个子集。
数据结构：是数据元素的组织形式，或数据元素相互之间存在一种或多种特定关系的集合。
数据的逻辑结构：是指数据结构中数据元素之间的逻辑关系。
数据的存储结构：是数据的逻辑结构在计算机内存中的存储方式，又称物理结构。
数据类型：是一组具有相同性质的操作对象以及该组操作对象上的运算方法的集合。
抽象数据类型：是指一个数学模型以及在该模型上定义的一套运算规则的集合。
算法：建立在数据结构基础上的，为解决问题而采取的步骤和方法。
2．逻辑结构的四种基本形态根据数据元素之间关系的不同特征，通常有下列四类基本结构：（1）集合：结构中的数据元素间除了“同属于一个集合”的关系外，别无其它关系。
（2）线性结构：结构中的数据元素之间存在一个对一个的关系。
（3）树型结构：结构中的数据元素之间存在一个对多个的关系。
（4）图型结构或网状结构：结构中的数据元素之间存在多个对多个的关系。
3．数据存储结构的基本组织方式数据存储结构有顺序和链式两种方式。
（1）顺序存储结构的特点：要借助数据元素在存储器中的相应位置来体现数据元素相互间的逻辑关系，常用高级编程语言中的“一维数组”来描述或实现。
第1章群体智能算法概述
第1章 群体智能算法概述1975年，美国Michigan大学的John Holland[1]教授发表了其开创性的著作《Adapatation in Natural and Artificail System》，在该著作中John Holland教授对智能系统及自然界中的自适应变化机制进行了详细阐述，并提出了计算机程序的自适应变化机制，该著作的发表被认为是群体智能（Swarm Intelligence）[2]算法的开山之作。
随后，John Holland和他的学生对该算法机制进行了推广，并正式将该算法命名为遗传算法（Gentic Algorithm，GA）[3]~[5]。
遗传算法的出现和成功，极大地鼓舞了广大研究工作者向大自然现象学习的热情。
经过多年的发展，已经诞生了大量的群体智能算法，包括：遗传算法、蚁群优化（Ant Colony Optimization，ACO）[6]~[7]算法、差异演化（Differential Evolution，DE）[8]~[12]算法、粒子群优化（Particle Swarm Optimization，PSO）[13]~[16]算法等。
随着群体智能算法在诸如机器学习、过程控制、经济预测、工程预测等领域取得了前所未有的成功，它已经引起了包括数学、物理学、计算机科学、社会科学、经济学及工程应用等领域的科学家们的极大兴趣。
目前关于群体智能计算的国际会议在全世界各地定期召开，各种关于信息技术或计算机技术的国际会议也都将智能进化技术作为主要研讨课题之一。
甚至有专家指出，群体智能计算技术、混沌分析技术、分形几何、神经网络等将会成为研究非线性现象和复杂系统的主要工具，也将会成为人们研究认知过程的主要方法和工具。
1.1 群体智能算法的特点1.1.1 智能性群体智能算法通过向大自然界中的某些生命现象或自然现象学习，实现对于问题的求解，这一类算法中包含了自然界生命现象所具有的自组织、自学习和自适应性等特性。
计算机算法设计与分析第1章算法概述
理论课：1～10周，40学时 周二(5-6)、周五(1-2)
上机： 18学时
期末考试： 闭卷笔试，第 11周
上课点名三次不到者取消考试资格； 迟到或作业缺交，一次扣10分（平时成绩）。
1
教学目的和要求
本课程是计算机类专业的专业基础课程； 通过课程学习和上机实践，对计算机常用算 法有一个较全面的了解，掌握通用算法的一 般设计方法； 学会对算法的时间、空间复杂度分析，掌握 提高算法效率的方法和途径。
24
三、算法复杂性分析
本课程主要对算法的时间复杂性进行分析。
关于算法的复杂性，有两个问题要弄清楚：
（1）用怎样的一个量（指标）来表达一个算法的
复杂性；
（2）对于一个算法，怎样具体计算它的复杂性。
25
1、算法的三种时间复杂性
算法的最坏、最好和平均时间复杂性 （1）最坏情况下的时间复杂性 Tmax(n) = max{ T(I) | size(I)=n } （2）最好情况下的时间复杂性
8
图1.1 算法的概念图
（一）算法的性质
1、算法具有某些特性，如下几条：
(1)输入：有零个或多个外部提供的量作为算
法的输入。
(2)输出：算法产生至少一个量作为输出。这 些输出是和输入有某种特定关系的量。
9
（一）算法的性质
(3)确定性：组成算法的每条指令是清晰，无
歧义的。
(4)有限性（有穷性）：算法中每条指令的执
29
2、算法的时间复杂性计算
int search(int A[ ], int m, int c) { int i=1; while( A[i]<c && i<m ) i=i+1; if (A[i]==c) return i; else return 0; }
计算机专业课《算法》_第一章算法概述
几个复杂性参照函数
若干符号及其意义：O(f)，(f)，(f)，o(f)
• 在下面的讨论中，对所有n，f(n) 0，g(n) 0。
（1）渐近上界记号O O(g(n)) = { f(n) | 存在正常数c和n0使得对所有n n0有：
0 f(n) cg(n) }
（2）渐近下界记号 (g(n)) = { f(n) | 存在正常数c和n0使得对所有n n0有：
有限的计算步后停止。
2.确定性：每一条规则都是明确、无二义的。 3. 可行性：每一计算步都是基本的、可实现的。
4. 输入： 算法开始执行执行之前指定初始值 （有零个或多个输入） 。 5. 输出：产生与输入相关的量（有至少一个）。 二、算法的又一描述方式
设：四元组（Q, I, , f ).
其中：Q:状态集合； I, ：Q的子集，分别代表输入和输出 f: 定义在Q之上的一个映射，
1.2 算法复杂性分析（1） • • • • 计算机资源：时间、空间 复杂性：所需资源多少 算法复杂性：算法运行时所需资源的量 算法复杂性分析目的：分析问题复杂性、 选择最好算法 • 时间复杂性：所需时间资源的量T(n) • 空间复杂性：所需空间资源的量S(n)
• 其中n是问题的规模（输入大小）
算法复杂性分析（2） • 算法是否可行？ • 可计算理论 • 时间复杂性细化 • 三种典型的复杂性： 最坏、最好、平均复杂性
且有：若q Q ，则：f(q) = q。
1. 计算序列描述：
若对于I 的每一个输入x,由f 定义一个计算序列： y0 , y1 , y2 , …… 。 其中：y0 = x; yk+1 = f( yk ) (k 0)。
若一个计算序列在第k步终止，且k是使yK 的最小整数，则称yk是由x产生的输出。 2. 算法描述： 一个算法是对于I 中所有输入x, 都能在有穷步 内终止的一个计算序列。
算法设计与分析知识点
第一章算法概述1、算法的五个性质：有穷性、确定性、能行性、输入、输出。
2、算法的复杂性取决于：(1)求解问题的规模(N) , (2)具体的输入数据(I),( 3)算法本身的设计(A)，C=F(N,I,A。
3、算法的时间复杂度的上界，下界，同阶，低阶的表示。
4、常用算法的设计技术：分治法、动态规划法、贪心法、回溯法和分支界限法。
5、常用的几种数据结构：线性表、树、图。
第二章递归与分治1、递归算法的思想：将对较大规模的对象的操作归结为对较小规模的对象实施同样的操作。
递归的时间复杂性可归结为递归方程：1 11= 1T(n) <aT(n—b) + D(n) n> 1其中，a是子问题的个数，b是递减的步长，~表示递减方式，D(n)是合成子问题的开销。
递归元的递减方式~有两种：1、减法，即n -b，的形式。
2、除法，即n / b，的形式。
2、D(n)为常数c：这时，T(n) = 0(n P)。
D(n)为线形函数cn：r O(n) 当a. < b(NT(n) = < Ofnlog^n) "n = blljI O(I1P)二"A bl吋其中.p = log b a oD(n)为幕函数n x：r O(n x) 当a< D(b)II JT{ii) = O(ni1og b n) 'ia = D(b)ll].O(nr)D(b)lHJI：中，p= log b ao考虑下列递归方程：T(1) = 1⑴ T( n) = 4T(n/2) +n⑵ T(n) = 4T(n/2)+n2⑶ T(n) = 4T(n/2)+n3解：方程中均为a = 4，b = 2，其齐次解为n2。
对⑴，T a > b (D(n) = n) /• T(n) = 0(n);对⑵，•/ a = b2 (D(n) = n2) T(n) = O(n2iog n);对⑶，•/ a < b3(D(n) = n3) - T(n) = 0(n3)；证明一个算法的正确性需要证明两点：1、算法的部分正确性。
计算机算法设计与分析(第5版)第1章
算法渐近复杂性
• T(n) , as n ; • (T(n) - t(n) )/ T(n) 0 ，as n; • t(n)是T(n)的渐近性态，为算法的渐近复杂性。 • 在数学上， t(n)是T(n)的渐近表达式，是T(n)略去低阶
问题求解(Problem Solving)
理解问题 精确解或近似解
选择数据结构 算法设计策略
设计算法 证明正确性
分析算法 设计程序
算法复杂性分析
• 算法复杂性 = 算法所需要的计算机资源 • 算法的时间复杂性T(n)； • 算法的空间复杂性S(n)。 • 其中n是问题的规模（输入大小）。
算法的时间复杂性
项留下的主项。它比T(n) 简单。
渐近分析的记号
• 在下面的讨论中，对所有n，f(n) 0，g(n) 0。 • （1）渐近上界记号O • O(g(n)) = { f(n) | 存在正常数c和n0使得对所有n n0有：
0 f(n) cg(n) } • （2）渐近下界记号 • (g(n)) = { f(n) | 存在正常数c和n0使得对所有n n0有：
• （1）最坏情况下的时间复杂性 • Tmax(n) = max{ T(I) | size(I)=n } • （2）最好情况下的时间复杂性 • Tmin(n) = min{ T(I) | size(I)=n } • （3）平均情况下的时间复杂性
• Tavg(n) = p(I )T (I ) size(I )n
•
for x > -1,
x ln(1 x) x 1 x
•
for any a > 0,
Hale Waihona Puke log b nlim
计算机算法基础(第一章)
计算机算法基础(第一章)
3. 我们的主要任务
算法学习将涉及5个方面的内容： 1）设计算法：创造性的活动 2）表示算法：思想的表示形式 3）确认算法：证明算法的正确性 程序的证明 4）分析算法：算法时空特性分析 5）测试程序：调试和作出时空分布图 本课程集中于学习算法的设计与分析。通过学
以下给出算法执行时间：上界（О）、下界（Ω）、
“平均”（ ）的定义。
计算机算法基础(第一章)
1）上界函数
定义1 如果存在两个正常数c和n0，对于所有的n≥n0，有 |f(n)| ≤ c|g(n)|
则记作f(n) = Ο(g(n))
含义：
如果算法用n值不变的同一类数据在某台机器上运行时，所 用的时间总是小于|g(n)|的一个常数倍。所以g(n)是计算 时间f(n)的一个上界函数。 f(n)的数量级就是g(n)。
3 item←A(j);i←j-1
4 while item<A(i) do //0≤i<j//
5
A(i+1)←A(i); i←i-1
6 repeat
7 A(i+1) ←item;
8 repeat
end INSERTIONSORT
计算机算法基础(第一章)
(8, 5, 4, 9) (8, 5, 4, 9) (5, 8, 4, 9) (5, 8, 4, 9) (4, 5, 8, 9) (4, 5, 8, 9)
试图求出最小的g(n)，使得f(n) = Ο(g(n))。
计算机算法基础(第一章)
多项式定理: 定理1 若A(n) = amnm+…+a1n+a0是一个m次多项
式，则有A(n) = Ο(nm)
计算机算法设计与分析--第1章 算法概述
③确认算法。算法确认的目的是使人们确信这一算 法能够正确无误地工作，即该算法具有可计算性。 正确的算法用计算机算法语言描述，构成计算机程 序，计算机程序在计算机上运行，得到算法运算的 结果； ④ 分析算法。算法分析是对一个算法需要多少计算 时间和存储空间作定量的分析。分析算法可以预测 这一算法适合在什么样的环境中有效地运行，对解 决同一问题的不同算法的有效性作出比较； ⑤ 验证算法。用计算机语言描述的算法是否可计算、 有效合理，须对程序进行测试，测试程序的工作由 调试和作时空分布图组成。
16
算法描述
1. 从第一个元素开始，该元素可以认为已 经被排序 2. 取出下一个元素，在已经排序的元 素序列中从后向前扫描 3. 如果该元素（已排序）大于新元素， 将该元素移到下一位置 4. 重复步骤3，直到找到已排序的元素 小于或者等于新元素的位置 5. 将新元素插入到该位置中 6. 重复步骤2
15
1.3 算法示例—插入排序算法
算法的思想：扑克牌游戏
a0,...,n-1 a0,...,n-1 a0,...,n-1 a0,...,n-1 a0,...,n-1 a0,...,n-1 a0,...,n-1
= = = = = = =
5,2,4,6,1,3 5,2,4,6,1,3 2,5,4,6,1,3 2,4,5,6,1,3 2,4,5,6,1,3 1,2,4,5,6,3 1,2,3,4,5,6
8
算法≠程序
算法描述：自然语言，流程图，程序设计
语言，伪代码 用各种算法描述方法所描述的同一算法， 该算法的功用是一样的，允许在算法的描述 和实现方法上有所不同。
本书中采用类C++伪代码语言描述算法
9
人们的生产活动和日常生活离不开算法， 都在自觉不自觉地使用算法，例如人们到 商店购买物品，会首先确定购买哪些物品， 准备好所需的钱，然后确定到哪些商场选 购、怎样去商场、行走的路线，若物品的 质量好如何处理，对物品不满意又怎样处 理，购买物品后做什么等。以上购物的算 法是用自然语言描述的，也可以用其他描 述方法描述该算法。
- 1、下载文档前请自行甄别文档内容的完整性，平台不提供额外的编辑、内容补充、找答案等附加服务。
- 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
- 3、如文档侵犯您的权益，请联系客服反馈,我们会尽快为您处理(人工客服工作时间：9:00-18:30)。
6
计算机算法设计与分析
7
意念与现实(4): 一个例子
如果我们再次改变试验中拿球的方式，将拿某个特定标号 的球改为取出任意标号的球，即在差 1分钟到零点时，将标 号为1 ～ 10的 10个球放进罐子，然后从罐子里任意拿出一个 球；在差1/2分钟到零点时，将标号为11～20的10个球放进罐 子，然后从罐子里任意拿出一个球；在差 1/4 分钟到零点时， 将标号为21～30的10个球放进罐子，然后从罐子里任意拿出 一个球……这种拿球方式又将产生何种结果呢？ 答案是仍然是0 太不可思议了吧！这三个本质相同的算法怎么有如此匪夷 所思的结果呢？如果非要说这三个算法有什么不同，就是拿 球时的标号不同。 但难道标号的不同使最后球的数量发生了变化?
计算机算法设计与分析
3
主要内容介绍
• • • • • • 第1 章 第2 章 第3 章 第4 章 第5 章 第6 章 算法概述 递归与分治策略 动态规划 贪心算法 回溯法 分支限界法
3
计算机算法设计与分析
4
意念与现实(1): 一个例子
给你一个无限容积的罐子和无限个球，球从1开始连续编号
★ 在差 1分钟到零点时：将标号为 1～10的 10个球放进罐子， 然后将10号球从罐子里拿出。 ★ 在差1/2分钟到零点时：将标号为 11～20的10个球放进罐 子，然后将20号球从罐子里拿出。 ★ 在差1/4分钟到零点时：将标号为21～30的10个球放进罐 子，然后将30号球从罐子里拿出。 ★ …… 就这样将游戏进行下去。假定放球和取球不占时间，请问，
计算机算法设计与分析
6
意念与现实(3): 一个例子
对于有些人来说，这个答案似乎不可接受。但又确实找不 到驳斥的办法。你能找出来吗？
也许这个答案是合理的，因为拿球顺序的变化使得算法发 生了变化，即我们实际上讨论的是两个算法。 可仔细一想又觉得不对，因为两个算法都是每次放进 10 个 球，拿出1个球，即从根本上说，这是两个一样的算法，怎 么会有截然相反的结果呢?
14
计算机算法设计与分析
15
1.1.3 算法的描述方法
15
计算机算法设计与分析
16
16
计算机算法设计与分析
17
17
计算机算法设计与分析
18
18
计算机算法设计与分析
19
19
计算机算法设计与分析
20
20
计算机算法设计与分析
21
21
计算机算法设计与分析
22
22
计算机算法设计与法设计与分析
14
算法与程序的区别
程序是算法用某种程序设计语言的具体实现。 程序可以不满足算法的性质(4)。 例如，操作系统是一个在无限循环中执行的程序，因而
不是一个算法。
操作系统的各种任务可看成是单独的问题，每一个问题 由操作系统中的一个子程序通过特定的算法来实现。该子 程序得到输出结果后便终止。
空间复杂性：算法运行所需要的空间资源量
选用算法应遵循的一个重要原则：当给定的问题有多种算
7
计算机算法设计与分析
8
意念与现实(5): 一个例子
没错，就是这个标号对结果产生了深远影响。从某种意义 上说，标号是虚的，它只存在于我们的想象中，但确实对现 实结果产生了影响，即我们的思维使算法发生了变化。或许 从另一个角度来看，这个问题就是：没有就是无穷，无穷就 是没有。它们之间也许根本没有什么不同，它们的不同只存 在于人们的想象或者意念中。也许这是为什么无穷的符号 是由两个 0连接而成的，从左右两面看都是无有，而从中间 看则是无穷。
计算机算法设计与分析
24
24
计算机算法设计与分析
25
1.2 算法复杂性分析
25
计算机算法设计与分析
26
算法复杂性
算法复杂性的高低体现在运行该算法所需要的计算机资源 的多少上：所需资源越多，算法复杂性越高；反之，所需资 源越少，算法复杂性越低。
算法的复杂性有：时间复杂性与空间复杂性 时间复杂性：算法运行所需要的时间资源量
从这个意义上说，算法是一种思维方式（Algorithmic
Thinking），或者说一种哲学。
8
计算机算法设计与分析
9
一个最简单的算法： 1. 起床 2. 吃早点 3. 上早自习 4. 上课 5. 吃午饭 6. 上课 7. 吃晚饭 8. 上晚自习 9. 睡觉
计算机算法设计与分析
10
计算机算法设计与分析
当时钟指向零点时，罐子里还剩多少个球？
4
计算机算法设计与分析
5
意念与现实(2): 一个例子
这个答案很直接：无穷多个球！所有编号不是10n（n≥1） 的球在放进罐子里后就不会再拿出来；而在到达零点之前这 种放球、取球的次数是无限的。因此，罐子里面的球在零点 时将是无数个。
你很确信这个答案吗？
现在来让我们改变拿球的方式，将每次拿10、20、30… 号 球分别变为拿1、2、3…号球，即第x次拿球，所拿出来的球 的编号是x。结果又会怎样呢？ 这个时候，神奇的事情发生了。这个罐子里面的球数将为0。 对于任意一个球，设其编号为 n ，则在差 (1/2)n-1 分钟到零 点时该球将被取出。也就是说，对于任意球 n，在零点时它 都不在罐子里。因此，零点时罐子里球的个数为0。 5
11
11
计算机算法设计与分析
12
12
计算机算法设计与分析
13
1.1.2 算法及其重要性质
算法：是指解决问题的一种方法或一个过程。 算法是由若干条指令组成的有穷序列，满足性质： (1)输入：有0个或多个由外部提供的量作为算法的输入。
(2)输出：算法产生至少一个量作为输出。（1个或多个）
(3)确定性：组成算法的每条指令是清晰，无歧义的。 (4)有限性：算法中每条指令的执行次数是有限的，执行每 条指令的时间也是有限的。
计算机算法设计与分析
1
计算机算法设计与分析
主讲人：袁运浩 E-mail: yhyuan@ 计算机科学与技术系 江南大学物联网工程学院
计算机算法设计与分析
2
课时数：48节
上课：1-16周 成绩：卷面成绩（70%）+平时成绩（30%） 教材：计算机算法设计与分析, 王晓东,电子工业出版社, 2012 参考书： (1) 算法设计与分析, 郑宗汉, 郑晓明, 清华大学出版社 (2) 算法导论, Thomas H. Cormen编著. 潘金贵等译, 机械 工业出版社