算法复习

22 T (n / 22 ) 2O(n / 2) O(n) 2k T (n / 2k ) 2k 1 O(n / 2k 1 ) 2O(n / 2) O( n) Let n 2k , then T (n / 2k ) O(1) T (n) 2k O(1) 2k 1 O(2) 2O(n / 2) O(n) O(n) O(n) ...O(n) O(n) (k 1)O(n) O(kn n) O(n log n)
• 如果最接近点对是{p,q}，p∈S1且q∈S2，那么 d×2d的矩形R中最多只有6个点
– 鸽巢原理
最接近点对
• 复杂性分析
– Presorting：O(nlogn) – Divide:
• Median: 找x坐标的中位数，O(n) • Partition: O(n)
– Conquer: 2T(n/2) – Combine: at most n/2 × 6 = 3n
算法渐近复杂性
• T(n) , as n ; • (T(n) - t(n) )/ T(n) 0 ，as n; • t(n)是T(n)的渐近性态，为算法的渐近复杂 性。 • 在数学上， t(n)是T(n)的渐近表达式，是T(n) 略去低阶项留下的主项。它比T(n)简单。
Ο：当对算法的最坏情况运行 时间限界时，隐含地给出了对 任意输入的运行时间的上界。 cg(n)
•
Conquer
If k = s, return s //s为划分的位置 If p < k < s, 递归选择A[p…s-1]中第k小元素 If s < k < r, 递归选择A[s+1…r]中第k-(s-p+1)小元素
•
Combine：无
线性时间选择
• 算法分析
– Divide
• 找到划分基准
– n/5次（5个元素的）排序: O(n) – Median of medians: T(n/5)
• Conquer
– 递归分割为2T(n/2)；
• Combine
– 设d=min{d1,d2}，S中的最接近点对或者是d，或 者是某个{p,q}，其中p∈S1且q∈S2。
最接近点对
• 如果最接近点对是{p,q}，p∈S1且q∈S2
– 先考虑p和q的横坐标：p,q必定在距离L最大为d的一条 长带区域内，p∈P1且q∈P2 – 再考虑p和q的纵坐标：对于P1中任意一点p，P2中的点 一定落在一个d×2d的矩形R中
• 每执行一次循环，数组的大小就减少一半，那么从初始大小n 减少到最终大小1，需要经历logn次循环。 • T(n) = O(logn)
大整数的乘法
• 设计一个有效的算法，可以进行两个n位大整数的乘法运算。 • 减少乘法的次数：适当增加加法的次数
原算法：XY = ac10n + (ad + bc)10n/2 + bd 改进后：XY = ac10n + ((a-b)(d-c)+ac+bd)10n/2 + bd 或XY = ac10n + ((a+b)(d+c)-ac-bd)10n/2 + bd 如果是二进制，则XY = ac2n + ((a-b)(d-c)+ac+bd) 2n/2 + bd 或XY = ac2n + ((a+b)(d+c)-ac-bd)2n/2 + bd
2 2 4 4
2 1
1
3 1 5 5 13
3 3
5 0 0
7
7
8 6
8 8
7 9
9 0
6
9 17
6
10
4
10 10
18 18
12 12
12 11
14 11 14 14
13 13 17 11 15 19 15 15
17 16 18 16 16 20
19 19 20
20
最接近点对
• Divide
– 选取一垂直线L作为分割直线。其中L的横坐标 m为S中各点横坐标的中位数。由此将S分割为 S1和S2；
求ac: a’=2, b’=1, c’=1, d’=1, ac=a’c’10n + ((a’-b’)(d’-c’)+a’c’+b’d’)10n/2 + b’d’=200+30+1=231 求bd: a’’=0, b’’=1, c’’=3, d’’=0, bd=a’’c’’10n + ((a’’-b’’)(d’’c’’)+a’’c’’+b’’d’’)10n/2 + b’’d’’=30 求(a-b)(d-c): a’’’=2, b’’’=0, c’’’=1, d’’’=9, (a-b)(d-c)=a’’’c’’’10n + ((a’’’b’’’)(d’’’-c’’’)+a’’’c’’’+b’’’d’’’)10n/2 + b’’’d’’’=200+180=380
算法设计策略
回溯：深度搜索解空间树、剪枝 贪心：按阶段划分、按贪心策略扫描输入
分支限界：广度搜索解空间树、剪枝
设计算法 证明正确性 分析算法
贪心选择性质： 贪心策略能够得到整体最优解
分治：T(n)=aT(n/b)+f(n) 动态规划：填表+查表 贪心：预排序nlogn、扫描
回溯和分支限界： 子集树2n，排列树n!
• 在一定条件下，当前阶段(stage)的状态(state)和下一阶段的状 态之间的转移(transition)。
– 规划Programming
• 建立状态转移方程（或称各阶段间的递推关系式，recursive relationship），将各个阶段的状态以表格式方法存储。 • 表格式方法(tabular method)：用一个表来记录所有已解决的子 问题的解。「以空间换时间(space-for-time tradeoff) 」。
X*Y= ac10n + ((a-b)(d-c)+ac+bd)10n/2 + bd =2310000+64100+30=2374130
线性时间选择
• Divide
– 找划分基准：中位数的中位数(median of medians)，近似中位数 1. 将n个元素划分成n/5个组，每组5个元素(只有一组不是5个元 素)；O(1) 2. 用任意一种排序算法将每组中的5个元素排好序，并取出每组 的中位数，共n/5个；O(n) 3. 递归找出这n/5个中位数的中位数，作为划分基准；T(n/5) – 按median of medians对输入数组Partition（划分） O(n)
• T(n) = 3次n/2位的乘法 + 6次不超过2n位的加法 + 2次移位 = 3T(n/2) + O(n) = O(nlog3) = O(n1.59)
大整数的乘法
• 写出采用分治法计算2101×1130的过程。
X=2101, Y=1130 a=21, b=1, c=11, d=30 X*Y= ac10n + ((a-b)(d-c)+ac+bd)10n/2 + bd ac=21*11, bd=1*30, (a-b)(d-c)=20*19
• Partition: O(n)
– Conquer
• 至少有3n/10个元素比基准大（或小），最多有7n/10个元素比 基准小（或大） • 即，将原问题划分为两个规模分别为3n/10和7n/10的子问题
– Combine: 0
棋盘覆盖
• 当k=0时（1×1棋盘），即特殊方格，骨牌数为0； • 当k>0时， - Divide：将2k×2k棋盘分割为4个2k-1×2k-1 子棋盘。特殊方 格位于4个较小子棋盘之一中，而其余3个子棋盘中无特殊方 格。 - 在递归之前要将原问题转化为4个较小规模的相同子问题。 - 用一个L型骨牌覆盖这3个子棋盘的会合处 - Conquer：递归地使用这种分割，直至棋盘缩小到1×1。 - Combine：无
分治法的基本步骤
• 分治法： “分而治之”
– 将一个问题划分成若干个规模较小的相同子问题；当 问题规模缩小到一定程度就很容易求解
• 理想的情况是划分成相同规模
– 子问题被递归地解决 – 必要的话，子问题的解可以合并为原问题的解 • Divide-and-Conquer(P) if |P| ≤ n0 Adhoc(P) Divide P to smaller subproblems P1, P2, … , Pk for i = 1 to k do yi = Divide-and-Conquer(Pi) return Combine(y1, y2, … , yk)
All Get Open Reasonably in The Math.
Algorithm
2014 Nan Guo
P问题
NP问题 子集选取问题
计数问题
解空间 排列问题
构造性问题
判定性问题 Y or N 分治的性质
最优化问题： 约束、目标 最优子结构性质
理解问题
重叠子问题
贪心选择性质
分治：按规模划分、递归、合并 动态规划：按阶段划分、状态转换
算法正确性证明
• 数学归纳法(mathematical induction)
– 当n = 1时，这个算法是正确的； – 假设n = k 时，这个算法是正确的，那么当n = k+1时，这个算法也是正确的。
• 例如，证明某个问题具有贪心选择性质
– 首先考察问题的一个整体最优解，并证明可修 改这个最优解，使其以贪心选择开始。 – 然后，假设第i步贪心选择能够得到整体最优解， 那么证明第i+1步贪心选择也能得到整体最优解。