计算理论_可计算理论CH2_2016
理解计算机中的计算理论与复杂性
理解计算机中的计算理论与复杂性计算机中的计算理论与复杂性计算理论是计算机科学的重要分支之一，它研究计算过程的本质和性质，为计算机科学提供了理论基础。
而复杂性理论则研究计算问题的复杂性，即问题的难解程度。
在计算机发展的不断推动下，计算理论与复杂性的研究越发重要。
本文将从计算理论和复杂性两个方面对相关概念和研究进行介绍和探讨。
一、计算理论计算理论是计算机科学中关于计算概念和过程的研究。
它主要分为可计算性理论和形式语言与自动机理论两大部分。
1. 可计算性理论可计算性理论研究的是什么问题可以用计算机算出，以及如何判断一个问题是否可计算。
它的核心思想是“图灵机”，即由英国数学家图灵提出的一种理论模型，用于描述计算过程。
可计算性理论的研究对象包括了函数的计算性、计算问题是否可判定、可计算函数的分类等。
2. 形式语言与自动机理论形式语言与自动机理论研究的是描述和处理信息的形式化语言和自动机模型。
形式语言的研究对象包括了正则语言、上下文无关语言和上下文敏感语言等。
而自动机模型则包括了有限状态自动机、下推自动机和图灵机，用于描述和处理形式语言。
二、复杂性理论复杂性理论是研究计算问题的复杂性的学科。
它关注的是问题的求解难易程度，即问题的复杂性。
复杂性理论主要分为计算复杂性理论和各类计算问题的复杂性。
1. 计算复杂性理论计算复杂性理论研究的是计算问题的复杂性度量和分类。
其中最具代表性的是时间复杂性和空间复杂性。
时间复杂性研究的是计算问题在计算时间上的耗费，空间复杂性研究的是计算问题在计算空间上的耗费。
常用的时间复杂性度量是“大O记号”，用于表示问题在最坏情况下的耗时增长趋势。
2. 计算问题的复杂性计算问题的复杂性研究的是不同类型问题的复杂性分类以及它们之间的关系。
其中最经典的研究是关于P类问题和NP类问题的划分。
P 类问题指的是可以在多项式时间内求解的问题，而NP类问题指的是可以在多项式时间内验证的问题。
复杂性理论的研究则主要集中在P与NP问题之间的关系。
计算理论导引习题答案
什么是时间复杂度？请举例说 明。
时间复杂度是评价算法执行时 间快慢的一个指标，通常用大O 表示法来表示。例如，对于一 个简单的顺序查找算法，其时 间复杂度为O(n)，表示随着问 题规模n的增加，算法的执行时 间线性增长。
计算模型习题答案详解
习题1
解释图灵机的基本原理和工作过程。
答案
图灵机是一种理论上的计算模型，由一条无限长的纸带和一个读写头组成。读写头可以读取、写入和移动纸带上 的符号，根据当前状态和读取的符号来决定下一步的动作和状态转移。图灵机的工作过程可以模拟任何计算机程 序的执行过程。
RAM模型的扩展与优化
包括引入并行计算、分布式计算等概念，以 提高RAM模型的计算能力和效率。
其他计算模型
量子计算模型
利用量子力学原理进行计算的模型，具有在某些特定 问题上比传统计算机更高的计算效率。
生物计算模型
模拟生物体内信息处理过程的计算模型，如神经网络、 基因算法等。
光计算模型
利用光学原理进行计算的模型，具有高速并行处理和 低能耗等优点。
形式语言与自动机习题答案详解
习题1
解释什么是形式语言，并给出其定义和性质 。
答案
形式语言是பைடு நூலகம்于描述计算机程序的语法和语 义的一种数学工具。它由一组符号和一组规 则组成，可以表示各种不同类型的数据结构 和算法。形式语言具有确定性、封闭性和可 计算性等性质，这些性质使得我们可以对计
算机程序进行精确的描述和分析。
Python语言基础 掌握Python语言的基本语法、数 据类型、控制结构、函数等，以 及常用的Python库和框架。
其他编程语言 了解其他常见的编程语言，如C#、 JavaScript、Go等，以及它们的 特点和应用场景。
计算机考博试题计算理论及答案
计算机考博试题计算理论及答案计算理论字母表：⼀个有穷的符号集合。
字母表上的字符串是该字母表中的符号的有穷序列。
⼀个字符串的长度是它作为序列的长度。
连接反转Kleene星号L* ，连接L中0个或多个字符串得到的所有字符串的集合。
有穷⾃动机：描述能⼒和资源极其有限的计算机模型。
有穷⾃动机是⼀个5元组M=(K,∑,δ,s,F),其中1）K是⼀个有穷的集合，称为状态集2）∑是⼀个有穷的集合，称为字母表3）δ是从KX∑→K的函数，称为转移函数4）s∈K是初始状态5）F?K是接收状态集M接收的语⾔是M接收的所有字符串的集合，记作L(M).对于每⼀台⾮确定型有穷⾃动机，有⼀台等价的确定型有穷⾃动机有穷⾃动机接受的语⾔在并、连接、Kleene星号、补、交运算下是封闭的。
每⼀台⾮确定型有穷⾃动机都等价于某⼀台确定型有穷⾃动机。
⼀个语⾔是正则的当且仅当它被有穷⾃动机接受。
正则表达式：称R是⼀个正则表达式，如果R是1）a，这⾥a是字母表∑中的⼀个元素。
2）ε，只包含⼀个字符串空串的语⾔3），不包含任何字符串的语⾔4)(R1∪R2),这⾥R1和R2是正则表达式5）(R10R2),这⾥R1和R2是正则表达式6）(R1*),这⾥R1*是正则表达式⼀个语⾔是正则的当且仅当可以⽤正则表达式描述。
2000年4⽉1、根据图灵机理论,说明现代计算机系统的理论基础。
1936年，图灵向伦敦权威的数学杂志投了⼀篇论⽂，题为《论数字计算在决断难题中的应⽤》。
在这篇开创性的论⽂中，图灵给“可计算性”下了⼀个严格的数学定义，并提出著名的“图灵机”(Turing Machine)的设想。
“图灵机”不是⼀种具体的机器，⽽是⼀种思想模型，可制造⼀种⼗分简单但运算能⼒极强的计算机装置，⽤来计算所有能想像得到的可计算函数。
这个装置由下⾯⼏个部分组成：⼀个⽆限长的纸带，⼀个读写头。
（中间那个⼤盒⼦），内部状态（盒⼦上的⽅块，⽐如A,B,E,H），另外，还有⼀个程序对这个盒⼦进⾏控制。
计算理论实验灵机模拟与可计算性验证
计算理论实验灵机模拟与可计算性验证计算理论是计算机科学的重要分支，研究了计算的本质和边界。
在计算理论中，实验灵机模拟以及可计算性验证是两个重要的概念。
本文将介绍实验灵机模拟和可计算性验证的概念、应用以及其在计算理论中的重要性。
一、实验灵机模拟实验灵机模拟是指使用计算机程序对图灵机的行为进行模拟和仿真。
图灵机是由阿兰·图灵提出的一种理论计算模型，可以模拟现代计算机的工作原理。
实验灵机模拟的目的是通过计算机程序模拟图灵机的运行过程，以便对计算理论进行实验和验证。
实验灵机模拟允许计算机科学家们在计算理论研究中进行大规模的实验。
它可以帮助我们更好地理解计算的本质，研究计算过程的性质和行为。
通过实验灵机模拟，我们可以验证算法的正确性、分析计算问题的可解性以及研究不同计算模型之间的联系和差异。
二、可计算性验证可计算性验证是指判断一个问题是否可由计算机算法进行有效求解的过程。
在计算理论中，可计算性验证的核心问题是确定一个问题是否可被计算机程序表示和求解。
可计算性验证是计算理论的核心问题之一，它研究了计算过程的边界和限制。
可计算性验证的内容包括可计算问题和不可计算问题的判定。
可计算问题是指可以通过计算机算法进行求解的问题，而不可计算问题是指不存在有效的计算机算法来求解的问题。
通过可计算性验证，我们可以确定某个问题是否存在解决方案，以及该问题是否可以用计算机算法进行有效求解。
三、实验灵机模拟与可计算性验证的重要性实验灵机模拟和可计算性验证是计算理论研究中的重要工具和方法。
它们不仅有助于我们理解计算的本质和边界，还可以帮助我们验证和验证计算理论中的各种概念和结论。
首先，实验灵机模拟允许我们在计算机上模拟和仿真复杂的计算过程。
通过实验灵机模拟，我们可以测试和验证算法的正确性、分析算法的性能和行为，从而改进和优化现有的算法。
其次，可计算性验证可以帮助我们确定一个问题是否可被计算机算法求解。
通过可计算性验证，我们可以确定哪些问题是可计算的，哪些问题是不可计算的，从而引导我们将精力集中在可计算问题的研究和解决上。
计算理论基础知识
计算理论基础知识计算理论是计算机科学的核心领域之一，它研究的是计算过程的本质和限制。
在计算机科学的发展过程中，计算理论提供了重要的理论基础和方法，为计算机科学和技术的发展奠定了坚实的基础。
本文将简要介绍计算理论的基础知识。
一、自动机理论自动机是计算理论中的重要概念之一，它用于描述计算过程的抽象模型。
自动机可以分为有限自动机和非确定性有限自动机等多种类型。
有限自动机是一种最简单的计算模型，它由状态、输入字母表、转换函数和初始状态等组成。
通过状态的转换和输入的驱动，有限自动机可以执行特定的计算任务。
非确定性有限自动机则相对更加复杂，它在进行状态转换时可以有多个可能的选项。
二、形式语言与文法形式语言和文法是计算理论中研究自动机行为规律的重要工具。
形式语言是由符号组成的集合，用于表示计算过程中的输入、输出和中间结果等信息。
文法则定义了形式语言的句子生成规则。
常见的文法类型有上下文无关文法、上下文相关文法等。
形式语言和文法的研究使得我们能够通过规则来描述和分析计算过程，从而更好地理解计算机科学中的一些重要概念和问题。
三、图灵机和可计算性理论图灵机是计算理论中最重要的概念之一，它由一个无限长的纸带和一个读写头组成。
图灵机通过读写头在纸带上的移动和改写来模拟计算过程。
图灵机的提出使得我们能够更深入地研究计算过程的本质和限制。
可计算性理论是计算理论中的一个重要分支，它研究的是什么样的问题可以通过某种计算模型解决。
根据可计算性理论，存在一些问题是不可计算的，即无法用任何计算模型来解决。
四、复杂性理论复杂性理论是计算理论中的另一个重要分支，它研究的是计算问题的复杂度。
复杂性理论主要关注计算问题的难解性和可解性。
常见的复杂性类别有P类、NP类等。
P类问题是可以在多项式时间内解决的问题，而NP类问题是可以在多项式时间内验证解的问题。
复杂性理论的研究使得我们能够更好地理解计算问题的本质，从而设计更高效的算法和方法。
五、计算复杂性和可计算性的关系计算复杂性和可计算性是计算理论中两个重要的概念。
课件-可计算理论
2014-3-28
14
人物小记
阿兰•麦阿兰•麦席森•图灵，1912年生于英国伦敦，1954年 死于英国的曼彻斯特，他是计算机逻辑的奠基者，许多人 工智能的重要方法也源自于这位伟大的科学家。 他对计算机的重要贡献在于他提出的有限状态自动机也就 是图灵机的概念 对于人工智能，它提出了重要的衡量标准“图灵测试”， 如果有机器能够通过图灵测试，那他就是一个完全意义上 的智能机，和人没有区别了。 他杰出的贡献使他成为计算机界的第一人，现在人们为了 纪念这位伟大的科学家将计算机界的最高奖定名为“图灵 奖”。
2014-3-28
19
图灵生平——故事以谜结束
1952年3月，图灵更因为和曼彻斯特当地一位青年有染，被 警方逮捕。在入狱和治疗两者中间，图灵选择了注射激素 此后图灵开始研究生物学、化学
2014-3-28
20
图灵生平——故事以谜结束
1954年6月8日，图灵42岁。一天早晨，女管家走进他的卧 室，发现台灯还亮着，床头上还有个苹果，只咬了一小半， 图灵沉睡在床上，一切都和往常一样。 经过解剖，法医断定是剧毒氰化物致死，那个苹果是在氰 化物溶液中浸泡过的。 图灵的母亲则说他是在做化学实验时，不小心沾上的 但外界的说法是服毒自杀，一代天才就这样走完了人生。
2014-3-28 24
图灵奖
图灵去世后12年开始设立的图灵奖是美国计算机协会ACM （Association for Computing Machinery） 设立的第一个 奖项。 ACM成立于1947年，也就是世界上第一台电子计算机 ENIAC诞生以后的第二年，美国一些有远见的科学家意识 到它对于社会进步和人类文明的巨大意义，因此发起成立 了这个协会，以推动计算机科学技术的发展和学术交流。
计算理论可计算性基础知识
计算理论可计算性基础知识计算理论是计算机科学的基础学科之一，研究计算问题的性质和方法。
在计算理论中，可计算性是一个重要的概念，涉及到计算问题是否可解等方面的内容。
本文将介绍计算理论中的可计算性基础知识，包括图灵机、停机问题和可计算函数等。
一、图灵机图灵机是计算理论中最基本的计算模型之一，由英国数学家阿兰·图灵在1936年提出。
图灵机由一个无限长的纸带和一个可移动的读写头组成，纸带上有一串离散的符号。
图灵机的操作包括读取纸带上的符号、根据当前符号和内部状态进行状态转移、写入符号等。
通过这些操作，图灵机可以模拟任何其他计算模型的行为。
图灵机模型的提出使得计算问题的可计算性得到了严格的定义。
一个计算问题是可计算的，即存在一个图灵机可以解决它，如果给定任何输入，图灵机要么停机并给出输出，要么永远不停机。
可计算问题可以形式化地描述为输入输出函数，即给定一个特定的输入，图灵机能够计算出相应的输出。
二、停机问题停机问题是计算理论中的一个经典问题，也是不可计算问题的例子。
停机问题是指给定一个图灵机程序和输入，判断此程序能否在有限步骤内停机。
停机问题的不可解性意味着无法找到一个通用的算法来解决所有的停机问题。
根据停机问题的不可解性，图灵机的可计算性也受到限制。
存在一些计算问题，即使使用图灵机也无法解决，这些问题被称为不可计算问题。
停机问题是其中的一个例子，因为无法判断一个程序是否会在有限步骤内停机，图灵机也无法计算出对应的输出。
三、可计算函数可计算函数是指可以使用图灵机计算的函数。
一个函数被称为可计算函数，即存在一个图灵机可以计算出给定输入下的输出。
例如，加法、减法、乘法等基本算术运算都是可计算函数。
此外，存在一些复杂的函数，如指数函数、对数函数等，也都是可计算函数。
可计算函数的概念是基于图灵机模型的计算性定义的，它提供了一种形式化的描述方式，使得计算问题的可解性可以用数学语言进行刻画。
通过研究可计算函数及其性质，我们可以深入理解计算问题的本质，并探索计算机科学的边界和限制。
第二章计算理论与计算模型
➢ 由于计算与算法联系在一起，因此，可计 算性理论又称算法理论。
10
计算理论 计算模型
2.2 计算理论
1.可计算理论的发展
可计算理论起源于对数学基础问题的研究。从20世纪30年 代开始，为了讨论所有问题是否都有求解的算法，数学家和逻 辑学家从不同角度提出了几种不同的算法概念精确化定义。
为什么学习算法：①算法是计算机的灵魂；②算法是数学机 械化的一部分，能够帮助我们解决复杂的计算问题；③算法作为 一种思想，能锻炼我们的思维，使思维变得更清晰、更有逻辑。
6
计算理论 计算模型
2.2 计算理论
Hale Waihona Puke 计算理论：关于计算和计算机械的数学理论， 它研究计算的过程与功效。
计算理论主要包括算法、算法学、计算复杂 性理论、可计算性理论、自动机理论和形式语言 理论等等。
5
计算理论 计算模型
2.1 计算的几种视角
算法：为解决一个特定的问题所采取确定的有限步骤。 计算机用于解决数值计算，如科学计算中的数值积分、解线 性方程等计算方法，就是数值计算的算法。 计算机用于解决非数值计算，如用于管理、文字处理、图像 图形等的排序、分类和查找，就是非数值计算的算法。
算法的组成：操作、数据。 这些操作包括加、减、乘、除和判断等，并按顺序、分支、 循环等控制结构所规定的次序执行。 数据是指操作对象和操作结果，包括布尔值、字符、整数和 实数等；以及向量、记录、集合、树和图以及声音等。
➢ 图灵给出的可计算性定义：能够在图灵机上 执行的过程（通常又称算法的过程）。
➢ 图灵之所以能取得成功，是他采用了算法思 维来研究计算的过程，从而揭示可计算性的 概念。
- 1、下载文档前请自行甄别文档内容的完整性，平台不提供额外的编辑、内容补充、找答案等附加服务。
- 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
- 3、如文档侵犯您的权益，请联系客服反馈,我们会尽快为您处理(人工客服工作时间：9:00-18:30)。
ADFA={<B,w>|DFA B接受串w}可判定
证明:如下构造ADFA的判定器: M=“对于输入<B,w>,其中B是DFA,w是串: 1)在输入w上模拟B. 2)如果模拟以接受状态结束,则接受; 如果以非接受状态结束,则拒绝.” L(M) = ADFA . 实现细节: • 检查输入. ((p,q,…)(a,…)((p,a,q),…)(q0)(F), w) • 模拟. 初始,B的状态是 q0,读写头位于w的最左端, 状态的更新由B的转移函数决定.
[5][刘] 刘汝佳等, 算法艺术与信息学竞赛, 清华大学. [6][L] Lewis等著, 计算理论基础, 清华大学.
计算理论 第二部分 可计算理论
第4章 可判定性
Church-Turing 论题
1930’s人们开始考虑算法的精确定义 • 1933, Kurt Gö del, 递归函数
• 1936, Alonzo Church, -calculus
2. 若T接受x, 则接受x;
3. 若Q接受x, 则拒绝x.” H是判定器(?), H的语言是A. 证毕. (?): x属于A或A的补, T和Q至少有一个停机, H停机 推论: 停机问题的补不是图灵可识别的.
各语言类之间的关系
P(*)
图灵可识别语言
可判定语言 上下文无关语言 正则语言
三类问题
• 若不停机, 即<D,D>HALT, H拒绝<D,D>, 则由3, H停机
停机问题的补不是图灵可识别的
定理: 若A和A的补都是图灵可识别, 则A图灵可判定 证明: 设图灵机T和Q分别识别A和A的补, 构造H: H = “ 对于输入x, x是串, 1. 在x上同步模拟T和Q, 直到有一个接受x,
构造一个新的判定器D,使得: 接受,若H拒绝<M,<M>> <M> L(M) D(<M>) = 拒绝,若H接受<M,<M>> <M> L(M) 接受, 若 <D> L(D) D(<D>) = 拒绝, 若 <D> L(D)
矛盾.
H不存在.
计算理论第4章作业
4.1 对于下图所示的DFA M, 回答下列问题，并说明理由 a. <M,100>ADFA? … 4.2 考虑一个DFA和一个正则表达式是否等价的问题。将这个问题描述为一个 语言并证明它是可判定的。 4.3 设 ALLDFA = {<A> | A是一个识别*的DFA}. 证明ALLDFA可判定.
空性质测试
定理 EDFA={<A>|A是DFA,L(A)=}可判定. 证明: L(A)从起始到某接受状态的路径. T=“对于输入<A>,其中A是一个DFA: 1)标记起始状态. 2)重复下列步骤,直到没有新标记出现. 3) 对任一未标记状态, 若有从已标记状态 到它的转移, 则将它标记. 4)如果无接受状态被标记,则接受;否则拒绝.” L(T) = ED:
[1][王] 王晓东,计算机算法设计与分析(第4版),电子工业. [2][S] 唐常杰等译, Sipser著, 计算理论导引, 机械工业. 参考资料: [3][C] 潘金贵等译, Cormen等著, 算法导论, 机械工业.
[4][M] 黄林鹏等译, Manber著, 算法引论-一种创造性方法, 电子.
2.
3.
若p(x) = 0, 则停机接受.
否则转1. ”
这个图灵机对输入 p(x,y) = x2+y2-2不停机
对比: 一个可判定问题
一元多项式是否有整数根?
M = “对于输入“p”, k次1元多项式p(x),
1. 计算解的绝对值上界N
2. 对所有|x|N
3. 若p(x) = 0, 则停机接受. 4. 停机拒绝. ”
4.15 设A = {<R> | R是一个正则表达式，其所描述的语言中至少有一个串w以 111为子串 }. 证明A是可判定的。
不可判定问题举例
Hilbert第十问题: 多项式是否有整数根 1970’s 被证明不可判定 M = “对于输入“p”, p是k元多项式, 1. 取k个整数的向量x ( 绝对值和从小到大 )
• 1936, Alan Turing, 判定图灵机(判定器) • Church 和 Turing 证明这三种定义等价 • 计算机能力的极限 • 即使未来几年量子计算机制造成功,
人们能解决的问题类并不会变大
停机问题Halt是图灵可识别的
Halt={ <M,x> | 图灵机M在串x上会停机 } 定理: Halt是图灵可识别的
ANFA={<B,w>|NFA B接受串w}可判定
思路1: 直接模拟NFA? 思路2: 先将NFA转换成DFA. 证明:如下构造ANFA的判定器: N=“在输入<B,w>上,其中B是NFA,w是串: 1)将NFA B转换成一个等价的DFA C. 2)在输入<C,w>上运行ADFA的判定器M. 3)如果M接受,则接受,否则拒绝.” 运行TM M: M作为子程序加进N的设计中. L(N) = ANFA .
定理 ATM是不可判定语言
证明:假设ATM可判定, 且设H是其判定器, 构造 D=“对于输入<M>,其中M是TM: 1)在串<M, <M>>上运行H.
2)若H接受,就拒绝;若H拒绝,就接受.”
<D> L(D) ?
矛盾, 所以H不存在.
详细解释
假设ATM可判定, 且设H是其判定器, 则 H(<M,w>)= 接受,若wL(M) 拒绝,若wL(M)
TM成员测试ATM
ATM={<M,w>|M是一个TM,且接受w} 定理 ATM是不可判定的. 命题 ATM是图灵可识别的. U=“对于输入<M,w>,其中M是TM,w是串： 1) 在输入w上模拟M; 2) 若M进入接受状态,则接受; 若M进入拒绝状态,则拒绝.” L(U) = ATM . 注:若M在w上不停机,则U在<M,w>上不停机.
证明: 构造识别Halt的图灵机T,
T = “ 对于输入<M,x>, M是图灵机, x是串 1. 在x上模拟M, 2. 若M停机(接受或拒绝), 则接受.” 0 L T的语言是Halt, 证毕. 1#,R 注: T不是判定器 (?) q0 qa 例输入<M,01> _ R qr
| |
停机问题Halt不是可判定的
成员测试: ADFA={<B,w>|B是DFA,w是串,B接受w} ATM={<M,w>|M是一个TM,且接受w} 空性质测试: EDFA={<A>|A是DFA,L(A)=} 等价性质测试： EQDFA={<A,B>|A和B都是DFA,且L(A)=L(B)}
可判定性
成员测试: ADFA={<B,w>|B是DFA,w是串,B接受w} 可判定 ATM={<M,w>|M是一个TM,且接受w} 不可判定 空性质测试: EDFA={<A>|A是DFA,L(A)=} 可判定 等价性质测试： EQDFA={<A,B>|A和B都是DFA,且L(A)=L(B)} 可判定
Halt={ <M,x> | 图灵机M在x上会停机 } 定理: Halt 不可判定 证明: 假设Halt有判定器H, 构造图灵机D使用H: Diagonal = “ 对于输入<M>, M是图灵机,
1. 在<M,M>上运行H,
2. 若H接受, 则返回1; 3. 若H拒绝, 则停机.” • 在Diagonal上输入<Diagonal>”是否会停机? • 若停机, 即<D,D>HALT, H接受<D,D>, 则由2, H不停机