马尔可夫链的概念及转移概率

随机过程 第五章 连续时间的马尔可夫链

第五章 连续时间的马尔可夫链 5.1连续时间的马尔可夫链 考虑取非负整数值的连续时间随机过程}.0),({≥t t X 定义5.1 设随机过程}.0),({≥t t X ,状态空间}0,{≥=n i I n ,若对任意 121...0+<<<≤n t t t 及I i i i n ∈+121,...,,有 })(,...)(,)()({221111n n n n i t X i t X i t X i t X P ====++ =})()({11n n n n i t X i t X P ==++ (5.1) 则称}.0),({≥t t X 为连续时间马尔可夫链. 由定义知,连续时间马尔可夫链是具有马尔可夫性的随机过程,即过程在已知现在时刻n t 及一切过去时刻所处状态的条件下,将来时刻1+n t 的状态只依赖于现在状态而与过去无关. 记(5.1)式条件概率一般形式为 ),(})()({t s p i s X j t s X P ij ===+ (5.2) 它表示系统在s 时刻处于状态i,经过时间t 后转移到状态j 的转移概率. 定义5.2 若(5.2)式的转移概率与s 无关,则称连续时间马尔可夫链具有平稳的或齐次的转移概率,此时转移概率简记为 ),(),(t p t s p ij ij = 其转移概率矩阵简记为).0,,()),(()(≥∈=t I j i t p t P ij 以下的讨论均假定我们所考虑的连续时间马尔可夫链都具有齐次转移概率.简称为齐次马尔可夫过程. 假设在某时刻,比如说时刻0,马尔可夫链进入状态i,而且接下来的s 个单位时间单位中过程未离开状态i,(即未发生转移),问随后的t 个单位时间中过程仍不离开状态i 的概率是多少呢?由马尔可夫我们知道,过程在时刻s 处于状态i 条件下,在区间[s,s+t]中仍然处于i 的概率正是它处于i 至少t 个单位的无条件概率..若记 i h 为记过程在转移到另一个状态之前停留在状态i 的时间,则对一切s,t 0≥有 },{}{t h P s h t s h P i i i >=>+> 可见,随机变量i h 具有无记忆性,因此i h 服从指数分布. 由此可见,一个连续时间马尔可夫链,每当它进入状态i,具有如下性质: (1) 在转移到另一状态之前处于状态i 的时间服从参数为i v 的指数分布;

连续马尔科夫过程的转移概率及应用

《随机过程》 课程设计（论文） 题目: 连续马尔科夫过程的转移 概率及应用 学院：理学院 专业：应用统计学 班级： 13090501 学生姓名：张志达 学生学号： 1309050131 2015年 12 月 29 日

摘要 选取 1978 ～ 2009 年四川农村居民人均生活消费值的 32 个样本，首先，通过 Markov 预测法预测未来生活消费水平的增长速度以 10% ～ 20% 的概率较大; 然后，为提高预测精度，在传统 ARMA 模型中加入时间变量 t 进行建模并预测，预测结果表明平均相对误差率为 1． 56% ，其中 2006 ～ 2009 年的相对误差的绝对值均小于 0． 5% ; 最后，将 Markov 预测和 ARMA 模型对2010 ～ 2012 年的预测结果对比，发现两者在生活消费增长幅度上吻合，预测结果可靠。结果表明，在与目前相似的政策力度下，短期内四川省农村居民消费需求将持续增长，需进一步扩大消费市场。 关键词农村居民; 生活消费; Markov 预测

目录 一.连续马尔科夫过程的转移概率及其应用 (4) 二.连续时间马尔可夫链基本理论 (5) 2.1定义 (5) 2.2转移概率 (5) 三. 马尔可夫过程研究的问题的分析 (7) 数据来源与研究方法 (7) 2.计算状态转移概率矩阵 (8) 3.结果与分析 (10) 四结论和展望 (11) 五.参考文献 (12) 六计算结果及程序 (12)

一.连续马尔科夫过程的转移概率及其应用 1951年前后，伊藤清建立的随机微分方程的理论，为马尔可夫过程的研究开辟了新的道路。1954年前后， W.费勒将半群方法引入马尔可夫过程的研究。流形上的马尔可夫过程、马尔可夫向量场等都是正待深入研究的领域。 类重要的随机过程,它的原始模型马尔可夫链,由俄国数学家Α.Α.马尔可夫于1907年提出。人们在实际中常遇到具有下述特性的随机过程：在已知它目前的状态(现在)的条件下，它未来的演变（将来）不依赖于它以往的演变（过去）。这种已知“现在”的条件下，“将来”与“过去”独立的特性称为马尔可夫性，具有这种性质的随机过程叫做马尔可夫过程。荷花池中一只青蛙的跳跃是马尔可夫过程的一个形象化的例子。青蛙依照它瞬间或起的念头从一片荷叶上跳到另一片荷叶上，因为青蛙是没有记忆的,当现在所处的位置已知时,它下一步跳往何处和它以往走过的路径无关。如果将荷叶编号并用012,,......x x x 分别表示青蛙最初处的荷叶号码及第一次、第二次、……跳跃后所处的荷叶号码，那么{},0n x n ≥ 就是马尔可夫过程。液体中微粒所作的布朗运动，传染病受感染的人数，原子核中一自由电子在电子层中的跳跃，人口增长过程等等都可视为马尔可夫过程。还有些过程（例如某些遗传过程）在一定条件下可以用马尔可夫过程来近似。 关于马尔可夫过程的理论研究，1931年Α.Η.柯尔莫哥洛夫发表了《概率论的解析方法》，首先将微分方程等分析方法用于这类过程，奠定了它的理论基础。1951年前后，伊藤清在P.莱维和C.H.伯恩斯坦等人工作的基础上，建立了随机微分方程的理论，为研究马尔可夫过程开辟了新的道路。1954年前后，W.弗勒将泛函分析中的半群方法引入马尔可夫过程的研究中，Ε.Б.登金（又译邓肯）等并赋予它概率意义（如特征算子等）。50年代初，角谷静夫和J.L.杜布等发现了布朗运动与偏微分方程论中狄利克雷问题的关系，后来G.A.亨特研究了相当一般的马尔可夫过程（亨特过程）与 位势的关系。目前，流形上的马尔可夫过程、马尔可夫场等都是正待深入研究的领域。

第三章 马尔可夫链

第三章 马尔可夫链 一、马尔可夫链的概念 马尔可夫过程是一类有重要应用意义的随机过程，它具有如下特征：随机过程‘将来’所处的状态仅与‘现在’所处的状态有关，而与‘过去’曾处于什么状态无关。 马尔可夫过程按其状态和时间参数是离散还是连续的可以分成三类 （1） 时间和状态都是离散的马尔可夫过程，称为马尔可夫链。 （2） 时间连续、状态离散的马尔可夫过程，称为连续时间的马尔可夫链。 （3） 时间和状态都连续的马尔可夫过程。 本章介绍马尔可夫链 定义1 设}0,{≥n X n 为随机序列，其状态空间为},,,{210 i i i I =，如果对任意正整数n 及任意n+2个状态I i i i i n ∈+1210,,,, ，有 },,,{110011n n n n i X i X i X i X P ====++ }{11n n n n i X i X P ===++ 则称此随机序列}0,{≥n X n 为马尔可夫链。 若将时刻n 称为‘现在’，将时刻n+1称为‘将来’，而把0，1，2，……，n-1称为‘过去’。定义中的等式便可通俗解释为：在已知}0,{≥n X n ‘现在’所处的状态条件下，‘将来’所要达到的状态与‘过去’所经历的状态无关，这一特性常称为马尔可夫的无后效性。 例1．一个n 级数字传输系统，每一级的输入和输出信号只取0或1两个值，每一级的输出是下一级的输入；并假定当一级输入为0时，其输出为0和为1的概率分别为p 和1-p;当输入为1时，其输出为1和0的概率分别为p 和1-p （见图）

令Xn 表示第n 级输出，则{ Xn,n ≥0}便为一个马尔可夫链。 例2．从1，2，……，N 数字中任取一个数，记为X0；再从1，2，……，X0数字中任取一个数，记为X1；再从1，2，……，X1中任取一个数，记为X2；依此类推，在1，2，……，Xn-1中任取一个数，记为Xn 。可以证明{ Xn,n ≥0}为马尔可夫链。 事实上，{ Xn,n ≥0}的状态空间为I={1，2，……，N}，对任意正整数n ，取n+1个状态I i i i i n ∈,,,,210 ,由题意可知 故{ Xn,n ≥0}为马尔可夫链。 二、转移概率 由马尔可夫链的无后效性和乘法公式有 },,,{1100n n i X i X i X P === },,,{},,,{111100111100----===?=====n n n n n n i X i X i X P i X i X i X i X P },,,{}{11110011----===?===n n n n n n i X i X i X P i X i X P = }{}{}{}{000011221111i X P i X i X P i X i X P i X i X P n n n n n n n n ========------ 由此可见，马尔可夫链的统计特性完全由条件概率