课件-概率论中的条件期望与停时
合集下载
条件分布与条件期望ppt课件
P{ y Y y dy}
P{x X x dx | y Y y dy}
13
pX|Y ( x | y)dx P{x X x dx | y Y y dy} 换句话说，对很小的dx和 dy，pX|Y ( x | y)dx 表示已知 Y 取值于y和y+dy之间的条件下，X 取值 于x和x+dx之间的条件概率.
解: 由例3.2.2 有X+Y~P(1+ 2).
注意: X与Y相互独立，但X与X+Y不相互独立． P(X k | X Y n) P(X k, X Y n) P(X Y n) P( X k,Y n k) P(X Y n)
9
k
1 e1
4
一、离散型r.v的条件分布 形式实下际的上重变是复类量第.似Y一的定章条义讲件在过概X的率=x条函i 条件数件概. 下率，概随念机在另一种
定义1 设 (X,Y) 是二维离散型随机变量，对于固 定的 j，若P(Y=yj)>0，则称
P(X=xi|Y=yj)=
P
(
X xi ,Y P(Y y
j)
y),
( X ,Y )为离散 ( X ,Y )为连续
其中P(X = xi | Y = y)为在给定Y = y下X的条件分布列， p(x | y)为在Y=y下X的条件密度函数．
注意：条件期望E(X | y)与(无条件)期望E(X)的不同含义
27
例:若X表示中国人的年收入，则 注意:条件期望E(X|y)与 E(X)表示: 中国人的平均年收入. (无条件)期望E(X)的不同含义.
),
2 2
(1
P{x X x dx | y Y y dy}
13
pX|Y ( x | y)dx P{x X x dx | y Y y dy} 换句话说，对很小的dx和 dy，pX|Y ( x | y)dx 表示已知 Y 取值于y和y+dy之间的条件下，X 取值 于x和x+dx之间的条件概率.
解: 由例3.2.2 有X+Y~P(1+ 2).
注意: X与Y相互独立，但X与X+Y不相互独立． P(X k | X Y n) P(X k, X Y n) P(X Y n) P( X k,Y n k) P(X Y n)
9
k
1 e1
4
一、离散型r.v的条件分布 形式实下际的上重变是复类量第.似Y一的定章条义讲件在过概X的率=x条函i 条件数件概. 下率，概随念机在另一种
定义1 设 (X,Y) 是二维离散型随机变量，对于固 定的 j，若P(Y=yj)>0，则称
P(X=xi|Y=yj)=
P
(
X xi ,Y P(Y y
j)
y),
( X ,Y )为离散 ( X ,Y )为连续
其中P(X = xi | Y = y)为在给定Y = y下X的条件分布列， p(x | y)为在Y=y下X的条件密度函数．
注意：条件期望E(X | y)与(无条件)期望E(X)的不同含义
27
例:若X表示中国人的年收入，则 注意:条件期望E(X|y)与 E(X)表示: 中国人的平均年收入. (无条件)期望E(X)的不同含义.
),
2 2
(1
概率论与数理统计课件-条件概率
則A和B獨立
P(B|A)=P(B)；P(A|B)=P(A)
(2)如果 A、B 相互獨立,則 A 與B ，A與 B ，A 與B 也相互獨立．
(3) 如果A、B相互獨立，則有
P( AB) P( A)P(B) P( A B) 1 P( A B) 1 P( AB) 1 P( A)P(B) 或 P( A B) P( A) P(B) P( AB)
設 A＝{其中有１件正品}，B＝{另１件也是正品}，則
P(B | A)
P( AB) P( AB) P( A) 1 P( A)
C72 C120
1
C32 C120
1 2
《概率统计》
返回
下页頁
结束
例3.設某種動物由出生而活到20歲的概率為0.8，活到25歲的概率 為0.4，求現齡為20歲的這種動物活到25歲的概率？ 解: 設A={活到20歲}，B={活到25歲}
解：設A ={至少有一個女孩}，B={兩個都是女孩} 則所求概率為 P(B | A) （為什麼？） (1)利用縮減樣本空間法
縮減的樣本空間為： {{男,女}, {女,男}, {女,女}}． 於是， P(B | A) 1 .
3 (2)利用公式法
P(B | A) P( AB) P( AB) 1/ 4 1 . P( A) 1 P( A) 11/ 4 3
1．定義 設A、B二事件，如果滿足等式
P(AB)=P(A)P(B) 則稱A、B為相互獨立的事件．
顯然，必然事件Ω及不可能事件Φ與任何事件A都相互獨立．
２．性質 (1)若P(A)>0, P(B)>0,
則A和B獨立
P(B|A)=P(B)；P(A|B)=P(A)
(2)如果 A、B 相互獨立,則 A 與B ，A與 B ，A 與B 也相互獨立．
P(B|A)=P(B)；P(A|B)=P(A)
(2)如果 A、B 相互獨立,則 A 與B ，A與 B ，A 與B 也相互獨立．
(3) 如果A、B相互獨立，則有
P( AB) P( A)P(B) P( A B) 1 P( A B) 1 P( AB) 1 P( A)P(B) 或 P( A B) P( A) P(B) P( AB)
設 A＝{其中有１件正品}，B＝{另１件也是正品}，則
P(B | A)
P( AB) P( AB) P( A) 1 P( A)
C72 C120
1
C32 C120
1 2
《概率统计》
返回
下页頁
结束
例3.設某種動物由出生而活到20歲的概率為0.8，活到25歲的概率 為0.4，求現齡為20歲的這種動物活到25歲的概率？ 解: 設A={活到20歲}，B={活到25歲}
解：設A ={至少有一個女孩}，B={兩個都是女孩} 則所求概率為 P(B | A) （為什麼？） (1)利用縮減樣本空間法
縮減的樣本空間為： {{男,女}, {女,男}, {女,女}}． 於是， P(B | A) 1 .
3 (2)利用公式法
P(B | A) P( AB) P( AB) 1/ 4 1 . P( A) 1 P( A) 11/ 4 3
1．定義 設A、B二事件，如果滿足等式
P(AB)=P(A)P(B) 則稱A、B為相互獨立的事件．
顯然，必然事件Ω及不可能事件Φ與任何事件A都相互獨立．
２．性質 (1)若P(A)>0, P(B)>0,
則A和B獨立
P(B|A)=P(B)；P(A|B)=P(A)
(2)如果 A、B 相互獨立,則 A 與B ，A與 B ，A 與B 也相互獨立．
课件-概率论中的条件期望与停时
X1,X2,...X,n
Because of this, we then can see that N is independent of all remaining values
Xm,mn
Discrete: Conditional Probability Mass Function
P Xx|YyPXx,Yy PYy
Continuous: Conditional Probability Density Function
fX | Y(x| y): f(x,y) fX(y)
3
Conditional Expectation
Xn1, Xn2,...
21
Independence
Summarizing the idea of stopping times with Random Variables we see that the decision made to stop the sequence at Random Variable N depends solely on the values of the sequence
Discrete: E X |Y y x X P x |Y y
x
Continuous: EX|Yy xXf| Y(x,y)dx
4
Note:
y E X |Y yis a function
of y. We write this as EX|Y
i.e. E X |Y y E X |Y y
Definition Application to Probability Applications of Stopping Times to other
formulas
Because of this, we then can see that N is independent of all remaining values
Xm,mn
Discrete: Conditional Probability Mass Function
P Xx|YyPXx,Yy PYy
Continuous: Conditional Probability Density Function
fX | Y(x| y): f(x,y) fX(y)
3
Conditional Expectation
Xn1, Xn2,...
21
Independence
Summarizing the idea of stopping times with Random Variables we see that the decision made to stop the sequence at Random Variable N depends solely on the values of the sequence
Discrete: E X |Y y x X P x |Y y
x
Continuous: EX|Yy xXf| Y(x,y)dx
4
Note:
y E X |Y yis a function
of y. We write this as EX|Y
i.e. E X |Y y E X |Y y
Definition Application to Probability Applications of Stopping Times to other
formulas
第三章 条件概率与条件期望
2012/3/2
Copyright©Pei Zhang ,2012
6
例3.2
• 有n个零件，零件i在雨天运转的概率为pi， 在非雨天运转的概率为qi，i=1,2，……,n。 明天下雨的概率为。计算在明天下雨时， 运转的零件数的条件期望。
2012/3/2
Copyright©Pei Zhang ,20Zhang ,2012
12
例3.6（几何分布的均值）
• 连续抛掷一枚正面出现的概率为p的硬 币直至出现正面为止，问需要抛掷的 次数的期望是多少？
2012/3/2
Copyright©Pei Zhang ,2012
13
例3.7
• 某矿工身陷在有三个门的矿井之中，经 第1个门的通道行进2小时后，他将到达 安全地。经第二个门的通道前进3小时 后，他将回到原地。经过第三个门的通 道前进5小时后，他还是回到原地。假 定这个矿工每次都等可能地选取任意一 个门，问直到他到达安全地所需时间的 期望是多少？
• 连续地做每次成功率为p的独立试验。N 是首次成功时的试验次数，求Var（N）
2012/3/2
Copyright©Pei Zhang ,2012
16
三、通过取条件期望计算概率
• E是一个事件，定义示性随机变量X为：
1，若E发生 X 0，若E不发生 由X的定义推出： E[X]=P(E) E[X|Y=y]=P(E|Y=y)
7
第二节
连续随机变量的条件概率与条件期望
• X和Y是连续随机变量，联合密度函数为 f(x,y)，那么在Y=y时X的条件概率密度函数 定义为：
f ( x, y ) f X |Y ( x | y) fY ( y )
• 给定Y=y时X的条件期望定义为：
《条件概率》课件
答案2
两次都取到白球的概率为$frac{6}{10} times frac{6}{10} = frac{36}{100} = frac{9}{25}$。解析：第一次取到白球 的概率为$frac{6}{10}$，第二次取到白球的概率为 $frac{6}{10}$，因此两次都取到白球的概率为 $frac{6}{10} times frac{6}{10} = frac{36}{100} =
《条件概率》ppt课件
contents
目录
• 条件概率的定义 • 条件概率的性质 • 条件概率的应用 • 条件概率的实例分析 • 条件概率的习题与解答
CHAPTER 01
条件概率的定义
条件概率的数学定义
定义
在事件B发生的条件下，事件A发生的概率称为条件概率，记作P(A|B)。
公式
P(A|B) = P(A∩B) / P(B)
条件概率的几何意义
条件概率P(A|B)表示在事件B发生的条 件下，事件A发生的概率，这可以表示 为在事件B发生的条件下，事件A发生 的区域与整个样本空间的比值。
CHAPTER 02
条件概率的性质
条件概率的加法性质
总结词
条件概率的加法性质是ቤተ መጻሕፍቲ ባይዱ当某一事件B发 生时，另一事件A发生的概率等于两事件 A和B同时发生的概率加上A不发生但B发 生的概率。
贝叶斯决策
贝叶斯决策是一种基于贝叶斯定理的决策方法，通过计算不 同行动方案在不同自然状态下的期望效用值，选择最优的行 动方案。贝叶斯决策中需要用到条件概率来计算不同自然状 态下的期望效用值。
在机器学习中的应用
分类器设计
在分类器设计中，常常需要计算不同类别下的条件概率，以设计最优的分类器。例如， 在朴素贝叶斯分类器中，通过计算不同特征在不同类别下的条件概率，实现分类器的设
两次都取到白球的概率为$frac{6}{10} times frac{6}{10} = frac{36}{100} = frac{9}{25}$。解析：第一次取到白球 的概率为$frac{6}{10}$，第二次取到白球的概率为 $frac{6}{10}$，因此两次都取到白球的概率为 $frac{6}{10} times frac{6}{10} = frac{36}{100} =
《条件概率》ppt课件
contents
目录
• 条件概率的定义 • 条件概率的性质 • 条件概率的应用 • 条件概率的实例分析 • 条件概率的习题与解答
CHAPTER 01
条件概率的定义
条件概率的数学定义
定义
在事件B发生的条件下，事件A发生的概率称为条件概率，记作P(A|B)。
公式
P(A|B) = P(A∩B) / P(B)
条件概率的几何意义
条件概率P(A|B)表示在事件B发生的条 件下，事件A发生的概率，这可以表示 为在事件B发生的条件下，事件A发生 的区域与整个样本空间的比值。
CHAPTER 02
条件概率的性质
条件概率的加法性质
总结词
条件概率的加法性质是ቤተ መጻሕፍቲ ባይዱ当某一事件B发 生时，另一事件A发生的概率等于两事件 A和B同时发生的概率加上A不发生但B发 生的概率。
贝叶斯决策
贝叶斯决策是一种基于贝叶斯定理的决策方法，通过计算不 同行动方案在不同自然状态下的期望效用值，选择最优的行 动方案。贝叶斯决策中需要用到条件概率来计算不同自然状 态下的期望效用值。
在机器学习中的应用
分类器设计
在分类器设计中，常常需要计算不同类别下的条件概率，以设计最优的分类器。例如， 在朴素贝叶斯分类器中，通过计算不同特征在不同类别下的条件概率，实现分类器的设
第六章条件概率与条件期望
第六章 条件概率与条件期望6.1 定义和性质设为概率空间，),,(P F ΩF ∈B 且，记0)(>B P ())()()(B P AB P B A P A P B ==),P ，，则易证明为概率空间。
考虑F ∈∀A ),,(B P F Ω,(F Ω上的随机变量ξ在此概率空间上的积分，若存在则称它为∫ΩξB dP ξ在给定事件B 之下的条件期望，记为(B E ξ)，即()B ∫Ω=B dP ξE ξ。
命题1：若ξE 存在，则(B E ξ)存在且()∫=BdP B P B E ξξ)(1。
由此可见，ξ在给定事件B 之下的条件期望的意义是ξ在B 上的“平均值”。
此外给定事件在给定事件A B 的条件概率)B ()(I E B A P A =0)(>n B P 可看成条件期望的特殊情形。
设{}为的一个分割且，令F ⊂n B Ω)2,1,L =(=n n B σA ，则。
若F A ⊂ξE 存在，()∑为nE B n I n B ξ),A (Ω上的可测函数，称其为给定σ-代数A 之下关于P 的条件期望，记作()A ξE ，即()()∑=E ξA nB n I ξn B E 。
命题2：A ∈B ∀且，0)(>B P ()()∫=BdP E B P B E A ξξ)(1。
证明：A ∈B ∀，{L ,2,1⊂}∃K 使得∑∈=K i i B B ，()()()()∑∫∫∑∑∫∑∫∈∈=====K i BB Ki i i nn n BnB nBdPdP B P B E B B P B E dP IB E dP E inξξξξξξ)()(I A由此可见，若称满足下式的(),A Ω上的可测函数()A ξE 为ξ在给定σ-代数A 的条件期望：()∫∫=BBdP dP E ξξA ，A ∈∀B则由于不定积分，∫=BdP B v ξ)(A ∈∀B 为),(A Ω上的符号测度且v ，由Radon-Nikodym 定理存在唯一的(P <<P s a ..),A Ω上的可测函数满足上式，即()dPdvE =A ξ(Ω，故由命题2，两者定义一样。
概率统计教学课件PPT 条件概率与事件的独立性教学课件PPT
例2 一类动物由出生起活到20或20岁以上的,
概率为0.8,活到25岁以上的概率为0.4,现假设此 类动物中有一动物为20岁,问其活到25岁以上的
概率是多少?
解：设B:活到20或20岁以上; A:活到25岁以上
求P(A|B) AB
P( A | B) P( AB) P(B)
P( A | B) P( A) 0.4 0.5 P(B) 0.8
解 分别用A、B、C表示具有上述品质的姑娘
根据题意有 P(A) 0.01, P(B) 0.01, P(C) 0.00001
则所求概率为 P(ABC) 0.000000001
即十亿分之一。
例 三人独立地去破译一份密码，已知各人能译 出的概率分别为1/5，1/3，1/4，问三人中至少有一人 能将密码译出的概率是多少？
若A1 A2 P(A1 | B) P(A2 | B)
单调性
P(A1 A2 B) P(A1 B) P(A2 B) P(A1A2 B)
加法公式
P(A1 A2 B) P(A1 B) P(A2 B)
P(• B) 是连续的.
半可加性
例1 考虑有两个小孩的家庭,问其中至少有一个女 孩的家庭中, 另一小孩也是女孩的概率有多大? (假设生男,生女是等可能的)
设A、B为独立事件，且P(A)>0,P(B)>0,下面
四个结论中，正确的是：
1. P(B|A)>0 3. P(A|B)=0
2. P(A|B)=P(A) 4. P(AB)=P(A)P(B)
两事件相互独立的性质
性质1. A, B独立 A, B 独立
A, B 独立 A, B 独立.
试证其一 A, B 独立 A, B 独立
注3) 关系式(1) (2)不能互相推出.
概率论与数理统计条件概率PPT课件
（ 1 ） P ( A B ) = P ( A ) P ( B ) = 0 . 9 × 0 . 9 = 0 . 8 1 （ 2 ） P ( A B ) = P ( A ) + P ( B ) － P ( A B ) = 0 . 9 + 0 . 9 － 0 . 8 1 = 0 . 9 9
（3）P(A B A B)=P(A B )+P( A B) =P(A)P( B )+P( A )P(B)
问题：条件概率P(B|A)与普通概率有何关系？
P(B| A) 6 6 / 20 P( AB ) 10 10 / 20 P( A)
《概率统计》
返回
下页
结束
§1.4.1 条件概率
一、 条件概率
1.定义1 设A，B为随机试验E 的两个事件，且P(A)＞0，则称
P(B| A)P(AB) P(A)
为在事件A已发生的条件下，事件B发生的条件概率. 注：条件概率与普通概率有相类似的性质，如，
则 P(A) = 0.9，P(B) = 0.8，P(C) = 0.85
因 A、B、C 相互独立，所求概率分别为
(1) P(ABC)
(2) P(ABC)
(3) P ( A B C A B C A B C A B C )
算法 (1) P (ABC ) P (A )P (B )P (C )
(2) P (A B C )P (AB )1 C P (AB ) C (3) 略.
《概率统计》
返回
下页
结束
二、多个事件的独立性
(1) 3个事件相互独立的定义
三个事件A、B、C，如果满足下面四个等式
P(AB) P(A)P(B)
P(AC) P(A)P(C)
（3）P(A B A B)=P(A B )+P( A B) =P(A)P( B )+P( A )P(B)
问题：条件概率P(B|A)与普通概率有何关系？
P(B| A) 6 6 / 20 P( AB ) 10 10 / 20 P( A)
《概率统计》
返回
下页
结束
§1.4.1 条件概率
一、 条件概率
1.定义1 设A，B为随机试验E 的两个事件，且P(A)＞0，则称
P(B| A)P(AB) P(A)
为在事件A已发生的条件下，事件B发生的条件概率. 注：条件概率与普通概率有相类似的性质，如，
则 P(A) = 0.9，P(B) = 0.8，P(C) = 0.85
因 A、B、C 相互独立，所求概率分别为
(1) P(ABC)
(2) P(ABC)
(3) P ( A B C A B C A B C A B C )
算法 (1) P (ABC ) P (A )P (B )P (C )
(2) P (A B C )P (AB )1 C P (AB ) C (3) 略.
《概率统计》
返回
下页
结束
二、多个事件的独立性
(1) 3个事件相互独立的定义
三个事件A、B、C，如果满足下面四个等式
P(AB) P(A)P(B)
P(AC) P(A)P(C)
- 1、下载文档前请自行甄别文档内容的完整性，平台不提供额外的编辑、内容补充、找答案等附加服务。
- 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
- 3、如文档侵犯您的权益，请联系客服反馈,我们会尽快为您处理(人工客服工作时间：9:00-18:30)。
Conditionality and stopping times in probability
Mark Osegard, Ben Speidel, Megan Silberhorn, and Dickens Nyabuti
Conditional Expectation
Conditional Probability
fX ( y)
Conditional Expectation
Discrete: E X | Y y xPX x | Y y
x
Continuous: E X | Y y xfX | Y(x, y)dx
Note:
y E X | Y y is a function
of y. We write this as E X | Y
Conditional Variance
Definition
Var(X | Y ) E X EX | Y 2 | Y
E X 2 | Y EX | Y 2
VarX EVarX | Y VarEX | Y
Proof
using
EX EEX | Y
since
VarX | Y E X 2 | Y EX | Y 2
X n1, X n2 ,...
Independence
Summarizing the idea of stopping times with Random Variables we see that the decision made to stop the sequence at Random Variable N depends solely on the values of the sequence
E EX | Y 2 EX 2
…adding
EVarX | Y VarEX | Y EX 2 EX 2
VarX
Thus we' ve shown that
VarX EVarX | Y VarEX | Y g
Stopping times
Stopping Times
Definition Application to Probability Applications of Stopping Times to other
EX
|Y
y fY y dy
xfX
|
Yx
|
ydx
fY y dy
xfX | Yx | y fYydxdy
xБайду номын сангаас
f
x, y
fY y
fY y dxdy
Continuous Case Cont.
xf x, ydxdy xf x, ydydx
(Fubini’s Theorem)
taking expectations of both sides
EVarX | Y E EX 2 | Y EX | Y 2 EEX 2 | Y E EX | Y 2 EX 2 E EX | Y 2
Note as well …
VarEX | Y E EX | Y 2 EEX | Y 2
formulas
Stopping Times
Basic Definition: A Stopping Time for a process does exactly that, it tells the process when to stop. Ex) while ( x != 4 ) {…} The stopping time for this code fragment would be the instance where x does equal 4.
Stopping Times: A Discrete Case
From our previous slide we have the sequence:
X1, X 2 , X 3,...
A discrete Random Variable N is a stopping time for this sequence if : {N=n} Where n is independent of all following items in the sequence
Proof: Continuous Case
Recall, if X,Y are jointly continuous with
joint pdf f x, y
Define:
fX | YX | Y
f x, y fY y
and EX | Y y xfX | YX | Y dx
Note:
x f x, ydydx f x, ydy
So,
xfXxdx EX
Therefore, concluding
EX EEX | Y
Summary:
When Y is discrete,
EX | Y yPY y
y
When Y is continuous,
EX | Y yfYydy
i.e. EX | Y y EX | Y y
(Conditional Expectation Function)
Theorem:
EX EEX | Y
Clearly, when Y is discrete,
EX | Y yPY y
y
When Y is continuous,
EX | Y yfYydy
Stopping times in Sequences
Define: Suppose we have a sequence of Random Variables (all independent of each other) Our sequence then would be:
X1, X 2 , X 3,...
Discrete: Conditional Probability Mass Function
PX x | Y y PX x,Y y PY y
Continuous: Conditional Probability Density Function
f (x, y) fX | Y(x | y) :
Mark Osegard, Ben Speidel, Megan Silberhorn, and Dickens Nyabuti
Conditional Expectation
Conditional Probability
fX ( y)
Conditional Expectation
Discrete: E X | Y y xPX x | Y y
x
Continuous: E X | Y y xfX | Y(x, y)dx
Note:
y E X | Y y is a function
of y. We write this as E X | Y
Conditional Variance
Definition
Var(X | Y ) E X EX | Y 2 | Y
E X 2 | Y EX | Y 2
VarX EVarX | Y VarEX | Y
Proof
using
EX EEX | Y
since
VarX | Y E X 2 | Y EX | Y 2
X n1, X n2 ,...
Independence
Summarizing the idea of stopping times with Random Variables we see that the decision made to stop the sequence at Random Variable N depends solely on the values of the sequence
E EX | Y 2 EX 2
…adding
EVarX | Y VarEX | Y EX 2 EX 2
VarX
Thus we' ve shown that
VarX EVarX | Y VarEX | Y g
Stopping times
Stopping Times
Definition Application to Probability Applications of Stopping Times to other
EX
|Y
y fY y dy
xfX
|
Yx
|
ydx
fY y dy
xfX | Yx | y fYydxdy
xБайду номын сангаас
f
x, y
fY y
fY y dxdy
Continuous Case Cont.
xf x, ydxdy xf x, ydydx
(Fubini’s Theorem)
taking expectations of both sides
EVarX | Y E EX 2 | Y EX | Y 2 EEX 2 | Y E EX | Y 2 EX 2 E EX | Y 2
Note as well …
VarEX | Y E EX | Y 2 EEX | Y 2
formulas
Stopping Times
Basic Definition: A Stopping Time for a process does exactly that, it tells the process when to stop. Ex) while ( x != 4 ) {…} The stopping time for this code fragment would be the instance where x does equal 4.
Stopping Times: A Discrete Case
From our previous slide we have the sequence:
X1, X 2 , X 3,...
A discrete Random Variable N is a stopping time for this sequence if : {N=n} Where n is independent of all following items in the sequence
Proof: Continuous Case
Recall, if X,Y are jointly continuous with
joint pdf f x, y
Define:
fX | YX | Y
f x, y fY y
and EX | Y y xfX | YX | Y dx
Note:
x f x, ydydx f x, ydy
So,
xfXxdx EX
Therefore, concluding
EX EEX | Y
Summary:
When Y is discrete,
EX | Y yPY y
y
When Y is continuous,
EX | Y yfYydy
i.e. EX | Y y EX | Y y
(Conditional Expectation Function)
Theorem:
EX EEX | Y
Clearly, when Y is discrete,
EX | Y yPY y
y
When Y is continuous,
EX | Y yfYydy
Stopping times in Sequences
Define: Suppose we have a sequence of Random Variables (all independent of each other) Our sequence then would be:
X1, X 2 , X 3,...
Discrete: Conditional Probability Mass Function
PX x | Y y PX x,Y y PY y
Continuous: Conditional Probability Density Function
f (x, y) fX | Y(x | y) :