资源简介

(共36张PPT)
概率论与数理统计
x3: 条件概率 条件概率的概念和性质 乘法公式 全概率公式与贝叶斯公式
1 条件概率的概念和性质
2 乘法公式
3 全概率公式与贝叶斯公式
x3: 条件概率
x3: 条件概率 条件概率的概念和性质
乘法公式 全概率公式与贝叶斯公式
定义
设A; B是两个事件, 且P(B) > 0, 称比值 为在事件B发生的
条件下事件A发生的条件概率, 记作P(AjB), 即
P(AjB) = : (1)
条件概率的概念和性质
x3: 条件概率 条件概率的概念和性质
乘法公式 全概率公式与贝叶斯公式
(1) 我们以古典概型来理解条件概率定义中(1)式的意义. 假设试 验的基本事件总数为nJ B所包含的基本事件数为m (m > 0)J AB所 包含的基本事件数为kJ 由于已知事件B发生了J 故在再考虑事
件A发生的概率时J 所有可能的结果一般不再是SJ 而是B中的结
果J 导致A发生的结果一定来源于B. 根据古典概型中事件概率的
计算知P(AjB) = . 显然此时有
P(AjB) = = = ;
条件概率的概念和性质
x3 . 条件概率 条件概率的概念和性质
乘法公式 全概率公式与贝叶斯公式
条件概率概念的理解
(3) 特别地, 若作为条件的事件B = S, 则
P(AjS) = = P(A),
对应于条件概率的名称, 我们将前面讨论的概率可以称为无条件 概率;
条件概率概念的理解
(2) 定义中条件P(B) > 0等价于P(B) 0, 使得(1)式有意义;
条件概率的概念和性质
x3 . 条件概率 条件概率的概念和性质
乘法公式 全概率公式与贝叶斯公式
(3) 特别地, 若作为条件的事件B = S, 则
P(AjS) = = P(A),
对应于条件概率的名称, 我们将前面讨论的概率可以称为无条件 概率;
条件概率概念的理解
(2) 定义中条件P(B) > 0等价于P(B) 0, 使得(1)式有意义;
条件概率的概念和性质
x3 . 条件概率 条件概率的概念和性质
乘法公式 全概率公式与贝叶斯公式
(i) 非负性 对任何事件A, 由P(AB) ≥ 0, P(B) > 0, 得P(A|B) = ≥ 0;
(ii) 规范性 P(S|B) = = = 1;
(4) 集合函数P( · |B)是概率, 事实上该集合函数满足概率公理化 定义的如下三个条件:
条件概率的概念和性质
x3 . 条件概率 条件概率的概念和性质
乘法公式 全概率公式与贝叶斯公式
条件概率概念的理解
(i) 非负性 对任何事件A, 由P(AB) ≥ 0, P(B) > 0, 得P(A|B) = ≥ 0;
(ii) 规范性 P(S|B) = = = 1;
(4) 集合函数P( · |B)是概率, 事实上该集合函数满足概率公理化 定义的如下三个条件:
条件概率的概念和性质
x3 . 条件概率 条件概率的概念和性质
乘法公式 全概率公式与贝叶斯公式
条件概率概念的理解
(i) 非负性 对任何事件A, 由P(AB) ≥ 0, P(B) > 0, 得P(A|B) = ≥ 0;
(ii) 规范性 P(S|B) = = = 1;
(4) 集合函数P( · |B)是概率, 事实上该集合函数满足概率公理化 定义的如下三个条件:
条件概率的概念和性质
x3 . 条件概率 条件概率的概念和性质
乘法公式 全概率公式与贝叶斯公式
条件概率概念的理解
(iii) 可列可加性 设A1 ; A2 ; · · · 是一列两两互不相容的事件, 则
P( AijB) = i = i = = P(AijB):
B)
)
\
(B
A i
P
P(
B))
P(
\ B)
P((
)
\
(B
A i
P
(
)
)
(B
A i
条件概率的概念和性质
x3: 条件概率 条件概率的概念和性质
乘法公式 全概率公式与贝叶斯公式
条件概率概念的理解
既然条件概率也是概率, 因此, 条件概率具有概率的所有性质, 如: P(AjB) = 1 - P(AjB);
P(A1 [ A2jB) = P(A1jB) + P(A2jB) - P(A1A2jB):
条件概率的概念和性质
x3: 条件概率 条件概率的概念和性质
乘法公式 全概率公式与贝叶斯公式
条件概率概念的理解
设事件A表示“活到50岁", 事件B表示“活到51岁", 显然B A, 故AB = B. 由题意知P(A) = 0.90718; P(B) = 0.90135, 从而
P(B|A) = ) = = 0.99357.
90718
90135
.
.
0
0
)
)
A
B
(
(
P
P
(A)
AB
P
P(
人寿保险公司常常需要知道存活到某一个年龄段的人在下一年仍 然存活的概率. 根据统计资料知, 某城市的人由出生活到50岁的 概率为0.90718, 活到51岁的概率为0.90135. 问现在已经50岁的人, 能够活到51岁的概率是多少
条件概率的概念和性质
x3 . 条件概率 条件概率的概念和性质
乘法公式 全概率公式与贝叶斯公式
解
例
设事件A表示“活到50岁", 事件B表示“活到51岁", 显然B A, 故AB = B. 由题意知P(A) = 0.90718; P(B) = 0.90135, 从而
P(B|A) = ) = = 0.99357.
90718
90135
.
.
0
0
)
)
A
B
(
(
P
P
(A)
AB
P
P(
人寿保险公司常常需要知道存活到某一个年龄段的人在下一年仍 然存活的概率. 根据统计资料知, 某城市的人由出生活到50岁的 概率为0.90718, 活到51岁的概率为0.90135. 问现在已经50岁的人, 能够活到51岁的概率是多少
条件概率的概念和性质
x3 . 条件概率 条件概率的概念和性质
乘法公式 全概率公式与贝叶斯公式
解
例
一个袋子中有3只黑球, 7只白球, 依次从袋子中不放回取球两次, (1) 已知第一次取出的是黑球, 则第二次取出也是黑球的概率是 多少 (2) 已知第二次取出的是黑球, 则第一次取出也是黑球的概 率是多少
条件概率的概念和性质
x3 . 条件概率 条件概率的概念和性质
乘法公式 全概率公式与贝叶斯公式
例
(2) P(A1jA2) = P ) = .
9
2
2
A
P(A
(A1
条件概率的概念和性质
x3: 条件概率 条件概率的概念和性质
乘法公式 全概率公式与贝叶斯公式
P(A1) = P(A2) = ; P(A1A2) = = :
解
故(1) P(A2jA1) = P ) = ;
9
2
1
A
P(A
(A1
设事件A i表示“第i次取到黑球", i = 1; 2, 则
(2) P(A1jA2) = P ) = .
9
2
2
A
P(A
(A1
条件概率的概念和性质
x3: 条件概率 条件概率的概念和性质
乘法公式 全概率公式与贝叶斯公式
P(A1) = P(A2) = ; P(A1A2) = = :
解
故(1) P(A2jA1) = P ) = ;
9
2
1
A
P(A
(A1
设事件A i表示“第i次取到黑球", i = 1; 2, 则
设A1 ; A2 ; · · · ; An是n (n ≥ 2)个事件, 且P(A1A2 · · · An- 1 ) > 0, 则
P(A1A2 · · · An)
= P(A1)P(A2jA1)P(A3jA1A2) · · · P(AnjA1A2 · · · An- 1 ): (2)
乘法公式
x3: 条件概率 条件概率的概念和性质
乘法公式 全概率公式与贝叶斯公式
乘法定理
首先, 由于A1 A1A2 A1A2A3 · · · A1A2 · · · An- 1 ; 故根据概
率的单调性有
P(A1) ≥ P(A1A2) ≥ · · · ≥ P(A1A2 · · · An- 1 ) > 0;
即(2)式中所有条件概率均有意义. 下证结论(2)式成立. 根据条件 概率的定义, (2)式的右端等于
P(A1) · P ) · P ) · · · · · P A 1 )
= P(A1A2 · · · An).
-
)
n
1
A
A n
n-
A
2
1
A
A
1
P(
(A
)
3
2
A
A
2
1
A
A
1
P(
(A
1
A
A
1
P(
(A
乘法公式
x3 . 条件概率 条件概率的概念和性质
乘法公式 全概率公式与贝叶斯公式
乘法定理的证明
设袋子中有r只红球, t只白球, 每次从袋子中任取一个球, 观察其 颜色后放回, 并再放入a只与所取出的球同色的球. 若在袋子中连 续取球四次, 求第一、二次取得红球而第三、四次取得白球的概 率.
乘法公式
x3 . 条件概率 条件概率的概念和性质
乘法公式 全概率公式与贝叶斯公式
例(波利亚球罐模型(Polya Urn))
以A i表示事件“第i次取得红球", i = 1; 2; 3; 4. 则所求概率 为P(A1A2A3 A4), 根据乘法定理有
(A A :
3a
3)
r
4j
t
(
t
P
P
2
t
1)
1A
r
P
P
乘法公式
x3: 条件概率 条件概率的概念和性质
乘法公式 全概率公式与贝叶斯公式
解
设S为试验E的样本空间, B1 ; B2 ; · · · 为E的一组事件, 若 (1) " Bi = S;
i 1
(2) BiBj = ;; i j; i;j ≥ 1;
则称B1 ; B2 ; · · · 为样本空间S的一个划分或分割.
全概率公式与贝叶斯公式
x3: 条件概率 条件概率的概念和性质
乘法公式 全概率公式与贝叶斯公式
定义
设B1 ; B2 ; · · · 为样本空间S的一个划分, 且P(Bi) > 0; i ≥ 1, 则对任 何事件A有
P(A) = P(Bi)P(AjBi): (3)
i 1
Σ
全概率公式与贝叶斯公式
x3: 条件概率 条件概率的概念和性质
乘法公式 全概率公式与贝叶斯公式
全概率公式
事实上, 由于B1 ; B2 ; · · · 为样本空间S的一个划分, 故由可列可加性 及乘法公式得
P(A) = P(A U S) = P A U ( Bi)
= P (A U Bi) = P (A U Bi)
= P(Bi)P(A|Bi).
此即结论成立.
i 1
Σ
i 1
Σ
i 1
n
i 1
n
全概率公式与贝叶斯公式
x3 . 条件概率 条件概率的概念和性质
乘法公式 全概率公式与贝叶斯公式
全概率公式的证明
严继高
某工厂有四条流水线生产同一种产品, 该四条流水线的产量分别 占总产量的15%, 20%, 30% 和35%, 又这四条流水线的不合格品 率依次为0.05, 0.04, 0.03及0.02. 现从出厂产品中任取一件, 问恰 好取到不合格品的概率是多少
全概率公式与贝叶斯公式
x3 . 条件概率 条件概率的概念和性质
乘法公式 全概率公式与贝叶斯公式
例
以A表示事件“任取一件, 取到不合格品", Bi表示“任取一件, 取到 第i条流水线的产品", i = 1; 2; 3; 4, 则由题意知B1 ; B2 ; B3 ; B4 构成 样本空间的一个划分, 且
P(B1) = 0.15; P(B2) = 0.20; P(B3) = 0.30; P(B4) = 0.35;
P(AjB1) = 0.05; P(AjB2) = 0.04; P(AjB3) = 0.03; P(AjB4) = 0.02.
全概率公式与贝叶斯公式
x3 . 条件概率 条件概率的概念和性质
乘法公式 全概率公式与贝叶斯公式
解
由全概率公式有
P(A) = P(Bi)P(AjBi)
= 0:15 根 0:05 + 0:20 根 0:04 + 0:30 根 0:03 + 0:35 根 0:02 = 0:0315:
故从出厂产品中任取一件, 恰好取到不合格品的概率是3:15%.
全概率公式与贝叶斯公式
x3: 条件概率 条件概率的概念和性质
乘法公式 全概率公式与贝叶斯公式
解
在上述例子中, 若该厂规定, 出了不合格品要追究有关流水线的 经济责任. 现从出厂产品中任取一件, 结果为不合格品, 但该产品 是哪一条流水线生产的标志已经脱落, 问厂方如何处理这件不合 格品比较合理 即每一条流水线应该承担多大的责任
全概率公式与贝叶斯公式
x3 . 条件概率 条件概率的概念和性质
乘法公式 全概率公式与贝叶斯公式
例
从概率的角度来看, 问题即为: 在已经知道取到不合格品的条件 下, 问该产品来自其中某一条流水线的条件概率. 设事件的符号 同上例, 则
P(B1jA) = P(AB1)
上例中已经求得P(A) = 0.0315, 而对于P(AB1), 我们可以用乘法 公式
P(AB1) = P(B1)P(AjB1);
全概率公式与贝叶斯公式
x3 . 条件概率 条件概率的概念和性质
乘法公式 全概率公式与贝叶斯公式
解
P(A) .
全概率公式与贝叶斯公式
x3: 条件概率 条件概率的概念和性质
乘法公式 全概率公式与贝叶斯公式
解
P(B1)P(AjB1) 4
： P(Bi)P(AjBi) i= 1
类似可以计算出P(B ijA); i = 2; 3; 4 的值.
因此
P(B1jA) =
0:15 根 0:05 5
=
0:0315 21
0:2381:
=
(1) 上述例子中, 由于B1 ; B2 ; B3 ; B4是样本空间的一个划分, 因此根 据条件概率也是概率可知
P(B ijA) = 1.
故在计算每个条件概率的近似值的时候需注意这一点.
(2) 该例中, 每个P(Bi)是由以往的数据分析得到的, 称为先验概 率. 而在得到信息( 即知道抽取的是不合格品)后再重新加以修正 的概率( 即P(B ijA)) 称为后验概率, 有了后验概率我们就能对生 产情况有进一步的了解.
全概率公式与贝叶斯公式
x3 . 条件概率 条件概率的概念和性质
乘法公式 全概率公式与贝叶斯公式
说明
(1) 上述例子中, 由于B1 ; B2 ; B3 ; B4是样本空间的一个划分, 因此根 据条件概率也是概率可知
P(B ijA) = 1.
故在计算每个条件概率的近似值的时候需注意这一点.
(2) 该例中, 每个P(Bi)是由以往的数据分析得到的, 称为先验概 率. 而在得到信息( 即知道抽取的是不合格品)后再重新加以修正 的概率( 即P(B ijA)) 称为后验概率, 有了后验概率我们就能对生 产情况有进一步的了解.
全概率公式与贝叶斯公式
x3 . 条件概率 条件概率的概念和性质
乘法公式 全概率公式与贝叶斯公式
说明
设B1 ; B2 ; · · · 为样本空间S的一个划分, 且P(Bi) > 0; i ≥ 1, 则对任 何事件A, 若P(A) > 0, 对任何i ≥ 1有
： P(Bj)P(AjBj)
j 1
:
P(Bi)P(AjBi)
P(B ijA) =
(4)
全概率公式与贝叶斯公式
x3: 条件概率 条件概率的概念和性质
乘法公式 全概率公式与贝叶斯公式
贝叶斯(Bayes)公式
由题意知, C与C构成了样本空间的一个划分,
且P(AjC) = 1 - P(AjC) = 0.05, 故由贝叶斯公式有
P(CjA) = = 0.087.
P(C)P(AjC) + P(C)P(AjC)
根据以往的临床记录, 某种诊断癌症的试验具有如下的效果: 若 以A 表示事件“试验反应为阳性", 以C 表示事件“被诊断者患有癌 症", 则有P(AjC) = 0.95, P(AjC) = 0.95. 现对自然人群进行普查,
设被试验的人患癌症的概率为0.005, 即P(C) = 0.005, 试 求P(CjA).
全概率公式与贝叶斯公式
x3 . 条件概率 条件概率的概念和性质
乘法公式 全概率公式与贝叶斯公式
解
例
P(C)P(AjC)
由题意知, C与C构成了样本空间的一个划分,
且P(AjC) = 1 - P(AjC) = 0.05, 故由贝叶斯公式有
P(CjA) = = 0.087.
P(C)P(AjC) + P(C)P(AjC)
根据以往的临床记录, 某种诊断癌症的试验具有如下的效果: 若 以A 表示事件“试验反应为阳性", 以C 表示事件“被诊断者患有癌 症", 则有P(AjC) = 0.95, P(AjC) = 0.95. 现对自然人群进行普查,
设被试验的人患癌症的概率为0.005, 即P(C) = 0.005, 试 求P(CjA).
全概率公式与贝叶斯公式
x3 . 条件概率 条件概率的概念和性质
乘法公式 全概率公式与贝叶斯公式
解
例
P(C)P(AjC)
本例的结果P(CjA) = 0.087看起来让人很惊讶, 跟实际情况感觉 相差很大! 出现这种情况的原因在于本例中是针对的普查, 因
此P(C) = 0.005非常低. 若不是针对普查, 情况又会是怎么样的 呢 实际生活中, 一个人在没有感觉身体不舒服的时候是不会去 看医生的, 而且在医院往往喜欢找“有经验"的医生给自己治病, 通 常医生总是先采取一些其他简易的辅助方法进行检查, 当他怀疑 该对象有可能患癌症的时候, 才建议去做该试验.
全概率公式与贝叶斯公式
x3 . 条件概率 条件概率的概念和性质
乘法公式 全概率公式与贝叶斯公式
说明
这时, 被怀疑的对象, 癌症的发病率已经显著增大. 比如, 设被怀 疑对象中P(C) = 0.5, 则
P(CjA) = = 0.95; P(C)P(AjC) + P(C)P(AjC)
这就有相当高的准确性了. 由此可以理解, 对一些疑难杂症, 医生 为什么要用几种不同的方法来进行检查!
全概率公式与贝叶斯公式
x3 . 条件概率 条件概率的概念和性质
乘法公式 全概率公式与贝叶斯公式
说明
P(C)P(AjC)

展开更多......

收起↑