哈工大模式识别课件

P error 1 p i x dx
i 1 Ri
c


模式识别 – 绪论
例2.1

对一大批人进行癌症普查，设ω 1类代表患癌 症，ω 2类代表正常人。已知先验概率：
P 1 0.005, P 2 0.995
以一个化验结果作为特征x: {阳性，阴性}，患癌症 的人和正常人化验结果为阳性的概率分别为：
模式识别
第二章 贝叶斯决策理论
模式识别 – 绪论
2.1 最小错误率准则
模式识别 – 绪论
各种概率及其关系

先验概率：
后验概率： 类条件概率：
P i

P i x
P x i


贝叶斯公式：
P i x
P x i P i P x
模式识别 – 绪论

模式识别 – 绪论
二、模式识别的应用
军事领域：巡航导弹的景物识别，战斗单元的 敌我识别； 办公自动化：文字识别技术和声音识别技术； 数据挖掘：数据分析； 网络应用：文本分类。

模式识别 – 绪论
三、相关领域
人工智能：Artificial
模式识别：Pattern
Intelligence (AI)
模式识别 – 绪论
多类问题最小错误率

判别x属于ω i的错误率：
P error x P j x 1 P i x
j i


• Fra Baidu bibliotek别准则为：
i arg max P j x ,
1 j c


则：x i
模式识别 – 绪论
贝叶斯最小错误率准则
P j x


p x j P j p x
g j x p x j P j
Bayes判别准则：
i arg max g j x ，则 x i 1 j c
模式识别 – 绪论
贝叶斯分类器的错误率估计
p 2 x
p 1 x
将未知模式x判别为ω j类的平均风险为：
j x ij P i x
i 1
c
模式识别 – 绪论
最小平均风险判别准则
什么是特征？
模式识别 – 绪论
什么是特征？
模式识别 – 绪论
什么是特征？
模式识别 – 绪论
特征抽取
模式识别 – 绪论
特征抽取
x
h
模式识别 – 绪论
特征的分布
3.00 x2
红苹果 2.50
2.00
橙子
1.50 0.60 0.80 1.00 1.20 1.40
x1
模式识别 – 绪论
特征的分布
有监督学习（有教师学习）：预先已知训
练样本集中每个样本的类别标号；
无监督学习（无教师学习）：预先不知道
训练样本集中每个样本的类别标号；
模式识别 – 绪论
七、参考书目
Richard Duda, Peter Hart, David Stork, Pattern Classification, 2nd edition, John Wiley, 2001 《模式分类》，机械工业出版社，Richard O. Duda 《模式识别》（第二版），清华大学出版社，边 肇祺，张学工；
3.00 x2
红苹果 2.50
绿苹果
2.00
橙子
1.50 0.60 0.80 1.00 1.20 1.40
x1
模式识别 – 绪论
五、模式识别系统
待识模式
数据采集及预 处理
特征提取与选 择
识别结果 模式分类
分类 训练
训练模式 数据采集及预 处理 特征提取与选 择 分类器设计
模式识别 – 绪论
六、模式识别问题的描述
两个类别，一维特征
模式识别 – 绪论
两类问题的错误率

观察到特征x时作出判别的错误率：
P 1 x , 判定2 P error x P 2 x , 判定1
• 两类问题最小错误率判别准则：
如果P 1 x P 2 x , x 1 如果P 1 x P 2 x , x 2
给定一个训练样本的特征矢量集合：
D x1 , x2 ,, xn , xi Rd
分别属于c个类别：
1 , 2 ,, c
设计出一个分类器，能够对未知类别样本x进行分类
y g x , Rd 1,, c
模式识别 – 绪论
分类方法
模式识别 – 绪论
模式识别方法的分类
Recognition (PR) Learning Network (NN) Vision (CV)
机器学习：Machine
人工神经网络：Neural
计算机视觉：Computer
模式识别 – 绪论
四、模式识别的过程
输入
数 据 采 集
预 处 理
特 征 提 取
分 类 器
分类结果
模式识别 – 绪论
模式识别
模式识别
模式识别
第一章 绪论
模式识别 – 绪论
一、模式识别的概念
什么是模式识别？ 模式识别研究的内容？
模式识别 – 绪论
二、模式识别的应用
工业用途：产品质量检验，设备故障检测，智 能机器人的感知系统； 商业用途：钱币的自动识伪，信函的自动分拣， 电话信息查询，声控拨号； 医学用途：对心电、脑电、CT等信号进行处 理和识别，自动进行疾病的诊断； 安全领域：生理特征鉴别(Biometrics)，网 上电子商务的身份确认，对公安对象的刑侦和 鉴别；

模式识别 – 绪论
期刊
IEEE Transaction on Pattern Analysis and Machine Intelligence，PAMI； Pattern Recognition； Pattern Recognition Letter； 模式识别与人工智能；


讲义下载: ftp://202.118.251.122 用户名: prai 密码: prai
P x 阳性 1 0.95,P x 阳性 2 0.01
现有一人化验结果为阳性，问此人是否患癌症？
模式识别 – 绪论
2.2 最小平均风险准则贝叶斯分 类器
问题的提出
有c个类别ω 1, ω 2 ,... , ω c, 将ω i类的样本判 别为ω j类的代价为λ ij。