第10讲--统计模式识别--手写数字识别
相关主题
- 1、下载文档前请自行甄别文档内容的完整性，平台不提供额外的编辑、内容补充、找答案等附加服务。
- 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
- 3、如文档侵犯您的权益，请联系客服反馈,我们会尽快为您处理(人工客服工作时间：9:00-18:30)。
第10讲 统计模式识别 手写数字识别
模式识别的关键
模式准确表达
手写数字的模式如何表达？
采取的模式
是一个小图形中含有的点，与数字之间的
一个模型。 线性的？还是非线性的？
非线性模型的典型算法
人工神经网络—ANN Artificial Neural Network
ANN
由输入层 input layer
im = im.convert("L") im = im.point(lambda x: 255 if x > 196 else 0)
y=np.array([0,1]) # 纵向，y轴，第一个2*2小块的上下像素位置
features=[] for j in range(16):
x=np.array([0,1]) # 横向，x轴，第一个2*2小块的左右像素位置
xStart=(32-xLength)//2 yStart=(32-yLength)//2
bg = Image.new('RGB',(32,32),'white') #生成一个32*32的空白小图像
bg.paste(t,(xStart,yStart)) # 将字符粘贴到空白图像的中间 bg.save("e:\\pyteach\\"+str(ii)+"_"+str(jj)+"_32_32.bmp")
w,h=im.size xrow=[]
ycol=[]
for i in range(w): # 找字符在图像中最左右、上下的起始位置 for j in range(h): pixel=im.getpixel((i,j)) if (pixel<1): xrow.append(i) ycol.append(j)
数字特征表达
32*32的小图像后，为建模，需要将小图像 表达为数字化的特征。
我们采取的策略是：将32*32的小图像分割
成256个2*2的范围，统计每个2*2的小方框 中，像素值为0的个数，由此将每个字符表 达为256个数字组成的向量
提取特征的函数
def featureExtract(im): # 每个32*32 标准化的图像特征提取，im是小 图像
t = im.crop(box).copy() # 将字符挖出来
t.save("e:\\pyteach\\"+str((i + 1) % 10)+"_"+str(j)+".bmp")
11
标准化
提取出来的每个字符图像，大小不一，字符在
小图像中的位置不居中 每个小图像的大小都是32*32，且字符的上下、 左右边距一样
小数字方块的“挖出来”
画图中找出行列的大致位置
xs = [0, 45, 88, 125, 170, 213, 251, 289, 324, 364, w] ys = [0, 39, 89, 135, 183, h]
Python挖小图像块
box = (x, y, xs[i+1], ys[j+1]) # 一个字符所在图像的位置 t = im.crop(box).copy() # 将字符挖出来
神经网络代码
#整理训练集数据
netTrainDataInput=[] # 存储输入数据，X netTrainDataoutput=[] # 存储输出点的真值，Y for i in range(10): outNode=[0.0]*10 # 训练集的函数真值，每种模式对应的位置数 字为1 outNode[i]=1.0
for i, x in enumerate(xs):
if i + 1 >= len(xs): break for j, y in enumerate(ys): if j + 1 >= len(ys): break box = (x, y, xs[i+1], ys[j+1]) # 一个字符所在图像的位置
ຫໍສະໝຸດ Baidu
神经网络代码
剩余代码见教材，拷贝
10
挖小数字的程序
def split(im): # im为去除背景后的整个图像 assert im.mode == '1' result = [] w, h = im.size xs = [0, 45, 88, 125, 170, 213, 251, 289, 324, 364, w] ys = [0, 39, 89, 135, 183, h]
小图像的标准化
xLength=max(xrow)-min(xrow)+1 # 字符占的宽度
yLength=max(ycol)-min(ycol)+1 #字符占的高度 box = (min(xrow), min(ycol), max(xrow)+1, max(ycol)+1) #字符占据的 小巨型
t = im.crop(box).copy() #把字符挖出来
for j in range(5):
im = Image.open("e:\\pyteach\\"+str(i)+"_"+str(j)+"_32_32.bmp") # 读图像 f=featureExtract(im) # 提取图像特征
netTrainDataInput.append(f)
netTrainDataoutput.append(outNode)
将每个整理的数字小图像转换为一个向量， 输入神经网络，训练建模型
预测
Python图像处理包
PIL包 from PIL import Image 加载图像： im = Image.open(r"E:\pyteach\digit.jpg")
去除背景灰度
im = im.convert(“L”) # 转换为灰度8位图像 im = im.point(lambda x: 255if x > 196 else 0) #代表数字的图像的像素值是0 im = im.convert('1') #1位像素，黑和白 im.save("sample_1.bmp")
神经网络模型的设计
输入层：向量的长度，256 最后输出层：一般采用正交编码 中间层：64，注意过拟合
神经网络算法
http://pyneurgen.sourceforge.net/index.html 下载 拷贝到C:\Anaconda3\Lib\site-packages即可 （是2.x版本，需要小修改，进入3.x） 拷贝到 Anaconda3\Lib\site-packages目录下 使用 from pyneurgen.neuralnet import NeuralNet
12
小图像的标准化
def to_32_32(im,ii,jj):# 参数im是待处理的小图像，ii,jj的结合形成图 像文件的名字
# 图像分割时保存的文件名0_1.bmp，代表字符0的第二个小图像 im = im.convert("L") # 转灰度
im = im.point(lambda x: 255 if x > 196 else 0)
for i in range(16):
提取特征的函数
box = (x[0], y[0], x[1]+1, y[1]+1)
# box是每个2*2的小块的矩形，+1的原因是crop函数认定右侧为开 区间 t = im.crop(box).copy()
count=0.0
for ii in range(2): # 统计2*2小矩形中的黑色像素点的个数 for jj in range(2):
pixel = t.getpixel((ii,jj)) #提取像素值
if (pixel<1): count +=1.0 features.append(count) # 将计算得到的特征追加到列表中 x=x+2 # 水平方向，下一个小2*2矩形的左、右边距位置 y=y+2 # 垂直方向，下一个小2*2矩形的上、下边距位置 return features #feature就是一个小图像的特征
隐含层：hidden layer 可以多层
输出层：output layer 输入层 --输出层 每个节点间，有权重w
计算 s=Σxiwi ，再取函数值，得到输出值，但 型函数 sigmoid
O=1/(1+e(-s)) Back propogation
手写数字图像处理
将每个数字的小图像整理出来
模式识别的关键
模式准确表达
手写数字的模式如何表达？
采取的模式
是一个小图形中含有的点，与数字之间的
一个模型。 线性的？还是非线性的？
非线性模型的典型算法
人工神经网络—ANN Artificial Neural Network
ANN
由输入层 input layer
im = im.convert("L") im = im.point(lambda x: 255 if x > 196 else 0)
y=np.array([0,1]) # 纵向，y轴，第一个2*2小块的上下像素位置
features=[] for j in range(16):
x=np.array([0,1]) # 横向，x轴，第一个2*2小块的左右像素位置
xStart=(32-xLength)//2 yStart=(32-yLength)//2
bg = Image.new('RGB',(32,32),'white') #生成一个32*32的空白小图像
bg.paste(t,(xStart,yStart)) # 将字符粘贴到空白图像的中间 bg.save("e:\\pyteach\\"+str(ii)+"_"+str(jj)+"_32_32.bmp")
w,h=im.size xrow=[]
ycol=[]
for i in range(w): # 找字符在图像中最左右、上下的起始位置 for j in range(h): pixel=im.getpixel((i,j)) if (pixel<1): xrow.append(i) ycol.append(j)
数字特征表达
32*32的小图像后，为建模，需要将小图像 表达为数字化的特征。
我们采取的策略是：将32*32的小图像分割
成256个2*2的范围，统计每个2*2的小方框 中，像素值为0的个数，由此将每个字符表 达为256个数字组成的向量
提取特征的函数
def featureExtract(im): # 每个32*32 标准化的图像特征提取，im是小 图像
t = im.crop(box).copy() # 将字符挖出来
t.save("e:\\pyteach\\"+str((i + 1) % 10)+"_"+str(j)+".bmp")
11
标准化
提取出来的每个字符图像，大小不一，字符在
小图像中的位置不居中 每个小图像的大小都是32*32，且字符的上下、 左右边距一样
小数字方块的“挖出来”
画图中找出行列的大致位置
xs = [0, 45, 88, 125, 170, 213, 251, 289, 324, 364, w] ys = [0, 39, 89, 135, 183, h]
Python挖小图像块
box = (x, y, xs[i+1], ys[j+1]) # 一个字符所在图像的位置 t = im.crop(box).copy() # 将字符挖出来
神经网络代码
#整理训练集数据
netTrainDataInput=[] # 存储输入数据，X netTrainDataoutput=[] # 存储输出点的真值，Y for i in range(10): outNode=[0.0]*10 # 训练集的函数真值，每种模式对应的位置数 字为1 outNode[i]=1.0
for i, x in enumerate(xs):
if i + 1 >= len(xs): break for j, y in enumerate(ys): if j + 1 >= len(ys): break box = (x, y, xs[i+1], ys[j+1]) # 一个字符所在图像的位置
ຫໍສະໝຸດ Baidu
神经网络代码
剩余代码见教材，拷贝
10
挖小数字的程序
def split(im): # im为去除背景后的整个图像 assert im.mode == '1' result = [] w, h = im.size xs = [0, 45, 88, 125, 170, 213, 251, 289, 324, 364, w] ys = [0, 39, 89, 135, 183, h]
小图像的标准化
xLength=max(xrow)-min(xrow)+1 # 字符占的宽度
yLength=max(ycol)-min(ycol)+1 #字符占的高度 box = (min(xrow), min(ycol), max(xrow)+1, max(ycol)+1) #字符占据的 小巨型
t = im.crop(box).copy() #把字符挖出来
for j in range(5):
im = Image.open("e:\\pyteach\\"+str(i)+"_"+str(j)+"_32_32.bmp") # 读图像 f=featureExtract(im) # 提取图像特征
netTrainDataInput.append(f)
netTrainDataoutput.append(outNode)
将每个整理的数字小图像转换为一个向量， 输入神经网络，训练建模型
预测
Python图像处理包
PIL包 from PIL import Image 加载图像： im = Image.open(r"E:\pyteach\digit.jpg")
去除背景灰度
im = im.convert(“L”) # 转换为灰度8位图像 im = im.point(lambda x: 255if x > 196 else 0) #代表数字的图像的像素值是0 im = im.convert('1') #1位像素，黑和白 im.save("sample_1.bmp")
神经网络模型的设计
输入层：向量的长度，256 最后输出层：一般采用正交编码 中间层：64，注意过拟合
神经网络算法
http://pyneurgen.sourceforge.net/index.html 下载 拷贝到C:\Anaconda3\Lib\site-packages即可 （是2.x版本，需要小修改，进入3.x） 拷贝到 Anaconda3\Lib\site-packages目录下 使用 from pyneurgen.neuralnet import NeuralNet
12
小图像的标准化
def to_32_32(im,ii,jj):# 参数im是待处理的小图像，ii,jj的结合形成图 像文件的名字
# 图像分割时保存的文件名0_1.bmp，代表字符0的第二个小图像 im = im.convert("L") # 转灰度
im = im.point(lambda x: 255 if x > 196 else 0)
for i in range(16):
提取特征的函数
box = (x[0], y[0], x[1]+1, y[1]+1)
# box是每个2*2的小块的矩形，+1的原因是crop函数认定右侧为开 区间 t = im.crop(box).copy()
count=0.0
for ii in range(2): # 统计2*2小矩形中的黑色像素点的个数 for jj in range(2):
pixel = t.getpixel((ii,jj)) #提取像素值
if (pixel<1): count +=1.0 features.append(count) # 将计算得到的特征追加到列表中 x=x+2 # 水平方向，下一个小2*2矩形的左、右边距位置 y=y+2 # 垂直方向，下一个小2*2矩形的上、下边距位置 return features #feature就是一个小图像的特征
隐含层：hidden layer 可以多层
输出层：output layer 输入层 --输出层 每个节点间，有权重w
计算 s=Σxiwi ，再取函数值，得到输出值，但 型函数 sigmoid
O=1/(1+e(-s)) Back propogation
手写数字图像处理
将每个数字的小图像整理出来