深度学习的基本理论与方法99页PPT文档
合集下载
深度学习的基本理论与方法_图文
• 限制波尔兹曼机（Restricted Boltzmann Machine）
• 定义：假设有一个二部图，同层节点之间没有链接，一层是可 视层，即输入数据层（v)，一层是隐藏层(h)，如果假设所有的 节点都是随机二值（ 0，1值）变量节点，同时假设全概率分布 p(v,h)满足Boltzmann 分布，我们称这个模型是Restricted BoltzmannMachine (RBM)。
• Deep Boltzmann Machine(DBM)
Deep Belief Networks是在靠近可视层的部分使用贝叶斯信念网 络（即有向图模型），而在最远离可视层的部分使用Restricted Boltzmann Machine的模型。
• 卷积波尔兹曼机（Convolutional RBM）
深度学习的具体模型及方法
• 降噪自动编码器(Denoising AutoEncoders)
• 在自动编码器的基础上，对训练数据加入噪声，自动编码器 必须学习去去除这种噪声而获得真正的没有被噪声污染过的 输入。因此，这就迫使编码器去学习输入信号的更加鲁棒的 表达，这也是它的泛化能力比一般编码器强的原因。
Inference: prediction, recognition
• 良好的特征表达，对最终算法的准确性起了非常关键的作用； • 识别系统主要的计算和测试工作耗时主要集中在特征提取部分； • 特征的样式目前一般都是人工设计的，靠人工提取特征。
动 机——为什么要自动学习特征
• 实验：LP-β Multiple Kernel Learning
• 人脑视觉机理
人的视觉系统的信息处理是分级的
高层的特征是低层特征的组合，从低层到高层的特征表示越来越抽象 ，越来越能表现语义或者意图
深度学习的基本理论与方法通用课件
推荐系统：深度学习通过挖掘用 户历史行为和数据，实现个性化 推荐，提高推荐效果。
计算机视觉：深度学习在计算机 视觉领域取得了显著成果，如图 像分类、目标检测、人脸识别等 。
语音识别：基于深度学习的语音 识别技术大大提高了语音识别的 准确率和鲁棒性。
以上仅是深度学习应用的一部分 领域，实际上，深度学习正在渗 透到越来越多的领域，不断推动 着人工智能技术的进步。
• 应用场景：Transformer及其变种广泛应用于各种自然语言处理任务，如机器 翻译、文本分类、问答系统、文本生成等。它们通常作为核心组件，结合其他 技术构建更复杂的模型。
• 优势与改进：Transformer具有并行计算能力强、能够捕捉长程依赖关系等优 点。然而，它也面临着计算量大、对于某些任务可能过于复杂等问题。针对这 些问题，一些轻量级的Transformer模型被提出，如MobileBERT、TinyBERT 等，它们在保持性能的同时降低了计算成本。
机器翻译
基于深度学习技术的神经机器翻译方法，如基于循环神经 网络（RNN）的Seq2Seq模型、基于Transformer的GPT 和BERT等模型，实现了高质量的机器翻译。
THANKS
感谢观看
Keras
Keras是一个高级神经网络API， 可运行于TensorFlow、Theano 等后端，以简洁易用受到广泛欢
迎。
深度学习在计算机视觉中的应用
1 2 3
图像分类
通过训练深度神经网络，实现对图像的分类和识 别，如ImageNet挑战赛中的图像分类任务。
目标检测
利用深度学习技术，实现在图像中准确快速地检 测出目标物体的位置和类别，如R-CNN、YOLO 等算法。
在卷积神经网络末尾，通常加入全连接层，对特征图进行高维 抽象和分类器设计，输出最终的分类或回归结果。
深度学习介绍 ppt课件
自编码器的建立
建立AutoEncoder的方法是：
对于m个数据的输入，有：
Code编码:使用非线性激活函数，将维输入数据映射到维隐含层（隐含节点表示特 征）
其中W是一个的权重矩阵，b是一个d'维的偏移向量 Decode解码:通过反向映射，对映射后的数据进行重建
hi
yi
SAE网络每一次训练输入都会得到映射后的 与解码后的 。通过对代价函数的最优
深层带来的好处
为什么采用层次网络
预训练与梯度消失现象
主要内容
自编码器结构
单层自动编码器网络（AutoEncoder）实质上是一个三层的反向传播神经网络。它逐 层采用无监督学习的方式，不使用标签调整权值，将输入映射到隐含层上，再经过反 变换映射到输出上，实现输入输出的近似等价。
X1 X2 X3 X4 X5 +1
RBM网络有几个参数，一个是可视层与隐含 层之间的权重矩阵，一个是可视节点的偏移 量b，一个是隐含节点的偏移量c，这几个参 数决定了RBM网络将一个m维的样本编码成 一个什么样的n维的样本。
受限玻尔兹曼机
RBM介绍
RBM训练
一般地，链接权重Wij可初始化为来自正态分布N(0,0.01)的随机数，隐 单元的偏置cj初始化为0； 对于第i个可见单元，偏置bj初始化为log[pi/(1-pi)] 。pi表示训练样本中 第i个特征处于激活状态所占的比率 学习率epsilon至关重要，大则收敛快，但是算法可能不稳定。小则 慢。为克服这一矛盾引入动量，使本次参数值修改的方向不完全由当 前样本似然函数梯度方向决定，而是上一次参数值修改方向与本次梯 度方向的结合可以避免过早的收敛到局部最优点
激活函数
y f (x)
深度学习的常用模型和方法ppt课件
2.4 循环神经网络（RNN）与LSTM
根据上个输出和 当前的输入决定更新 哪些属性以及新属性 的内容
执行之前的决定， 更新当前的状态
根据上个输出和 当前的状态决定现在 输出什么
病原体侵入机体，消弱机体防御机能 ，破坏 机体内 环境的 相对稳 定性， 且在一 定部位 生长繁 殖，引 起不同 程度的 病理生 理过程
病原体侵入机体，消弱机体防御机能 ，破坏 机体内 环境的 相对稳 定性， 且在一 定部位 生长繁 殖，引 起不同 程度的 病理生 理过程
目录
1 深度学习的背景
2 深度学习常用模型和方法
1
自动编码器
2
稀疏编码
3
卷积神经网络
4
RNN与LSTM
3 总结与展望
病原体侵入机体，消弱机体防御机能 ，破坏 机体内 环境的 相对稳 定性， 且在一 定部位 生长繁 殖，引 起不同 程度的 病理生 理过程
MIN | I – O |，其中，I 为输入，O 为输出
通过求解这个最优化式子，可以求得Φi和ai，也就能得出 输入的特征表示。
如果我们加上稀疏规则限制，得到：
MIN | I – O | + λ（|a1| + |a2| + … + |ai |）
这种方法就是稀疏编码。
病原体侵入机体，消弱机体防御机能 ，破坏 机体内 环境的 相对稳 定性， 且在一 定部位 生长繁 殖，引 起不同 程度的 病理生 理过程
然而，手工地选取特征是一件非常费力、启发式的方法， 能不能选取好很大程度上靠经验和运气。
自动地学习特征的方法，统称为Deep Learning。
病原体侵入机体，消弱机体防御机能 ，破坏 机体内 环境的 相对稳 定性， 且在一 定部位 生长繁 殖，引 起不同 程度的 病理生 理过程
根据上个输出和 当前的输入决定更新 哪些属性以及新属性 的内容
执行之前的决定， 更新当前的状态
根据上个输出和 当前的状态决定现在 输出什么
病原体侵入机体，消弱机体防御机能 ，破坏 机体内 环境的 相对稳 定性， 且在一 定部位 生长繁 殖，引 起不同 程度的 病理生 理过程
病原体侵入机体，消弱机体防御机能 ，破坏 机体内 环境的 相对稳 定性， 且在一 定部位 生长繁 殖，引 起不同 程度的 病理生 理过程
目录
1 深度学习的背景
2 深度学习常用模型和方法
1
自动编码器
2
稀疏编码
3
卷积神经网络
4
RNN与LSTM
3 总结与展望
病原体侵入机体，消弱机体防御机能 ，破坏 机体内 环境的 相对稳 定性， 且在一 定部位 生长繁 殖，引 起不同 程度的 病理生 理过程
MIN | I – O |，其中，I 为输入，O 为输出
通过求解这个最优化式子，可以求得Φi和ai，也就能得出 输入的特征表示。
如果我们加上稀疏规则限制，得到：
MIN | I – O | + λ（|a1| + |a2| + … + |ai |）
这种方法就是稀疏编码。
病原体侵入机体，消弱机体防御机能 ，破坏 机体内 环境的 相对稳 定性， 且在一 定部位 生长繁 殖，引 起不同 程度的 病理生 理过程
然而，手工地选取特征是一件非常费力、启发式的方法， 能不能选取好很大程度上靠经验和运气。
自动地学习特征的方法，统称为Deep Learning。
病原体侵入机体，消弱机体防御机能 ，破坏 机体内 环境的 相对稳 定性， 且在一 定部位 生长繁 殖，引 起不同 程度的 病理生 理过程
深度学习介绍 ppt课件
从数学的角度来说，稀疏编码是一种多维数据描述方法，数据 经稀疏编码后仅有少数分量同时处于明显激活状态。在实际应 用中，稀疏编码有如下几个优点：稀疏编码方案存储能力大， 具有联想记忆能力，并且计算简便；使自然信号的结构更加清 晰；事实上，这一简单的自编码神经网络通常可以学习出一个 跟主成分分析（PCA）结果非常相似的输入数据的低维表示。
2016年10月，NVIDIA 发布了新版本的通用并行计算架构库：统一计算设备架构（Compute Unified Device Architecture，CUDA）8.0，以及深度学习专用GPU 加速库：cuDNN 5.0；
2016年11月，在2016全球超级计算机大会（SC16）上，AMD 宣布推出新版Radeon开放计算平台
求误差梯度
求期望和实际 的偏差E
计算隐含层 单元误差
E满足要求？
Y
N
达到最大训练次数？
N Y
结束
BP算法流程
13
主要问题
主要问题
训练过程易陷入局部极小值，从而得不到全局最优解； 计算量大，训练次数多，使得学习效率低，收敛速度慢； 对于隐含层个数和隐含层神经元节点的个数选择，至今还没有一个具体的定论，缺乏理论指导； 训练时，学习新样本有遗忘旧样本的趋势
常用改进方法
添加动量项，Dropout等规则化算法等； 采用改进的梯度下降法，使用硬件辅助计算； RNN，LSTM等改进模型和神经元。
2020/12/27
14
主要内容
现状
神经网络
深度学习
介绍 常见模型
• Stacked Auto-Encoder • Convolutional Neural Network • Deep Belief Network
2016年10月，NVIDIA 发布了新版本的通用并行计算架构库：统一计算设备架构（Compute Unified Device Architecture，CUDA）8.0，以及深度学习专用GPU 加速库：cuDNN 5.0；
2016年11月，在2016全球超级计算机大会（SC16）上，AMD 宣布推出新版Radeon开放计算平台
求误差梯度
求期望和实际 的偏差E
计算隐含层 单元误差
E满足要求？
Y
N
达到最大训练次数？
N Y
结束
BP算法流程
13
主要问题
主要问题
训练过程易陷入局部极小值，从而得不到全局最优解； 计算量大，训练次数多，使得学习效率低，收敛速度慢； 对于隐含层个数和隐含层神经元节点的个数选择，至今还没有一个具体的定论，缺乏理论指导； 训练时，学习新样本有遗忘旧样本的趋势
常用改进方法
添加动量项，Dropout等规则化算法等； 采用改进的梯度下降法，使用硬件辅助计算； RNN，LSTM等改进模型和神经元。
2020/12/27
14
主要内容
现状
神经网络
深度学习
介绍 常见模型
• Stacked Auto-Encoder • Convolutional Neural Network • Deep Belief Network
深度学习技术介绍PPT课件
根据Marr(1982)年理论，理解一个信息处理系统，具有三个被称为分析层面的内容： 计算理论(computational theory)对应计算目标和任务的抽象定义。 表示和算法(representation and algorithm)是关于输人和输出如何表示和从输入到输
出变换的算法说明。 硬件实现(hardware implementation)是系统的实物物理实现。
29
29
M40 GPU加速特性
30
GPU与CPU连接
通过PCIe与CPU连接, 最大理论带宽8GB/s(gen2.0)、16GB/s(gen3.0) CPU称为主机(host), 显卡(GPU)称为设备(device)
31
31
最优连接数量：4
32
32
目前的GPU使用方案
33
33
CPU困境
34
机器学习还可以进行压缩(compression)。用规则拟合数据，我们能得到比数据更简 单的解释，需要的存储空间更少，处理所需要的计算更少，例如，一旦你掌握了加法 规则，你就不必记忆每对可能数字的和是多少。
机器学习的另一种用途是离群点检测(outlier detection)，即发现那些不遵守规则的 例外实例。在这种情况下，学习规则之后，我们感兴趣的不是规则，而是规则未能覆 盖的例外，他们可能暗示出我们需要注意的异常，如诈骗等。
具体应用-人脸识别
对于人脸识别(face recognition)。输入是人脸 图像，类是需要识别的人，并且学习程序应当 学习人脸图像与身份之间的关联性。人脸会有 更多的类，输入图像也更大一些，并且人脸是 三维的，不同的姿势和光线等都会导致图像的 显著变化。另外，对于特定人脸的输人也会出 现问题，比如说眼镜可能会把眼睛和眉毛遮住 ，胡子可能会把下巴盖住等。
出变换的算法说明。 硬件实现(hardware implementation)是系统的实物物理实现。
29
29
M40 GPU加速特性
30
GPU与CPU连接
通过PCIe与CPU连接, 最大理论带宽8GB/s(gen2.0)、16GB/s(gen3.0) CPU称为主机(host), 显卡(GPU)称为设备(device)
31
31
最优连接数量：4
32
32
目前的GPU使用方案
33
33
CPU困境
34
机器学习还可以进行压缩(compression)。用规则拟合数据，我们能得到比数据更简 单的解释，需要的存储空间更少，处理所需要的计算更少，例如，一旦你掌握了加法 规则，你就不必记忆每对可能数字的和是多少。
机器学习的另一种用途是离群点检测(outlier detection)，即发现那些不遵守规则的 例外实例。在这种情况下，学习规则之后，我们感兴趣的不是规则，而是规则未能覆 盖的例外，他们可能暗示出我们需要注意的异常，如诈骗等。
具体应用-人脸识别
对于人脸识别(face recognition)。输入是人脸 图像，类是需要识别的人，并且学习程序应当 学习人脸图像与身份之间的关联性。人脸会有 更多的类，输入图像也更大一些，并且人脸是 三维的，不同的姿势和光线等都会导致图像的 显著变化。另外，对于特定人脸的输人也会出 现问题，比如说眼镜可能会把眼睛和眉毛遮住 ，胡子可能会把下巴盖住等。
深度学习基础PPT幻灯片
Deep Learning
2020/4/2
1
目录
深度学习简介 深度学习的训练方法 深度学习常用的几种模型和方法 Convolutional Neural Networks卷积神经网络 卷积神经网络（CNN）在脑机接口中的应用源自2020/4/22
What is Deep Learning?
浅层结构的局限性在于有限的样本和计算单元情况下 对复杂的函数表示能力有限，针对复杂分类问题其泛 化能力受到一定的制约。
2020/4/2
9
受到大脑结构分层的启发，神经网络的研究发现多隐 层的人工神经网络具有优异的特征学习能力，学习得 到的特征对数据有更本质的刻画，从而有利于可视化 或分类；而深度神经网络在训练上的难度，可以通过 “逐层初始化”来有效克服。
A brief introduce of deep learning
2020/4/2
3
机器学习
机器学习（Machine Learning）是一门专门研究计算机 怎样模拟或实现人类的学习行为，以获取新的知识或 技能，重新组织已有的知识结构市值不断改善自身的 性能的学科，简单地说，机器学习就是通过算法，使 得机器能从大量的历史数据中学习规律，从而对新的 样本做智能识别或预测未来。
机器学习在图像识别、语音识别、自然语言理解、天 气预测、基因表达、内容推荐等很多方面的发展还存 在着没有良好解决的问题。
2020/4/2
4
特征的自学习
传统的模式识别方法：
通过传感器获取数据，然后经过预处理、特征提取、特 征选择、再到推理、预测或识别。 特征提取与选择的好坏对最终算法的确定性齐了非常关 键的作用。而特征的样式目前一般都是靠人工提取特征。 而手工选取特征费时费力，需要专业知识，很大程度上 靠经验和运气，那么机器能不能自动的学习特征呢？深 度学习的出现就这个问题提出了一种解决方案。
2020/4/2
1
目录
深度学习简介 深度学习的训练方法 深度学习常用的几种模型和方法 Convolutional Neural Networks卷积神经网络 卷积神经网络（CNN）在脑机接口中的应用源自2020/4/22
What is Deep Learning?
浅层结构的局限性在于有限的样本和计算单元情况下 对复杂的函数表示能力有限，针对复杂分类问题其泛 化能力受到一定的制约。
2020/4/2
9
受到大脑结构分层的启发，神经网络的研究发现多隐 层的人工神经网络具有优异的特征学习能力，学习得 到的特征对数据有更本质的刻画，从而有利于可视化 或分类；而深度神经网络在训练上的难度，可以通过 “逐层初始化”来有效克服。
A brief introduce of deep learning
2020/4/2
3
机器学习
机器学习（Machine Learning）是一门专门研究计算机 怎样模拟或实现人类的学习行为，以获取新的知识或 技能，重新组织已有的知识结构市值不断改善自身的 性能的学科，简单地说，机器学习就是通过算法，使 得机器能从大量的历史数据中学习规律，从而对新的 样本做智能识别或预测未来。
机器学习在图像识别、语音识别、自然语言理解、天 气预测、基因表达、内容推荐等很多方面的发展还存 在着没有良好解决的问题。
2020/4/2
4
特征的自学习
传统的模式识别方法：
通过传感器获取数据，然后经过预处理、特征提取、特 征选择、再到推理、预测或识别。 特征提取与选择的好坏对最终算法的确定性齐了非常关 键的作用。而特征的样式目前一般都是靠人工提取特征。 而手工选取特征费时费力，需要专业知识，很大程度上 靠经验和运气，那么机器能不能自动的学习特征呢？深 度学习的出现就这个问题提出了一种解决方案。
深度学习的基本理论与方法99页PPT文档共101页文档
11、获得的成功越大，就越令人高兴 。野心 是使人 勤奋的 原因， 节制使 人枯萎 。 12、不问收获，只问耕耘。如同种树 ，先有 根茎， 再有枝 叶，尔 后花实 ，好好 劳动， 不要想 太多， 那样只 会使人 胆孝懒 惰，因 为不实 践，甚 至不接 触社会 ，难道 你是野 人。(名 言网) 13、不怕，不悔(虽然只有四个字，但 常看常 新。 14、我在心里默默地为每一个人祝福 。我爱 自己， 我用清 洁与节 制来珍 惜我的 身体， 我用智 慧和知 识充实 我的头 脑。 15、这世上的一切都借希望而完成。 农夫不 会播下 一粒玉 米，如 果他不 曾希望 它长成 种籽； 单身汉 不会娶 妻，如 果他不 曾希望 有小孩 ；商人 或手艺 人不会 工作， 如果他 不曾希 望因此 而有收 益。-- 马钉路 德。
66、节制使快乐增加并使享受加强。 ——德 谟克利 特 67、今天应做的事没有做，明天再早也 是耽误 了。——裴斯 泰洛齐 68、决定一个人的一生，以及整个命运 的，只 是一瞬 之间。 ——歌 德 69、懒人无法享受休息之乐。——拉布 克 70、浪费时间是一桩大罪过。——卢梭
66、节制使快乐增加并使享受加强。 ——德 谟克利 特 67、今天应做的事没有做，明天再早也 是耽误 了。——裴斯 泰洛齐 68、决定一个人的一生，以及整个命运 的，只 是一瞬 之间。 ——歌 德 69、懒人无法享受休息之乐。——拉布 克 70、浪费时间是一桩大罪过。——卢梭
- 1、下载文档前请自行甄别文档内容的完整性，平台不提供额外的编辑、内容补充、找答案等附加服务。
- 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
- 3、如文档侵犯您的权益，请联系客服反馈,我们会尽快为您处理(人工客服工作时间：9:00-18:30)。
1）多隐层的人工神经网络具有优异的特征学习能力 ，学习得到的特征对数据有更本质的刻画，从而 有利于可视化或分类；
2）深度神经网络在训练上的难度，可以通过“逐层 初始化”（layer-wise pre-training）来有效克 服，逐层初始化可通过无监督学习实现的。
深度学习
• 本质：通过构建多隐层的模型和海量训练数据（ 可为无标签数据），来学习更有用的特征，从而 最终提升分类或预测的准确性。 “深度模型”是 手段，“特征学习”是目的。
动 机——为什么采用层次网络结构
• 视觉的层次性
✓ 属性学习，类别作为属性的一种组合映射 Lampert et al. CVPR’09
类别标签 属性
图像特征
动 机——为什么采用层次网络结构
• 特征表示的粒度
✓ 具有结构性（或者语义） 的高层特征对于分类更有 意义
动 机——为什么采用层次网络结构
• 与浅层学习区别： 1）强调了模型结构的深度，通常有5-10多层的隐层
节点； 2）明确突出了特征学习的重要性，通过逐层特征变
换，将样本在原空间的特征表示变换到一个新特 征空间，从而使分类或预测更加容易。与人工规 则构造特征的方法相比，利用大数据来学习特征 ，更能够刻画数据的丰富内在信息。
深度学习
每个特征上就会稀疏。
• 结论：不一定特征越多越好！需要有多少个特征，需要学 习确定。
动 机——为什么采用层次网络结构
• 人脑视觉机理 ✓ 1981年的诺贝尔医学奖获得者 David Hubel和
TorstenWiesel发现了视觉系统的信息处理机制 ✓ 发现了一种被称为“方向选择性细胞的神经元细胞，当瞳
不同点：
神经网络：采用BP算法调整参数，即采用迭代算法来 训练整个网络。随机设定初值，计算当前网络的输 出，然后根据当前输出和样本真实标签之间的差去 改变前面各层的参数，直到收敛；
深度学习：采用逐层训练机制。采用该机制的原因在 于如果采用BP机制，对于一个deep network（7层以 上），残差传播到最前面的层将变得很小，出现所 谓的gradient diffusion（梯度扩散）。
孔发现了眼前的物体的边缘，而且这个边缘指向某个方向 时，这种神经元细胞就会活跃
动 机——为什么采用层次网络结构
• 人脑视觉机理
✓ 人的视觉系统的信息处理是分级的 ✓ 高层的特征是低层特征的组合，从低层到高层的特征表示越来越抽象
，越来越能表现语义或者意图 ✓ 抽象层面越高，存在的可能猜测就越少，就越利于分类
动 机——为什么要自动学习特征
• 实验：LP-β Multiple Kernel Learning
– Gehler and Nowozin, On Feature Combination for Multiclass Object Classification, ICCV’09
• 采用39 个不同的特征
• 初级（浅层）特征表示
✓高层特征或图像，往往是由一些基本结构（浅层特征）组成的
动 机——为什么采用层次网络结构
• 结构性特征表示
动 机——为什么采用层次网络结构
• 浅层学习的局限 ✓ 人工神经网络（BP算法） —虽被称作多层感知机，但实际是种只含有一层隐层
节点的浅层模型 ✓ SVM、Boosting、最大熵方法（如LR，Logistic
动机
传统的模式识别方法：
Low-level sensing
Preprocessing
Feature extract.
Feature selection
Inference: prediction, recognition
• 良好的特征表达，对最终算法的准确性起了非常关键的作用； • 识别系统主要的计算和测试工作耗时主要集中在特征提取部分； • 特征的样式目前一般都是人工设计的，靠人工提取特征。
深度学习 vs. 神经网络
• 神经网络的局限性：
1）比较容易过拟合，参数比较难调整，而且 需要不少技巧；
2）训练速度比较慢，在层次比较少（小于等 于3）的情况下效果并不比其它方法更优；
目录
• 概述 • 动机 • 深度学习简介 • 深度学习的训练过程 • 深度学习的具体模型及方法 • 深度学习的性能比较 • 深度学习的应用 • 展望 • 参考文献 • 相关程序软件及链接
概述
• 深度学习：一种基于无监督特征学习和特征 层次结构的学习方法
• 可能的的名称：
– 深度学习 – 特征学习 – 无监督特征学习
Regression） —带有一层隐层节点（如SVM、Boosting），或没有
隐层节点（如LR）的浅层模型 局限性：有限样本和计算单元情况下对复杂函数的表
示能力有限，针对复杂分类问题其泛化能力受限。
深度学习
• 2019年，加拿大多伦多大学教授、机器学习领域 的泰斗Geoffrey Hinton在《科学》上发表论文提 出深度学习主要观点：
经验和运气 • 是否能自动地学习特征？
动 机——为什么要自动学习特征
• 中层特征
✓ 中层信号：
连续
平行
“Tokens” from Vision by D.Marr:
✓ 物体部件:
连接那么如何学习呢？
动 机——为什么要自动学习特征
• 一般而言，特征越多，给出信息就越多，识别准确性会得到提升； • 但特征多，计算复杂度增加，探索的空间大，可以用来训练的数据在
• 好处：可通过学习一种深层非线性网络结 构，实现复杂函数逼近，表征输入数据分 布式表示。
深度学习 vs. 神经网络
神经网络 ：
深度学习：
深度学习 vs. 神经网络
相同点：二者均采用分层结构，系统包括输入层、隐 层（多层）、输出层组成的多层网络，只有相邻层 节点之间有连接，同一层以及跨层节点之间相互无 连接，每一层可以看作是一个logistic 回归模型。
– PHOG, SIFT, V1S+, Region Cov. Etc.
• 在普通特征上MKL表现 有限 结论：特征更重要
动 机——为什么要自动学习特征
• 机器学习中，获得好的特征是识别成功的关键 • 目前存在大量人工设计的特征，不同研究对象特征不同，特征
具有多样性，如：SIFT, HOG, LBP等 • 手工选取特征费时费力，需要启发式专业知识，很大程度上靠
2）深度神经网络在训练上的难度，可以通过“逐层 初始化”（layer-wise pre-training）来有效克 服，逐层初始化可通过无监督学习实现的。
深度学习
• 本质：通过构建多隐层的模型和海量训练数据（ 可为无标签数据），来学习更有用的特征，从而 最终提升分类或预测的准确性。 “深度模型”是 手段，“特征学习”是目的。
动 机——为什么采用层次网络结构
• 视觉的层次性
✓ 属性学习，类别作为属性的一种组合映射 Lampert et al. CVPR’09
类别标签 属性
图像特征
动 机——为什么采用层次网络结构
• 特征表示的粒度
✓ 具有结构性（或者语义） 的高层特征对于分类更有 意义
动 机——为什么采用层次网络结构
• 与浅层学习区别： 1）强调了模型结构的深度，通常有5-10多层的隐层
节点； 2）明确突出了特征学习的重要性，通过逐层特征变
换，将样本在原空间的特征表示变换到一个新特 征空间，从而使分类或预测更加容易。与人工规 则构造特征的方法相比，利用大数据来学习特征 ，更能够刻画数据的丰富内在信息。
深度学习
每个特征上就会稀疏。
• 结论：不一定特征越多越好！需要有多少个特征，需要学 习确定。
动 机——为什么采用层次网络结构
• 人脑视觉机理 ✓ 1981年的诺贝尔医学奖获得者 David Hubel和
TorstenWiesel发现了视觉系统的信息处理机制 ✓ 发现了一种被称为“方向选择性细胞的神经元细胞，当瞳
不同点：
神经网络：采用BP算法调整参数，即采用迭代算法来 训练整个网络。随机设定初值，计算当前网络的输 出，然后根据当前输出和样本真实标签之间的差去 改变前面各层的参数，直到收敛；
深度学习：采用逐层训练机制。采用该机制的原因在 于如果采用BP机制，对于一个deep network（7层以 上），残差传播到最前面的层将变得很小，出现所 谓的gradient diffusion（梯度扩散）。
孔发现了眼前的物体的边缘，而且这个边缘指向某个方向 时，这种神经元细胞就会活跃
动 机——为什么采用层次网络结构
• 人脑视觉机理
✓ 人的视觉系统的信息处理是分级的 ✓ 高层的特征是低层特征的组合，从低层到高层的特征表示越来越抽象
，越来越能表现语义或者意图 ✓ 抽象层面越高，存在的可能猜测就越少，就越利于分类
动 机——为什么要自动学习特征
• 实验：LP-β Multiple Kernel Learning
– Gehler and Nowozin, On Feature Combination for Multiclass Object Classification, ICCV’09
• 采用39 个不同的特征
• 初级（浅层）特征表示
✓高层特征或图像，往往是由一些基本结构（浅层特征）组成的
动 机——为什么采用层次网络结构
• 结构性特征表示
动 机——为什么采用层次网络结构
• 浅层学习的局限 ✓ 人工神经网络（BP算法） —虽被称作多层感知机，但实际是种只含有一层隐层
节点的浅层模型 ✓ SVM、Boosting、最大熵方法（如LR，Logistic
动机
传统的模式识别方法：
Low-level sensing
Preprocessing
Feature extract.
Feature selection
Inference: prediction, recognition
• 良好的特征表达，对最终算法的准确性起了非常关键的作用； • 识别系统主要的计算和测试工作耗时主要集中在特征提取部分； • 特征的样式目前一般都是人工设计的，靠人工提取特征。
深度学习 vs. 神经网络
• 神经网络的局限性：
1）比较容易过拟合，参数比较难调整，而且 需要不少技巧；
2）训练速度比较慢，在层次比较少（小于等 于3）的情况下效果并不比其它方法更优；
目录
• 概述 • 动机 • 深度学习简介 • 深度学习的训练过程 • 深度学习的具体模型及方法 • 深度学习的性能比较 • 深度学习的应用 • 展望 • 参考文献 • 相关程序软件及链接
概述
• 深度学习：一种基于无监督特征学习和特征 层次结构的学习方法
• 可能的的名称：
– 深度学习 – 特征学习 – 无监督特征学习
Regression） —带有一层隐层节点（如SVM、Boosting），或没有
隐层节点（如LR）的浅层模型 局限性：有限样本和计算单元情况下对复杂函数的表
示能力有限，针对复杂分类问题其泛化能力受限。
深度学习
• 2019年，加拿大多伦多大学教授、机器学习领域 的泰斗Geoffrey Hinton在《科学》上发表论文提 出深度学习主要观点：
经验和运气 • 是否能自动地学习特征？
动 机——为什么要自动学习特征
• 中层特征
✓ 中层信号：
连续
平行
“Tokens” from Vision by D.Marr:
✓ 物体部件:
连接那么如何学习呢？
动 机——为什么要自动学习特征
• 一般而言，特征越多，给出信息就越多，识别准确性会得到提升； • 但特征多，计算复杂度增加，探索的空间大，可以用来训练的数据在
• 好处：可通过学习一种深层非线性网络结 构，实现复杂函数逼近，表征输入数据分 布式表示。
深度学习 vs. 神经网络
神经网络 ：
深度学习：
深度学习 vs. 神经网络
相同点：二者均采用分层结构，系统包括输入层、隐 层（多层）、输出层组成的多层网络，只有相邻层 节点之间有连接，同一层以及跨层节点之间相互无 连接，每一层可以看作是一个logistic 回归模型。
– PHOG, SIFT, V1S+, Region Cov. Etc.
• 在普通特征上MKL表现 有限 结论：特征更重要
动 机——为什么要自动学习特征
• 机器学习中，获得好的特征是识别成功的关键 • 目前存在大量人工设计的特征，不同研究对象特征不同，特征
具有多样性，如：SIFT, HOG, LBP等 • 手工选取特征费时费力，需要启发式专业知识，很大程度上靠