基于神经网络的监督和半监督学习方法
开集识别方法分类
开集识别方法分类全文共四篇示例，供读者参考第一篇示例：开集识别方法是在数据挖掘和机器学习领域中的一项重要任务。
通过开集识别方法，可以有效地发现和识别出不同类别的数据集，有助于进行进一步的数据分析和模式识别。
在这篇文章中，我们将详细介绍开集识别方法的分类，并探讨各种方法的优缺点以及应用场景。
开集识别方法的分类主要可以分为监督式方法、半监督式方法和无监督式方法。
下面我们将对这三种方法进行详细介绍。
1. 监督式方法监督式方法是最常见的一种开集识别方法。
在监督式方法中，我们需要事先标记好不同类别的数据集，然后使用监督学习的算法来建立分类模型。
常见的监督式方法包括支持向量机（SVM）、决策树、神经网络等。
相对于其他两种方法，监督式方法的优势在于准确性较高，尤其适用于数据集之间存在明显边界的情况。
监督式方法的缺点在于需要大量标记数据，而且对数据的分布和特征有一定的要求。
半监督式方法是介于监督式方法和无监督式方法之间的一种方法。
在半监督式方法中，我们通常只有部分数据集被标记，而其他数据集则没有标记。
通过利用已标记的数据来对未标记的数据进行分类，可以达到一定的识别效果。
半监督式方法的优势在于可以节省标记数据的成本，同时还能够有效利用未标记数据的信息。
半监督式方法的缺点在于需要寻找合适的学习算法来处理未标记数据，且效果可能不如完全监督式方法。
无监督式方法是一种不需要标记数据就可以进行分类的方法。
在无监督式方法中，常用的算法包括K-means、DBSCAN、层次聚类等。
这些算法通常通过数据的相似性和差异性来进行聚类分析，从而实现开集识别。
开集识别方法的分类包括监督式方法、半监督式方法和无监督式方法。
不同方法在不同场景下有各自的优势和局限性，需要根据具体问题的特点来选择合适的方法。
希望通过本文的介绍，读者能够对开集识别方法有更深入的了解，为实际应用提供参考。
第二篇示例：如今，随着科技的不断发展和普及，人工智能技术在生活中扮演的角色越来越重要。
有监督、无监督与半监督学习【总结】
有监督、⽆监督与半监督学习【总结】概念有监督学习：训练数据既有特征(feature)⼜有标签(label)，通过训练，让机器可以⾃⼰找到特征和标签之间的联系，在⾯对只有特征没有标签的数据时，可以判断出标签。
⽆监督学习（unsupervised learning）：训练样本的标记信息未知，⽬标是通过对⽆标记训练样本的学习来揭⽰数据的内在性质及规律，为进⼀步的数据分析提供基础，此类学习任务中研究最多、应⽤最⼴的是"聚类" (clustering)，其他⽆监督算法还有：密度估计(densityestimation)、异常检测（anomaly detection) 等。
半监督学习：训练集同时包含有标记样本数据和未标记样本数据，不需要⼈⼯⼲预，让学习器不依赖外界交互、⾃动地利⽤未标记样本来提升学习性能，就是半监督学习。
主动学习：有的时候，有类标的数据⽐较稀少⽽没有类标的数据很多，但是对数据进⾏⼈⼯标注⼜⾮常昂贵，这时候，学习算法可以主动地提出⼀些标注请求，将⼀些经过筛选的数据提交给专家进⾏标注，这个筛选过程也就是主动学习主要研究的地⽅了。
注：半监督学习与主动学习属于利⽤未标记数据的学习技术，只是其基本思想不同。
内容1、监督学习监督学习从训练数据集合中训练模型，再对测试据进⾏预测，训练数据由输⼊和输出对组成，通常表⽰为：测试数据也由相应的输⼊输出对组成。
输⼊变量与输出变量均为连续的变量的预测问题称为回归问题，输出变量为有限个离散变量的预测问题称为分类问题，输⼊变量与输出变量均为变量序列的预测问题称为标注问题。
监督算法常见的有：线性回归，神经⽹络，决策树，⽀持向量机，KNN等。
2、⽆监督学习聚类聚类试图将数据集中的样本划分为若⼲个通常是不相交的⼦集，每个⼦集称为⼀个"簇" (cluster).。
通过这样的划分，每个簇可能对应于⼀些潜在的概念(类别) ，这些概念对聚类算法⽽⾔事先是未知的，聚类过程仅能⾃动形成簇结构，簇所对应的概念语义需由使⽤者来把握和命名。
基于半监督学习的网络流量分类算法研究
基于半监督学习的网络流量分类算法研究近年来，随着网络技术的不断发展和普及，网络安全问题也愈加突出。
其中，网络流量分类是网络安全的一个重要领域，其目的是对网络流量进行分类，将正常流量与恶意流量区分开来，以保障网络的安全可信。
网络流量分类算法通常分为有监督学习和无监督学习两种方式。
有监督学习需要大量已知类别的流量样本作为训练集，通过构建分类模型对未知流量进行预测。
而无监督学习则是在无标签数据的情况下，通过数据分布等特征进行分类。
然而，由于训练样本的获取和标记成本较高，有监督学习的分类模型可能会导致过拟合与泛化性能差的问题。
相对而言，无监督学习虽然不需要标记，但它训练出的分类模型稳定性较差，分类效果可能并不理想。
因此，近年来基于半监督学习的网络流量分类算法备受关注。
半监督学习旨在在有限标记样本和大量无标记样本的条件下，通过挖掘不同样本之间的相似性或者差异性，提高分类模型的准确性。
基于半监督学习的网络流量分类算法有多种，常见的包括基于图的半监督学习和基于深度学习的半监督学习等。
其中，基于图的半监督学习是一种基于网络拓扑形态的分类方法。
该方法对网络流量的特征向量进行建模，并将其转换成图形结构上的节点。
然后，在有标记节点的同时，通过节点之间的连接与相似性计算出新的“虚拟标签”，从而对未知的节点进行分类。
相比于基于图的半监督学习，基于深度学习的半监督学习算法具有更好的泛化性能和适应能力。
最近提出的一种基于卷积神经网络（Convolutional Neural Networks，CNN）的网络流量分类算法，通过在CNN中嵌入半监督学习算法实现网络流量分类。
该方法利用卷积神经网络对网络流量进行分层特征提取，并将提取的特征向量输入到半监督学习算法中进行分类。
除了以上两种方法，还有基于网络嵌入的半监督学习算法等。
网络嵌入是一种将节点或网络图转化为低维向量表示的方法。
基于网络嵌入的半监督学习算法通过节点之间的相似度计算相互作用，将图中的相近节点嵌入到同一空间中，并通过半监督分类算法对其进行标记。
ai专业术语
ai专业术语AI专业术语：机器学习算法机器学习算法是人工智能领域中的重要组成部分，它是让机器能够自动学习和改进的关键。
机器学习算法可以通过分析和利用数据，从中发现模式并自动调整自身的行为。
下面将介绍几种常见的机器学习算法。
1. 监督学习算法（Supervised Learning Algorithms）监督学习算法是一种通过给机器输入带有标签的训练数据来进行学习的方法。
它的目标是根据已知输入和对应的输出，构建一个能够预测新输入对应输出的模型。
常见的监督学习算法包括线性回归、逻辑回归、决策树、支持向量机等。
2. 无监督学习算法（Unsupervised Learning Algorithms）无监督学习算法是一种在训练数据中没有标签的情况下进行学习的方法。
它的目标是通过发现数据中的内在结构和模式，将数据进行聚类、降维等操作。
常见的无监督学习算法包括聚类算法（如K均值聚类、层次聚类）、关联规则挖掘等。
3. 强化学习算法（Reinforcement Learning Algorithms）强化学习算法是一种通过试错和奖励机制来训练机器的方法。
它的目标是让机器在与环境进行互动的过程中，通过尝试不同的行动并根据行动的结果获得奖励或惩罚，从而学习到最优的行动策略。
常见的强化学习算法包括Q-Learning、Deep Q Network等。
4. 深度学习算法（Deep Learning Algorithms）深度学习算法是一种基于人工神经网络的机器学习算法。
它通过多层次的神经元网络来模拟人脑的工作原理，从而实现对复杂数据的学习和理解。
深度学习算法在图像识别、语音识别、自然语言处理等领域取得了巨大的成功。
常见的深度学习算法包括卷积神经网络（CNN）、循环神经网络（RNN）、长短期记忆网络（LSTM）等。
5. 迁移学习算法（Transfer Learning Algorithms）迁移学习算法是一种利用已学习到的知识来解决新问题的方法。
什么是机器学习算法
什么是机器学习算法机器学习算法是指在没有明确编程的情况下，从数据中自动获得知识和经验的方法和技术。
它是人工智能的一个分支，旨在通过模拟人类的学习过程，让机器自动地进行知识的获取和组织。
机器学习算法是计算机科学领域的重要研究方向，其应用范围涉及到许多领域，包括自然语言处理、计算机视觉、数据挖掘等。
机器学习算法的基础是数据，通过对数据的学习和分析，机器可以发现数据中存在的规律，并根据这些规律对未来的情况进行预测和模拟。
在机器学习算法中，数据的预处理和特征提取是非常关键的环节，它们直接决定了机器学习算法的性能和效果。
机器学习算法可以分为三大类：监督学习、无监督学习和半监督学习。
1. 监督学习监督学习是从具有标签的数据中进行学习，学习的目标是建立一个从输入到输出的映射关系。
在监督学习中，数据集中的每个样本都有对应的标签，机器学习算法的任务就是找到输入到输出的映射关系，使得对于新的未标记数据，可以准确地预测其标签。
常用的监督学习算法包括决策树、逻辑回归、支持向量机等。
2. 无监督学习无监督学习是从没有标签的数据中进行学习，学习的目标是寻找数据中的结构和规律。
在无监督学习中，算法没有预先定义的输出，需要从数据中挖掘出隐藏的结构和规律。
常用的无监督学习算法包括聚类、降维等。
3. 半监督学习半监督学习是介于监督学习和无监督学习之间的一种学习方式。
在半监督学习中，数据集中只有一部分有标签，而另一部分没有标签。
半监督学习算法的任务就是利用已有的标签样本和未标记样本的数据信息，学习一个尽可能准确的分类模型。
除了以上三类之外，还有增强学习和深度学习等机器学习算法。
1. 增强学习增强学习是一种通过试错学习的方式，让机器在不断地尝试中逐渐学习如何最大化某个累积的奖励。
在增强学习中，机器通过不断的试错和反馈来改进自己的策略，最终实现一个理想的目标。
增强学习常用于控制领域的问题，如机器人控制、游戏智能等。
2. 深度学习深度学习是一种基于神经网络的机器学习算法。
神经网络模型的弱监督学习与半监督学习方法研究
神经网络模型的弱监督学习与半监督学习方法研究弱监督学习和半监督学习是神经网络领域重要的研究方向，旨在利用少量标注数据或部分标注数据进行模型训练，以解决数据标注成本高、数据稀缺等问题。
本文将介绍神经网络模型的弱监督学习和半监督学习方法的研究现状和关键技术，以及相关应用领域的探索。
1. 弱监督学习方法研究弱监督学习是指在标注数据不完整或不准确的情况下进行模型训练的方法。
目前主要涉及以下几种方法：1.1 多示例学习（MIL）多示例学习是一种典型的弱监督学习方法，适用于数据标注不准确的情况。
它将一组相关样本（称为示例袋）视为一个整体进行训练，仅关注示例袋是否属于某个类别，而不关注示例袋中每个样本的具体标注。
常用的MIL方法有EM-DD和MILES等。
1.2 生成对抗网络（GAN）生成对抗网络是一种通过生成器和判别器相互对抗的方式进行训练的方法。
在弱监督学习中，生成器可以通过学习从未标注的样本中生成标注样本的方法来提高训练效果。
GAN的典型应用有生成图像和文本等。
1.3 弱监督目标定位（WSOL）弱监督目标定位是指在只有图像级别标注的情况下，通过神经网络定位图像中目标的位置。
常用的方法包括CAM、Grad-CAM和OICR等，通过利用网络的激活图或类别感知图进行目标定位。
2. 半监督学习方法研究半监督学习是利用大量未标注数据和有限标注数据进行训练的方法。
以下是半监督学习的一些常用方法：2.1 自训练（Self-training）自训练是一种基于生成模型的半监督学习方法，首先使用有限的标注数据进行初始模型训练，然后使用该模型对未标注数据进行预测，将预测结果作为新的标注数据加入到训练集中，反复迭代训练。
自训练方法简单有效，适用于标注数据稀缺的情况。
2.2 伪标签（Pseudo-labeling）伪标签是将未标注数据的预测结果作为标签进行训练的方法。
首先利用有限的标注数据进行初步训练，然后对未标注数据进行预测，将预测结果作为伪标签进行训练，通过迭代的方式逐渐优化模型性能。
半监督深度学习图像分类方法研究综述
半监督深度学习图像分类方法研究综述吕昊远+，俞璐，周星宇，邓祥陆军工程大学通信工程学院，南京210007+通信作者E-mail:*******************摘要：作为人工智能领域近十年来最受关注的技术之一，深度学习在诸多应用中取得了优异的效果，但目前的学习策略严重依赖大量的有标记数据。
在许多实际问题中，获得众多有标记的训练数据并不可行，因此加大了模型的训练难度，但容易获得大量无标记的数据。
半监督学习充分利用无标记数据，提供了在有限标记数据条件下提高模型性能的解决思路和有效方法，在图像分类任务中达到了很高的识别精准度。
首先对于半监督学习进行概述，然后介绍了分类算法中常用的基本思想，重点对近年来基于半监督深度学习框架的图像分类方法，包括多视图训练、一致性正则、多样混合和半监督生成对抗网络进行全面的综述，总结多种方法共有的技术，分析比较不同方法的实验效果差异，最后思考当前存在的问题并展望未来可行的研究方向。
关键词：半监督深度学习；多视图训练；一致性正则；多样混合；半监督生成对抗网络文献标志码：A中图分类号：TP391.4Review of Semi-supervised Deep Learning Image Classification MethodsLYU Haoyuan +,YU Lu,ZHOU Xingyu,DENG XiangCollege of Communication Engineering,Army Engineering University of PLA,Nanjing 210007,ChinaAbstract:As one of the most concerned technologies in the field of artificial intelligence in recent ten years,deep learning has achieved excellent results in many applications,but the current learning strategies rely heavily on a large number of labeled data.In many practical problems,it is not feasible to obtain a large number of labeled training data,so it increases the training difficulty of the model.But it is easy to obtain a large number of unlabeled data.Semi-supervised learning makes full use of unlabeled data,provides solutions and effective methods to improve the performance of the model under the condition of limited labeled data,and achieves high recognition accuracy in the task of image classification.This paper first gives an overview of semi-supervised learning,and then introduces the basic ideas commonly used in classification algorithms.It focuses on the comprehensive review of image classification methods based on semi-supervised deep learning framework in recent years,including multi-view training,consistency regularization,diversity mixing and semi-supervised generative adversarial networks.It summarizes the common technologies of various methods,analyzes and compares the differences of experimental results of different methods.Finally,this paper thinks about the existing problems and looks forward to the feasible research direction in the future.Key words:semi-supervised deep learning;multi-view training;consistency regularization;diversity mixing;semi-supervised generative adversarial networks计算机科学与探索1673-9418/2021/15(06)-1038-11doi:10.3778/j.issn.1673-9418.2011020基金项目：国家自然科学基金(61702543)。
机器学习中的有监督学习，无监督学习，半监督学习
机器学习中的有监督学习，⽆监督学习，半监督学习在机器学习(Machine learning)领域。
主要有三类不同的学习⽅法：监督学习(Supervised learning)、⾮监督学习(Unsupervised learning)、半监督学习(Semi-supervised learning)，监督学习：通过已有的⼀部分输⼊数据与输出数据之间的相应关系。
⽣成⼀个函数，将输⼊映射到合适的输出，⽐如分类。
⾮监督学习：直接对输⼊数据集进⾏建模，⽐如聚类。
半监督学习：综合利⽤有类标的数据和没有类标的数据，来⽣成合适的分类函数。
⼀、监督学习1、监督式学习（Supervised learning），是⼀个机器学习中的⽅法。
能够由训练资料中学到或建⽴⼀个模式（ learning model）。
并依此模式猜測新的实例。
训练资料是由输⼊物件（⼀般是向量）和预期输出所组成。
函数的输出能够是⼀个连续的值（称为回归分析）。
或是预測⼀个分类标签（称作分类）。
2、⼀个监督式学习者的任务在观察完⼀些训练范例（输⼊和预期输出）后，去预測这个函数对不论什么可能出现的输⼊的值的输出。
要达到此⽬的。
学习者必须以"合理"（见归纳偏向）的⽅式从现有的资料中⼀般化到⾮观察到的情况。
在⼈类和动物感知中。
则通常被称为概念学习（concept learning）。
3、监督式学习有两种形态的模型。
最⼀般的。
监督式学习产⽣⼀个全域模型，会将输⼊物件相应到预期输出。
⽽还有⼀种，则是将这样的相应实作在⼀个区域模型。
（如案例推论及近期邻居法）。
为了解决⼀个给定的监督式学习的问题（⼿写辨识），必须考虑下⾯步骤：1）决定训练资料的范例的形态。
在做其他事前，project师应决定要使⽤哪种资料为范例。
譬如，可能是⼀个⼿写字符，或⼀整个⼿写的词汇。
或⼀⾏⼿写⽂字。
2）搜集训练资料。
这资料需要具有真实世界的特征。
所以。
能够由⼈类专家或（机器或传感器的）測量中得到输⼊物件和其相相应输出。
- 1、下载文档前请自行甄别文档内容的完整性，平台不提供额外的编辑、内容补充、找答案等附加服务。
- 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
- 3、如文档侵犯您的权益，请联系客服反馈,我们会尽快为您处理(人工客服工作时间：9:00-18:30)。
基于神经网络的监督和半监督学习方法
作者：王明月张德慧魏铭
来源：《科学与财富》2018年第18期
摘要：神经网络是由大量简单的神经元按照一定连接方式形成的智能仿生网.它以非线性神经元作为处理单元，通过广泛连接构成大规模分布式并行处理系统.神经网络不需预知其训练数据中输入输出之间的函数关系，而以数据驱动的方式解决问题.由于神经网络具有强大的模式识别能力和灵活的非线性建模能力，它引起了越来越多的学者及工程技术人员的关注。
关键词：神经网络监督学习半监督学习
大多数情况下神经网络能在外界信息的基础上改变内部结构，是一种自适应系统。
现代神经网络是一种非线性统计性数据建模工具，常用来对输入和输出间复杂的关系进行建模，或用来探索数据的模式。
神经网络以其自组织性、自学习性、并行性、容错性、高度非线性、高度鲁棒性、对任意函数的任意精度逼近能力，一直是监督学习领域研究、开发和应用最为活跃的分支之一。
此外，神经网络模型可以根据样本信息自适应调整自身结构，也可用于提升半监督学习方法的自适应调节能力，以降低其对先验知识的依赖程度。
1.监督学习方法
1.1监督学习概述
监督学习有两种模型。
一般常用的模型是监督学习产生的全局模型，即将输入映射到期望输出。
而另一种模型则是将这种映射作为一个局部模型（如案例推理及最近邻算法）。
为解决一个给定的监督学习问题，可分为以下5个步骤进行：
（1）确定训练样本数据。
（2）收集训练样本数据。
（3）确定学习函数输入特征的表示方法。
（4）确定要学习的函数及其对应的学习算法所使用的学习器类型。
（5）完成设计。
1.2监督学习方法简介
1.K-最近邻算法
K-最近邻算法（K- Nearest Neighbors，KNN）是将在特征空间中最接近的训练样本进行分类的监督学习方法。
K-最近邻算法最初由 Cover和Hart于1967年提出，其思路非常简单直观，易于快速实现，错误率较低。
K-最近邻算法的基本思想为：根据距离函数计算待分类样本x和每个训练样本的距离，选择与待分类样本x距离最小的K个样本作为x的K个最近邻最后根据x的K个最近邻判断x 的类别。
该算法没有单独的学习阶段，是一种在分类过程中实现学习的监督学习方法。
2.遗传算法
遗传算法（ Genetic Algorithm，GA）10]起源于20世纪60年代美国密歇根大学 Holland教授对自然和人工自适应系统的研究， Bagley发明“遗传算法”一词并发表了第一篇有关遗传算法应用的论文。
遗传算法的基本思想为：模拟达尔文生物进化论的自然选择和 Mendel遗传学机理的生物进化过程，将解空间中每一个点都编码为二进制位串，称为染色体，并对应一个适应度值，适应度值按概率决定个体性质遗传到下一代中的机会，在每一代中使用选择交叉和变异等作用机制获得新的种群，若干代后，种群中包含的个体具有更高的适应度，直到满足某种收敛指标为止。
3.贝叶斯算法
自20世纪90年代以来，贝叶斯算法一直是机器学习研究的重要方向之一。
贝叶斯算法提供了一种概率手段，可用于确定给定数据下最可能的假设。
贝叶斯算法的基本思想为：假设待考察的样本遵循某种概率分布，基于这些先验和数据观测假定进行推理，获得观测数据的后验概率，以此作出最优决策。
贝叶斯算法能够方便地处理不完全数据，能够学习变量间的因果关系，同时贝十斯网络与贝叶斯统计相结合，能够充分利用领域知识和样本数据的信息。
2.半监督学习方法
2.1半监督学习概述
半监督学习的思想起源于自训练（Self- training）方法，自训练算法又被称为自学习（Self- teaching）算法或 Bootstrapping方法，是目前在半监督学习中普遍使用的一种方法。
在自训练方法中，首先用少量的有标记数据训练出个初始的分类器，然后用该分类器对无标记数据进行预测。
之后将置信度较高的无标记样本连同预测出的类别标记一同加入到原来的训练集中。
再用新的训练集重新训练这个分类器，如此循环下去，直到达到终止条件。
2.2半监督学习方法简介
1.生成式模型半监督学习方法
生成式模型是最早的半监督学习方法之一。
该方法完全基于数据的概率分布进行建模，其基本思想是对于给定样本特征的完全数据概率建模，通常以生成式模型为分类器，将未标记样本属于各类别的概率看作缺失参数，然后利用最大似然算法对标记和模型参数进行估计。
常用于半监督学习的生成式模型有高斯混合模型、多项式混合模型、 Markoⅴ隐式模型等。
此类方法也可以看成是以少量已知标记的样本为中心进行聚类，因而属于基于聚类假设的方法。
2.协同训练半监督学习方法
协同训练（Co-tra1nng）是另外一种流行的半监督学习方法。
协同训练隐含地利用聚类假设或流形假设。
通常使用两个或多个分类器，在学习过程中，这些分类器挑选若干个置信度高的未标记样本进行相互标记，从而使得模型得以更新。
协同训练已运用到文本分类、英语基本名词及短语识别、情感分类、共指消解等研究上，而且取得了不错的效果，甚至超过了传统的有监督学习方法。
协同训练方法最大的优点是不用人工干涉，即可从未标注的数据中自动学习到知识。
3.基于图的半监督学习方法
基于图的半监督学习方法直接或间接地利用流形假设，在学习过程中首先基于训练样本的特定相似度度量建立图，图中各节点对应（有标记或是未标记）样本，节点间的连接表示样本间的相似度，之后定义模型的优化目标函数，并根据图的平滑性，添加相应的正则化项得到决策函数，通过最小化决策函数计算模型参数的最优值。
3.基于神经网络的监督和半监督学习
人工神经网络（ Artificial Neural Networks，ANN），简称为神经网络NN），是由大量的信息处理单元（也称神经元）相互连接的复杂网络，用来模拟人脑神经系统的功能和结构，它是一种简化的人脑数学模型。
人工神经网络研究开始于20世纪40年代对与神经网络有关的神经科学的研究。
人工神经网络具有的非线性适应性信息处理能力，克服了传统人工智能方法对于直觉，如模式识别、语音识别、非结构化信息处理方面的缺陷，使其在专家系统、模式识别、智能控制、组合优化、预测等许多领域得到了广泛的应用。
几种常见的神经网络模型：
（1）径向基函数神经网络
1985年， Powell提出了径向基函数（ Radial basis funct1On，RBF），简单来说，径向基函数是一个取值仅仅和到原点间距离有关的实值函数，它的提出用于解决多变量差值问题，同
时RBF理论为多层前向网络的学习提供了一种新的方法。
1988年， Broomhaed和Lowe首先将径向基函数应用于神经网络设计，构成了径向基函数神经网络。
径向基函数神经网络不仅具有良好的推广能力，而且避免了像BP算法那样繁琐的计算，使学习能得以快速地实现，近几年被广泛地应用研究以解决各种问题。
（2）支持向量机
支持向量机（ Support vector Machines，SVM）是一种通用的广义前馈神经网络。
支持向量机是有限样本条件下解决机器学习问题的通用方法，既有严格的理论基础，又能较好地解决小样本、非线性、高维数和局部极小点等实际问题，其核心思想就是学习机器要与有限的训练样本相适应。
支持向量机是机器学习领域若干标准技术的集大成者，涉及最大间隔超平面、凸二次规划、稀疏解、 Mercer核以及松弛变量等多项技术，在若干具有挑战性的应用中获得了良好的性能，是一个令人瞩目的发展方向。
（3）自适应神经网络
自适应神经网络是一种基于自适应谐振理论（ Adaptive ResonanceTheory，ART）的特殊神经网络。
多数神经网络采用分布式的知识表达形式，即单个神经元或单个连接权的具体意义都无法给出清晰的解释，这使得多数神经网络都成为“黑箱”模型，模型通过训练获得的知识隐含在大量的神经元阈值和连接权值中。
而自适应神经网络则在网络结构解释性方面有突出的优势。
总结：随着智能时代的到来，经过近半个世纪的发展，神经网络理论在模式识别、自动控制、信号处理、辅助决策、人工智能等众多研究领域取得了广泛的成功，相信随着神经网络的进一步发展，其将在工程应用中发挥越来越大的作用。
参考文献：
[1]韩敏. 基于神经网络的监督与半监督学习方法与遥感图像智能翻译. 中国水利水电出版社. 2015
[2]刑红杰. 前馈神经网络及其应用. 科学出版社. 2013。