基于时序深度学习的数控机床运动精度预测方法
基于深度学习的时序预测技术
基于深度学习的时序预测技术深度学习是一种机器学习的方法，其可以通过多层神经网络来学习和识别模式。
在时序预测领域，深度学习已经成为了一种非常有效的技术，可以预测未来的数据趋势，帮助人们在决策中做出更加准确的判断。
一、深度学习的基础概念深度学习是一种非常强大的机器学习方法，其通过多层神经网络来学习和识别模式。
在深度学习中，数据被输入到神经网络中，经过多次转换和变换之后，最终输出预测结果。
深度学习可以通过网络的深度来进行学习和优化，其可以在大量数据的支持下逐渐提高预测的准确性。
二、深度学习在时序预测中的应用时序预测是指通过历史的时间序列数据来预测未来的数据趋势。
在时序预测领域，深度学习已经成为了一种非常有效的技术。
其具有以下的优势：1.可以处理非线性关系时序数据通常包含了很多非线性关系，而深度学习可以通过多层神经网络来处理这些非线性关系，从而得到更加准确的预测结果。
2.可以处理大规模数据深度学习具有很强的处理能力，可以在大规模数据的情况下进行训练和优化，从而获得更加准确的预测结果。
3.可以进行自动特征提取深度学习可以自动提取数据中的特征，从而避免了人工提取特征的繁琐和复杂过程，进一步提高了预测的准确性。
三、深度学习在股市预测中的应用股票市场的变化一直是人们非常关注的话题，而深度学习在股票预测中也得到了广泛的应用。
其通过历史的股票数据来预测未来的股票趋势，提高了人们在股票交易中的决策准确性。
在股票预测中，人们可以通过深度学习来进行趋势的预测，找出股票的波动规律，并根据预测结果来进行交易决策。
深度学习在股票预测中的应用，为人们的投资决策提供了更加准确和有效的支持。
四、深度学习在气象预测中的应用气象预测是指通过历史的气象数据来预测未来的天气变化。
而深度学习在气象预测中也得到了广泛的应用。
其可以通过历史的气象数据来预测未来的气象变化，从而为人们的生产和生活提供更加准确和有效的支持。
在气象预测中，深度学习可以通过多层神经网络来处理非线性关系，自动提取数据的特征，从而得到更加准确的气象预测结果。
数控机床的精度检测与调整方法
数控机床的精度检测与调整方法数控机床是现代制造业中不可或缺的一种设备，它的精度对于产品的质量和性能起着至关重要的作用。
本文将介绍数控机床的精度检测与调整方法，帮助读者更好地了解和应用这些技术。
一、精度检测方法1. 几何误差检测几何误差是数控机床精度的重要指标，包括直线度、平行度、垂直度、圆度等。
常用的几何误差检测方法有激光干涉仪、三坐标测量仪等。
通过这些设备，可以精确测量机床各个轴向的几何误差，并得出相应的数据。
2. 理论切削路径与实际切削路径对比在数控机床的加工过程中，理论切削路径与实际切削路径之间可能存在偏差。
通过对比理论切削路径与实际切削路径，可以判断数控机床的精度是否达标。
常用的方法是使用光学测量仪器，对切削路径进行高精度的测量和分析。
二、精度调整方法1. 机床结构调整数控机床的结构调整是提高其精度的重要手段。
首先，需要检查机床各个部件的紧固情况，确保机床的刚性和稳定性。
其次，根据几何误差的检测结果，对机床的导轨、滑块等部件进行调整，以减小误差。
2. 控制系统调整数控机床的控制系统对于其加工精度起着至关重要的作用。
通过调整控制系统的参数，可以改善机床的运动精度和定位精度。
常用的调整方法包括增加控制系统的采样频率、优化控制算法等。
3. 刀具与工件的匹配调整刀具与工件的匹配对于加工精度有很大影响。
在数控机床的加工过程中，需要根据工件的要求选择合适的刀具，并对刀具进行调整和校准。
同时，还需要对工件进行检测，确保其尺寸和形状与设计要求一致。
三、精度检测与调整的重要性数控机床的精度检测与调整是保证产品质量和性能的关键环节。
只有通过科学的检测方法，准确地了解机床的精度情况，才能及时采取相应的调整措施，提高机床的加工精度。
这对于提高生产效率、降低成本、提升产品竞争力具有重要意义。
四、未来发展趋势随着制造业的不断发展，数控机床的精度要求也越来越高。
未来，数控机床的精度检测与调整方法将更加精细化和智能化。
基于深度学习的时序数据预测技术研究与应用
基于深度学习的时序数据预测技术研究与应用随着各种数据采集设备的不断普及，我们在日常生活以及工作中产生的时序数据愈加庞大，这些数据包含着我们的行为规律、趋势以及各种模式，因此对这类数据进行预测分析显得尤为重要。
在机器学习领域中，深度学习的应用越来越广泛，其强大的特征提取、数据学习和集成优化的能力，为时序数据预测提供了强有力的支持，本文旨在探讨基于深度学习的时序数据预测技术，从数据预处理、模型预测、实际应用等方面进行详细论述。
一、数据预处理在进行时序数据预测前，首先需要对数据进行预处理，这部分工作的具体内容包括：时间序列分解、数据平滑、异常值检测以及特征工程等。
1. 时间序列分解时序数据最重要的特征在于时间的顺序性，因此我们需要将数据进行分解。
其中，主要分为趋势和季节两个部分，分别对应了数据的长期变化趋势和短期周期性的变化规律。
在对数据进行分解后，我们就可以更加清晰地发现其内在规律，并更好地对数据进行预测。
2. 数据平滑实际中采集的时序数据会存在一些不正常的突发或异常情况，对于这些数据需要进行处理和平滑。
数据平滑的方法包括滑动平均法、指数平滑法等，这些方法可以有效平滑数据的异常波动，为后续分析提供更为稳定的数据。
3. 异常值检测在进行预测时，异常值会对结果产生很大的干扰，因此需要对异常值进行检测，找出并进行处理。
通常采用的是统计学检测方法或机器学习检测方法，前者主要是基于数据在一定区间内的分布规律，后者则可以通过对数据进行建模，找出异常值。
4. 特征工程时序数据的特征提取对于预测模型的建立十分关键。
通过数据的一些特征工程操作，可以提取出更加有效的特征，帮助我们更加准确地预测数据的未来趋势。
特征工程的方法包括滞后特征、移动平均等，对于不同的数据类型和预测目标，需要进行合理的特征选择和处理方法。
二、模型预测有了经过预处理的数据，我们下一步需要建立模型对数据进行预测。
在深度学习领域，主要可以采用循环神经网络（RecurrentNeural Network, RNN）以及Long-Short Term Memory（LSTM）等深度学习模型进行时序数据预测。
基于时序建模的仿真系统精度检测方法
基于时序建模的仿真系统精度检测方法
近年来，随着计算机技术的发展，仿真技术已经在科学研究和工业生产中发挥着越来越重要的作用。
因此，仿真系统准确性得到了广泛关注。
仿真系统精度检测是提高仿真系统性能以及验证仿真系统准确性的关键。
有效检测系统精度及其准确性可以帮助理解复杂仿真系统的内在机制，以便更好地模拟实际系统。
基于时序建模的仿真系统精度检测方法是一种新的系统精度检
测技术，它的核心思想是将仿真系统视为一个时序模型，并将检测信号发送到系统中，根据系统输出的反馈信号和原始信号之间的相关性，评估仿真系统的精度。
时序建模的仿真系统精度检测方法的优点是，它能够有效地发现系统的偏差和误差，确定系统的可靠性，提高系统的性能。
相比传统的检测技术，时序建模的方法在检测过程中不会损坏或破坏任何部分，因此可以更好地发挥它的作用。
此外，时序建模的仿真系统精度检测方法还可以进一步优化仿真系统，通过将模型和实际系统的数据及其输出作比较，可以更好地识别系统中存在的问题，并采取有效的措施来确保系统性能的长期可用性。
基于时序建模的仿真系统精度检测方法能够有效地检测仿真系
统的准确性，并保证系统的高可靠性。
未来，将通过不断改进此方法，进一步提高仿真系统的精度，从而保证仿真系统性能的可靠性、准确性和可用性。
总之，基于时序建模的仿真系统精度检测方法是一种有效的检测技术，在科学研究和工业生产中可以有效地发挥作用，有助于提高仿真系统性能。
基于深度学习的时序数据建模与预测方法研究
基于深度学习的时序数据建模与预测方法研究深度学习技术在数据建模以及预测方面的应用已经毋庸置疑。
对于时序数据这一具有历史数据和趋势性的数据类型来说，深度学习技术更是展现了其强大的建模能力。
本文旨在介绍基于深度学习的时序数据建模与预测方法，包括LSTM、GRU和Transformer等模型。
一、基于 LSTM 的时序数据建模与预测方法LSTM（Long Short-Term Memory）是一种特别适用于序列建模的循环神经网络模型。
在时序数据建模以及预测方面，LSTM通常使用一个反馈机制来捕捉数据之间的关联，同时还可以记住过去的信息以及预测未来的情况。
LSTM有三个门：遗忘门、输入门和输出门。
遗忘门控制了当前的内存状态，输入门则控制了新信息的输入，输出门则控制了输出的情况。
通过对时间序列数据进行LSTM建模，可以提高对数据的理解并进行更准确的预测。
二、基于 GRU 的时序数据建模与预测方法GRU（Gated Recurrent Unit）同样是一种循环神经网络模型，也适用于序列建模。
与LSTM不同的是，GRU只有两个门：重置门和更新门。
重置门控制前一个时间步骤的影响程度，更新门则控制了当前时间步骤的权重。
GRU将LSTM的遗忘门和输出门简化为一个门，并加入了一个更新门。
GRU拥有与LSTM相近的预测能力，但通常需要更少的计算资源。
三、基于 Transformer 的时序数据建模与预测方法Transformer是一种用于序列建模的神经网络模型，主要用于自然语言处理领域。
其创新之处在于引入了注意力机制，即为在输出时对序列的不同位置进行不同的权重分配。
注意力机制解决了长序列间的距离问题。
因此，在时序数据建模与预测方面，Transformer也具有一定的潜力。
四、综合比较在 LST、GRU 和 Transformer 三种深度学习模型中，LSTM和GRU都是常用于时序数据建模的模型。
LSTM表现可能更为稳定，但需要更多的计算资源，而GRU则可以使用更少的计算资源来实现类似的效果。
基于深度学习的时序预测技术研究
基于深度学习的时序预测技术研究随着机器学习技术的不断进步，基于深度学习的时序预测技术也逐渐成为了研究的热点。
时序预测技术是指通过历史数据的分析，预测未来一段时间内的特定事件。
时序预测技术的应用非常广泛，包括金融预测、气象预测、交通预测等等，而基于深度学习的时序预测技术，正是为了解决传统方法在处理非线性复杂数据时的不足而发展起来的。
一、基于深度学习的时序预测技术的优势深度学习是一种基于人工神经网络的机器学习算法。
与传统方法相比，基于深度学习的时序预测技术具有以下几个优势：1. 非线性建模能力：相较于传统方法，深度学习的神经网络结构更加灵活，可以对复杂的非线性模型进行建模。
2. 自适应特征学习能力：同样地，深度学习中的神经网络可以通过反向传播算法自适应地学习数据中的特征，从而达到更好的预测效果。
3. 多层次结构设计：在深度学习的神经网络中，可以设计多层次的网络结构。
每一层次都可以处理不同抽象级别的信息，从而获得更好的预测能力。
以上这些优势正是基于深度学习的时序预测技术得以快速发展的重要原因。
二、基于深度学习的时序预测技术的应用基于深度学习的时序预测技术的应用非常广泛，下面列举几个典型的应用场景。
1. 股票价格预测股票价格的变化一直以来都是投资者最为关心的话题之一。
通过对历史股票价格的分析，可以预测未来股票的价格趋势。
基于深度学习的时序预测技术，可以通过构建神经网络，对历史数据进行分析，从而预测未来股票价格的变化。
这种技术已经被广泛地应用于金融领域。
2. 气象预测气象预测是一项非常重要的工作，对人类的生产和生活都有着重要的影响。
基于深度学习的时序预测技术可以通过对历史气象数据的分析，预测未来的气象情况。
这项技术已经被应用于气象预报、气候变化预测等领域。
3. 交通预测交通预测是城市规划中的重要问题。
通过对历史交通流量的分析，可以预测未来交通状况，从而制定出更加科学的城市规划方案。
基于深度学习的时序预测技术可以通过构建神经网络，对历史数据进行分析，从而预测未来交通流量的变化。
基于序列深度学习的数控机床热误差建模与预测方法
２０２０年１２月第４８卷第２３期机床与液压ＭＡＣＨＩＮＥＴＯＯＬ＆ＨＹＤＲＡＵＬＩＣＳＤｅｃ．２０２０Ｖｏｌ ４８Ｎｏ ２３ＤＯＩ：１０．３９６９／ｊ ｉｓｓｎ １００１－３８８１ ２０２０ ２３ ０１７本文引用格式：杜柳青，余永维．基于序列深度学习的数控机床热误差建模与预测方法［Ｊ］．机床与液压，２０２０，４８（２３）：８８－９２．ＤＵＬｉｕｑｉｎｇ，ＹＵＹｏｎｇｗｅｉ．ＴｈｅｒｍａｌＥｒｒｏｒＭｏｄｅｌｉｎｇａｎｄＰｒｅｄｉｃｔｉｏｎｆｏｒＮＣＭａｃｈｉｎｅＴｏｏｌｓＢａｓｅｄｏｎＳｅｑｕｅｎｃｅＤｅｅｐＬｅａｒｎｉｎｇ［Ｊ］．ＭａｃｈｉｎｅＴｏｏｌ＆Ｈｙｄｒａｕｌｉｃｓ，２０２０，４８（２３）：８８－９２．收稿日期：２０１９－０９－０８基金项目：国家自然科学基金面上项目（５１７７５０７４）；重庆市重点产业共性关键技术创新重点研发项目（ｃｓｔｃ２０１７ｚｄｃｙ－ｚｄｙ⁃ｆＸ００６６；ｃｓｔｃ２０１７ｚｄｃｙ－ｚｄｙｆＸ００７３）；重庆市基础研究与前沿探索项目（ｃｓｔｃ２０１８ｊｃｙｊＡＸ０３５２）作者简介：杜柳青（１９７５ ），女，博士，教授，研究方向为智能制造㊁机床精度设计㊂Ｅ－ｍａｉｌ：ｌｑｄｕ＠ｃｑｕｔ ｅｄｕ ｃｎ㊂基于序列深度学习的数控机床热误差建模与预测方法杜柳青，余永维（重庆理工大学机械工程学院，重庆４０００５４）摘要：为提高数控机床热误差预测的准确性和适应性，提出一种基于序列深度学习网络的数控机床热误差建模和预测方法㊂提出一种基于ＬＳＴＭ的序列深度学习预测网络，构建包含历史序列数据的动态数据矩阵为模型输入；通过截断式训练方法降低深度预测网络中每项参数更新的复杂度，利用序列深度学习网络自动提取温度时间序列的时空特征，准确表征温度序列信号与热误差之间复杂的映射关系，采用Ｓｏｆｔｍａｘ输出层对热误差进行准确预测㊂实验结果表明：该方法解决了传统浅层方法因未考虑历史序列数据对当前输出的影响而存在的预测精度不高㊁鲁棒性差等问题，将热误差预测的均方根误差降低到２ ５μｍ以内，优于传统的ＳＶＭ和ＢＰ等浅层神经网络预测方法，为数控机床热误差补偿提供了参考㊂关键词：数控机床；热误差；预测；序列深度学习；神经网络中图分类号：ＴＧ６５９；ＴＰ３９１ＴｈｅｒｍａｌＥｒｒｏｒＭｏｄｅｌｉｎｇａｎｄＰｒｅｄｉｃｔｉｏｎｆｏｒＮＣＭａｃｈｉｎｅＴｏｏｌｓＢａｓｅｄｏｎＳｅｑｕｅｎｃｅＤｅｅｐＬｅａｒｎｉｎｇＤＵＬｉｕｑｉｎｇ，ＹＵＹｏｎｇｗｅｉ（ＣｏｌｌｅｇｅｏｆＭｅｃｈａｎｉｃａｌＥｎｇｉｎｅｅｒｉｎｇ，ＣｈｏｎｇｑｉｎｇＵｎｉｖｅｒｓｉｔｙｏｆＴｅｃｈｎｏｌｏｇｙ，Ｃｈｏｎｇｑｉｎｇ４０００５４，Ｃｈｉｎａ）Ａｂｓｔｒａｃｔ：ＩｎｏｒｄｅｒｔｏｉｍｐｒｏｖｅｔｈｅａｃｃｕｒａｃｙａｎｄａｄａｐｔａｂｉｌｉｔｙｏｆｔｈｅｒｍａｌｅｒｒｏｒｐｒｅｄｉｃｔｉｏｎｆｏｒＮＣｍａｃｈｉｎｅｔｏｏｌｓ，ａｔｈｅｒｍａｌｅｒｒｏｒｍｏｄｅｌｉｎｇａｎｄｐｒｅｄｉｃｔｉｏｎｍｅｔｈｏｄｆｏｒＮＣｍａｃｈｉｎｅｔｏｏｌｓｂａｓｅｄｏｎｓｅｑｕｅｎｃｅｄｅｅｐｌｅａｒｎｉｎｇｎｅｔｗｏｒｋｗａｓｐｒｏｐｏｓｅｄ．Ａｓｅｑｕｅｎｃｅｄｅｅｐｌｅａｒｎ⁃ｉｎｇｐｒｅｄｉｃｔｉｏｎｎｅｔｗｏｒｋｂａｓｅｄｏｎＬＳＴＭｗａｓｐｒｅｓｅｎｔｅｄ．Ｔｈｅｄｙｎａｍｉｃｄａｔａｍａｔｒｉｘｃｏｎｔａｉｎｉｎｇｈｉｓｔｏｒｉｃａｌｓｅｑｕｅｎｃｅｄａｔａｗａｓｅｓｔａｂｌｉｓｈｅｄａｓｉｎｐｕｔｏｆｔｈｅｍｏｄｅｌ．Ｔｈｅｔｒｕｎｃａｔｅｄｔｒａｉｎｉｎｇｍｅｔｈｏｄｗａｓｕｓｅｄｔｏｒｅｄｕｃｅｔｈｅｃｏｍｐｌｅｘｉｔｙｏｆｅａｃｈｐａｒａｍｅｔｅｒｕｐｄａｔｅｉｎｔｈｅｄｅｅｐｐｒｅｄｉｃｔｉｏｎｎｅｔｗｏｒｋ．Ｔｈｅｔｉｍｉｎｇｆｅａｔｕｒｅｏｆｔｈｅｔｅｍｐｅｒａｔｕｒｅｔｉｍｅｓｅｑｕｅｎｃｅｗａｓａｕｔｏｍａｔｉｃａｌｌｙｅｘｔｒａｃｔｅｄｂｙｕｓｉｎｇｔｈｅｓｅｑｕｅｎｃｅｄｅｅｐｌｅａｒｎｉｎｇｎｅｔｗｏｒｋ，ａｎｄｔｈｅｃｏｍｐｌｅｘｍａｐｐｉｎｇｒｅｌａｔｉｏｎｓｈｉｐｂｅｔｗｅｅｎｔｅｍｐｅｒａｔｕｒｅｓｅｑｕｅｎｃｅｓｉｇｎａｌａｎｄｔｈｅｒｍａｌｅｒｒｏｒｗａｓａｃｃｕｒａｔｅｌｙｃｈａｒａｃｔｅｒｉｚｅｄ．Ｔｈｅｒｍａｌｅｒ⁃ｒｏｒｗａｓａｃｃｕｒａｔｅｌｙｐｒｅｄｉｃｔｅｄｔｈｒｏｕｇｈｔｈｅＳｏｆｔｍａｘｏｕｔｐｕｔｌａｙｅｒ．Ｔｈｅｅｘｐｅｒｉｍｅｎｔａｌｒｅｓｕｌｔｓｓｈｏｗｔｈａｔｂｙｔｈｉｓｍｅｔｈｏｄ，ｔｈｅｐｒｏｂｌｅｍｓｏｆｌｏｗａｃｃｕｒａｃｙａｎｄｐｏｏｒｒｏｂｕｓｔｎｅｓｓｏｆｔｈｅｔｒａｄｉｔｉｏｎａｌｓｈａｌｌｏｗｍｅｔｈｏｄｂｅｃａｕｓｅｉｔｄｏｅｓｎｏｔｃｏｎｓｉｄｅｒｔｈｅｉｎｆｌｕｅｎｃｅｏｆｈｉｓｔｏｒｉｃａｌｓｅｑｕｅｎｃｅｄａｔａｏｎｔｈｅｃｕｒｒｅｎｔｏｕｔｐｕｔａｒｅｓｏｌｖｅｄ，ａｎｄｔｈｅｒｏｏｔｍｅａｎｓｑｕａｒｅｅｒｒｏｒｏｆｔｈｅｒｍａｌｅｒｒｏｒｐｒｅｄｉｃｔｉｏｎｉｓｒｅｄｕｃｅｄｔｏｌｅｓｓｔｈａｎ２ ５μｍ．ＴｈｅｐｒｏｐｏｓｅｄｍｅｔｈｏｄｉｓｂｅｔｔｅｒｔｈａｎｔｈｅｔｒａｄｉｔｉｏｎａｌＳＶＭａｎｄＢＰｐｒｅｄｉｃｔｉｏｎｍｅｔｈｏｄｓ．ＩｔｐｒｏｖｉｄｅｓｒｅｆｅｒｅｎｃｅｆｏｒｔｈｅｒｍａｌｅｒｒｏｒｃｏｍｐｅｎｓａｔｉｏｎｏｆＮＣｍａ⁃ｃｈｉｎｅｔｏｏｌｓ．Ｋｅｙｗｏｒｄｓ：ＮＣｍａｃｈｉｎｅｔｏｏｌ；Ｔｈｅｒｍａｌｅｒｒｏｒ；Ｐｒｅｄｉｃｔｉｏｎ；Ｓｅｑｕｅｎｃｅｄｅｅｐｌｅａｒｎｉｎｇ；Ｎｅｕｒａｌｎｅｔｗｏｒｋ０㊀前言据统计，在精密加工中由于热变形引起的加工误差占比达４０％ ７０％，热误差的合理建模与准确预测是后续实时热补偿工作的前提［１］㊂由于热误差本身具有准静态时变㊁非线性㊁衰减延迟及耦合等特征，热误差建模是目前机床精度领域的研究难点［２－３］㊂目前常用的热误差建模方法为结合统计理论的实验建模法［４］以及浅层神经网络理论（ＢＰ网络㊁ＲＢＦ网络）［５－６］㊁支持向量机［７］㊁灰色系统理论［８］等㊂用上述传统方法建立起来的热误差数学模型存在的不足之处在于：一是没有考虑历史数据对当前输出的影响，模型鲁棒性不强；二是浅层模型对于大数据环境下监测信息与热误差之间复杂的时序映射关系表达尚有难度㊂近年来，深度学习技术在人工智能领域掀起了一场革命，是人工智能科学最重要的成就之一［９－１１］㊂深度学习以数据驱动和能完全自动地从海量数据中学习到数据中蕴含的抽象的知识表达，对于非结构化㊁模式不明多变㊁跨领域的数据分析优势极其明显［１２－１３］㊂此外，与时序相关联的序列深度学习网络在学习新信息的同时还能保持历史信息，即能够动态记忆历史信息，自动提取动态序列的时空特征［１４－１６］㊂数控机床热误差是一个动态的时间序列，温度及热误差的演化过程是渐变的，当前的状态与历史状态相互关联㊂鉴于此，本文作者提出基于序列深度学习网络的数控机床热误差预测模型，充分发挥ＬＳＴＭ深度网络挖掘时间序列前后关联信息的优势，构建包含历史序列数据的动态数据矩阵为模型输入，自动提取数控机床温度及热误差序列深层时空特征，准确表征监测温度信号与热误差之间复杂的映射关系，既考虑了历史数据影响又具有深度学习网络的特征自学习优势，显著提高了热误差预测与补偿精度和模型鲁棒性㊂１㊀序列深度学习网络模型构造方法长短时记忆（ＬｏｎｇＳｈｏｒｔ⁃ＴｅｒｍＭｅｍｏｒｙ，ＬＳＴＭ）网络是一种全互连的循环式神经网络（ＲｅｃｕｒｒｅｎｔＮｅｕｒａｌＮｅｔｗｏｒｋｓ，ＲＮＮｓ），神经元之间存在反馈连接，即具有 时间参数 ，能够动态记忆历史信息，处理动态数据，将数控机床温度及热误差的当前状态与历时状态相关联㊂长短时记忆ＬＳＴＭ单元结构如图１所示㊂图１㊀ＬＳＴＭ单元结构ＬＳＴＭ隐含层的节点为存储单元，其由输入门ｉ㊁输出门ｏ㊁遗忘门ｆ和记忆细胞ｃ组成㊂ＬＳＴＭ通过以上门控单元来控制历史信息对当前信息的影响程度，使得网络模型能够较长时间保存并传递信息㊂在当前ｔ时刻，ＬＳＴＭ的输出值ｈｔ与当前时刻的输入Ｘｔ㊁前一时刻ＬＳＴＭ单元的输出ｈｔ－１㊁前一时刻细胞状态ｃｔ－１有关㊂ｔ时刻，ＬＳＴＭ的输出值ｈｔ为ｈｔ＝ｏｔʎｔａｎｈ（ｃｔ）（１）式中：ｏｔ㊁ｃｔ分别为输出门状态及记忆细胞当前状态，ｔａｎｈ表示激活函数ｔａｎｈ，ʎ表示按元素相乘㊂ｏｔ＝σ（Ｗｏ㊃ｈｔ－１＋Ｗｏ㊃ｘｔ＋ｂｏ）（２）ｃｔ＝ｆｔʎｃｔ－１＋ｉｔʎｔａｎｈ（Ｗｃ㊃ｈｔ－１＋Ｗｃ㊃ｘｔ＋ｂｃ）（３）式中：ｆｔ㊁ｉｔ分别为遗忘门㊁输入门的状态；Ｗｏ为输出门的权值矩阵；ｂｏ为输出单元状态的偏置；Ｗｃ为输入单元状态的权值矩阵；ｂｃ为输入单元状态的偏置㊂当输入Ｘ为数控机床温度序列㊁热误差序列等连续时间序列时，将ＬＳＴＭ的反馈结构在时间维度上展开，在每一时刻，ＬＳＴＭ被展开成一个深度学习网络中的一层，随着时间的不断运行，网络的深度可以无限深，即形成无限序列深度学习网络㊂如图２所示为具有２个隐层的ＬＳＴＭ网络在时间维度上形成的无限序列深度学习网络㊂图２㊀基于ＬＳＴＭ的序列深度学习网络２㊀基于序列深度学习网络的数控机床热误差预测方法ＬＳＴＭ序列深度学习网络本质上是一个动力学系统，网络状态随时间演化是这种网络的本质属性，其耦合了 时间参数 ，能完全自动地从海量时序数据中学习到数据中蕴含的抽象知识表达㊂而数控机床热误差是一个动态的时间序列，当前状态与历史状态相互关联㊂因此，数控机床温度及热误差序列时序与序列深度学习网络特性高度契合，有利于实现热误差动态行为演化及预测㊂２ １㊀深度学习热误差预测模型基于ＬＳＴＭ序列深度学习网络的数控机床热误差预测模型如图３所示，其包括输入层㊁隐藏层和输出层㊂输入层以各温度敏感点的温度时间序列为自变量；输出为ｓｏｆｔｍａｘ层，其以主轴热误差为输出变量；隐藏层基于ＬＳＴＭ在时间维度展开形成序列深度学习网络，自动提取温度监测序列时空特征，挖掘大数据下监测信号与热误差之间复杂的映射关系㊂图３㊀基于ＬＳＴＭ序列深度学习网络的数控机床热误差预测模型㊃９８㊃第２３期杜柳青等：基于序列深度学习的数控机床热误差建模与预测方法㊀㊀㊀深度学习预测模型需要确定模型的输入层时间步数Ｌ㊁隐藏层数ｓ㊁每个隐藏层节点数ｒ等超参数㊂本文作者以Ｌ㊁ｓ与ｒ参数构成一个３维搜索空间，通过多层网格搜索算法，以测试集全部测试点上的预测误差最小为参数优选依据，判断并确定以上参数㊂２ ２㊀输入矩阵构建输入层以各热误差敏感点的温度时间序列为输入，输入层维数与热误差敏感点数ｍ一致㊂采用模糊聚类方法确定数控机床ｍ个温度敏感点，则获得ｍ个量纲一化的温度时间序列Ｘ１㊁Ｘ２㊁．．．．．．㊁Ｘｐ㊁．．．．．．㊁Ｘｍ，其中Ｘｐ＝｛Ｘｐ１，Ｘｐ２，．．．．．．｝㊂在ｔ时刻，构造预测模型的输入矩阵Ｘ：Ｘ＝Ｘ１ｔＸ２ｔＸｍｔéëêêêêêùûúúúúú＝ｘ１，ｔｘ１，ｔ－１ｘ１，ｔ－２ ｘ１，ｔ－Ｌ＋１ｘ２，ｔｘ２，ｔ－１ｘ２，ｔ－２ ｘ２，ｔ－Ｌ＋１ｘｍ，ｔｘｍ，ｔ－１ｘｍ，ｔ－２ｘｍ，ｔ－Ｌ＋１éëêêêêêùûúúúúú式中：Ｌ为输入层的时间步数㊂输出层为ｓｏｆｔｍａｘ层，与隐藏层之间为全连接㊂输出层变量维数ｎ与根据历史信息所预测的变量数相同，本文作者预测数控机床主轴在径向方向和轴向方向的３个热误差值：ｅｘ㊁ｅｙ㊁ｅｚ，因此输出变量维数ｎ为３㊂２ ３㊀深度学习预测模型训练方法采用传统ＢＰＴＴ（ＢａｃｋＰｒｏｐａｇａｔｉｏｎＴｈｒｏｕｇｈＴｉｍｅ）方法训练ＬＳＴＭ网络时对运算能力要求相当高，本文作者提出截断式训练策略，降低ＬＳＴＭ网络中每项参数更新的复杂度，即将正向和反向传递拆分为一系列较小时间段的正向／反向传递操作，在相同运算能力下提高参数更新的频率，具体实现方法如下：（１）设置截断式ＢＰＴＴ传递的长度，时间段长度Ｈ一般设定为５０ １００，为简化计算，正向传递与反向传递的时间长度设为相同㊂（２）在时间段长度Ｈ内，根据公式（１） （３）前向计算ＬＳＴＭ每个神经元的输出值，即ｆｔ㊁ｉｔ㊁ｏｔ㊁ｃｔ㊁ｈｔ５个向量的值㊂（３）在时间段长度Ｈ内，反向计算每个神经元的误差项值㊂ＬＳＴＭ误差项的反向传播包括２个方向：一个是沿时序方向反向传播；一个是沿网络方向向上一层传播㊂（４）根据相应的误差项δｔ，计算每个权重的梯度㊂在时间段长度Ｈ内，沿时间方向各权重的最终梯度是各个时刻梯度之和：ＥＷｈ＝ðｔｊ＝１δｊｈｊ－１（４）沿网络方向的权重梯度为 ＥＷｘ＝δｔｘｔ（５）式中：δｔ为相应的误差项；ｈｊ－１为上一时刻输入；ｘｔ为当前时刻输入㊂（５）更新每个权值权值更新算法为ｗｎｅｗ＝ｗｏｌｄ＋α㊃Δｗ（６）式中：α为学习效率；Δｗ为网络性能函数在权值空间内的梯度㊂３ 实验及分析基于序列深度学习网络的数控机床热误差建模与预测原理，以对一台龙门加工中心的热误差进行建模与预测验证本文作者所提方法㊂该机床由床身㊁滑座（ｘ轴导轨）㊁工作台㊁立柱㊁横梁（ｗ轴导轨）㊁溜板（ｙ轴导轨）㊁主轴箱（ｚ轴导轨）㊁主轴等结构件组成㊂工作台固定在滑座上；滑座带动工作台在导轨上沿机床床身做ｘ向运动；立柱固定在床身上；横梁在导轨上沿立柱做ｗ向运动；溜板在导轨上沿横梁做ｙ向运动；主轴箱在导轨上沿立柱上做ｚ向运动㊂３ １㊀数据采集根据该龙门加工中心的结构㊁工况及热源等，在主轴㊁各进给轴丝杆螺母副㊁床身㊁冷却液㊁工作环境等处设置１８个温度测点㊂采用模糊聚类方法最终确定４个测点为热误差关键敏感点，分别为导轨静压油测点㊁冷却液回流测点㊁主轴电动机测点和工作环境㊂测量龙门加工中心主轴在径向方向和轴向方向的３个热误差值：ｅｘ㊁ｅｙ㊁ｅｚ，测量方式如图４所示㊂图４㊀龙门加工中心主轴热误差测量方式模拟龙门加工中心连续循环加工状态㊁主轴旋转㊁进给轴移动㊁冷却液循环，但不实际切削㊂数据采集分上下午进行，采集前将龙门加工中心预热０ ５ｈ，中午停止采集１ｈ，但不停机，下午继续采集数据，每隔５ｍｉｎ记录一次各温度传感器的数值和主轴位移传感器的数值，共采集２２０组温度及热误差数据作为样本时序数据，其中前１９０组数据为训练样本，其余为测试样本㊂对所采集温度数据和热误差数据进行量纲一化处理㊂温度数据与热误差数据之间具有较大数量级差别，对样本数据进行量纲一化处理，将输入数据量纲㊃０９㊃机床与液压第４８卷一化到区间［０，１］，量纲一化公式为ｘｉ＝ａｉ－ａｍｉｎａｍａｘ－ａｍｉｎ（７）深度学习预测模型输出的热误差值需进行去归一化处理，计算出实际的热误差预测值，去归一化公式为ａᵡｉ＝ａｉ（ａｍａｘ－ａｍｉｎ）＋ａｍｉｎ（８）式中：ｘｉ为各样本数据归一化后的值；ａᵡｉ为热误差预测数据去归一化后的值；ａｉ为各样本数据原始值；ａｍａｘ和ａｍｉｎ分别为各类型样本数据的最小值和最大值㊂３ ２㊀深度学习预测模型参数确定输入层维数与热误差敏感点数ｍ一致，为４㊂在ｔ时刻，预测模型的输入Ｘ为Ｘ＝Ｘ１ｔＸ２ｔＸ３ｔＸ４ｔéëêêêêêùûúúúúú＝ｘ１，ｔｘ１，ｔ－１ｘ１，ｔ－２ ｘ１，ｔ－１１ｘ２，ｔｘ２，ｔ－１ｘ２，ｔ－２ ｘ２，ｔ－１１ｘ３，ｔｘ３，ｔ－１ｘ３，ｔ－２ ｘ３，ｔ－１１ｘ４，ｔｘ４，ｔ－１ｘ４，ｔ－２ ｘ４，ｔ－１１éëêêêêêùûúúúúú（９）机床主轴在径向方向和轴向方向的３个热误差值为ｅｘ㊁ｅｙ㊁ｅｚ，因此输出变量维数ｎ为３，在ｔ时刻预测输出为ｙｔ＝（ｅｘｔ，ｅｙｔ，ｅｚｔ）㊂采用多层网格搜索方法，优化输入层时间步数㊁隐藏层数等超参数㊂当输入层时间步数Ｌ＝１２㊁隐藏层数ｓ＝２㊁每个隐藏层节点数ｒ＝２８㊁学习率为０ １时，预测模型的训练集拟合精度最高㊂对预测模型中权重矩阵按均值为０㊁方差为１的高斯分布随机初始化，偏置项均初始化为０㊂采用截断式ＢＰＴＴ方法，时间段长度Ｈ设定为５０，正向测试新得到的各层权值参数；反向修正预训练获得的初始权值；如此反复，迭代５０６次时，模型预测的均方根误差收敛㊂经过训练和调优，完成预测模型构建并获得各模型参数㊂再将实时检测的一系列温度数据输入该模型以预测对应的主轴热误差值㊂３ ３㊀结果分析采用均方根误差ＲＭＳＥ和平均绝对百分比误差ＭＡＰＥ作为指标对模型预测准确度进行评价，均方根误差ＲＭＳＥ定义为ＥＲＭＳＥ＝１ＮðＮｔ＝１（ｙｔ－＾ｙｔ）２平均绝对百分比误差ＭＡＰＥ定义为ＥＭＡＰＥ＝１ＮðＮｉ＝１ｙｉ－＾ｙｉｙｉˑ１００％式中：ｙｔ为热误差实际值；＾ｙ为模型的热误差预测值；Ｎ为热误差总个数；ｔ为热误差序号㊂实时测量３０组该龙门加工中心关键热源点温度数据，输入到该深度学习预测网络预测主轴热误差，获得了高精度的热误差预测结果，如图５ ７所示㊂模型预测的３个方向热误差均方根误差为２ ２５μｍ，平均绝对百分比误差为８ ５％，补偿后的ｘ㊁ｙ㊁ｚ方向的最大残差分别为２ １㊁２５㊁３ ２μｍ㊂实时数据预测与训练样本数据预测的性能指标基本一致，说明基于序列深度学习网络的热误差预测模型具有非常好的泛化能力㊂图５㊀主轴ｘ方向热误差预测及补偿后残差图６㊀主轴ｙ方向热误差预测及补偿后残差图７㊀主轴ｚ方向热误差预测及补偿后残差利用该龙门数控机床数据样本构建传统支持向量机ＳＶＭ预测模型和ＢＰ神经网络预测模型㊂ＳＶＭ预测模型和ＢＰ预测模型的主轴ｚ方向热误差预测值如图８所示，二者均方根误差分别为４ ７μｍ和５ ２μｍ，平均绝对百分比误差分别为２１％和３２％，显然本文作者所提方法比传统方法预测精度更高，鲁棒性更好㊂图８㊀ＳＶＭ模型和ＢＰ模型的主轴ｚ方向热误差预测效果㊃１９㊃第２３期杜柳青等：基于序列深度学习的数控机床热误差建模与预测方法㊀㊀㊀为进一步验证本文作者所提方法的有效性及适应性，应用该方法对加工中心㊁数控车床㊁高速数控磨床等１０台数控机床作热误差建模与补偿实验，均得到了比较准确的预测和补偿结果，预测平均绝对百分比误差为８ ３６％，补偿后最大残差为３ ６１μｍ，各机床实验效果如表１所示㊂表１㊀各机床预测及补偿效果机床编号预测平均绝对百分比误差／％补偿后最大残差／μｍ机床编号预测平均绝对百分比误差／％补偿后最大残差／μｍ１７．８５２．５６６７．３５２．２９２８．０３３．１２７８．１６３．３３３８．１２３．５５８８．２２３．１８４７．９２３．０６９７．８１２．８９５７．５６２．４９１０８．３６３．６１４㊀结论利用深度学习网络强大的时序特征自动提取能力，提出了一种基于序列深度学习网络的数控机床热误差建模和预测方法，解决了传统方法因未考虑历史序列数据对当前输出的影响而存在的预测精度不高㊁鲁棒性差等问题㊂实验证明，该方法具有较高的热误差预测精度和鲁棒性，热误差预测的均方根误差降低到２ ５μｍ以内，远优于传统的ＳＶＭ和ＢＰ预测方法，为数控机床热误差补偿技术提供了一种更有效的建模方法㊂参考文献：［１］ＰＥＫＬＥＮＩＫＪ，ＪＥＲＥＬＥＡ．Ｓｏｍｅｂａｓｉｃｒｅｌａｔｉｏｎｓｈｉｐｓｆｏｒｉｄｅｎｔｉｆｉｃａｔｉｏｎｏｆｔｈｅｍａｃｈｉｎｉｎｇｐｒｏｃｅｓｓｅｓ［Ｊ］．ＣＩＲＰＡｎ⁃ｎａｌｓ，１９９２，４１（１）：１５５－１５９．［２］ＹＡＮＧＺＹ，ＳＵＮＭＬ，ＬＩＷＱ，ｅｔａｌ．ＭｏｄｉｆｉｅｄＥｌｍａｎｎｅｔ⁃ｗｏｒｋｆｏｒｔｈｅｒｍａｌｄｅｆｏｒｍａｔｉｏｎｃｏｍｐｅｎｓａｔｉｏｎｍｏｄｅｌｉｎｇｉｎｍａ⁃ｃｈｉｎｅｔｏｏｌｓ［Ｊ］．ＴｈｅＩｎｔｅｒｎａｔｉｏｎａｌＪｏｕｒｎａｌｏｆＡｄｖａｎｃｅｄＭａｎ⁃ｕｆａｃｔｕｒｉｎｇＴｅｃｈｎｏｌｏｇｙ，２０１１，５４（５／６／７／８）：６６９－６７６．［３］ＧＵＯＱＪ，ＹＡＮＧＪＧ．Ａｐｐｌｉｃａｔｉｏｎｏｆｐｒｏｊｅｃｔｉｏｎｐｕｒｓｕｉｔｒｅ⁃ｇｒｅｓｓｉｏｎｔｏｔｈｅｒｍａｌｅｒｒｏｒｍｏｄｅｌｉｎｇｏｆａＣＮＣｍａｃｈｉｎｅｔｏｏｌ［Ｊ］．ＴｈｅＩｎｔｅｒｎａｔｉｏｎａｌＪｏｕｒｎａｌｏｆＡｄｖａｎｃｅｄＭａｎｕｆａｃｔｕｒｉｎｇＴｅｃｈｎｏｌｏｇｙ，２０１１，５５（５／６／７／８）：６２３－６２９．［４］ＬＵＹＸ，ＩＳＬＡＭＭＮ．Ａｎｅｗａｐｐｒｏａｃｈｔｏｔｈｅｒｍａｌｌｙｉｎｄｕｃｅｄｖｏｌｕｍｅｔｒｉｃｅｒｒｏｒｃｏｍｐｅｎｓａｔｉｏｎ［Ｊ］．ＴｈｅＩｎｔｅｒｎａｔｉｏｎａｌＪｏｕｒｎａｌｏｆＡｄｖａｎｃｅｄＭａｎｕｆａｃｔｕｒｉｎｇＴｅｃｈｎｏｌｏｇｙ，２０１２，６２（９／１０／１１／１２）：１０７１－１０８５．［５］ＹＡＮＧＪ，ＳＨＩＨ，ＦＥＮＧＢ，ｅｔａｌ．Ａｐｐｌｙｉｎｇｎｅｕｒａｌｎｅｔｗｏｒｋｂａｓｅｄｏｎｆｕｚｚｙｃｌｕｓｔｅｒｐｒｅ⁃ｐｒｏｃｅｓｓｉｎｇｔｏｔｈｅｒｍａｌｅｒｒｏｒｍｏｄ⁃ｅｌｉｎｇｆｏｒｃｏｏｒｄｉｎａｔｅｂｏｒｉｎｇｍａｃｈｉｎｅ［Ｊ］．ＰｒｏｃｅｄｉａＣＩＲＰ，２０１４，１７：６９８－７０３．［６］ＭＩＺＥＣＤ，ＺＩＥＧＥＲＴＪＣ．Ｎｅｕｒａｌｎｅｔｗｏｒｋｔｈｅｒｍａｌｅｒｒｏｒｃｏｍｐｅｎｓａｔｉｏｎｏｆａｍａｃｈｉｎｉｎｇｃｅｎｔｅｒ［Ｊ］．ＰｒｅｃｉｓｉｏｎＥｎｇｉ⁃ｎｅｅｒｉｎｇ，２０００，２４（４）：３３８－３４６．［７］苗恩铭，龚亚运，成天驹，等．支持向量回归机在数控加工中心热误差建模中的应用［Ｊ］．光学精密工程，２０１３，２１（４）：９８０－９８６．ＭＩＡＯＥＭ，ＧＯＮＧＹＹ，ＣＨＥＮＧＴＪ，ｅｔａｌ．Ａｐｐｌｉｃａｔｉｏｎｏｆｓｕｐｐｏｒｔｖｅｃｔｏｒｒｅｇｒｅｓｓｉｏｎｍａｃｈｉｎｅｔｏｔｈｅｒｍａｌｅｒｒｏｒｍｏｄｅｌ⁃ｌｉｎｇｏｆｍａｃｈｉｎｅｔｏｏｌｓ［Ｊ］．ＯｐｔｉｃｓａｎｄＰｒｅｃｉｓｉｏｎＥｎｇｉｎｅｅｒｉｎｇ，２０１３，２１（４）：９８０－９８６．［８］张毅，杨建国．基于灰色理论预处理的神经网络机床热误差建模［Ｊ］．机械工程学报，２０１１，４７（７）：１３４－１３９．ＺＨＡＮＧＹ，ＹＡＮＧＪＧ．Ｍｏｄｅｌｉｎｇｆｏｒｍａｃｈｉｎｅｔｏｏｌｔｈｅｒｍａｌｅｒｒｏｒｂａｓｅｄｏｎｇｒｅｙｍｏｄｅｌｐｒｅｐｒｏｃｅｓｓｉｎｇｎｅｕｒａｌｎｅｔｗｏｒｋ［Ｊ］．ＪｏｕｒｎａｌｏｆＭｅｃｈａｎｉｃａｌＥｎｇｉｎｅｅｒｉｎｇ，２０１１，４７（７）：１３４－１３９．［９］ＶＩＮＣＥＮＴＰ，ＬＡＲＯＣＨＥＬＬＥＨ，ＬＡＪＯＩＥＩ，ｅｔａｌ．Ｓｔａｃｋｅｄｄｅｎｏｉｓｉｎｇａｕｔｏｅｎｃｏｄｅｒｓ：ｌｅａｒｎｉｎｇｕｓｅｆｕｌｒｅｐｒｅｓｅｎｔａｔｉｏｎｓｉｎａｄｅｅｐｎｅｔｗｏｒｋｗｉｔｈａｌｏｃａｌｄｅｎｏｉｓｉｎｇｃｒｉｔｅｒｉｏｎ［Ｊ］．ＪｏｕｒｎａｌｏｆＭａｃｈｉｎｅＬｅａｒｎｉｎｇＲｅｓｅａｒｃｈ，２０１０，１１：３３７１－３４０８．［１０］ＢＥＮＧＩＯＹ．ＬｅａｒｎｉｎｇｄｅｅｐａｒｃｈｉｔｅｃｔｕｒｅｓｆｏｒＡＩ［Ｊ］．Ｆｏｕｎ⁃ｄａｔｉｏｎｓａｎｄＴｒｅｎｄｓ®ｉｎＭａｃｈｉｎｅＬｅａｒｎｉｎｇ，２００９，２（１）：１－１２７．［１１］余永维，殷国富，殷鹰，等．基于深度学习网络的射线图像缺陷识别方法［Ｊ］．仪器仪表学报，２０１４，３５（９）：２０１２－２０１９．ＹＵＹＷ，ＹＩＮＧＦ，ＹＩＮＹ，ｅｔａｌ．Ｄｅｆｅｃｔｒｅｃｏｇｎｉｔｉｏｎｆｏｒｒａ⁃ｄｉｏｇｒａｐｈｉｃｉｍａｇｅｂａｓｅｄｏｎｄｅｅｐｌｅａｒｎｉｎｇｎｅｔｗｏｒｋ［Ｊ］．Ｃｈｉ⁃ｎｅｓｅＪｏｕｒｎａｌｏｆＳｃｉｅｎｔｉｆｉｃＩｎｓｔｒｕｍｅｎｔ，２０１４，３５（９）：２０１２－２０１９．［１２］ＨＩＮＴＯＮＧＥ，ＳＡＬＡＫＨＵＴＤＩＮＯＶＲＲ．Ｒｅｄｕｃｉｎｇｔｈｅｄｉ⁃ｍｅｎｓｉｏｎａｌｉｔｙｏｆｄａｔａｗｉｔｈｎｅｕｒａｌｎｅｔｗｏｒｋｓ［Ｊ］．Ｓｃｉｅｎｃｅ，２００６，３１３（５７８６）：５０４－５０７．［１３］余永维，杜柳青，曾翠兰，等．基于深度学习特征匹配的铸件微小缺陷自动定位方法［Ｊ］．仪器仪表学报，２０１６，３７（６）：１３６４－１３７０．ＹＵＹＷ，ＤＵＬＱ，ＺＥＮＧＣＬ，ｅｔａｌ．Ａｕｔｏｍａｔｉｃｌｏｃａｌｉｚａｔｉｏｎｍｅｔｈｏｄｏｆｓｍａｌｌｃａｓｔｉｎｇｄｅｆｅｃｔｂａｓｅｄｏｎｄｅｅｐｌｅａｒｎｉｎｇｆｅａ⁃ｔｕｒｅ［Ｊ］．ＣｈｉｎｅｓｅＪｏｕｒｎａｌｏｆＳｃｉｅｎｔｉｆｉｃＩｎｓｔｒｕｍｅｎｔ，２０１６，３７（６）：１３６４－１３７０．［１４］ＨＯＣＨＲＥＩＴＥＲＳ，ＳＣＨＭＩＤＨＵＢＥＲＪ．Ｌｏｎｇｓｈｏｒｔ⁃ｔｅｒｍｍｅｍｏｒｙ［Ｊ］．ＮｅｕｒａｌＣｏｍｐｕｔａｔｉｏｎ，１９９７，９（８）：１７３５－１７８０．［１５］ＧＥＲＳＦＡ，ＳＣＨＭＩＤＨＵＢＥＲＪ，ＣＵＭＭＩＮＳＦ．Ｌｅａｒｎｉｎｇｔｏｆｏｒｇｅｔ：ｃｏｎｔｉｎｕａｌｐｒｅｄｉｃｔｉｏｎｗｉｔｈＬＳＴＭ［Ｊ］．ＮｅｕｒａｌＣｏｍｐｕ⁃ｔａｔｉｏｎ，２０００，１２（１０）：２４５１－２４７１．［１６］张子祥，李粉霞．数控机床热误差建模及预测方法分析［Ｊ］．机床与液压，２０１９，４７（１３）：５９－６３．ＺＨＡＮＧＺＸ，ＬＩＦＸ．Ｔｈｅｒｍａｌｅｒｒｏｒｍｏｄｅｌｉｎｇａｎｄｐｒｅｄｉｃ⁃ｔｉｏｎｍｅｔｈｏｄａｎａｌｙｓｉｓｏｆＣＮＣｍａｃｈｉｎｅｔｏｏｌｓ［Ｊ］．ＭａｃｈｉｎｅＴｏｏｌ＆Ｈｙｄｒａｕｌｉｃｓ，２０１９，４７（１３）：５９－６３．（责任编辑：张楠）㊃２９㊃机床与液压第４８卷。
基于深度学习的时间序列预测方法综述
基于深度学习的时间序列预测方法综述引言时间序列预测是一项重要的研究领域，它可以应用于经济、金融、气象和交通等领域，对于趋势分析、波动预测和决策制定具有重要意义。
近年来，深度学习技术的发展为时间序列预测带来了新的机会和挑战。
本文将综述基于深度学习的时间序列预测方法，讨论其优点和局限性，并展望未来发展方向。
一、传统时间序列预测方法在深度学习方法兴起之前，传统的时间序列预测方法主要依赖于统计学模型，如ARIMA模型、GARCH模型和指数平滑模型等。
这些方法在某些场景下表现良好，但面对复杂的非线性关系和大规模数据时效果欠佳。
二、深度学习的时间序列预测方法1. 循环神经网络（RNN）循环神经网络是一种适用于处理序列数据的深度学习模型。
它通过引入记忆单元，可以捕捉到序列数据之间的依赖关系。
其中，长短期记忆网络（LSTM）和门控循环单元（GRU）是常用的RNN变种。
它们在时间序列预测中表现出色，能够有效地处理长期依赖问题。
2. 卷积神经网络（CNN）卷积神经网络主要用于图像处理和语音识别领域，然而，它也被引入时间序列预测中。
CNN通过卷积和池化层来提取序列中的局部特征，并通过全连接层进行预测。
相比于传统的基于滑动窗口的方法，CNN能够自动学习到更复杂的特征，并具有更好的预测性能。
3. 自编码器（AE）自编码器是一种无监督学习的深度神经网络，用于学习输入数据的低维表示。
在时间序列预测中，自编码器可以通过对输入序列进行重构来实现预测。
它们能够从输入数据中提取出有用的特征，并捕捉到数据的时序信息。
4. 生成对抗网络（GAN）生成对抗网络由生成器和判别器组成，通过对抗的方式来学习数据的分布模型。
在时间序列预测中，生成对抗网络可以根据已有的时间序列数据生成新的时间序列样本，并进行预测。
通过对抗训练，生成对抗网络能够更好地建模数据的分布，从而提高预测准确性。
三、基于深度学习的时间序列预测方法的优点和局限性1. 优点深度学习方法能够自动学习数据中的复杂特征，无需手动提取特征。
- 1、下载文档前请自行甄别文档内容的完整性，平台不提供额外的编辑、内容补充、找答案等附加服务。
- 2、"仅部分预览"的文档,不可在线预览部分如存在完整性等问题,可反馈申请退款(可完整预览的文档不适用该条件!)。
- 3、如文档侵犯您的权益，请联系客服反馈,我们会尽快为您处理(人工客服工作时间：9:00-18:30)。
2019年1月农业机械学报第50卷第1期doi:10.6041/j.issn.1000⁃1298.2019.01.049基于时序深度学习的数控机床运动精度预测方法余永维1 杜柳青1 易小波2 陈 罡2(1.重庆理工大学机械工程学院,重庆400054;2.重庆高金实业有限公司,重庆401122)摘要:由于数控机床精度演化规律难以通过数学建模分析,提出了一种基于时序深度学习网络的数控机床运动精度建模与预测方法㊂基于长短时记忆网络建立时序深度学习预测模型,利用相空间重构原理构建模型时序输入向量,采用多层网格搜索方法选择最优隐含层层数㊁隐含层节点数等模型参数,以BPTT 方法训练模型;模型自动提取运动精度时间序列的时空特征,挖掘精度时间序列前后关联信息,对运动精度变化趋势进行预测㊂实验结果表明,基于时序深度学习网络的预测模型能够准确预测数控机床精度的衰退趋势,预测的最大相对误差不大于7.96%,优于传统方法㊂关键词:数控机床;运动精度;预测;深度学习;神经网络中图分类号:TH115文献标识码:A文章编号:1000⁃1298(2019)01⁃0421⁃06收稿日期:20181021 修回日期:20181125基金项目:国家自然科学基金面上项目(51775074)㊁重庆市重点产业共性关键技术创新重点研发项目(cstc2017zdcy zdyfX0066㊁cstc2017zdcyzdyfX0073)和重庆市基础研究与前沿探索项目(cstc2018jcyjAX0352)作者简介:余永维(1973 ),男,高级工程师,博士,主要从事检测技术研究,E⁃mail:ftong@ 通信作者:杜柳青(1975 ),女,教授,博士,主要从事智能制造技术研究,E⁃mail:lqdu1@Prediction Method of NC Machine Tools ’Motion PrecisionBased on Sequential Deep LearningYU Yongwei 1 DU Liuqing 1 YI Xiaobo 2 CHEN Gang 2(1.College of Mechanical Engineering ,Chongqing University of Technology ,Chongqing 400054,China2.Chongqing Gaokin Industry Co.,Ltd.,Chongqing 401122,China )Abstract :Because of the difficult to analyze the evolution law of CNC machine tools accuracy through mathematical modeling,a method of motion accuracy modeling and prediction based on sequential deep learning network was proposed.A deep learning network was presented based on the long short⁃term memory (LSTM).Using the principle of phase space reconstruction,the sequence input vector of the model was constructed.The optimal parameters of the model,such as number of hidden layer and number of hidden layer node were determined based on multi⁃layer grid search algorithm.The model was trained with BPTT method.The mutual information before and after the precision time series was mined with data driven.The temporal and spatial characteristics of the motion accuracy series were automatically extracted through the deep learning network.Finally,the declining trend of motion accuracy was predicted by the model.The experiments results showed that the prediction model based on the sequential deep learning network could predict properly the evolutionary trends and regularity of the precision.The maximum relative error of prediction was not more than 7.96%.The prediction accuracy of the method was better than that of the traditional methods.The method was helpful for evaluating the reliability of NC machine tools and ensuring the machining accuracy.Key words :NC machine tools;motion precision;prediction;deep learning;neural network0 引言数控机床运动精度预测能发现数控装备潜在的失效模式,避免突发性失效,实现数控机床可靠性增长[1]㊂至今,国内外学者在误差建模与补偿[2-3]㊁精度检测与辨识[4-6]等方面取得了较多研究成果,而对精度随时间演化规律的研究较少㊂粟时平等[7]基于多体系统理论对数控机床加工精度进行了预测;胡占齐等[8]基于多体运动学原理对超重型数控机床的维护周期进行了预测;王民等[9]基于斜置锥台试件对五轴数控机床的加工精度进行了预测㊂数控机床在使用过程中不断受到各种作用力的影响,系统内部各要素之间及与外部系统的相互作用具有明显的非线性特征,数控机床运动精度演化过程可视为一种具有混沌特征的复杂非线性过程,数控机床运动精度时间序列展示了精度的动态演化过程㊂近年来,深度学习技术在图像识别㊁模式识别等领域显出巨大潜力[10-15]㊂深度学习方法以数据驱动㊁自动地从数据中提取特征,对于分析非结构化㊁模式不明多变㊁跨领域的数据有显著优势[16-17]㊂此外,与时序相关联的无限深度学习网络在学习新信息的同时能保持历史信息,即能够动态记忆历史信息,自动提取动态时间序列的时空特征[18-19]㊂本文针对使用条件(使用频率㊁加工零件㊁加工工艺参数等)基本一致的数控机床,提出基于时序深度学习网络的数控机床运动精度预测模型,采用深度学习方法自动提取精度时间序列的时空特征,对数控机床的精度衰退进行准确预测,以掌握数控机床精度保持性和精度状态㊂1 基于LSTM的时序深度学习网络数控机床运动误差劣化是一个渐变的动态时间序列,当前的运动精度状态与之前历史状态相互关联㊂长短时记忆(Long short⁃term memory,LSTM)网络是一种全互连的循环式神经网络(Recurrent neural networks,RNNs),神经元之间存在反馈连接,即具有 时间参数”,能够动态记忆历史信息,在学习新信息的同时保持历史信息留存持久化㊂长短时记忆(LSTM)单元结构如图1所示㊂图1 基于LSTM的时序深度学习网络Fig.1 LSTM⁃based sequential deep learning network 每一个LSTM隐含层含有一个记忆单元,其由输入门㊁输出门㊁遗忘门和记忆单元组成㊂LSTM通过以上门控单元来控制历史信息对当前信息的影响程度,使得网络模型能够较长时间保存并传递信息㊂在当前t时刻,LSTM单元输入有:t时刻的输入信号X t㊁t-1时刻LSTM单元的输出h t-1(历史信号)㊁t-1时刻记忆单元的状态C t-1(记忆信号);输出为:t时刻LSTM单元的输出信号h t㊁t时刻记忆单元的状态C t㊂t时刻,LSTM的输入门㊁遗忘门㊁输出门㊁记忆单元的状态分别为i t=σ(W i h t-1+W i x t+b i)(1)f t=σ(W f h t-1+W f x t+b f)(2)o t=σ(W o h t-1+W o x t+b o)(3)c t=f t c t-1+i t tanh(W c h t-1+W c x t+b c)(4)t时刻,LSTM的输出信号为h t=o t tanh(c t)(5)式中,W i㊁W f㊁W o㊁W c分别为输入门㊁遗忘门㊁输出门和记忆细胞的权值矩阵;b i㊁b f㊁b o㊁b c分别为各门状态的偏置;tanh表示激活函数㊂输入信号X t=(x1,x2, ,x t-1,x t,x t+1, )为数控机床精度连续时间序列,将LSTM的反馈结构在时间维度上展开,在每一时刻,LSTM展开为一个深度学习网络中的一层,随着时间的不断运行,网络的深度可以无限深,即形成基于LSTM单元的时序深度学习网络,如图1所示,其计算输出序列H=(h1,h2, ,h t-1,h t,h t+1, )㊂2 基于时序深度学习网络的数控机床精度预测方法 LSTM无限深度学习网络本质上是一个动力学系统,网络状态随时间演化是这种网络的本质属性,其耦合了 时间参数”,能完全自动地从海量时序数据中学习到数据中蕴含的抽象时空特征㊂而数控机床运动精度演化是一个动态的时间序列,当前状态与历史状态相互关联㊂因此,数控机床运动精度劣化过程与无限深度学习系统特性高度契合,有利于实现运动精度动态行为演化及预测㊂224农 业 机 械 学 报 2019年2.1 基于LSTM 无限深度学习网络的运动精度预测模型基于LSTM 无限深度学习网络的数控机床运动精度预测模型如图2所示,其包括输入层㊁隐含层和输出层㊂输入层以运动精度时间序列为自变量,实现数据标准化㊁训练集划分等;输出层进行数据反标准化㊁计算预测输出等;机床运动精度预测模型在网络方向可有多个LSTM 隐含层,每个LSTM 隐含层在时间维度方向展开形成时序无限深度学习网络,自动挖掘运动精度序列时空特征㊂图2 基于LSTM 无限深度学习网络的数控机床运动精度预测模型Fig.2 Motion precision prediction model of NC machinetools based on LSTM infinite deep learning network除预测模型的时间窗口长度L ′外,还需确定模型的3个主要参数,即隐含层数㊁每个隐含层节点数及学习率㊂隐含层数即深度学习网络中LSTM 层的个数,在训练样本充足条件下,深度学习模型的非线性拟合能力随隐含层数的增加而上升,但深度学习模型的复杂程度及训练时间及计算量也将随之增加㊂本文采用多层网格搜索方法确定隐含层数㊁每个隐含层节点数以及学习率等参数㊂2.2 基于相空间重构的模型输入向量构建预测模型的时间窗口长度L ′为LSTM 在时间维度上形成深度学习网络时的展开步数,也即用于运动精度预测的精度时间序列长度㊂过短的历史序列长度会引起预测经验知识的缺失,影响模型预测准确性;过长的历史序列长度又会加大模型训练及优化难度,也影响模型预测准确性㊂根据Takens 嵌入定理,如果重构的运动精度时间序列嵌入相空间满足L >2d +1(L 为嵌入维数,d 为吸引子分维数),则其与原精度系统的相空间轨迹具有相同的几何特性[20]㊂此嵌入维数即是预测模型的最优时间窗口长度L′㊂基于相空间重构原理,采用虚假最近邻点法计算最小嵌入维数L ,即为最优时间窗口长度L′,基本思想是:当重构相空间维数从L 增加到L +1,如相空间没有虚假的最近邻点,则认为几何结构被完全打开㊂设X L 是X i 的最近邻点,两点之间的距离为‖S Li ‖(L )=∑L -1k =0(X (L +kτ)-X (i +kτ))2(6)式中 τ 延迟时间当维数增加到L +1时,距离为‖S (L +1)i ‖(L +1)㊂如有|‖S Li ‖(L +1)-‖S (L +1)i ‖(L )|‖S Li ‖(L )>R T ,10≤R T ≤50,则X L 是X i 的虚假最近邻点㊂对于运动精度实测时间序列,令L 从2开始,取R T =30,计算虚假最近邻点的比例,以此求得的L 即为最小嵌入维数,也即预测模型时间窗口分割长度㊂数控机床运动精度原始时间序列经Zscore 方法标准化后为X =(x 1,x 2, ,x n ),前m 个时间样本点为训练集X x =(x 1,x 2, ,x m ),m 以后样本点为测试集X c =(x m +1,x m +2, ,x n ),其中m <n ,m ㊁n ∈N ,参数m 表示组成训练集的时间样本点数量,n 表示总的时间样本点数量㊂如时间窗口分割长度为L′,模型输入样本集为X =(X 1,X 2, ,X k , ,X L ),其中输入向量X k =(x k ,x k +1, ,x m -L +k +1),则在t 时刻,模型输入向量X t =(x t -L +1,x t -L , ,x t ),对应的LSMT 隐藏层输出为H =(h t -L +1,h t -L , ,h t ),预测输出为y t +1=W y h t +b y ,W y ㊁b y 分别为输出层权值和偏置㊂2.3 深度学习预测模型训练方法LSTM 网络采用BPTT(Back propagation through time)算法进行训练,步骤如下:(1)前向计算㊂根据式(1)~(5)计算每个LSTM 单元的输入门㊁遗忘门㊁输出门和记忆单元的状态及模型输出h t ㊂(2)误差沿时序方向反向传播㊂在t 时刻误差项δt 为损失函数E 对输出值h t 的导数:δt =∂E ∂h t;t -1时刻,误差反向传播为:δt -1=δt∂h t∂h t -1㊂误差沿网络方向反向传播㊂当前为第l 层,l -1层的误差项为损失函数对l -1层加权输入net l -1的导数,即:δl -1=∂E∂net l -1㊂(3)根据相应的误差项,计算每个权重的梯度,然后更新每个权值㊂权值更新算法为w new =w old +ηΔw式中 Δw网络性能函数在权值空间内的梯度(4)重复步骤(1)~(3),直到模型预测的均方324第1期 余永维等:基于时序深度学习的数控机床运动精度预测方法根误差收敛为止㊂均方根误差RMSE收敛判别式为RMSE(v-1)-RMSE(v)RMSE(v-1)≤λ式中 v 训练次数λ 极小阈值,一般设为小于0.013 实验两轴插补的圆运动精度能全面地反映数控机床运动精度演化状态,采用描述数控机床圆运动精度的圆度误差来验证与优化基于无限深度学习网络的运动精度预测方法㊂以某企业大型数控龙门加工中心为对象,该机床主要加工大型船舶发动机缸体,为评估机床精度状态,需定期对机床作运动精度检测分析以评估机床精度状态,测试时机床作半径为200mm㊁进给速度为1000mm/min的两轴插补圆运动,用Renishaw QC20型球杆仪在线测量机床的圆度误差㊂以其近5年定期测试获得的245个圆运动误差为实验样本,将各时间点的圆度误差前后相减,标准化后得到该龙门加工中心245个圆度误差增量时间序列X=(x1,x2, ,x245)㊂以前230个数据X x=(x1,x2, ,x230)为训练样本,后15个数据为测试样本㊂对圆度误差增量时间序列,用虚假最近邻点法求得最小嵌入维数L=8,此即预测模型的时间窗口分割长度㊂因此,模型输入样本集为X=(X1,X2, ,X k, ,X8),X k=(x k,x k+1, ,x k+223),则在t时刻,模型输入X t=(x t-7,x t-6, ,x t)㊂采用多层网格搜索并交叉验证,优化隐含层数㊁学习率等超参数㊂当LSTM隐含层数为2㊁每个隐含层节点数为16㊁学习率0.05时,预测模型的训练集拟合精度达到最高㊂对预测模型中权重矩阵按均值为0㊁方差为1的高斯分布随机初始化,偏置项均初始化为0㊂采用BPTT方法,正向测试新得到的各层权值参数;反向修正预训练获得的初始权值;迭代526次时,模型预测的均方根误差收敛,获得最优预测模型㊂用训练好的LSTM深度学习模型对230时刻点以后的运动精度数据进行预测,采用5步预测,即模型输入为X230=(x t-7,x t-6, ,x t)=(x223,x224, , x230)时,依次迭代预测后5个时刻点的输出y231至y235,以此类推,预测结果如图3a所示㊂该龙门加工中心圆度误差增量预测值与实际值变化趋势较一致,预测最大绝对误差为0.065μm(图3b),说明本 图3 圆度误差预测结果Fig.3 Prediction results of roundness error文方法有较好的预测效果㊂为评价预测模型的准确性,定义预测相对误差E r=(^y t-y t)/^y t×100%相对误差最大为5.05%,结果表明预测结果能够很好地反映该检测运动精度变化量的趋势和规律,预测精度较高㊂用非平稳ARIMA时间序列预测法和3层BP神经网络预测法作对比实验,部分实验结果如表1所示㊂ARIMA方法的最大相对误差为14.85%,BP神经网络预测方法为18.17%㊂可见,本文方法预测精度明显优于其他两种方法,说明了本文方法的有效性㊂表1 预测相对误差比较Tab.1 Method comparison%时刻点本文方法BP方法ARIMA方法2313.7515.5211.262323.2616.5812.112334.0116.8912.762344.1717.2514.802353.8916.9912.612363.1217.8813.182374.6717.0513.552384.3817.9714.282394.0518.0514.852405.0518.1714.77 为进一步验证本文方法的有效性及适应性,对超高速数控磨床㊁数控车床㊁数控铣床等10台数控机床作同样的分析实验,提取运动精度周期检测数据,均得到了比较准确的结果,步长为5时,预测最大相对误差不大于7.96%,各机床预测最大相对误差数据如表2所示㊂ARIMA方法的最大相对误差为15.29%,BP神经网络预测方法为19.90%㊂424农 业 机 械 学 报 2019年表2 各机床预测最大相对误差Tab.2 Maximum error of machine tool prediction%机床编号本文方法BP方法ARIMA 法机床编号本文方法BP方法ARIMA 法15.8118.2213.9865.2217.9613.6026.3718.6614.2576.6818.6115.1237.1219.9014.7887.2719.2015.2947.9619.2814.1997.4718.8314.9156.5118.8615.01107.3218.1414.884 结束语利用时序无限深度学习网络强大的时空特征自动提取能力,提出了一种基于LSTM 无限深度学习网络的数控机床运动精度建模与预测方法,实验证明可以很好地预测数控机床精度的衰退趋势,有较高的预测精度和鲁棒性,圆度误差增量预测差相对误差不大于7.96%,优于传统的ARIMA 时序方法和BP 网络预测方法㊂参考文献[1] 马军旭,赵万华,张根保.国产数控机床精度保持性分析及研究现状[J].中国机械工程,2015,26(22):3108-3115.MA Junxu,ZHAO Wanhua,ZHANG Genbao.Research status and analyes on accuracy retentivity of domestic CNC machine tools[J].China Mechanical Engineering,2015,26(22):3108-3115.(in Chinese)[2] 韩飞飞,赵继,张雷,等.数控机床几何精度综合解析与试验研究[J].机械工程学报,2012,48(21):141-148.HAN Feifei,ZHAO Ji,ZHANG Lei,et al.Synthetical analysis and experimental study of the geometric accuracy of CNC machine tools[J].Journal of Mechanical Engineering,2012,48(21):141-148.(in Chinese)[3] FUJIMORI T,TANIGUCHI K,ELLIS C,et al.A study on error compensation on high precision machine tool system using a 2Dlaser holographic scale system[J].Journal of Advanced Mechanical Design,Systems and Manufacturing,2012,6(6):999-1114.[4] IBARAKI S,OYAMA C,OTSUBO H.Construction of an error map of rotary axes on a 5⁃axis machining center by static R⁃test[J].International Journal of Machine Tools and Manufacture,2011,51(3):190-200.[5] MANN S,BEDI S,ISRAELI G,et al.Machine models and tool motions for simulating five⁃axis machining[J].Computer⁃AidedDesign,2010,42(3):23l -237.[6] 萨日娜,张树有,刘晓健.面向零件切削性评价的数控机床精度特性重要度耦合识别技术[J].机械工程学报,2013,49(9):113-120.SARINA,ZHANG Shuyou,LIU Xiaojian.Identification of accuracy characteristics importance of machine tool for parts machinability evaluation[J].Journal of Mechanical Engineering,2013,49(9):113-120.(in Chinese)[7] 粟时平,李圣怡.多体系统理论在数控加工精度软件预测中的应用[J].组合机床与自动化加工技术,2004(4):26-30.SU Shiping,LI Shengyi.Study about the application of multi⁃body system theory in machining precision of CNC machine tools [J].Modular Machine Tool &Automatic Manufacturing Technique,2004(4):26-30.(in Chinese)[8] 胡占齐,刘金超,解亚非,等.基于多体运动学的超重型数控机床维护周期预测[J].燕山大学学报,2012,36(3):201-214.HU Zhanqi,LIU Jinchao,XIE Yafei,et al.Prediction of super⁃heavy CNC machine maintenance cycle based on multibody kinematics[J].Journal of Yanshan University,2012,36(3):201-214.(in Chinese)[9] 王民,胡建忠,昝涛,等.基于斜置锥台的五轴数控机床加工精度预测技术[J].高技术通讯,2011,21(12):1299-1304.WANG Min,HU Jianzhong,ZAN Tao,et al.Prediction of the machining precision of five⁃axis NC machine tools based on cone frustum[J].High Technology Letters,2011,21(12):1299-1304.(in Chinese)[10] 余永维,殷国富,殷鹰,等.基于深度学习网络的射线图像缺陷识别方法[J].仪器仪表学报,2014,35(9):2012-2019.YU Yongwei,YIN Guofu,YIN Ying,et al.Defect recognition for radiographic image based on deep learning network [J].Chinese Journal of Scientific Instrument,2014,35(9):2012-2019.(in Chinese)[11] 余永维,杜柳青.基于深度学习特征匹配的铸件微小缺陷自动定位方法[J].仪器仪表学报,2016,37(6):1364-1370.YU Yongwei,DU Liuqing.Automatic location of casting small defect based on deep learning feature [J].Chinese Journal of Scientific Instrument,2016,37(6):1364-1370.(in Chinese)[12] 谭文学,赵春江,吴华瑞,等.基于弹性动量深度学习神经网络的果体病理图像识别[J /OL].农业机械学报,2015,46(1):20-25.http:∥www.j⁃ /jcsam /ch /reader /view_abstract.aspx?flag =1&file_no =20150104&journal_id =jcsam.DOI:10.6041/j.issn.1000⁃1298.2015.01.004.TAN Wenxue,ZHAO Chunjiang,WU Huarui,et al.A deep learning network for recognizing fruit pathologic images based on flexible momentum [J /OL].Transactions of the Chinese Society for Agricultural Machinery,2015,46(1):20-25.(in Chinese)[13] 高震宇,王安,刘勇,等.基于卷积神经网络的鲜茶叶智能分选系统研究[J /OL].农业机械学报,2017,48(7):53-58.http:∥www.j⁃ /jcsam /ch /reader /view_abstract.aspx?flag =1&file_no =20170707&journal_id =jcsam.DOI:10.6041/j.issn.1000⁃1298.2017.07.007.GAO Zhenyu,WANG An,LIU Yong,et al.Intelligent fresh⁃tea⁃leaves sorting system research based on convolution neural524第1期 余永维等:基于时序深度学习的数控机床运动精度预测方法624农 业 机 械 学 报 2019年network[J/OL].Transactions of the Chinese Society for Agricultural Machinery,2017,48(7):53-58.(in Chinese)[14] 孙钰,韩京冶,陈志泊,等.基于深度学习的大棚及地膜农田无人机航拍监测方法[J/OL].农业机械学报,2018,49(2):133-140.http:∥www.j⁃/jcsam/ch/reader/view_abstract.aspx?flag=1&file_no=20180218&journal_id=jcsam.DOI:10.6041/j.issn.1000⁃1298.2018.02.018.SUN Yu,HAN Jingye,CHEN Zhibo,et al.Monitoring method for UAV image of greenhouse and plastic⁃mulched landcover based on deep learning[J/OL].Transactions of the Chinese Society for Agricultural Machinery,2018,49(2):133-140.(in Chinese)[15] 余永维,杜柳青,闫哲,等.基于深度学习特征的铸件缺陷射线图像动态检测方法[J/OL].农业机械学报,2016,47(7):407-412.http:∥www.j⁃/jcsam/ch/reader/view_abstract.aspx?flag=1&file_no=201160755&journal_id= jcsam.DOI:10.6041/j.issn.1000⁃1298.2016.07.055.YU Yongwei,DU Liuqing,YAN Zhe,et al.Dynamic detection of casting defects radiographic image based on deep learning feature[J/OL].Transactions of the Chinese Society for Agricultural Machinery,2016,47(7):407-412.(in Chinese)[16] BENGIO Y.Learning deep architectures for AI[J].Foundations and Trends in Machine Learning,2009,2(1):1-127.[17] HINTON G E,SALAKHUTDINOV R R.Reducing the dimensionality of data with neural networks[J].Science,2006,313(5786):504-507.[18] GERS F A,SCHMIDHUBER J.Learning to forget:continual prediction with LSTM[J].Neural Computation,2000,12(10):2451-2471.[19] HOCHREITER S,SCHMIDHUBER J.Long short⁃term memory[J].Neural Computation,1997,9(8):1735-1780.[20] TAKENS F.Detecting strange attractor in turbulence[C]∥Lecture Notes in Mathematics,1981,898:366-381.。