CMAC神经网络结构参数及其结构优化的研究

２ ０ 年 １ 月 ０８ ２
西 北 工 业 大 学 学 报
Ｊ ｕ ｎ ｌｏ ｒｈ ｓｅ ｎＰ ｌｔｃ ｎｃ ｌＵｎｖ ｒ ｉ ｏ ｒ ａ ｆＮｏ ｔ ｗｅ ｔｒ ｏ ｙｅ ｈ ｉａ ｉｅ ｓｔ ｙ
Ｄｅ ． ｃ
２ ８ ００
第 ２ 卷第 ６ ６ 期
Ｖｏ１ ２６Ｎ ｏ． ． ６
文献 标识 码 ： Ａ 文章编 号 ：０ ０２ ５ （０ ８ ０ — ７ ２０ １ ０ —７ ８ ２ ０ ） ６０ ３ — ６
中图分 类号 ： Ｐ ８ Ｔ Ｉ３
Ａｌｕ ｂ ｓ等从 人 类小 脑 学 习 方 法 中得 到启 发 ， 提
出并 发展 了小 脑模 型 连接控 制 （ ＭＡ Ｃ Ｃ： ｅｅ ｅ ａ Ｃ ｒｂ ｌ ｒ ｌ
用神 经网络 的局部 和全局 泛化 能力 。
个状态 ， 从存 储单元 中找到对 应 于该状态 的地 址 ， 将
实际 上 ， Ｃ Ｃ神 经 网络 的实 际应 用 中， 在 ＭＡ 一
个 主要 的不足 是 网络 在训 练过程 中需 要大 量 的内存
这些存 储单元 中的内容 求和 得到 Ｃ ＭＡＣ的输 出 ， 将
神 经网络 的训 练规则 来提 高 网络 的泛 化能 力［ 。文 ７ ］

１ Ｃ ＭＡＣ神 经 网络 结 构
Ｃ ＭＡＣ 的基 本 思想 在 于 ： 在输 入空 间 中给出一
献 ［］ ，ａｏ ｒ ８ 中 Ｓ ｂ ｕ ｉ 人 提 出 了一 种 基 于 模 糊 小 脑 ｎ等
神 经 网络 （ ｕｚ — ＭＡＣ） 新方 法 ， 以有 效 地 利 Ｆ ｚｙ Ｃ 的 可
Ｃ ＭＡＣ神 经 网络 结构 参数 及 其 结构 优 化 的研 究
于 薇 薇 ，闰 杰 Ｃ． ａ ｏ ｒ ， Ｓ ｂ ｕ ｉ ，Ｋ． ａ ａ ｉ ｎ Ｍ ｄ ｎ
（＿ １ 西北 工 业 大 学 航 天 学 院 飞 行 控 制 与 仿 真研 究 所 ，陕西 西 安 ７ ０ ７ ；２ 巴 黎 十 二 大学 Ｌ Ｓ Ｉ 验 室 ） １０２ ． ＩＳ 实
Ｃ ＭＡＣ是 一种非 线性 的映 射 ， 它 的 自适 应学 习是 但 线性 映射 部分 ， 以其 学 习算 法 是一 种 简单 的线 性 所 优化 ， 且不 存 在局 部 极 小值 问题 ， 有 学 习算 法 简 具 单、 收敛 速度快等 优点 。另外 ， 其数 字硬 件设计 也易 于实现［ 。由于 Ｃ ３ ］ ＭＡＣ神 经网络 具 有上述 的优 点 ， 被成功应 用于许 多实 对系统控 制 、 模式识 别 、 线性 非
Ｃ ＭＡ Ｃ神经 网络 中 ， 一状 态相 应 的激 活单 元是 由 某
一
Ｃ ＭＡＣ神 经 网络 结构 。 通过对 一些 函数逼 近问题的 仿真 ， 果 表 明 按 照 该 方法 ， ＭＡＣ神经 网 络可 以 结 Ｃ 达 到期望 的逼 近 精 度 ， 大幅 度减 少 了需要 的储 存 却
单元数 量 。
个二进 制数表示 的 。 后 的一 些 文献 中 ， 出了用 随 挺
某 些连 续 函数代 替 二进 制数 ， 文献 Ｅ － ， 者将 二 ６１ 作 中 进 制 函数 和 连 续 的 高斯 函数 应 用 在 函数 逼 近 问 题 中， 并且 进行 了 比较 。一 些研 究人 员 改 进 了 Ｃ ＭＡＣ
化精度 和泛化 参数如 何影 响 网络对 函数 的逼 近质 量。仿真 结果表 明 ， 过对 结构参 数 的调 整 ， 以 通 可
达到 最小的逼 近误 差。 而通过 对 网络 结构 的优 化 不但 可 以节约 网络 的训 练 时 间而且可 以大幅度减
少存 储 单 元 的数 量 。
关
键
词 ： ＭＡＣ神 经 网络 ， Ｃ 泛化 参数 ， 结构优化 ， 函数 逼近
收 稿 日期 ；０ ７０ —０ ２ ０— ９２
作者简介 ； 于薇薇 （９ １ ， ， １８ 一）女 西北 工业 大学博士生 ， 主要从事先进控制理论在复杂动力学系统 中的应用。
第６ 期
于 薇 薇 等 ： Ｍ Ａ 神 经 网 络 结 构 参 数 及 其 结 构 优 化 的 研 究 Ｃ Ｃ
单 元 。Ｃ ＭＡＣ神 经 网 络 的 内存 大 小 主要 由两点 决 定： 量化精 度和输 入矢 量 的维数 。 一方面 为了提高控 制精 度要 选 择尽 可 能小 的量 化精 度 ， 另一 方面 在实
Ｍｏ ｅ Ａｒｉ ｌｔ ｎＣ ｎｒ ｌ ｒ 网络［ 。从 总体看 ｄ ｌ ｔ ｕａｉ ｏ ｔｏｌ ） ｃ ｏ ｅ １ ］
函数映射 及信号 处理等领 域 ［ ］ ４ 。
际 问题 中输 入矢 量的 维数通 常都是 高于二 维的 。这
就使 得 ， ＭＡ Ｃ Ｃ神 经 网络不 能 够实 际应用 在某 些高 维输 入矢量 的 问题 中。 了解 决这 一问题 ， 常是使 为 通 用 杂 凑 函数 （ ａ ｈｎ ｕ ｃｉｎ 。但 是 在这 种 情 况 ｈ ｓ ｉｇ ｆｎ ｔ ） ｏ 下， 当存储 单 元权 值 的数 量 小 于虚 拟 地址存 储单 元 的数 量时 ， 产生 运算 冲突 。 会
在本 文 中 ， 论 了泛 化 参 数 和量 化精度 是 如何 讨 影响 Ｃ ＭＡ 神经 网络在 函数 逼近 问题 中的逼 近质 Ｃ 量 的 。 目标 在 于对 某 一 给定 问题 寻 找 一个 最 优 的
近年 来 ， 有一 系列文 献对传 统 的 Ｃ ＭＡ Ｃ神 经 网
络主要 的局限性 问题进行 了改进 。在 Ａｌｕ 提 出的 ｂｓ
摘 要 ： ＭＡＣ神 经 网络 具有 学 习算 法 简单 、 Ｃ 收敛速 度快 、 域泛 化 等优 点 ， 广泛 应 用 于机 器人 局 被
控制 、 信号 处理 、 式识 别 以及 自适 用控制 等领域 。 是 网络的训 练过程 需要 大量 的存储 单元 ， 模 但 最优 结构 参数 的选取是 Ｃ ＭＡＣ 网络 设计 中一 个重要 问题 。文 中通过 对 函数 逼近 问题 的研 究， 明 了量 说