基于均衡7×2交叉验证的模型选择方法

早 期 的一些工 作也 已证 明 留一 交叉 验证估 计 是渐进 无偏 的＿ １ ］ ． 但是 ， 基 于 留一交 叉验 证方 法却 不具 有模 型选
择 的一 致性 ． 为此 ， Ｓ ｈ ａ ｏ ［ 。 的工作 指 出 ， 当且 ｎ 一。 。 （ ， 为训 练集及 测试 集 容量 ， 为样 本 总容量 ） 时， 交 叉 验证 方法 才会 保 证 模 型 选 择 的 一 致 性 ． 在 此基础 上， 他 提 出 了 基 于 均 衡 不 完 全 组 块 的 交 叉 验 证 方 法 （ Ｂ Ｉ Ｃ Ｖ， Ｂ ａ ｌ ａ ｎ ｃ ｅ ｄ Ｉ ｎ ｃ ｏ ｍｐ ｌ ｅ ｔ ｅ Ｃ ｒ ｏ ｓ ｓ — ｖ ａ ｌ ｉ ｄ ａ ｔ ｉ ｏ ｎ ） ． 不过 ， 并 未 给 出满足上 述 条件 的 Ｂ Ｉ Ｃ Ｖ 的构 造方 法．
Ｖｏ １ ． １ ２ Ｎｏ ． １ Ｍａ ｒ ．２ ０ １ ３
ห้องสมุดไป่ตู้
基 于均衡 ７ ×２交叉验证 的模 型选 择方法
杜伟 杰 王瑞 波 李 济 洪。
（ １ ． 山西 大 学 数 学 科 学 学 院 ， 山西 太 原 ０ ３ ０ ０ ０ ６ ； ２ ． 山 西 大 学 计 算 中心 ， 山西 太原 ０ ３ ０ ０ ０ ６ ）
７ × ２交 叉 验 证 、 组块 ３ ×２交 叉 验 证 、 标 准 ５折 和 １ Ｏ折 交 叉 验 证 在 模 型 选 择 中 的 性 能 ． 模 拟 结 果 表 明， 在 小规模 数据 集上 ， 均衡 ７ ×２交 叉 验 证 方 法 选 择 到 真 模 型 的 概 率 明 显 高 于 其 余 三 种 交 叉 验 证
（ 摘 要］ 交 叉 验 证 策 略 广 泛 应 用 于 分 类 问 题 的 模 型 比 较 和 模 型 选 择 中 ．文 章 提 出 一 种 均 衡 ７ ×２ 交 叉 验 证 并 给 出 了相 应 的 构 造 方 法 ． 文章 以分类 回归树 （ ＣＡＲＴ） 为考察 模 型 ， 对 比 了 采 用 均 衡
在 检验 问题 中 ， Ｄ ｉ ｅ ｔ ｔ ｅ ｒ ｉ ｃ ｈ ［ 胡 针 对两 个分类 模 型性 能差 异 的检 验 问题 ， 提出了 ５ ×２交叉 验证 ｔ 检验． 他 的
模拟 实验结 果证 明 ， ５ ×２交叉 验证 ｔ 检验 比一些 其他 的检验具 有更 优 的势 ． Ａｌ ｐ ａ ｙ ｄ ｎ 【 ９ 对 Ｄｉ ｅ ｔ ｔ ｅ ｒ ｉ ｃ ｈ ＿ ｌ ８ 的检验 方法进 行 了改进 ， 提 出了 ５ ×２交叉 验证 Ｆ检 验． 尽 管 随机 ｍ×２交叉 验证 方法使 用 了多 次独 立 的重复 划 分 来 减小 标 准 ２折交 叉 验 证 估计 的波 动 ， 但由 于多 次重 复都是 针对 同一数 据集进 行 的 ， 这 导致 不 同切 分 的训 练集 之 间存 在共 同样 本 ． 因此 ， ｍ次独立的 ２
Ｓ ｍｙ ｔ ｈ ［ 提 出使 用 ＭＣ Ｃ Ｖ 的方法 来选 取混 合模 型 中的份 数 Ｋ． 他 的试 验 结 果 表 明 ， ＭＣ Ｃ Ｖ 中设 置 时可
以得 到较好 的结果 ． 他 的这种 设置 可 以看 作 是随机 ｍ×２交叉 验证 中的一种 简单 的变 形 ． 另外 ， Ｎａ ｓ ｏ ｎ ＿ ６ ］ ， Ｃ ｅ — ｌ ｅ ｕ ｘ ［ 等 的模 拟结 果均 表 明在某些 情况 下 ， 使 用 随机 ｍ×２交 叉 验证方 法 可 以得 到模 型参 数 的最 优估 计值 ．
器选择 的一 致性 的充分 条件 ， 并特 别指 出 当高维分 类 数据 中相应 收敛 率 满足一 定 条件 时 ， 标 准 ２折交 叉 验证
方法是 具有 分类 器选择 的一 致性 的． 标 准 ２折交 叉验证 虽然 计算量 较小 ， 但 受到样 本 划分 的影 响 较 大． 对 于 样 本容 量 为 的数据 集 ， 总共 可 以得 到 ｃ 个 不 同的 ２ 折 交叉 验证 划分 ． 而标 准 ２折交 叉 验 证 只 随机 地 取 其 中一 次． 为 了弥 补这 个 缺 陷 ， 一
对 于分类 问题 ， Ｙａ ｎ ｇ ［ 研 究 了分类 器选 择 的一致 性 问题． 他指出， 由于 分类 模 型 的性 能 收敛 速 率 与 回归
模 型 的性能 收敛 速率完 全不 同 ， 因此 ， 分 类器 选择 的一 致性 并不 需要 满足 Ｓ ｈ ａ ｏ ＿ ２ 提 出 的条件 ． 他 给 出 了分 类
第１ ２卷 第 １期 太 原 师 范 学 院 学 报 （ 自然 科 学 版 ） ２ ０ １ ３年 ３月 Ｊ Ｏ ＵＲ ＮＡ Ｌ Ｏ Ｆ Ｔ ＡＩ ＹＵＡＮ ＮＯＲ ＭＡＬ ＵＮ Ｉ Ｖ Ｅ Ｒ Ｓ Ｉ ＴＹ （ Ｎａ ｔ ｕ ｒ ａ ｌ Ｓ ｃ ｉ ｅ ｎ ｃ ｅ Ｅ ｄ ｉ ｔ ｉ ｏ ｎ ）
的选择 方法．
［ 关 键词］ 模 型选￥ Ｉ － ； 交叉验证 ； 均衡 ７ × ２验 证 交 叉 验 证 ； 均衡 设计 ；
［ 文 章 编 号］ １ ６ ７ ２ — ２ ０ ２ ７ （ ２ ０ １ ３ ） ０ １ — ０ ０ ２ ７ — ０ ５ ［ 中 图分 类 号 ］ Ｏ２ １ ３ ． ９ ； ＴＰ ３ ９ １ （ 文献标识码］ Ａ
０ 引 言
模 型选择 是统 计机 器学 习 中的重要 研究 领域 ． 模 型选择 的 主要 目标就 是选 择 到真模 型 ． 在传 统 的 回归 问
题 中， 通 常使 用 留一交叉 验证 （ Ｌ Ｏ０， Ｌ ｅ ａ ｖ ｅ — ｏ ｎ ｅ — ｏ ｕ ｔ Ｃ ｒ ｏ ｓ ｓ — ｖ ａ ｌ ｉ ｄ ａ ｔ ｉ ｏ ｎ ） 方法 来进 行模 型泛 化误 差 的估 计 ， 并 且
些研究 者提 出使 用多次 重复 结果 的平均 值来 提 高性 能 ， 并 构 造 出 ｍ 组 ２折 交 叉验 证 方 法 ． 本 文 称 之 为 随机
ｍ×２交 叉验证 （ Ｒ ｍ×２ Ｃ Ｖ） ， 也 有文 献称 之为 多次对 折 分割 方法 （ ＲＨＳ ， Ｒｅ ｐ ｅ ａ ｔ ｅ ｄ Ｈａ ｌ ｆ Ｓ ｐ ｌ ｉ ｔ ｔ ｉ ｎ ｇ ） Ｊ ．