# 验证集

> 机器学习的普遍任务就是从数据中学习和构建模型（该过程称之为训练），并且能够在将来遇到的数据上进行预测。用于构建最终模型的数据集通常有多个；在构建模型的不同阶段，通常有三种数据集：训练集、验证集和测试集。 首先，模型在训练集（英语：training dataset）上进行拟合。对于监督式学习，训练集是由用来拟合参数（例如人工神经网络中神经元之间链接的权重）的样本组成的集合。在实践中，训练集通常是由输入向量（标量）和输出向量（标量）组成的数据对。其中输出向量（标量）被称为目标或标签。在训练过程中，当前模型会对训练集中的每个样本进行预测，并将预测结果与目标进行比较。根据比较的结果，学习算法会更新模型…

- ID: m12890
- 分类: learn
- 领域: 学习科学

## 定义

数据划分：训练集 / 验证集 / 测试集。用途：调参和模型选择，不用于最终评估。防止过拟合：模型不能"看到"用于最终评估的数据。脚手架作用：确保模型的泛化能力。在"已知数据"上表现好不算数，要在"未见数据"上也好。

## 机制

验证集是在训练过程中用于调参、选模型、Early stopping 的数据子集，与训练集分离以避免用测试集泄露。它估计模型在“见过但不参与训练”的数据上的表现。

## 练习

将数据分为训练/验证/测试集；用训练集更新参数；用验证集评估并调整超参、决定停止时机；最后仅在测试集上报告泛化性能。

## 脚手架用法

确保模型的泛化能力。在"已知数据"上表现好不算数，要在"未见数据"上也好。

[阅读网页](https://thinkingmodels.site/entries/detail/m12890)