过拟合：为得到一致假设而使假设变得过度复杂称为过拟合。

比如：某种学习算法产生了一个过拟合的分类器，这个分类器能够百分之百的正确分类样本数据，即再拿样本中的文档来给它，它绝对不会分错，但也就为了能够对样本完全正确的分类，使得它的构造如此精细复杂，规则如此严格，以至于任何与样本数据稍有不同的文档它全都认为不属于这个类别。