前言 回归分析及其各种变型在科学和研究领域是最常用的统计方法（例如，参见著作 Hsu，2005、Pötschke&Simonson，2003、Elmore&Woehlke，1998，1996和Goodwin&Goodwin，1985）。各个学科领域、科研工作以及统计学的发展既对这些统计方法不断提出更高的要求，同时又起到巨大的推动作用（例如，参见Rigby 等人2004年的著作和Ripoll等人1996年的著作）。 某些作者也将回归分析称为最古老的统计方法之一。Stanton（2001）认为，线性回归基本统计方法的建立起源于 Karl Pearson（例如，1896 年发表的论文）的论文。Howarth（2001）则认为，线性分析基本理论及其使用方法甚至要追溯到Bond在1636年发表的一篇论文（例如，参见Finney，1996）。 回归分析发展史上的里程碑，是 18 世纪中叶人们创建了基本的计算方法后，从而与此相关地发明了“最小二乘”算法。直到 20 世纪中期发明了计算机之后，多元回归分析方法才被越来越多地应用于海量（并且容易出错）计算，从而加快了回归分析方法的应用、传播和发展。回归分析方法发展史上的其他（任意选出的）里程碑如有20世纪70年代出现的岭回归、80年代兴起的稳健回归以及 90 年代创建的新方法或对原有方法的混合使用。但是，作为一种表面上传统的方法，如今回归分析在用于数据挖掘时不仅仅是与其他新型方法（如神经网络）处于同一水平（例如，SPSS，2007b，第 10 章、Rud，2001、Berry&Linoff，2000 和 Graber，2000），而且比其他方法的使用要频繁得多（例如，Rexer 等人 2007 年的著作和 Ayres，2007）。但是，即使是应用数据挖掘的操作十分容易，数据挖掘也不能取代统计学或者计算机信息学知识，而是以这些知识为前提（Sc…