统计挖掘那些事那些情(2)-回归分析spss

前文：统计挖掘的一些事一些情（一）



实际上，无论是日常的统计学习还是挖掘学习中，回归分析都可以算是大家最早接触，也是整个体系当中相当重要的一个内容了，所以咱们这期就从回归分析说起吧。



一般来说，借助回归分析，我们希望可以量化描述预测变量与响应变量的关系，同时帮助我们进行预测。其他的例子还有：广告的投入与市场销售的关系，受教育程度与收入的关系等。而在整个回归体系当中，最基础的莫过于普通最小二乘回归（Ordinary Least Square，简称OLS）







实际上，对于回归分析来说，我们需要有两件事情需要确认：（1）参数估计；（2）假设检验。

1：参数估计





实际上，上述的回归分析损失函数是一个凸函数；在机器学习中，我们一般会构造关于所求变量的凸函数，这更容易帮助我们取得最优解。



从上面的式子中，我们可以得知，在其他因素固定的情况下，身高每增加1cm，体重就平均增加2.085kg



2：假设检验



（1）t检验









(2)相关系数r







实际上，以我们考试为例。参数估计，有点像我们回答问题的过程；而假设检验，则是像检验我们刚刚回答是否达到标准的过程；







接下来，我们简单谈谈利用SPSS Modeler的实现过程

直接回复公众号“回归分析”，将给你提供本次回归分析所使用的数据和建模文件的网盘链接













从上述分析结果中，我们可以看到系数检验表（Coefficients），无论是常数项还是身高的系数项对应的P值都是小于0.05，认为系数显著，可以写出回归方程：体重=2.085 ∗ 身高 − 290.4。另外我们通过ModelSummary可以看到，该回归方程的相关系数r=0.997，说明体重与身高有非常强的线性相关。至于中间的ANOVA表格，则是F检验的结果，我们留待下节介绍。