第二十一讲

用微信扫码二维码

分享至好友和朋友圈

你好！欢迎参加《小白爱上SPSS》课程。

第二十一讲内容：多元线性回归分析怎么做？

今天我们来学习多元线性回归分析，它用来评价一个因变量和多个自变量之间关系的统计方法。除了需要满足一元线性回归的条件之外，多元线性回归还需要满足【多个自变量不存在多重共线】的条件，多元线性回归需要满足如下条件。

（1）自变量和因变量在理论上有因果关系；

（2）因变量为连续型变量；

（3）各自变量与因变量之间存有线性关系；

（4）残差要满足正态性、独立性、方差齐性。

（5）多个自变量不存在多重共线性

其中， 线性（Linear）、正态性（Normal）、独立性（independence）、方差齐性（Equal Variance） ，俗称 LINE ，是线性回归分析的四大基本前提条件。

这里稍微解释它们概念：

Q1 线性：解释自变量X和因变量Y必须要有线性关系吗？

---不是！只有当X是连续型数据或者等级数据（不设哑变量）时，才要求X与Y有线性的关系。当X是二分类或无需多分类，没有线性条件的要求。

Q2独立性：要求因变量Y各观察值相互独立吗？

---不是，是要求残差是独立的。

Q3正态性：要求因变量Y各观察值正态分布吗？

---不是，是要求残差正态分布。

Q4方差齐性：要求不同的解释变量X时，因变量Y方差相等吗？

---没错，但是对于多元线性回归分析，更加合理的理解是在不同Y预测值情况下，残差的方差变化不大。

Q5：一定要严格满足LINK吗？

---如果回归分析只是建立自变量与因变量之间关系，无须根据自变量预测因变量的容许区间和可信度等，则方差齐性和正态性可以适当放宽。

何为残差？

残差在数理统计中是指实际观察值与估计值（拟合值）之间的差。 我们以一元线性回归为例，它只有一个自变量，其模型可以表示为：

上述公式是基于样本得到的结果，b0和b1均为统计量。

若该公式拓展到总体人群，则为：

值得注意的是，这里x是真实的变量值x，而y带了一顶帽子，并非是y的真实值，而是成为y的预测值或者估计值。实际上，x和y没有严格上一一对应的关系，通过x产生的预测值，是接近于y但不等于y。y预测值与y真实值之间的差值我们称之为残差。

残差反映了除了x和y之间的线性关系之外的随机因素对y的影响，是不能由x和y之间的线性关系所解释的变异性。

可以这么来理解ϵ：我们对y的预测是不可能达到与真实值完全一样的，因此必然会产生误差，我们就用ϵ来表示这个无法预测的误差。我们通过引入了ϵ可以让模型达到完美状态，也就是理论的回归模型。结合残差，真实的y和x关系如下：

同样的，多个自变量存在的情况下，多重线性回归模型的表示如下：

其中，bk、βk：回归系数，在多重线性回归中，被称之为偏回归系数，表示每个自变量都对y部分的产生了影响。

意义与简单线性回归结果相似，反映的是x对y的影响力，是当x每改变一个观测单位时所引起y的改变量。

这里e是样本的预测值与测量值的差别，ϵ是总体中预测值与真实值的差别。戴了帽子的y预测值的变异性是解释变量x们能够预测和解释的。

一般情况下，成功的线性回归模型实现：

（1）残差ϵ是一个期望为0的随机变量，即E(ϵ)=0

（2）对于预测值的所有值，ϵ的方差σ^2都相同

（3）残差ϵ是一个服从正态分布的随机变量，且相互独立，即ϵ~N(0,σ^2)

何为多重共线？

当2个或多个自变量高度相关时，就会出现多重共线。它不仅影响自变量对因变量变异的解释能力，还影响整个多重线性回归模型的拟合。

PART1

实战案例

小白研究运动员训练比赛满意感与成就感降低、情绪体力耗竭、运动负评价、自尊等变量之间关系，试建立多元线性回归方程 （部分数据如下，完整数据请回复【小白数据】下载）。

该案例研究运动员训练比赛满意感与多个自变量（成就感降低、情绪体力耗竭、运动负评价、自尊）之间的关系。从专业知识上课认为成就感降低、情绪体力耗竭、运动负评价、自尊是可以预测训练比赛满意感的。

PART2

统计策略

统计分析策略口诀“目的引导设计，变量确定方法”（啥意思？ ）

针对上述案例，扪心五问。

Q1：本案例研究目的是什么？

A：关联研究，探讨多个自变量与因变量之间的因果关系。

Q2：分析的组数是多少呢？

A：五 组数据。

Q3：本案例属于什么研究设计？

A：调查 研 究

Q4：有几个变量？

A：有五个变量。分别是成就感降低、情绪体力耗竭、运动负评价、训练比赛满意感、自尊。

（训练比赛满意感为因变量，成就感降低、情绪体力耗竭、运动负评价、自尊为自变量）

Q5：残差是否具有独立性、方差齐性和正态分布？

A：需要检验残差是否满足独立性、方差齐性和正态性。

Q6：各自变量之间是否存在多重共线性？

A:需要检验

概括而言，如果数据满足以下条件，则采用多元线性回归分析。

PART3

SPSS操作

（一）绘制散点图

对于线性关系的条件，一般要求当x是连续型变量或者等级变量时，需绘制散点图探讨与y是否存在着线性趋势的关系；如x为二分类或者无序多分类，无须绘制散点图。

本例绘制成就感降低、情绪体力耗竭、运动负评价、自尊与训练比赛满意感之间关系的散点图分析。具体操作如下。

Step1： 图形—图形画板模板选择器

Step2： 按Shift选择左边的对话框所有的变量，同时点击【散点图矩阵】，点击【确定】。

输出结果如下， 重点关注最后一行 ，即各自变量（成就感降低、情绪体力耗竭、运动负评价、自尊）与因变量（训练比赛满意感）之间线性关系。从图中可知，各自变量与因变量之间存有线性关系。

（二）线性回归分析操作

Step1: 依次点击“分析——回归——线性

Step2: 将“训练比赛满意感”纳入“因变量”；将成就感降低、情绪体力耗竭、运动负评价、自尊放入“自变量”；方法选择“输入”

Step3: 点击“统计” 默认选项“估算值”；“模型拟合”；另选择“durin waston(德宾-沃森)和“描述”。设置完后，点击“继续”。

Step4 : 在弹出“线性回归：图”对话框中将 “*ZRESID”（标准化残差）放入Y轴中，将“*ZPRED”（标准化预测值）放入X轴中，勾选“直方图”和“正态概率图”，单击“继续”。点击“确定”。

Step5: 点击“保存”后勾选预测值的“未标准化”和“残差的未标准化”。

PART4

结果解读

第一，呈现的是R方结果和残差独立性检验（德宾沃森检验）：

模型摘要是判断两者之间线性关系的重要指标，也反映了回归的拟合程度。

①一般情况下，R²看的是“调整R²”，该值相对不受自变量个数的影响，结果更为可靠。本例包括多个自变量，建议报告调整R²=0.487。表明“所有自变量” 解释“训练比赛满意感”的48.7%变异。

②德宾沃森检验若结果在0-4之间，基本可认为数据独立性符合。本例的德宾沃森值为1.761，符合独立性。

第二个结果为方差分析（ANOVA）：

主要探讨模型的是否成功建成。

本案例F=24.464，P