对于没有截距项的二元回归模型求该模型的最小二乘估计量,模型残差和是否一定为零? 您所在的位置:网站首页 过原点的样本回归线的代数性质 对于没有截距项的二元回归模型求该模型的最小二乘估计量,模型残差和是否一定为零?

对于没有截距项的二元回归模型求该模型的最小二乘估计量,模型残差和是否一定为零?

2023-04-17 17:40| 来源: 网络整理| 查看: 265

首先给出线性回归方程: y=X\beta+\epsilon\\ 相应的最小二乘估计量为: \hat{\beta}=(X'X)^{-1}X'y\\ 由此可以计算出模型的残差项为: \begin{split} e&=y-X\hat{\beta}\\ &=[I-X(X'X)^{-1}X']y\\ \end{split}\\ 模型残差项的和为: \begin{split} l'e&=l'[I-X(X'X)^{-1}X']y\\ &=l'y-l'X(X'X)^{-1}X'y \end{split}\\ 如果是没有截距项的二元回归模型的话,可以将回归矩阵X写成向量 x ,相应的残差项之和为: \begin{split} l'e&=l'y-l'x(x'x)^{-1}x'y\\ &=n\bar{y}-\frac{n\bar{x}\sum_{i=1}^nx_iy_i}{\sum_{i=1}^n x_i^2} \end{split}\\ 这个式子只有在 \bar{y}=\frac{\bar{x}\sum_{i}^nx_iy_i}{\sum_{i}^nx_i^2}时才会成立,存在以下几种情形时,该式还是会成立的:

所有的 x_i 取值均为同一常数,此时回归元本身就充当了截距项的角色;x_i 的取值是 y_i 的倍数,即回归模型能够完美地拟合样本点,此时所有的残差项均为0,相应的残差项之和同样为0;其他我暂时没有想到,但是符合上式的情形。

题主问的是模型的残差项之和是否一定为零,其实只要举一个反例就可以了,我使用R语言构造了几个例子,有的残差项之和为零,有的残差项之和不为零,具体内容见下图。最终得出的结论是:模型残差项之和不一定为零

使用R语言做出来的几个实例



【本文地址】

公司简介

联系我们

今日新闻

    推荐新闻

    专题文章
      CopyRight 2018-2019 实验室设备网 版权所有