回归 Part III:完整例题与模型诊断
本课程的 Week 12 课件缺失,本页内容依据两条证据推断:(1) Week 11 课件末尾的 Learning Objectives 明确写着 "Part III (week 12): 7. A fully worked example; 8. Regression assumptions revisited.";(2) 教材 Ch 12 的收尾章节安排。因此以下预判覆盖 ① 一道回归完整例题、② 回归假设再审视(残差诊断),并补上官方大纲常见的 ③ 多元回归初步。拿到 Week 12 课件后请回来核对,不必重做计划。
一、这一周大概在讲什么
Week 10 与 Week 11 已经把简单回归的"估计"与"推断"讲完了。Week 12 按课件线索是回归的收尾:用一个完整例子把前两周的流程串一遍,然后回头检查"这三条假设到底成不成立"。这两件事在考试里的形态很不同——前者是长计算题,后者是纯论述题。
1.1 完整例题要串起的东西
一道完整的回归大题通常是这样一条流水线:
| 步骤 | 计算内容 | 对应分 |
|---|---|---|
| 1 | 由原始数据或汇总表算 \( \bar{x},\bar{y},SS_{xx},SS_{xy},SS_{yy} \) | 基础分 |
| 2 | 算 \( b_1,b_0 \) 并写出估计方程 | 基础分 |
| 3 | 解释斜率与截距(情境语言) | 解释分 |
| 4 | 由 \( \mathrm{SST}=\mathrm{SSR}+\mathrm{SSE} \) 算 \( R^2 \) 并解释 | 解释分 |
| 5 | 算 \( s_e,s_{b_1} \),做斜率检验 / CI | 推断分 |
| 6 | 预测 + CI / PI,并解释两者差异 | 推断分 |
| 7 | 结论 + 不能推断因果的说明 | 论述分 |
1.2 "回归假设再审视"在考试里长什么样
这是一道不需要计算的论述题,往往问:"How would you assess whether the assumptions of the simple linear regression model are satisfied?" 答案就是画残差图、逐条对照 A1–A3。
1.3 多元回归(大纲常见收尾)
简单回归只有一个自变量;多元回归(multiple regression)把模型扩展为多个自变量:\( y=\beta_0+\beta_1x_1+\beta_2x_2+\cdots+\beta_kx_k+\varepsilon \)。核心变化是:① 每个斜率解释为"控制其他变量后"的边际效应(ceteris paribus);② 自由度变成 \( n-k-1 \);③ \( R^2 \) 会随变量增加而上升,因此要警惕过拟合(overfitting)。
二、核心公式与图形
| 假设 | 内容 | 若被违反 | 如何检查 |
|---|---|---|---|
| A1 | 误差服从正态分布 | 小样本下 t 检验与 CI 不可靠(大样本 CLT 可救) | 残差的正态概率图 / 直方图 / 偏度 |
| A2 | 零均值、同方差(不随 x 变化) | 标准误估计有偏,t 检验失真 | 残差对 x(或对 \( \hat{y} \))的散点图——应呈水平带状随机散布 |
| A3 | 误差相互独立 | 标准误被低估,t 值虚高(假阳性) | 残差按时间/顺序排列的图;有无自相关 |
"To assess the validity of the regression assumptions, plot the residuals against the fitted values (or against x). The plot should show no pattern — points randomly scattered around zero with constant spread. A funnel shape would indicate heteroscedasticity (violation of A2); a curved pattern would suggest the linear functional form is inappropriate."
三、考点清单与预测题型
| 题型 | 出现概率 | 分值 | 拿分要点 |
|---|---|---|---|
| 计算 回归完整例题(算到结论) | 较高 | 8–10 | 按 §一 的七步流水线;每步写过程。 |
| 论述 如何检验回归假设 | 较高(纯论述) | 3–5 | 残差图 + A1/A2/A3 三条逐一对症。 |
| 概念 多元回归斜率解释 | 较低 | 1–2 | "控制其他变量不变时"的效应。 |
| 概念 为什么用调整 \( R^2 \) | 较低 | 1–2 | 惩罚变量个数,防过拟合。 |
分值依据:Week 11 课件 Learning Objectives 明确列出 week 12 的"完整例题"与"假设再审视",且此类论述题在历年评分中属"纯写作、不需要计算"的题型;预测分值 3–5 分来自 考试情报 §六 的 W12 行。
四、典型例题精讲
例题 1 · 回归假设的诊断(论述题) 4
How would you assess whether the assumptions of the simple linear regression model are satisfied?
点击展开:参考答案与评分点
把残差 \( e_i=y_i-\hat{y}_i \) 画成图来判断:
- A1 正态:看残差的正态概率图 / 直方图。若明显偏斜、双峰或远离对角线,则正态假设可疑(小样本下 t 检验与 CI 不可靠)。
- A2 同方差:把残差对 \( x \)(或对 \( \hat{y} \))画散点图。理想情形是"围绕 0 随机散布、带宽恒定";若出现喇叭形(funnel),就是异方差,标准误估计有偏。
- A3 独立:把残差按时间 / 观测顺序排列。若出现连续同号(自相关),说明误差不独立,标准误会被低估、t 值虚高。
评分点:① 提出画残差图(1 分)|② A1 的正态检查方式(1 分)|③ A2 的喇叭形识别(1 分)|④ A3 的自相关识别(1 分)。
例题 2 · 完整回归例题(串起 W10–W11) 10
某公司 12 个月的广告支出 \( x \)(千元)与销售额 \( y \)(万元):\( \sum x=120,\ \sum y=840,\ SS_{xx}=440,\ SS_{xy}=1540,\ \mathrm{SST}=8100,\ \mathrm{SSE}=5670 \)。(a) 写回归方程并解释斜率;(b) 求 \( R^2 \);(c) 检验斜率是否显著为正(\( \alpha=0.05 \));(d) \( x=15 \) 时预测销售额。
点击展开:完整解答与评分点
\( \bar{x}=120/12=10,\ \bar{y}=840/12=70 \)。
(a) \( b_1=SS_{xy}/SS_{xx}=1540/440=3.50 \);\( b_0=70-3.50(10)=35.0 \)。方程 \( \hat{y}=35.0+3.50x \)。斜率 3.50:广告支出每增加 1 千元,销售额平均增加 3.50 万元。
(b) \( \mathrm{SSR}=\mathrm{SST}-\mathrm{SSE}=8100-5670=2430 \);\( R^2=2430/8100=0.30 \)。广告支出解释了销售额变异的 30%。
(c) \( \df=n-2=10 \);\( s_e=\sqrt{5670/10}=\sqrt{567}=23.81 \);\( s_{b_1}=23.81/\sqrt{440}=1.135 \);\( t_{calc}=3.50/1.135=3.084 \);\( t_{0.05,10}=1.812 \);\( 3.084 > 1.812 \) → reject \( H_0 \),存在显著正相关。
(d) \( \hat{y}=35.0+3.50(15)=87.5 \) 万元。
评分点:① \( \bar{x},\bar{y} \)(1 分)|② \( b_1,b_0 \)(1 分)|③ 方程(1 分)|④ 斜率解释(1 分)|⑤ \( \mathrm{SSR} \) 与 \( R^2 \)(1 分)|⑥ \( R^2 \) 解释(1 分)|⑦ \( s_e \) 与 \( \df=10 \)(1 分)|⑧ \( s_{b_1} \)(1 分)|⑨ t 检验与结论(1 分)|⑩ 点预测(1 分)。
例题 3 · 多元回归的概念题 2
某多元回归 \( \hat{y}=10+2.5x_1-1.2x_2 \) 中,如何解释 \( x_2 \) 的系数?为什么用调整 \( R^2 \)?
点击展开:参考答案与评分点
\( x_2 \) 的系数 −1.2 表示:在 \( x_1 \) 保持不变(控制其他变量)的前提下,\( x_2 \) 每增加 1 单位,y 平均减少 1.2 单位。
用调整 \( R^2 \) 是因为普通 \( R^2 \) 会随自变量个数增加而单调上升——即使加入的是无用变量。调整 \( R^2 \) 对变量个数做了惩罚(\( \frac{n-1}{n-k-1} \)),更能反映模型的真实解释力。
评分点:① "控制其他变量不变"的边际解释(1 分)|② 说明 \( R^2 \) 随变量增加而上升、需惩罚(1 分)。
五、易错点与考场技巧
| 易错点 | 正确做法 |
|---|---|
| 把"残差随机散布"当成数字结论 | 诊断题是论述:说清"画什么图、看到什么、说明违反了哪条"。 |
| 多元回归斜率仍按"单一效应"解释 | 必须加"其他变量保持不变"。 |
| 用普通 \( R^2 \) 比较不同变量数的模型 | 用调整 \( R^2 \)。 |
| 多元回归 \( \df \) 仍写 \( n-2 \) | \( \df=n-k-1 \)(k 个自变量)。 |
| 忘记写"结论 + 不能推断因果" | 回归大题的最后一段永远是这两句。 |
假设诊断题是"背下来就能满分"的题。把 §二 的诊断表与那句英文论述背熟,考场上直接写。它不需要计算,是最划算的 3–5 分。
六、3 分钟自测
上一周:Week 11 · 回归推断(下)|回到 课程主页 或查看 公式速查表。