Chapter_18
9/17/25About 5 min
### 第18章:变量选择与高维数据 **核心问题**:因果推断中调整变量 \(L\) 的选择标准与预测分析不同,需避免引入偏差并确保条件可交换性。
18.1 变量选择的不同目标
- 因果推断 vs. 预测分析:
- 因果推断:需调整混杂因子 (L) 以实现条件可交换性((Y^a \perp !!! \perp A \mid L))。未调整混杂时,关联度量(association measure)无法解释为因果效应。
- 预测分析:仅需最大化预测准确性(如预测戒烟 (A) 与体重增加 (Y) 的关联),无需考虑混杂或因果解释。
例:预测模型包含协变量(戒烟、基线体重、收入),但不区分是否为混杂因子。
- 关键区别:混杂(confounding)是因果概念,不适用于纯关联性估计。
18.2 导致或放大偏差的变量
调整某些变量可能引入偏差,即使样本无限且无约束:
偏差来源分类:
- 碰撞子(Collider)调整:
- 图18.1中调整 (L)(碰撞子)会打开路径 (A \rightarrow L \leftarrow U \rightarrow Y),导致选择偏差(selection bias)。
- 零效应下((A) 不影响 (Y)),调整 (L) 仍产生非零关联(偏差)。
- 中介变量(Mediator)调整:
- 图18.4中调整中介 (L)(如 (A \rightarrow L \rightarrow Y))会阻断间接路径,导致过度调整(overadjustment),高估直接效应但低估总效应。
- 工具变量(Instrument)调整:
- 图18.7中调整工具变量 (Z) 可能放大未测混杂 (U) 的偏差(Z-bias),但可能减少偏差(不确定性高)。
- 碰撞子(Collider)调整:
时间顺序的局限性:
- 即使变量在治疗 (A) 后测量(post-treatment),仍可能为混杂(图18.5:(L) 阻断后门路径 (A \leftarrow U \rightarrow L \rightarrow Y))。
- 核心挑战:数据无法区分碰撞子、混杂或中介,需依赖领域知识排除偏差诱导变量。
预处理变量的风险:
- M-偏差:图18.6中调整预处理碰撞子 (L) 引入偏差。
- 偏差放大(Bias Amplification):调整工具变量 (Z) 可能放大未测混杂 (U) 的影响(线性模型下必然发生)。
结论:避免调整所有可用变量 (X);需结合因果图排除偏差诱导变量。
18.3 因果推断与机器学习
假设:已通过领域知识确保 (X) 包含所有混杂 (L) 且无偏差诱导变量,满足可忽略性(ignorability)和正值性(positivity)。
- 高维挑战:
- 传统参数模型(如GLM)在 (X) 维数高时必然误设(misspecified)。
- 机器学习(ML)方法(如Lasso、随机森林、深度学习)可灵活估计条件期望:
- 倾向得分 (\pi(X) = \Pr(A=1 \mid X))
- 结果回归 (b(X) = E[Y \mid A=1, X])
- ML优势:通过交叉验证优化预测,但需与双重稳健估计结合。
18.4 双重稳健机器学习估计量
目标:估计 (\psi = E[Y^{a=1}]),需满足偏差 (\ll 1/\sqrt{n}) 以确保Wald置信区间有效。
双重稳健估计量(AIPW):
[
\hat{\psi} = \frac{1}{n} \sum_{i=1}^n \left[ \hat{b}(X_i) + \frac{A_i}{\hat{\pi}(X_i)} (Y_i - \hat{b}(X_i)) \right]
]- 优势:偏差取决于乘积误差 (\left( \frac{1}{\hat{\pi}(X)} - \frac{1}{\pi(X)} \right) \times ( \hat{b}(X) - b(X) )),可降至 (O(n^{-1/2}))。
样本分割(Sample Splitting)与交叉拟合(Cross-fitting):
- 将样本随机分为训练集(训练 (\hat{b}(X)), (\hat{\pi}(X)))和估计集(计算 (\hat{\psi}))。
- 交换角色重复估计,取平均得交叉拟合估计量 (\hat{\psi}_{\text{cross-fit}})。
- 统计性质:
- 条件于训练数据,估计量渐近正态。
- 若 (\hat{b}(X)) 和 (\hat{\pi}(X)) 收敛速率满足 (\alpha + \epsilon > 1/2),则偏差为 (o(n^{-1/2}))。
优势:结合ML的灵活性与双重稳健性,实现有效推断。
18.5 变量选择的根本难题
双重稳健ML的局限:
- 领域知识不足:无法确保排除所有偏差诱导变量。
- 计算成本:时变处理或生存分析中实现复杂。
- 方差-偏差权衡:
- 强关联协变量导致 (\pi(X) \approx 0/1),估计方差增大。
- 基于数据剔除变量会破坏置信区间有效性。
实践建议:
- 进行多重敏感性分析(multiple sensitivity analyses),比较不同方法结果的一致性。
- 若结果冲突,需探究原因(如未测混杂或模型误设)。
结论**
- 变量选择核心:依赖因果结构知识,而非纯统计标准。
- 高维数据解法:双重稳健估计 + ML + 样本分割/交叉拟合,可在一定条件下实现有效推断。
- 开放问题:方差-偏差权衡、时变处理扩展及领域知识整合仍需方法论创新。