Minitab 偏最小二乘 (PLS) 回归:5个步骤处理高共线性预测变量
📅 2026/7/10 2:49:15
👁️ 阅读次数
📝 编程学习
Minitab 偏最小二乘 (PLS) 回归:5个步骤处理高共线性预测变量
当预测变量之间存在高度相关性或预测变量数量超过观测值时,传统的最小二乘法回归分析往往会失效。这时,偏最小二乘回归(Partial Least Squares Regression, PLS)便成为更优的选择。本文将详细介绍如何在 Minitab 中通过 5 个关键步骤完成 PLS 回归分析,帮助数据分析师有效解决高维数据建模难题。
1. 理解 PLS 回归的核心优势
PLS 回归是一种多元统计方法,特别适用于以下场景:
- 预测变量高度相关(多重共线性问题)
- 预测变量数多于观测值数(小样本大数据)
- 需要同时建模多个响应变量
与普通最小二乘法相比,PLS 通过提取预测变量和响应变量之间的协方差信息,构建一组不相关的新变量(称为"潜变量"或"成分"),从而克服传统回归的局限性。这种方法不仅能有效降维,还能保留对响应变量最具预测力的信息。
提示:当变量间的相关系数超过 0.8 时,就应考虑使用 PLS 而非普通回归。
2. 数据准备与探索性分析
在 Minitab 中执行 PLS 回归前,需确保数据格式正确:
- 数据排列:预测变量和响应变量应分列排列
- 缺失值处理:PLS 对缺失值敏感,需提前处理
- 标准化考虑:由于 PLS 对变量尺度敏感,建议先标准化数据
关键探索步骤:
# 查看变量间相关性 统计 > 基本统计量 > 相关 # 绘制散点图矩阵 图形 > 矩阵图典型问题检查表:
- 异常值检测(箱线图)
- 变量分布形态(直方图)
- 缺失值比例(工作表描述)
3. 构建 PLS 回归模型
在 Minitab 中执行 PLS 分析的具体路径:
统计 > 回归 > 偏最小二乘参数设置要点:
| 选项 | 建议设置 | 说明 |
|---|---|---|
| 响应 | 选择Y变量 | 可多选 |
| 预测变量 | 选择X变量 | 建议全选 |
| 方法 | NIPALS | 默认算法 |
| 尺度化 | 是 | 推荐标准化 |
| 交叉验证 | 留一法/10折 | 用于确定成分数 |
注意:当响应变量为多个时,PLS 会同时建模所有响应变量与预测变量的关系。
4. 确定最优成分数
成分数选择是 PLS 成功的关键。Minitab 提供两种主要方法:
交叉验证法:
- 通过预测残差平方和(PRESS)最小化确定
- 查看"交叉验证"输出表中的PRESS值拐点
方差解释率法:
- 累计解释方差达到80%以上
- 参考"模型选择"表中的R²值
典型输出解读:
成分数 X方差 R² 预测R² 1 0.58 0.65 0.62 2 0.75 0.82 0.78 3 0.82 0.85 0.80选择成分数时需平衡:
- 过少:模型欠拟合
- 过多:模型过拟合
5. 模型诊断与结果解释
完成建模后,需进行全面的模型诊断:
关键诊断图形:
- 残差 vs 拟合值图(检查异方差)
- 杠杆值图(识别强影响点)
- 成分贡献图(理解变量重要性)
结果解释要点:
- 系数表:解释各预测变量对响应的影响方向和大小
- VIP值(变量重要性投影):
- VIP>1:关键预测变量
- VIP<0.5:可考虑剔除
- 载荷图:展示变量与成分的关系
示例代码查看VIP值:
# 存储VIP值 统计 > 回归 > 偏最小二乘 > 存储 > 勾选"变量重要性投影"实战案例:化工过程优化
某化工企业使用 PLS 分析反应收率(Y)与15个工艺参数(X)的关系,其中多个温度参数高度相关(r>0.9)。通过 Minitab 的 PLS 回归:
- 确定最优成分数为3
- 发现3个关键参数(VIP>1.2)
- 模型预测R²达0.85
- 据此优化工艺后,收率提升12%
操作技巧:
- 对重要变量使用
**加粗**标注 - 可疑数据点添加
*星号*标记 - 定期保存分析会话(.MPJ文件)
编程学习
技术分享
实战经验