Jerry's Blog

Back

从线性代数到 LASSO:公式展开、推导与计算过程完整教材#

一份把 x ≈ Dh、最小二乘和 LASSO 从“公式黑盒”拆成可手算、可解释、可推导对象的教材。

下载 PDF:从线性代数到 LASSO


目录概览#

部分内容
第一部分:看懂公式标量、向量、矩阵、范数、矩阵乘法、误差、最小二乘、arg min 与梯度
第二部分:从最小二乘到稀疏表示L0 稀疏优化、正则化、Ridge、LASSO、凸性、子梯度与最优性条件
第三部分:综合例题、扩展与实践soft-thresholding、正交设计、坐标下降、ISTA、L1L2 几何差异
第四部分:附录矩阵求导速查、练习题与答案、总结

适合怎么读#

  • 如果是第一次接触 LASSO,可以先顺着第一部分建立线性代数和最小二乘直觉。
  • 如果已经熟悉基础公式,可以从第二部分进入稀疏表示、L1 正则化和最优性条件。
  • 如果关心算法实现,可以重点读 soft-thresholding、坐标下降和 ISTA 几章。

一句话总结#

LASSO 的核心不只是“加一个 L1 惩罚项”,而是用可计算的凸优化形式,把拟合误差和稀疏偏好放进同一个目标函数里。

从线性代数到 LASSO:公式展开、推导与计算过程完整教材
https://jerry609.github.io/blog/lasso-textbook
Author Jerry
Published at May 7, 2026
Comment seems to stuck. Try to refresh?✨