分解定理
LU、QR 与奇异值分解把矩阵拆为结构简单的因子,是数值线性代数求解方程、最小二乘与数据降维的核心工具。
所属主题:线性代数 ↗阅读路径
参考可汗学院 Get ready 机制:先修概念 → 当前概念 → 进阶概念,✓ 表示已读。
01定义
把矩阵拆为结构简单的因子之积:LU 分解对应高斯消元,QR 分解对应正交化,奇异值分解 则是「旋转—伸缩—旋转」的终极解剖。分解是数值线性代数的三大支柱。
02核心要点
01
LU 分解
(下三角×上三角)就是高斯消元的记录;求解 化为两次回代,同一 多右端项时优势巨大。
02
QR 分解
(正交×上三角)由格拉姆-施密特产生;数值稳定性好,是解最小二乘与 QR 特征值算法的基础。
03
SVD 的威力
奇异值 是 特征值的平方根;截断 SVD(保留前 个)给出最优低秩逼近——Eckart-Young 定理,是数据压缩与降维的数学保证。
03关键公式
04历史沿革
SVD 由贝尔特拉米(1873)与若尔当各自发现;20 世纪中叶成为数值线性代数标准工具;1965 年 Golub-Kahan 算法使其高效可算,从此统治数据科学。
05应用与延伸
推荐系统与搜索的降维(潜在语义分析)、图像压缩、伪逆 求解病态方程、PCA 主成分分析——SVD 被称为「线性代数的高峰」。
06交互演示
矩阵的秩与列空间分解改变列向量:秩 r 是列空间的维数,A 可分解为 r 个秩 1 矩阵之和