∑

数学知识体系

Observatory Archive of Mathematics
⌕2026/8/31
概念

分解定理

LU、QR 与奇异值分解把矩阵拆为结构简单的因子,是数值线性代数求解方程、最小二乘与数据降维的核心工具。

所属主题:线性代数 ↗
阅读路径

参考可汗学院 Get ready 机制:先修概念 → 当前概念 → 进阶概念,✓ 表示已读。

01定义

把矩阵拆为结构简单的因子之积:LU 分解对应高斯消元,QR 分解对应正交化,奇异值分解 A=UΣVTA=U\Sigma V^T 则是「旋转—伸缩—旋转」的终极解剖。分解是数值线性代数的三大支柱。
A = U 旋转 Σ 轴伸缩 Vᵀ 旋转 奇异值分解 A = UΣVᵀ:任何线性映射都是 「旋转 → 沿坐标轴伸缩 → 再旋转」
SVD:旋转 U、对角伸缩 Σ、旋转 Vᵀ 三因子分解

02核心要点

01

LU 分解

A=LUA=LU(下三角×上三角)就是高斯消元的记录;求解 Ax=bAx=b 化为两次回代,同一 AA 多右端项时优势巨大。

02

QR 分解

A=QRA=QR(正交×上三角)由格拉姆-施密特产生;数值稳定性好,是解最小二乘与 QR 特征值算法的基础。

03

SVD 的威力

奇异值 σi\sigma_i 是 ATAA^T A 特征值的平方根;截断 SVD(保留前 kk 个)给出最优低秩逼近——Eckart-Young 定理,是数据压缩与降维的数学保证。

03关键公式

A=UΣVT,σi=λi(ATA)A=U\Sigma V^T,\quad\sigma_i=\sqrt{\lambda_i(A^T A)}
min⁡rank⁡B≤k∥A−B∥=σk+1(Eckart-Young)\min_{\operatorname{rank}B\leq k}\|A-B\|=\sigma_{k+1}\quad(\text{Eckart-Young})

04历史沿革

SVD 由贝尔特拉米(1873)与若尔当各自发现;20 世纪中叶成为数值线性代数标准工具;1965 年 Golub-Kahan 算法使其高效可算,从此统治数据科学。

05应用与延伸

推荐系统与搜索的降维(潜在语义分析)、图像压缩、伪逆 A+A^+ 求解病态方程、PCA 主成分分析——SVD 被称为「线性代数的高峰」。

06交互演示

矩阵的秩与列空间分解改变列向量:秩 r 是列空间的维数,A 可分解为 r 个秩 1 矩阵之和

07相关概念