线性代数笔记

矩阵分析与应用 2025 年秋

Lecture 1

符号均有其来源，对其保持好奇心与敏感性是有必要的
矩阵后于行列式的出现是合理的：矩阵只是一个符号表示
矩阵的记号以及乘法的写法：历史选取的结果
部分主元（partial）与全部主元（complete pivot）法：浮点所导致的工程计算技巧（numerical trick）.
在计算机中，存在少量病态矩阵（ill-conditioned system）轻微浮点误差引起结果浮动巨大。

Lecture 2

矩阵的 rank 和 consistency（可解性）；矩阵的 row echelon 形式和 reduced row echelon 形式 E_A
齐次的解的形式：是由 n - r 个自由变量对一些解向量的线性组合表示的。这里解不能直接被观察（也就是说，只是恰好可以证明这些向量就是方程的解。）
矩阵乘法的定义就是线性组合

Lecture 3

在工程实现中的矩阵运算，理论复杂度是n^2。目前能到达的是2.3~2.4；而数乘运算的复杂度被解决为n·logn。
Sherman–Morrison 方法给出了对矩阵轻微扰动后解的形式。

Lecture 4

矩阵的 LU 形式中 L 直观填数是分解过程的逆过程
通过行交换将该行对应的维数便对后再进行LU分解是自然的；另外，对于LU分解中混入的行交换，形式上可以将其提到最前（但是中间的第三类变化矩阵将可能变为只含k的上三角）。

Lecture 4.5 3Blue1Brown

行列式的几何意义
左矩阵列满秩与行满秩时，作用于右侧任意向量时，右测任意向量与结果任意向量的几何意义：零空间与列空间
点积运算和矩阵乘法写法的一致性：数值上为 a·b·cosθ
叉积本质上是寻找一个一维压缩的线性变换的矩阵向量 p，使得px的结果为u, v, x构成的体积

第 5, 6 个 lecture 为向量空间与线性变换。

Lecture 5

四个基本子空间、其中两对是正交的；
矩阵乘法对于矩阵的影响：从零空间与列空间的正交性来分析
A.T 与 A 乘积的特殊性：最小二乘法

Lecture 6

有限维（即可表示为矩阵）的线性变换的坐标矩阵的一般表示形式：变换前后选定基不同
特殊的，在基不发生变化的情况下，相似矩阵分解表示形式；
基不发生变化从另一个角度理解：多个相互正交的不变子空间；
更特殊的，在基不发生变化的情况下，矩阵的对角化分解：特征基和特征值

Lecture 7

CBS 不等式及其一般形式(General CBS Inequality)；三角不等式(Triangle Inequality)
向量的欧几里得模（p-范数）具有相同的收敛性；
矩阵的 F 模、一般模(General Matrix Norm)的定义：一模、二模的定义与表示形式
矩阵在不同范数下具有相同的收敛性：矩阵的范数是基于向量范数诱导出来的；可以理解为它仅仅只是在向量上作线性变换，由于向量范数收敛所以它也收敛。
内积空间中模的存在性：内积可以衍生范数，但范数需要平行四边形恒等式来补充角度的定义才能得到内积空间；由此可知二范数的内积空间存在是必然的。
傅里叶展开(Fourier Expansions)与泰勒展开逼近所反映出的现代研究思想
QR 分解与 LU 分解的对比
QR 分解在浮点运算中不稳定的优化

Lecture 8

镜面反射矩阵
四种阶梯型化简的对比：高斯消元(Gaussian elimination), 施密特正交化 QR 分解(Gram-Schmidt procedure), 正交约简(Householder reduction), 旋转约简(Givens reduction)
离散傅里叶变换 DFT 和快速傅里叶变换 FFT

Lecture 9

投影矩阵的互补性质：P 与 I-P 的列空间与零空间；充要条件 P² = P；P 用基坐标矩阵的表示形式
A^k 的零空间与列空间变化；指标(index)与幂零矩阵
核零分解(Core-Nilpotent Decomposition) 与伪逆

Lecture 10

URV 分解与核零分解的对比，RPN 矩阵(Range Perpendicular to Nullspace)的特殊性
SVD 分解与条件数
基本投影矩阵 uu^T，施密特正交化中的 R 矩阵主对角元素之乘积为体积，最小二乘为 b 的正交投影
用低秩矩阵代替高秩矩阵的广泛应用

第 11 个 lecture 讲解行列式。

Lecture 11