注:本章讨论的矩阵默认是复数矩阵
正规矩阵
- 正规矩阵
- 可以进行酉对角化的矩阵
- 存在酉矩阵
,使得 是对角矩阵
- 存在酉矩阵
- 可以进行酉对角化的矩阵
- 正规矩阵判断相关定理
- 矩阵
是正规矩阵 - 注:若矩阵既是正规矩阵又是三角矩阵,则矩阵是对角矩阵
- 矩阵
是正规矩阵 有 个两两正交的单位特征向量 - 正规矩阵属于不同特征值的特征向量互相正交
- 矩阵
- 正规矩阵的相关特性
- 设复矩阵
的特征值为 - Schur不等式
是正规矩阵
- Schur不等式
- 设复矩阵
- 实正规矩阵相关定义和定理
- Schur型
- 设
是 阶实矩阵,则 是正规矩阵 存在正交矩阵 ,使得 - 其中
是一阶实矩阵或Schur型
- 其中
- Schur型
- 实矩阵相关结论(设
是 阶实矩阵) 是对称矩阵 存在正交矩阵 ,使得 是对角矩阵 是反对称矩阵 存在正交矩阵 ,使得 - 其中
- 反对称矩阵的非零特征值是纯虚数
- 其中
是正交矩阵 存在正交矩阵 ,使得 - 其中
是二阶Givens旋转矩阵 - 正交矩阵的特征值的模均为
- 其中
- 复矩阵相关结论(设
是 阶复矩阵) 是Hermite矩阵 存在酉矩阵 ,使得 是实对角矩阵 是反Hermite矩阵 存在酉矩阵 ,使得 是纯虚数对角矩阵 是酉矩阵 存在酉矩阵 ,使得 是对角元素的模均为 的对角矩阵 - 从而酉矩阵的特征值的模均为
- 从而酉矩阵的特征值的模均为
- Hermite矩阵B正定
的所有顺序主子式均大于
正规矩阵的谱分解
- 正规矩阵的谱分解或特征值分解
- 设
是正规矩阵,则存在酉矩阵 ,使得 - 若把上述分解的零特征值项去掉,再把系数相同的项合并,则公式变为
- 其中
是 的互不相同的特征值
- 其中
- 几何意义
,其中 彼此正交 - 平面的正交分解
- 设
- 单纯矩阵
阶可对角化矩阵,存在可逆矩阵 使得 - 也有类似于正规矩阵的谱分解,详见下面的谱分解定理
- 谱分解定理
- 设
是单纯矩阵, 的谱为 ,其中 的重数是 ,则存在唯一的一组 个 阶方阵 满足下述条件,这些矩阵 称为矩阵 的谱分解的成分矩阵或主幂等矩阵 - 对比正规矩阵
- 单纯矩阵的谱分解不一定有
,故 中的各 不一定正交
- 单纯矩阵的谱分解不一定有
- 推论
- 设单纯矩阵
的谱分解为 ,则 ,故对于任意多项式 有
- 设单纯矩阵
- 设
矩阵的三角分解和Cholesky分解
- 三角分解的定义
- 设
是 阶矩阵,如果存在上三角矩阵 与单位下三角矩阵 使得 ,则称 有三角分解,或 分解
- 设
- 三角分解的唯一性定理
- 设
是 阶可逆矩阵,并且 有三角分解 ,则该分解唯一,且
- 设
- Cholesky分解定理
- 实正定矩阵
必有三角分解 ,且存在唯一的对角元素均为正的下三角矩阵 ,使得 - 矩阵
称为Cholesky三角,该分解即Cholesky分解
- 矩阵
- 实正定矩阵
- 可逆矩阵三角分解的存在性
- 定理:设
是 阶可逆矩阵,则 存在三角分解 的所有顺序主子式非零 - 此时存在唯一的一对单位下三角矩阵
和单位上三角矩阵 与对角矩阵 ,使得 ,这里 和 的顺序主子式完全相同
- 此时存在唯一的一对单位下三角矩阵
- 推论
阶矩阵 的前 个顺序主子式均非零,则 存在三角分解
- 定理:设
矩阵的QR分解
- 矩阵的正交三角分解(
分解) - 设
,且 是满秩的,则存在唯一的酉矩阵 和对角线元素都大于零的上三角矩阵 ,满足 - 本质上,即对
的各列向量作施密特正交化,然后单位化,作为 的各列 - 考虑到
是实满秩矩阵时,上述 是正交矩阵,一般写为 ,所以 分解也称为 分解 - 考虑到酉矩阵的行列式的模是
,所以
- 本质上,即对
- 设
- 矩阵的薄
分解 - 设
,且 是列满秩的,则存在唯一的 分解 - 其中
的 个列向量构成一组标准正交向量组, 为对角线元素大于零的上三角矩阵
- 其中
- 设
- QR分解的应用:最小二乘解
- 设
的正交三角分解为 ,则 的最小二乘解为
- 设
矩阵的奇异值分解与极分解
- 奇异值分解定理
- 设
,则存在 阶和 阶酉矩阵 和 使得 - 其中
,且
- 其中
- 奇异值分解简称SVD,
称为 的 个奇异值
- 设
- 奇异值分解的计算步骤(符号的设置同上述奇异值分解定理)
- 考虑计算的简洁性,若
则考虑 的酉对角化,否则考虑 的酉对角化 - 不妨设
,此时 , 是 阶酉矩阵 - 设
,其中 是 的矩阵,此时
- 不妨设
- 此时已经找到了一个
阶酉矩阵 ,需要构造另一个 阶酉矩阵 - 考虑到
,所以令 - 此时
,且 是 的矩阵,可以将 扩充为 阶酉矩阵
- 考虑到
- 此时
, - 故
- 故
- 考虑计算的简洁性,若
- 奇异值分解推论
- 设
的秩是 ,非零奇异值是 ,则 和 的非零特征值都为 和 的非零奇异值都为
- 设
是 矩阵 的一个奇异值分解, ,则 - 酉矩阵
的前 列是 列空间的一组标准正交基 - 酉矩阵
的前 列是 行空间的一组标准正交基 的后 列是 零空间的一组标准正交基 的后 列是 零空间的一组标准正交基
- 酉矩阵
- 设
- 极分解
- 设
,则存在酉矩阵 和唯一的半正定矩阵 ,使得 分别称为 的Hermite因子和酉因子 - 本质是奇异值分解,设
,则
- 设