本节是对线性代数的回顾和补充
矩阵乘法与分块矩阵
基本概念
- 数域
上的 矩阵的全体
- 数域
或 - 全体方阵
或 - 单位矩阵
- 矩阵
的共轭矩阵- 共轭矩阵指把矩阵每个元素都取共轭
- 矩阵
或- 矩阵的共轭转置
- 本体系在复数域讨论问题,伴随矩阵用
表示- 如果只考虑实数域,伴随矩阵仍常用
- 如果只考虑实数域,伴随矩阵仍常用
- 矩阵的共轭转置
- 基本矩阵
- 第
行第 列元素为 ,其他元素都为
- 第
- 基本矩阵
- 矩阵第
行
- 矩阵第
- 矩阵第
列
- 矩阵第
- 第
个元素为1其余元素为0的列向量
- 第
或- 矩阵
的行列式
- 矩阵
- 矩阵
的迹
- 矩阵
矩阵迹的性质
- 这里
可以不是方阵
- 这里
- 注意这里每个元素都是复数
逆矩阵的性质
- 可逆矩阵和任何矩阵乘积不改变该矩阵的秩
秩的估计
- Sylvester不等式
是 的列数、 的行数
- 证明如下
- 左边的秩为
,右边的秩不小于
矩阵的直和
- 分块对角矩阵可以用矩阵的直和方式表示,如下
线性方程组与n维线性空间
- 线性方程组解的结构、线性无关和线性相关、极大线性无关组、齐次线性方程组基本定理、线性方程组基本定理等相关概念都和实数域类似,这里略。
- 满秩分解
- 设
,如果列满秩矩阵 和行满秩矩阵 使得 ,则称 是 的一个满秩分解 - 方法一
- 存在可逆矩阵
,使得
- 存在可逆矩阵
- 方法二
- 把矩阵经过行变换化为Hermite标准形(简化行阶梯形)
- 设
,且 第 行的先导元素所在列标为 是 的满秩分解
- 设
- 当
的系数矩阵为- 基础解系对应线性空间的基
- 基础解系中解向量的个数对应着线性空间的维数
特征值与矩阵的相似对角化
- 特征值的几何重数
- 该特征值对应特征向量张成的特征子空间的维数
- 矩阵的谱
- 矩阵所有特征值的集合
- 矩阵的谱半径
- 矩阵特征值的最大模
- 特征值的代数重数
- 设
- 正整数
是特征值 的代数重数
- 设
- 特征值的性质
可逆等价于 不是 的特征值- 设
是任意多项式, 是 的特征值, 是对应特征向量- 则
是 的特征值, 是对应特征向量
- 则
- 设
可逆且- 则
- 且若
是 属于特征值 的特征向量,则 是 属于特征值 的特征向量
- 则
- 特征值几何重数不超过代数重数
- 相似矩阵的特征多项式相同
- 从而特征值也相同
- 特征向量的性质
- 属于不同特征值的特征向量线性无关
阶矩阵 可对角化 有 个线性无关的特征向量 有一组由 的特征向量组成的基- 对角化主定理:
阶矩阵 可对角化 的每个特征值代数重数和几何重数相等- 若特征值代数重数和几何重数相等,考虑到特征值代数重数的和是
,则 有 个线性无关的特征向量,从而可以对角化 - 若
可对角化,则存在可逆矩阵 和对角矩阵 使得 ,即 ,此时对于每个特征值 已经找到了 个线性无关的特征向量,故对于每个特征值都有几何重数大于等于代数重数 。又由几何重数不大于代数重数,故几何重数等于代数重数
- 若特征值代数重数和几何重数相等,考虑到特征值代数重数的和是
线性空间
- 加群或交换群,满足下列性质的“
”运算的几何- 封闭性
- 结合律
- 交换律
- 存在零向量
- 存在负向量
- 满足除了交换律之外的性质的集合叫做群
- 此时运算一般用乘法“
”而不是“ ”
- 此时运算一般用乘法“
- 线性空间
的两个特点- 线性空间
是加群(向量的加运算)- 更一般的
是加群(矩阵的加运算)
- 更一般的
中的数可以和 的元素作数乘运算,且满足下面四个条件(记 为 )- 数乘的结合律
- 数乘关于向量的加法分配律
- 数乘关于数的加法分配律
- 数乘的初始条件
,其中
- 数乘的结合律
- 线性空间
- 线性空间的定义(由上面两个特点导出)
- 设
是一个加群,如果定义了数域 的数和 中元素(即向量)的数乘(记为 ),则称 是数域 上的线性空间(向量空间)- 数域
称为线性空间的基域(本体系默认以数域作为基域)
- 数域
- 设
- 线性空间的相关定义
- 若线性空间中存在的
个线性无关向量,且线性空间中任何向量都和它们线性相关- 该向量组是线性空间的一组基
- 向量组的向量是基向量
- 该向量组的向量个数是线性空间的维数,记作
- 平凡线性空间或零线性空间
- 维数为零
- 若线性空间中存在的
- 线性空间相关定理和推论
- 线性空间中的任意向量可以唯一的由基线性表示
- 表示时的组合系数就是该向量在这组基下的坐标,一般写成列向量的形式
维线性空间的任意 个向量必线性相关- 可以用线性方程组的解的知识来证明,此处略
维线性空间的任意 个线性无关向量均构成一组基- 反过来任意一组基恰含有
个向量
- 反过来任意一组基恰含有
维线性空间的任意 个线性无关向量均能扩充成一组基
- 线性空间中的任意向量可以唯一的由基线性表示
- 过渡矩阵和坐标变换相关理论
- 在线性代数中有详细讨论过,推广到复数域结论类似,此处略
内积空间与正定二次型
- 内积空间
- 设
是实数域或复数域, 是对应线性空间。若对任意两向量 都定义了 中的一个数 使得下述条件满足,则 是内积空间- 共轭对称性
- 正定性
且仅当 时取等号 - 双线性
- 共轭对称性
- 若
,则内积空间是欧氏空间
- 若
,则内积空间是酉空间
- 设
- 向量的模
- 单位向量的模为
- 单位向量的模为
- 内积与范数的性质
且等号成立 与 线性相关- Cauchy-Schwarz不等式
- 三角不等式
- 内积的定义
- 欧式空间
- 酉空间
- 欧式空间
- 正交相关定义
- 两个向量正交
- 内积为
- 内积为
- 正交组
- 一组两两正交的向量组
- 标准正交组
- 单位向量构成的正交组
- 酉矩阵
或 的一组标准正交基作为矩阵各列
- 正交矩阵
- 实的酉矩阵
- Hermite矩阵
- 复共轭对称矩阵
- 两个向量正交
- 正交相关定理
- 正交组必然线性无关
- 内积空间必存在标准正交基
- 使用Schmidt正交化方法求解即可
- 矩阵
是酉矩阵- 特别的矩阵
是正交矩阵
- 特别的矩阵
- Hermite矩阵特征值均为实数,且属于不同特征值的特征向量彼此正交
- Hermite矩阵可以酉对角化
- 存在酉矩阵
使得 是对角矩阵 - 特别的,实对称矩阵可以正交对角化
- 存在酉矩阵
- 正定相关定义
- 设
是复二次型, 是Hermite矩阵,若对于任意非零向量 均有- 则
是正定二次型 是正定矩阵
- 则
- 类似可以定义半正定、负定、半负定的二次型和矩阵
- 设
- 正定相关定理和结论
- 设
是 阶Hermite矩阵,则下列条件等价 是正定矩阵 是正定二次型 的特征值均为正实数- 存在
阶列满秩矩阵 ,使得 - 存在
阶可逆矩阵 ,使得 - 存在
阶可逆矩阵 ,使得 ( 与 合同)
- 考虑存在酉矩阵
和实对角矩阵 使得 ,则作坐标变换 后有 - 设
是 上的二元向量函数,则 是内积 存在正定Hermite矩阵 ,使得 ,其中 是 在某组基下的坐标。大概的证明如下:- 设
维内积空间 的一组基是 - 则
- 其中
且 (注意 下标次序),既是正定矩阵又是Hermite矩阵,称为基 的度量矩阵或Gram矩阵 - 注:当基选为标准正交基时,
,从而简化了内积的运算
- 设
- 设
- 矩阵
的 维双线性型或 上的双线性型- 即
为该双线性型对应的二次型- 根据二次型正定半正定的定义,可以相应也定义双线性型的正定和半正定
- 这里不要求
是Hermite的
- 即