【知识总结】矩阵与线性变换

引言

线性映射
- 满足性质
  - 可加性
  - 齐次性
- 又叫线性变换
  - 本章重点研究的是矩阵和线性变换之间的联系

子空间：直和与空间分解

子空间相关定义
- 子空间
  - 设是一个线性空间，是的一个非空子集。如果本身关于的向量加法与数乘作成一个线性空间，则称是的一个线性子空间
- 零子空间
  - 只包含原点的子空间
- 平凡子空间
  - 零子空间和原线性空间本身
- 真子空间
  - 不是平凡子空间的子空间
子空间判别法
- 设是线性空间的一个非空子集。则是子空间的等价条件是
  - 有
  - 子空间一定包含零向量，即一定过原点
子空间的性质
- 传递性
  - 是的子空间，是的子空间，则是的子空间
- 任意多个（可以无限）子空间交集仍是子空间
  - 称为子空间的交，并且是含于这些子空间的最大子空间
子空间的和
- - 两个子空间的和是包含两个子空间的最小子空间
张成子空间
- 设是线性空间，，则是的包含的最小子空间
  - 是的生成元集
  - 是由生成（或张成）的子空间
维数定理
- 设是线性空间，与是的两个子空间，则
- 直和
  - 当，记为
直和的判定（下面各命题等价）
- 是直和的
- 对任意，分解式唯一，即唯一
- 若则
多个子空间直和的判定
- 是直和的
- 任意的分解式唯一
补子空间
- 设是线性空间，是的一个子空间，则存在子空间，使得
  - 是的补子空间
  - 补子空间一般不唯一
矩阵的四个子空间
- 的零化空间
  - 的解空间
- 的列空间（像空间，值域）
  - 列向量生成的子空间
  - 维数等于矩阵的秩
- 的行空间
  - 行向量生成的子空间
  - 行空间的向量仍看作列向量
  - 维数等于矩阵的秩
- 的左零化空间
  - 的解空间

矩阵与线性变换

线性变换（线性映射）定义
- 见引言
- 到自身的线性变换是线性算子
对偶空间（共轭空间）相关的定义
- - 到的线性变换的全体
  - 因为每个线性变换对应一个矩阵，所以可以理解成矩阵的集合，也是满足可加性和齐次性的线性空间
- - 的对偶空间（共轭空间）
同构线性空间相关定义
- 是单变换
  - 映射是单射
- 是满变换
  - 映射是满射
- 是同构
  - 映射既是单射又是满射
- 和是同构的线性空间
  - 存在同构
  - 记为
线性变换的简单性质
- 线性相关，则也线性相关
- 线性无关，则也线性无关
线性变换的构造
- 设是线性空间的一组基，是线性空间的任意个向量，则唯一存在一个线性变换，使得
  - 线性拓展法：确定一组基的像，再对任意向量，定义其像就是相应基的像的线性组合
特殊线性变换举例
- 零变换
  - 将线性空间所有向量变为零向量
- 恒等变换（单位变换）
  - 将线性空间中任意向量均变为自己的变换
  - 恒等变换是到自身的同构（自同构）
- 位似
  - 设，则把的任意向量变为的变换称为系数是的位似
  - 系数非零的位似都是自同构
- 可逆变换
  - 设线性变换，若存在线性变换使得均有，则称是可逆线性变换，是其逆变换
  - 逆变换若存在则唯一，记为且
线性变换的核与像
- 核
  - 可以理解成“零点”集
- 像
- 核与像分别是的子空间
核空间像空间与单变换满变换的关系（设，是上线性空间）
- 是单的
- 是满的
- 是同构的可逆
- 特别的如果是有限维线性空间，
  - 则是单的是满的同构可逆
线性变换前后两个基的关系
- 设是的一组基，是的一组基
- - 称作关于基和基的矩阵
  - 特殊情况是若基等于基，则直接称是基的矩阵
  - 可以简写成
线性变换前后两个坐标的关系
- 设向量在基下的坐标是，则向量在下的坐标是
- 用线性拓展法可以理解和证明
多组基下的线性变换的关系
- 设是的两组基,是从基到基的过渡矩阵
- 设是的两组基,是从基到基的过渡矩阵
- 设关于基和基的矩阵是，关于基和基的矩阵是
- 设在基下的坐标是
- 则在基下的坐标是
- 则在基下的坐标是
- 则在基下的坐标是或
矩阵相似在线性变换下的本质
- 设是维线性空间，是的一个线性变换，设和是的两组基，是关于该两组基的矩阵，则和相似
  - 证明就是使用上面当时的特殊情况，
  - 本质上说明同一线性变换在不同基下的矩阵相似
- 考虑到相似矩阵有相同的行列式和迹，因此把线性变换在任意一组基下的矩阵的行列式和迹称为的行列式和迹
  - 记作和
核空间与像空间的维度关系
- 核空间的维度等于零空间的维度，即零解系向量组的秩
- 像空间的维度等于线性变换的秩，因为像空间是线性变换矩阵的列向量张成的空间
- 核空间的维度加像空间的维度等于线性变换所在的原线性空间的维度
幂等相关理论
- 幂等矩阵
  - 满足的矩阵
- 幂等变换
  - 满足的线性变换
- 幂零变换
  - 满足的线性变换
  - 使得该式成立的最小自然数称为的幂零指数
- 幂等变换与投影变换等价
  - 投影变换显然幂等
  - 若线性空间的线性变换幂等，则，故是沿着子空间向子空间上的投影变换
同构定理
- 域上的两个线性空间和同构
  - 简单来说就是定义在数域上的两线性空间之间存在单射和满射，当且仅当两者维度相同
矩阵与线性变换
- 设是上的维线性空间，是的一组基。设是上全体阶矩阵组成的线性空间。对任意，记是在该基下的矩阵。
  - 定义从到的映射
- 理解如下
- 线性变换的运算
- 是一个保持运算（加法、数乘、乘法）的一一映射
  - 可逆可逆，此时
线性变换基本定理
- 设和分别为维和维线性空间，则
  - 特别的
- 可以通过构造一个从到的同构来理解本定理

内积空间的正交分解

正交补
- 定义
  - 设是维内积空间，是的子空间。令
  - 是的子空间，称为的正交补，记为
- 相关定理和性质
  - 设是维内积空间，是的子空间，则
最佳近似
- 定义
  - 设是欧氏空间的子空间，，
  - 若，则称是在中的最佳近似（向量）
  - 记为
- 定理
  - 设是欧氏空间的子空间，，则是在上的最佳近似向量
- 求解
  - 设是欧氏空间的一个向量，是的一个子空间，是的一个正交基
  - 则在上的最佳近似向量为
  - 更本质的，说明
- 求解方程的最优解
  - 的最优解，即最小化的结果
  - ，故
  - 所以，方程组与方程组同解，即的最优解是的解

内积空间的线性变换

等距变换（保距变换）
- 定义
  - 设是内积空间，。如果有，则是等距变换
- 定理一
  - 设是内积空间，，则是等距变换保持向量长度保持内积（即）
  - 证明考虑从入手，此处略
- 定理二
  - 设是维内积空间，是的一组标准正交基，是在该组基下的矩阵，则是等距变换是酉矩阵。
  - 证明考虑设。此时。则
  - 根据该定理，欧氏空间的等距变换又叫正交变换，复内积空间的等距变换又叫酉变换
- 定理三
  - 设是内积空间，，则是等距变换将标准正交基变为标准正交基
  - 证明使用定理一和定理二即可。若是等距变换，则保持内积和长度，故标准正交基变换后还是标准正交基。若是从标准正交基变换到标准正交基，则过渡矩阵是酉矩阵，从而是等距变换
Householder变换
- 设是非零向量，定义阶复矩阵是Householder矩阵
- 由定义的线性变换称为Householder变换
- 在维欧氏空间中，是镜像变换、反射变换，有个特征值为，余下一个特征值为的正交变换（广义的可以认为行列式是的正交变换是反射）
Givens变换
- 设，则把阶实矩阵称为Givens矩阵
- 对应的线性变换是Given变换
- 在维欧氏空间中，是旋转变换，有个特征值为，余下两个特征值在单位圆上按成对出现的正交变换（广义的可以认为行列式为的正交变换是旋转）
对称变换
- 定义
  - 设是欧式空间的线性变换。如果对任意均有，则是对称变换
  - 可以验证位似变换、反射变换都是对称变换
- 定理
  - 欧氏空间的线性变换是对称变换在一组标准正交基下的矩阵是对称矩阵
伴随变换
- 定义
  - 设是欧氏空间的两个线性变换，如果对任意有，则是的伴随变换记为
  - 伴随变换的矩阵是原变换的矩阵的共轭转置
  - 若则变换是自伴随的或自伴的
- 定理一：若是欧氏空间的两个线性变换，是在某组标准正交基下的矩阵，则
- 定理二
  - 设是内积空间的线性变换，则是向某子空间上的正交投影变换是自伴的幂等变换

张量积与商空间

卡氏积（由两个给定的空间构造直和）
- - 加法：
  - 数乘：
- 构成如上线性空间，称为与的直和
  - 记为，是直和项
  - 一般子空间的直和是内直和，此处的直和是外直和，但本质一样
- 如果是内积空间，则可以继续定义的内积
直和空间的基
- 设和分别是和的一组基
- 则的一组基是
线性变换的直和
- 设，定义如下
线性变换的直和的矩阵
- 设线性变换关于基与基的矩阵分别为，则关于基的矩阵是
  - 本定理可以推广到任意有限个线性空间的直和
不变子空间和线性变换的直和分解
- 如果某个子空间经过线性变换后还是该子空间，则称为的不变子空间
- 如果，如果每个都是的不变子空间，则存在，使得
- 如果，如果每个都是的不变子空间，则存在的基，使得在该基下的矩阵是分块对角矩阵
张量积（线性空间的乘法）
- 线性空间和线性空间的基设为和，则以为基构造线性空间
  - 该线性空间称为和的张量积，记为
线性变换的张量积
- 设
- 则
矩阵的张量积
- 定义
  - 又叫Kronecker积
- 性质
  - （结合律）
  - （分配律1）
  - （分配律2）
  - （保转置）
  - （保可逆）（可逆均可逆）
  - 设和分别为阶方阵，则
  - （保秩和迹）
  - （保特征值）是阶矩阵和阶矩阵的特征值，是对于特征向量，则是的特征值，是的特征值，是相应的特征向量
线性变换的张量积和矩阵的张量积的关系
- 设，其关于基的矩阵分别为，则关于基的矩阵是
陪集和商空间
- 是的子空间，关于的陪集
  - 陪集就是仿射子集
- 关于的所有陪集构成的集合
  - 是线性空间，因为
  - 称为关于的商空间，向量记为
- 商空间的性质
  - ，有，即是商空间的零向量
- 商空间的同构
  - 设，则，
  - 设是的一组基，是的一组基，则是的一组基
- 商变换
  - 设是线性空间，，是的不变子空间，定义到自身的映射
  - 是线性变换，称为的诱导变换或商变换
- 商变换的矩阵
  - 设，是有限维线性空间，，在的两组基与下的矩阵分别是，则关于的两组基和下的矩阵分别是
  - 推论：是方阵，则和相似相似
- 用商空间定义线性空间张量积
  - 是以为基的无限维线性空间，记为上的自由线性空间
  - 商空间是和的张量积（空间）
  - 是两个线性空间，则商空间