矩阵分析之 伪逆矩阵，左逆，右逆，广义逆

前言

本篇是对于可逆矩阵的一个扩展。

伪逆

对于非方阵，或者奇异矩阵而言，没有严格定义上的逆矩阵。为了便于数值计算，定义这些矩阵具有伪逆。

左逆

对于实矩阵 A ∈ R m × n , m ≥ n A\in R^{m\times n},m\ge n A∈Rm×n,m≥n，如果 A A A是列满秩矩阵，则存在矩阵 A l e f t − 1 A_{left}^{-1} Aleft−1​使得 A l e f t − 1 A = E A_{left}^{-1}A=E Aleft−1​A=E，称为 A A A的左逆。

证明： r ( A T A ) = r ( A ) = n ( A T A ) − 1 A T A = E i . e . ( ( A T A ) − 1 A T ) A = E r(A^TA)=r(A)=n \\ (A^TA)^{-1}A^TA=E \\ i.e. \quad ((A^TA)^{-1}A^T)A=E r(ATA)=r(A)=n(ATA)−1ATA=Ei.e.((ATA)−1AT)A=E ( A T A ) − 1 A T (A^TA)^{-1}A^T (ATA)−1AT就是 A A A的一个左逆，不过左逆可能不止一个，例如：

右逆

对于实矩阵 A ∈ R m × n , m ≤ n A\in R^{m\times n},m\le n A∈Rm×n,m≤n，如果 A A A是行满秩矩阵，则存在矩阵 A r i g h t − 1 A_{right}^{-1} Aright−1​使得 A A r i g h t − 1 = E AA_{right}^{-1}=E AAright−1​=E，称为 A A A的右逆。

证明： r ( A A T ) = r ( A ) = n A A T ( A A T ) − 1 = E i . e . A ( A T ( A A T ) − 1 ) = E r(AA^T)=r(A)=n \\ AA^T(AA^T)^{-1}=E \\ i.e. \quad A(A^T(AA^T)^{-1})=E r(AAT)=r(A)=nAAT(AAT)−1=Ei.e.A(AT(AAT)−1)=E A T ( A A T ) − 1 A^T(AA^T)^{-1} AT(AAT)−1就是 A A A的一个右逆，右逆可能也不止一个。

广义逆矩阵

对于方阵而言，非奇异矩阵具有严格的逆矩阵；对于满秩非方阵而言，至少有左逆或者右逆。

而不满秩的矩阵则没有左逆、右逆，于是定义奇异矩阵的广义逆矩阵 A + A^+ A+满足： A A + A = A A + A A + = A + A A + = ( A A + ) T A + A = ( A + A ) T AA^+A=A \\ A^+AA^+=A^+ \\ AA^+=(AA^+)^T \\ A^+A=(A^+A)^T AA+A=AA+AA+=A+AA+=(AA+)TA+A=(A+A)T

矩阵 A ∈ R m × n , m > n , r a n k ( A ) = r < n A\in R^{m\times n},m>n,rank(A)=rn,rank(A)=r