線性代數及其應用筆記二-矩陣代數

1。矩陣運算

矩陣的運算包括線性運算和矩陣乘法。線性運算即矩陣之間的加法和矩陣的數乘；矩陣乘法是矩陣之間的乘積。

可以從三個方面來理解矩陣乘法：

首先是矩陣乘以列向量的推廣。例如A×B，把後一個矩陣B看做是由若干列向量按行拼接而成，分別用A與它們相乘，再把結果按行拼接，組成A×B的結果。

另外，由於矩陣可以描述線性變換，矩陣乘法也可以看做線性變換的疊加，即假設A，B為矩陣，c為列向量，則A×（B×c）=（A×B）×c 。

矩陣乘法也可定義為前矩陣的所有行與後矩陣的所有列的內積拍成的一個數表，這種方式主要用於計算。

不難看出，矩陣的乘法要求前矩陣的列數與後矩陣的行數相等。

需注意，矩陣運算與數域上的運算有以下不同：

矩陣乘法不滿足交換律，即矩陣乘法有嚴格的順序性。矩陣乘法一般也不滿足消去律，只有在矩陣可逆等特殊情況下才可消去矩陣。若矩陣的乘積為零矩陣，推不出矩陣為零矩陣。

矩陣的冪是一個簡化記號，表示若干相同矩陣的乘積。

矩陣的轉置為其原矩陣行、列互換的結果。

2。可逆矩陣

類比實數域運算中，乘法運算的逆運算為乘以乘數的倒數，矩陣乘法的逆運算是在原矩陣的同一側乘以其逆矩陣。

只有方陣才談得上可逆。方陣根據其是否可逆可以分為非奇異矩陣和奇異矩陣，其可逆條件為行列式不為零。

可逆矩陣的一個顯著的作用是解未知數與方程個數相等的線性方程。線上性方程Ax=b左右兩側右乘A的逆，得到未知數向量x。

初等矩陣是將單步初等行變換施加於單位陣的結果。對一矩陣左乘一初等矩陣，相當於對其施加一單步行變換；右乘相當於施加單步列變換。

由於以可逆矩陣為係數矩陣的線性方程組必有唯一解，所以可逆矩陣與單位陣行等價，即可逆矩陣經一系列初等行變換後可以化為單位陣，所以可逆矩陣的逆矩陣可以分解為一系列初等矩陣之積。

由於可逆矩陣與單位陣相乘的結果還是可逆矩陣，與原矩陣相乘的結果為單位陣，所以可以將可逆矩陣與單位陣同步施加初等行變換至原矩陣變為單位陣，原單位陣就變成了逆矩陣。

3。分塊矩陣

分塊矩陣是將矩陣的元素以小矩陣為單位，看做一個“大元素”。之前將矩陣乘法看做矩陣乘以列向量的推廣，就相當於對後矩陣按列進行分塊。分塊矩陣間的乘法也遵循普通矩陣乘法的原則。

常見的矩陣分塊方法有按列分塊、按行分塊、分出對角陣等。在解決問題時，怎麼簡便怎麼分。

向量的內積為一個行向量與同維的列向量之積。交換兩向量的位置，一個列向量與一個行向量的乘積為外積（兩向量無等維要求），外積結果為一個秩一的矩陣。對於矩陣乘積A×B，對A按列分塊，對B按行分塊，可以將乘積結果看做若干外積之和，這稱為矩陣乘法的列-行展開。

分塊矩陣使得矩陣的乘法可以分佈運算後疊加，這可以擴大計算機的運算能力、加快運算速度，以最佳化演算法。

4。矩陣分解

類比數域上的乘法與因數分解，矩陣分解和矩陣乘法相對，是把矩陣分解為若干子矩陣的乘積。常見的矩陣分解包括LU分解、簡化LU分解、秩分解、QR分解、奇異值分解、譜分解等。

4。1LU分解（假設A無需行對換即可行等價於其階梯型）

LU分解即A=L×U。L為一個單位下三角型矩陣，此類矩陣的乘積和取逆運算封閉；U為A的階梯型矩陣。

L的逆與A相乘為U，與L相乘為單位陣，將L的逆看做一系列初等行變換，可以得出L的各列與A的行簡化過程中的主元列之間有一一對應的關係。進一步，這種關係為倍數關係，由此可以構造L的各列，若不足，則剩餘列由單位陣的列補齊。

4。2簡化LU分解

若原m×n維的矩陣A的秩為r，且r

4。3QR分解

A=Q×R，Q為一個m×n維的列相互單位正交的矩陣；R為n×n維的上三角可逆矩陣

4。4奇異值分解（SVD）

A=UΣVT，U、V為正交方陣，Σ可分塊為一個對角奇異值矩陣和三個零矩陣。

4。5簡化奇異值分解

A=UDVT，U為m×r維矩陣，列正交；D為對角奇異值矩陣；V為n×r維矩陣，列正交。r為矩陣的秩。

4。6譜分解

將矩陣分解為其正交特徵向量的外積的線性組合，組合係數為特徵值。

5。列昂惕夫投入產出模型

將一個國家的經濟分為兩個模組，一個有投入，有產出；另一個僅有投入，無產出，則總產出等於總投入。用向量儲存產出與投入，x表示總生產，d表示無產出模組的需求，Cx表示有產出模組的需求，也稱中間需求。C可以理解為從總生產到中間需求的變換矩陣，為消耗矩陣。列昂惕夫投入產出模型的表示式為x=Cx+d 。

經移項，可以得到非齊次方程組（I-C）x=d，在消耗矩陣C的各列之和小於1，且d大於零時，解唯一存在，x=（I-C）-1d。

可以用遞迴的思想來求解x，即需求d必然要產出x，d對應的中間需求為Cd，Cd對應的中間需求為C2d，C2d對應的中間需求為C3d……依次遞迴，得到

X=（I+C+C2+C3+……）d，即找到了一個迭代演算法，用（I+C+C2+C3+……）來計算（I-C）-1。

6。計算機圖形學中的應用

已知矩陣對向量（點）的作用相當於線性變換，用向量x儲存點的初始座標，則Ax表示線性變換後點的座標。數點按列排布為圖形矩陣［x1 x2 x3……］，其經線性變換後為A［x1 x2 x3……］。

平移也是一種常見的點的變換，但其不是線性變換，無法用矩陣來描述。為解決該問題，在原座標上多加一維度，引入齊次座標和齊次矩陣，可以將平移變換線性化。齊次矩陣不但可以表示旋轉變換和平移變換，還可以表示透視變換和縮放變換。

單一的旋轉矩陣只能描述一點繞原點的旋轉，若描述一點繞另一定點的旋轉，可以分三步實現：先平移，再旋轉，最後反向平移，該變換的矩陣形式為

A=PRP-1，P為平移矩陣，R為旋轉矩陣，可見矩陣A與R相似，它們是同一線性變換（繞一定點的旋轉）在不同座標系下的描述。A的參考座標系為原點座標系，R的參考座標系為以旋轉中心為原點的座標系。

7。Rn的子空間

Rn的子空間是線性運算封閉的Rn的子集。矩陣有四大子空間，分別是列空間、零空間、行空間、轉置矩陣的零空間。列空間的基為其各主元列；所有以原矩陣為係數矩陣的齊次線性方程組的解構成零空間；行空間的基為階梯型的非零行；轉置矩陣的零空間的定義類似零空間。

8。維和秩

向量空間中的所有向量均可用其的一組基來線性表示，將表出係數按列排布成一個列向量，成為向量在該基下的座標。

子空間的維數為其的一組基中向量的個數。

矩陣的秩為矩陣列空間的維數，計算機中矩陣的秩常由其奇異值分解確定。

秩定理：矩陣的秩和其零空間的維數之和為其列數。

基定理：子空間中線性無關的維數個向量組成子空間的一組基。