線性代數筆記-（4）LU分解

作者：由前方一片天發表于書法時間：2019-12-15

下面，我們來說轉置（transpose）。

轉置就是把行寫成列，把列寫成行。

如果轉置某矩陣，轉置某可逆矩陣，那麼其轉置的逆是什麼？

公式非常nice！

還是先看

$AA^{-1}=I\\$

兩側同時轉置

${(A^{-1})}^{T}A^{T}=I\\$

單位矩陣轉置後還是單位矩陣；對等號左邊的乘積進行轉置，不僅要改變兩者的順序，然後分別轉置兩個矩陣，然後以相反順序相乘。

那麼什麼是A轉置的逆？對一個矩陣轉置後，其逆是什麼？

A的逆的轉置就是A轉置的逆(從上面公式就能得出這個結論）

。想求A的轉置的逆，只要知道A的逆，將其逆轉置即可得到答案。換句話說，轉置和逆兩種運算，對於單個矩陣而言，其順序可以顛倒。

現在開始用這個知識點。

假設有可逆矩陣A，可以進行消元，不需要行互換，主元也不為0。最終得到矩陣

，從

到

，這中間是怎麼聯絡起來的？

與

是什麼關係？這就有了矩陣

，它聯絡著

和

。

首先還是考慮2×2的情形。

$A\\\begin{bmatrix} 2&1\\8&7 \end{bmatrix}$

然後用初等矩陣進行變換。

$E_{21}\ \ \ \ \ \ \ \ \ A\ \ \ \ \ \ \ \ \ \ \ \ \ \ \ \ U\\\begin{bmatrix} 1&0\\-4&1 \end{bmatrix} \begin{bmatrix} 2&1\\8&7 \end{bmatrix}= \begin{bmatrix} 2&1\\0&3 \end{bmatrix}$

現在透過這個公式和

進行對比。我想得到，

在等式一側，而矩陣在等式另一側。

現在我們開始來算。我們想要

$A\ \ \ \ \ =\ L\qquad{U}\\\begin{bmatrix} 2&1\\8&7 \end{bmatrix}=\begin{bmatrix} ? \end{bmatrix}\begin{bmatrix} 2&1\\0&3 \end{bmatrix}$

這裡的

應該是什麼？

很明顯

是

的逆

$A\ \ \ \ \ =\ L\qquad{U}\\\begin{bmatrix} 2&1\\8&7 \end{bmatrix}=\begin{bmatrix} 1&0\\4&1 \end{bmatrix}\begin{bmatrix} 2&1\\0&3 \end{bmatrix}$

現在的問題是

代表什麼？

表示上三角upper，

應該表示下三角陣lower。可以看到

的對角線上均是主元，且主元為1。有時我們為了把主元提出來，可以寫成下面這種形式

$\begin{bmatrix} 1&0\\ 4&1 \end{bmatrix} \begin{bmatrix} 2&0\\0&3 \end{bmatrix} \begin{bmatrix} 1&\frac{1}{2}\\0&1 \end{bmatrix}\\$

這個我們也許應該稱它為

，（D表示diagonal對角矩陣）。現在看起來是不是更有平衡感？兩邊各一個三角陣，中間一個對角陣。

下面，我們進入到3×3的情況。

如果我們要進行消元，按照以前的做法無非是

$E_{32}E_{31}E_{21}A=U\\$

那麼，如果我們還想得到

，我們應該怎麼做？

我們把

$E_{32}E_{31}E_{21}$

看成一個整體，那麼

就是整體的逆。

所以

為

$E_{21}^{-1}E_{31}^{-1}E_{32}^{-1}$

，即

$A=E_{21}^{-1}E_{31}^{-1}E_{32}^{-1}U\\$

也許有人會問，為什麼要用逆的形式。因為這個積要比以前的那個積好。

舉一個例子：

$\ E_{32}\qquad\qquad\ \ \ {E_{21}}\\ \begin{bmatrix} 1&0&0\\0&1&0\\0&-5&1 \end{bmatrix} \begin{bmatrix} 1&0&0\\ -2&1&0\\ 0&0&1 \end{bmatrix}$

這個例子中沒有

$E_{31}$

，因為31位置已經是0了。下面進行矩陣乘法。

$\ E_{32}\qquad\qquad\ \ \ {E_{21}}\ \ \ \ \ \qquad\qquad\qquad\\ \begin{bmatrix} 1&0&0\\0&1&0\\0&-5&1 \end{bmatrix} \begin{bmatrix} 1&0&0\\ -2&1&0\\ 0&0&1 \end{bmatrix}=\begin{bmatrix} 1&0&0\\ -2&1&0\\10&-5&1 \end{bmatrix}$

對角線的位置都是1，而上面都是0，這表示我們只在下面的行中做了減法。

我們先把目光放在這個“10”上。它是怎麼來的？我們不喜歡這個10，因為我們從行二減去了2倍行一，然後從行三減去了5倍的新行二，透過這種順序，行一怎麼就影響到行三了呢？這是因為，第一步中有2倍行一從行二中減去了，然後在第二步中又乘5倍從行三中減去，因此總共在行三中加了10倍行一。現在我們需要反方向計算，開始計算逆，當然，順序得倒過來。

$\ E_{32}\qquad\qquad\ \ \ {E_{21}}\ \ \ \ \ \qquad\qquad\qquad\qquad\qquad\qquad\qquad\\ \begin{bmatrix} 1&0&0\\0&1&0\\0&-5&1 \end{bmatrix} \begin{bmatrix} 1&0&0\\ -2&1&0\\ 0&0&1 \end{bmatrix}=\begin{bmatrix} 1&0&0\\ -2&1&0\\10&-5&1 \end{bmatrix}=E(left \ of\ A)$

下面我們來分別求其逆

$\begin{bmatrix} 1&0&0\\ 2&1&0\\ 0&0&1 \end{bmatrix} \begin{bmatrix} 1&0&0\\ 0&1&0\\ 0&5&1 \end{bmatrix}= \begin{bmatrix} 1&0&0\\ 2&1&0\\ 0&5&1 \end{bmatrix}=L(left\ of\ U)\\$