點積與對偶性——線性代數的本質(六)
點積的計算方法
點積的理解
點積與順序
點積的本質
本節主要是圍繞對偶性的核心思想講述點積的本質。
點積的計算方法
如果你有兩個維數相同的向量,或者是兩個維數相同的陣列,計算它們的點積就相當於
將相應的座標配對,求取每一對座標對的乘積,然後再相加
。
點積的理解
在瞭解完點積的計算方法之後,你或許會產生這樣一個疑問——如何理解這一計算過程呢? 假設有兩向量
和
,具體顯示如下圖。它們之間的點積相當於
在
方向上的正交投影的長度乘於
的長度。
當
和
方向相反時,點積為負。
則可以有以下規律:
我們從上面的例子可以看到點積的計算過程對兩個向量的操作是
非對稱的
———即對兩個向量的處理方式完全不同。但同時,點積是於
順序無關
的,從如下例子可以看到,用
在
方向上的正交投影的長度乘於
的長度也可以得到相同的結果。
點積與順序
前面講述點積是於
順序無關
的,但是未作出直觀的解釋,下面就以一個例子直觀地說明這一結論。
假設我們有兩個長度相同、方向不同的向量
和
,在這兩個向量之間做一個對稱軸,我們利用其對稱性可以很容易知道點積的大小與對向量的操作順序無關,即:
進而,我們將
拓展為原來的兩倍(進行縮放),此時向量之間的對稱性消失。我們重新計算一下點積:
可見,即使對稱性被破壞了,縮放向量對點積結果的影響是相同的。換一個角度,將點積2中的向量都看作兩個全新的向量,則有:
此時,
被
代替,
被
代替。從上式中可以看出,點積的結果與順序無關。
點積的本質
如何解釋這一計算過程呢?
為什麼點積和投影有聯絡呢?
點積和投影有著什麼樣的聯絡呢?
上面的三連發問估計是同學現在的疑問,下面我們來一一揭曉。
首先我們來了解一下多維空間到一維空間的線性變換。假設我們現在有一個二維空間,則該線性變換就是一個輸入為二維向量、輸出為一個數的
線性
函式(即等距分佈的點保持等距分佈)。和我們在前幾節裡面講的內容一樣,線性變換完全由基向量的變換來決定。當多維變到一維空間,基向量就直接落在某些數字上,如下圖例項:
此時,變換矩陣變成了一個1X2的矩陣。假設我們想跟蹤某一向量的變化情況,我們只需要利用之前學習的矩陣乘法的只是進行計算。
(大家瞅瞅上述矩陣乘法的計算過程,是不是和點積有那麼一點點相似!!!) 現在一個新的問題出現了,我們怎麼知道二維空間的基向量被壓縮在一維空間的哪個位置呢?
假設我們將數軸搬到二維空間上,數軸的零點和二維空間的原點重合,方向斜向右上方。 我們考慮變化後的基向量的位置,不難看出,要計算變化後的基向量的位置,只需要在數軸上做兩個基向量的投影,如下圖所示:
我們假設向量
是單位向量,則得到的變換矩陣(投影矩陣)為
,則此時空間中任意向量經過投影變換的結果就是投影矩陣與這個向量相乘,和這個向量與
的點積在計算上完全相同。(注意:此時的座標系仍是二維的座標系)
最後,我們來總結一下整個過程:
我們定義了一個從二維空間到數軸的線性變換,無論怎麼變換,二維空間中總會存在一個向量
與之相關,即二維空間中的某一個二維向量
與數軸中的線性變換相對應。
從這一規律出發,我們可以知道線性變換和與向量
做點積是一樣的,在降維的線性變換中,變換矩陣相當於投影矩陣,因此在點積中,我們也運用到投影的本質。 因此也可以理解為,兩個向量點乘,就是將其中一個向量轉化為線性變換,將另一個向量投影到包含該線性變換的數軸上。
參考資料
線性代數的本質