自適應濾波器（二）NLMS自適應濾波器
前一篇文章我們講了LMS自適應濾波器，我們先回顧一下LMS演算法流程：
影響LMS效能的因素，也就是最後一個公式的三個因素：
步長
，它是由我們事先指定
輸入向量
估計誤差
如果
過大，那麼
的結果中，
佔的權重就太大了，而
是帶噪訊號，這樣
梯度噪聲
就被放大了。為了克服這個問題，可使用歸一化LMS濾波器。在迭代時，對輸入向量
歐式範數（就是模值）
的平方進行歸一化（Normalized LMS）。
歸一化LMS濾波器是最小化干擾原理的一種表現形式，這個原理可以表述如下：
從一次迭代到下一次中，自適應濾波器的權向量應當以最小方式改變，而且受到更新的濾波器輸出所施加的約束。
用
表示第n次迭代濾波器的權向量，
表示第n+1次迭代濾波器的權向量，那麼NLMS設計準則可表述為約束最佳化問題：給定輸入向量
和目標響應
，確定更新抽頭向量
，以使如下增量
的歐式範數最小化，並受制於以下約束條件
使用拉格朗日乘子法來解決這個約束問題，那麼
代價函式
為：
![J(n)=\|\delta \hat{\mathbf{w}}(n+1)\|^{2}+\operatorname{Re}\left[\lambda^{*}\left(d(n)-\hat{\mathbf{w}}^{\mathrm{H}}(n+1) \mathbf{x}(n)\right)\right]](https://img.heatask.com/upload/website_attach/NW2WGgB5NG-YhdmaBULQmznRFzXTCcFnyl7WMMFibe1+inOQ0L48YyiwkfAUNa5S9uxIWhBSZ=pvPFnk=0dIXpXDF8vUYa_S9uqf9mIsmYD+ma3XP1BK5n0khKQ_H1=Y406IBKpSZ=w+maAfn34IXg4chKhxuvjk_4=JmjkS1Y6Vzd3a=sWI5n0YvCDUYa5S9uqeLMLOvstnRvp+EwKfLPJfhKBkuvzk_4gn4oH-vstIzYpUA748YyIwkf3Quv_hV3uX+_cb295Yv16VGWWM0yd+AdDiJSyS9X1IWh+SZ=5+ma2fn3ofLMJDNCdUYaj2_4NK4oH-vsyZz16qGmJICJqAhKBwHFqONVgx4oHk395Ys86qowZICJqwr7mbGFzsypu8Xn7PKezjPcbkP1sKuqTUM.jpeg)
其中，
為複數拉格朗日乘子，
表示複共軛，
![Re[\cdot]](https://img.heatask.com/upload/website_attach/+8zonupd3DJl78xBo6B17t_ySL33Ks+cK-vo6dnHQ9OOn2rYJOiDXx_BNLjSUtXPhjyH-.jpeg)
表示取實部運算，約束對代價函式的貢獻是實值的；
表示歐式範數的平方運算，其結果也是實數。因此，代價函式
是實值的
二次函式
，且可表示為：
![J(n)=(\hat{\mathbf{w}}(n+1)-\hat{\mathbf{w}}(n))^{\mathrm{H}}(\hat{\mathbf{w}}(n+1)-\hat{\mathbf{w}}(n))+\operatorname{Re}\left[\lambda^{*}\left(d(n)-\hat{\mathbf{w}}^{\mathrm{H}}(n+1) \mathbf{x}(n)\right)\right]](https://img.heatask.com/upload/website_attach/wkHxAwwiRA+WX9U0-kNISk_9EX+mJohPVtJxEv-dnmCeY3o6BGjFvxmHxGhHK7AMnG8eo2pQsUBeDqW54uD2Q=zbEwQHv7Vna2A+y0C6NiVXVBzAF0v4JGRmg2i0TK1Ka2A6y0tKl-2xkoXqk4X=Ur_q2nyqN4PulxYeUMsJSyheDhz54Xb4u4lmE=CbUJ7M=VPNy0C6NiU+czWGk4T5Sxvng2U5XNhmxtJxEUzkNiU6XDzmApjMCn_trxrHKgkPa2OY-H5YMMD8XszmFGj9BX9DNxDESDPnPiFeox0J69BepNE0k4bGW2a8g2W5XNhmxY6eA-6XlmWZwRp5k4X=yw_HqVBHvP58Utlxy0tpNiifVo33_kgCW2S2g2U5XNV1a2A+y0tKlri-XszA5Vz4JGC9g2V8JCP6PX98B65aMOykz8pNTVNNRM_q1i-Hv7AM=VGeo25J69VeDhv3_Dg+-w8HqVWVXN-Ga2A+y0yblOypzN25+0SKW2S0Bt2nTKV+a2A6C65amlypEo85+0S4u4ltAtUbw4Pul13kHWzRtMDxcz_vVv43l.jpeg)
採用如下步驟尋找最小的最優更新權向量：
代價函式
對
求導，可得：
令其為零，即得
最優解
為：
將上式帶入約束條件，求解未知
乘子
：
可求得：
其中，
是誤差訊號。
結合前兩步的結果，可得：
為了對一次迭代到下一次迭代抽頭權向量的增量變化進行控制而不改變向量的方向，引入一個正的
實數標度因子
，該增量可以寫為：
等價的，我們可以寫出：
這個公式就是歸一化LMS演算法抽頭權向量的
遞迴公式
，為什麼叫歸一化呢？因為公式中對輸入向量
歐式範數的平方就行了歸一化。
當輸入向量
較小時，
的值過小，可能導致
數值
計算困難的情況，為了克服這個情況，將上面的表示式改為：
其中，
我們總結NLMS演算法的步驟如下：
如果有抽頭權向量
的先驗知識，則用它來做初值，否則令
為0
計算輸出：
計算誤差：
權重更新：
% 輸入引數：
% xn 輸入的訊號，列向量
% dn 所期望的響應
% M 濾波器的階數
% mu 收斂因子（步長）
% 輸出引數：
% W 濾波器係數矩陣
% en 誤差序列
% yn 濾波器輸出
function
［yn， W， en］
=
nlmsFunc
（
xn， dn， M， mu， delta
）
itr
=
length
（
xn
）；
en
=
zeros
（
itr
，
1
）；
W
=
zeros
（
M
，
itr
）；
% 每一列代表-次迭代，初始為0
% 迭代計算
for
k
=
M
：
itr
% 第k次迭代
x
=
xn
（
k
：
-
1
：
k
-
M
+
1
）；
% 濾波器M個抽頭的輸入
y
=
W
（：，
k
-
1
）。
‘
*
x
；
% 濾波器的輸出
en
（
k
）
=
dn
（
k
）
-
y
；
% 第k次迭代的誤差
% 濾波器權值計算的迭代式
W
（：，
k
）
=
W
（：，
k
-
1
）
+
mu
*
en
（
k
）
*
x
/
（
delta
+
x
。
’
*
x
）；
end
yn
=
inf
*
ones
（
size
（
xn
））；
% 初值為無窮大是繪圖使用，無窮大處不會繪圖
for
k
=
M
：
length
（
xn
）
x
=
xn
（
k
：
-
1
：
k
-
M
+
1
）；
yn
（
k
）
=
W
（：，
end
）。
‘*
x
；
% 最終輸出結果
end
輸入測試訊號如下：
%% 產生測試訊號
fs
=
1
；
f0
=
0。02
；
n
=
1000
；
t
=
（
0
：
n
-
1
）
’/
fs
；
xs
=
cos
（
2
*
pi
*
f0
*
t
）；
ws
=
awgn
（
xs
，
20
，
‘measured’
）；
M
=
20
；
% 濾波器的階數
xn
=
ws
；
dn
=
xs
；
% rho_max = max（eig（ws*ws。‘））； % 輸入訊號相關矩陣的最大特徵值
% mu = （1/rho_max） ； % 收斂因子 0 < mu < 1/rho
mu1
=
0。01
；
mu2
=
1
；
delta
=
1e-3
；
［
yn
，
W
，
en
］
=
lmsFunc
（
xn
，
dn
，
M
，
mu1
）；
［
yn2
，
W2
，
en2
］
=
nlmsFunc
（
xn
，
dn
，
M
，
mu2
，
delta
）；
歡迎關注微信公眾號：Quant_Times
歡迎大家學習我的課程：
