Báo cáo bài tập lớn Xử lý thống kê tín hiệu ngẫu nhiên

ĐẠI HỌC QUỐC GIA TP.HCM - TRƯỜNG ĐẠI HỌC

BÁCH KHOA

Chương trình kỹ sư chất lượng cao Việt Pháp

BÁO CÁO BÀI TẬP LỚN

XỬ LÝ THỐNG KÊ TÍN HIỆU NGẪU NHIÊN

SPECTRAL ESTIMATION AND ADAPTIVE FILTERS

GVHD: PGS. TS Đỗ Hồng Tuấn

Nhóm 1 - Sinh viên thực hiện: Võ Nguyễn Gia Luật – 1611944

Lâm Minh Quân – 16

TP. Hồ Chí Minh, ngày 25 tháng 12 năm 2020

MỤC LỤC

I. PROBLEM 1: SPECTRAL ESTIMATION ............................................................... 2

1. Yêu cầu .................................................................................................................... 2

2. Thực hiện ................................................................................................................. 2

2.1. Ước lượng phổ tín hiệu sử dụng phương pháp Periodogram và MUSIC ......... 2

2.2. Dùng phương pháp Monte Carlo để đánh giá độ chính xác của phương pháp

ước lượng phổ Periodogram và MUSIC .................................................................. 9

II. PROBLEM 2: ADAPTIVE FILTERS ..................................................................... 12

1. Yêu cầu .................................................................................................................. 12

2. Thực hiện................................................................................................................ 12

2.1. Ước lượng thông số của kênh truyền sử dụng bộ lọc thích nghi dùng giải thuật

RLS......................................................................................................................... 13

2.2. Ước lượng số lượng mẫu cần thiết để đạt được sự hội tụ ............................... 19

2.3. So sánh kết quả ước lượng thông số kênh truyền sử dụng bộ lọc thích nghi

dùng giải thuật RLS so với bộ lọc Wiener ............................................................. 21

2.4. Dùng phương pháp Monte Carlo để đánh giá chất lượng của phương pháp ước

lượng kênh truyền dùng bộ lọc thích nghi với giải thuật RLS so với dùng bộ lọc

Wiener. ................................................................................................................... 22

1

Stochastic Signal Processing

PGS.TS Đỗ Hồng Tuấn

I.

PROBLEM 1: SPECTRAL ESTIMATION

1. Yêu cầu

Consider a sum of sinusoids in white Gaussian noise. The sinusoids are with

frequencies of Fs/2, Fs/2 and Fs/2 (휶 = ퟎ. ퟏ, 휷 = ퟎ. ퟒ,  = ퟎ. ퟑퟕ ) and with

amplitudes of a, b and c (풂 = ퟐ, 풃 = ퟓ, 풄 = ퟓ), respectively. The Fs is sampling

frequency. Number of signal samples is d (풅 = ퟏퟎퟎ), DFT size is e (풆 = ퟐퟎퟒퟖ).

The white Gaussian noise is with variance of 1 and zero mean. a) Plot the

estimated spectrum of sum of sinusoids in white Gaussian noise using

Periodogram and MUSIC.

b) Evaluate the accuracy of frequency estimation for different values of noise

variance from 0.5 to 5 (using Monte Carlo simulations).

2. Thực hiện

2.1. Ước lượng phổ tín hiệu sử dụng phương pháp Periodogram và MUSIC

- Sử dụng lý thuyết về ước lượng phổ dựa trên phương pháp Periodogram và

MUSIC để thực hiện ước lượng phổ của tín hiệu gồm 3 thành phần hình sin có

dạng:

[ ] )

(

)

(

)

(

푥 푛 = 2cos 0.1. Fs/2 + 5cos 0.4. Fs/2 + 5cos 0.37. Fs/2

Nhiễu cộng vào là AWGN với 푚_푒= 0, 휎_푛²= 1, số mẫu lấy vào là 100 mẫu, số

điểm DFT là 2048 điểm. Thực hiện mô phỏng với Matlab tìm được phổ ước

lượng của tín hiệu:

2

Stochastic Signal Processing

PGS.TS Đỗ Hồng Tuấn

 Nhận xét: Phổ ước lượng khi sử dụng phương pháp Periodogram có thành phần

sidelobe nhiều nên nếu tín hiệu có biên độ nhỏ sẽ rất khó phân biệt do sẽ lẫn vào

trong các sidelobe. Tuy nhiên, thành phần mainlobe có độ rộng hẹp nên độ phân

giải khá tốt, nhất là khi hai tín hiệu có tần số gần nhau như 0.37 Fs/2 và 0.4 Fs/2.

Đối với phương pháp MUSIC, phổ nhận được là phổ giả nên thành phần sidelobe

rất bé nên hầu như không ảnh hưởng đến việc nhận biết các tín hiệu có biên độ

bé, tuy nhiên do số lượng mẫu lấy vào chỉ là 100 mẫu nên phổ tại tần số mong

muốn không tiến về vạch phổ được do đó việc nhận dạng các tín hiệu gần nhau

không tốt như đối với phương pháp Periodogram.

-

Khảo sát lại phổ với a = 0.1 để thấy được sự giảm biên độ ảnh hưởng đến hai

phương pháp như thế nào:

3

Stochastic Signal Processing

PGS.TS Đỗ Hồng Tuấn

Dựa vào kết quả mô phỏng ta thấy khi biên độ tín hiệu giảm, nếu dựa vào phương

pháp Periodogram thì kết quả nhận dạng không còn chính xác tín tần số của hiệu

ứng với biên độ a = 1 nữa do thành phần sidelobe có biên độ lớn nên rất khó để

phân biệt nó so với tín hiệu thực. Phương pháp MUSIC mặc dù hơi khó nhìn

nhưng vẫn có thể tìm ra phổ chính xác ứng với biên độ lớn nhất, vì ảnh hưởng

của sidelobe là không nhiều.

-

Giả sử, số mẫu lấy vào tăng lên là d = 2000 mẫu, khảo sát lại phổ trên với a = 1:

4

Stochastic Signal Processing

PGS.TS Đỗ Hồng Tuấn

Rõ ràng, khi số mẫu tăng lên rất nhiều thì cả 2 phương pháp đều cho kết quả rất

chính xác dù tín hiệu có tần số khá gần nhau hay biên độ có giảm đáng kể.

Trở lại với phổ của tín hiệu với các thông số ban đầu. Dựa vào phổ tín hiệu, nếu

nhận biết bằng mắt ta sẽ tìm ra các tần số của tín hiệu vào tại các vị trí có đỉnh

phổ cao nhất. Tuy nhiên do hai tín hiệu ở tần số 0.4 Fs/2 và 0.37 Fs/2 gần nhau

nên khi sử dụng phương pháp MUSIC giữa chúng có thể xuất hiện một đỉnh nhỏ

nhô cao hơn so với 2 đỉnh ứng với 2 tần số chính xác:

- Nếu dùng mắt để quan sát, ta có thể phỏng đoán được đỉnh cao nhất này không

ứng với tần số thực do phổ hẹp hơn nhiều so với hai đỉnh xung quanh. Vì vậy,

vẫn có thể phỏng đoán được 3 tần số đầu vào từ việc quan sát phổ tín hiệu thu

được.

- Để có thực hiện việc nhận biết phổ dựa trên code Matlab thì cần thêm một đoạn

chương trình để tìm các đỉnh của phổ. Từ các đỉnh này, lựa ra 3 đỉnh có biên độ

lớn nhất:

5

Stochastic Signal Processing

PGS.TS Đỗ Hồng Tuấn

Nhận thấy rằng, nếu dựa vào đỉnh cao nhất để xác định sẽ có trường hợp chọn

nhằm điểm nhô lên giữa hai tần số 0.4 Fs/2 và 0.37 Fs/2 khi sử dụng phương

pháp MUSIC:

Để có loại bỏ đỉnh nhô lên này, cần thêm điều kiện ràng buộc trong chương

trình về độ phân giải nhỏ nhất của tần số như sau :

for i = 2:K-1

if((abs(BTmp(i)-BTmp(i-1))<0.028)&&(abs(BTmp(i)-BTmp(i+1))<0.028))

BTmp2(i-x) = [];

pks21temp(i-x) = [];

x = x+1;

end

6

Stochastic Signal Processing

PGS.TS Đỗ Hồng Tuấn

Đoạn chương trình này chỉ lấy những đỉnh mà khoảng cách giữa nó với hai đỉnh

lân cận lớn hơn 0.028 Fs/2, đồng nghĩa với nếu trong một đoạn tần số rộng 0.056

Fs/2 mà có chứa 3 đỉnh thì sẽ bỏ qua đỉnh ở giữa.

Kết quả đạt được là xác định được khá chính xác tần số của tín hiệu ban đầu:

- Thực hiện ước lượng phổ tín hiệu sử dụng Periodogram và MUSIC 2000 lần và

lấy giá trị DFT trung bình tại mỗi điểm, ta được kết quả:

7

Stochastic Signal Processing

PGS.TS Đỗ Hồng Tuấn

Phổ trung bình của 2000 lần mô phỏng độc lập này rõ ràng hơn và dễ quan sát

hơn so với việc thực hiện riêng lẻ từng lần một.

8

Stochastic Signal Processing

PGS.TS Đỗ Hồng Tuấn

2.2. Dùng phương pháp Monte Carlo để đánh giá độ chính xác của phương

pháp ước lượng phổ Periodogram và MUSIC

- Sau mỗi lần ước lượng phổ, xác định được 3 tần số cần ước lượng:

̂

+ 훼̂_푃, β_푃, ̂ khi dùng Periodogram.

푃

̂

+ 훼̂_푀푈, β_푀푈, ̂

khi dùng MUSIC.

푀푈

- Để đánh giá chất lượng của phương pháp ước lượng không thể chỉ dựa vào một

lần thực nghiệm mà phải lặp đi lặp lại thí nghiệm nhiều lần để xác định sai số

RMS (Root mean square error) của từng thông số ước lượng so với giá trị thực

tế. Đây chính là phương pháp Monte Carlo:

(|

|²)

√

휀_{α /푀푈}= 퐸 훼̂ − 훼_푃

푃

P

2

̂

√

휀_{β /푀푈}= 퐸 (|β_푃− β_푃| )

P

2

√

휀_{ /푀푈}= 퐸 (|̂ − _푃| )

푃

P

- Nếu số lần thực hiện phép lặp đủ lớn, có thể xấp xỉ trung bình thống kê bởi trung

bình như sau:

푀

1

2

√

|

휀_{α /푀푈}

=

∑ 훼̂ − 훼_푃

푃

P

푀

푖=1

푀

1

2

̂

휀_{β /푀푈}

∑|β_푃− β_푃|

P

푀

푖=1

푀

1

휀_{ /푀푈}

∑|̂ − _푃|²

푃

P

푀

푖=1

- Dựa vào công thức trên, thực hiện lặp lại thí nghiệm 2000 lần với phương sai

của nhiễu 휎_푛²= 1, ta được kết quả:

휀_α= 0.98%

P

9

Stochastic Signal Processing

PGS.TS Đỗ Hồng Tuấn

휀_β= 0.36%

P

휀_= 0.46%

P

휀_α= 0.98%

MU

휀_β= 0.41%

MU

휀_= 1.85%

MU

 Nhận xét: Kết quả trên cho thấy khi phương sai nhiễu là 1, phương pháp

Periodogram và MUSIC đều ước lượng phổ với độ chính xác cao. Đối với tần

số của tín hiệu có biên độ thấp, phương pháp MUSIC cho sai số thấp hơn. Đối

với các tín hiệu có tần số gần nhau nhìn chung phương pháp Periodogram cho

kết quả tốt hơn với số lượng mẫu hữu hạn 100.

- Thay đổi phương sai trong khoảng 0.1 đến 5, bước 0.1 khảo sát kết quả đạt được:

10

Stochastic Signal Processing

PGS.TS Đỗ Hồng Tuấn

11

Stochastic Signal Processing

PGS.TS Đỗ Hồng Tuấn

 Nhận xét: Khi phương sai của nhiễu nhỏ hơn 1, sai số RMS của cả hai phương

pháp rất nhỏ cho thấy độ chính xác của cả 2 phương pháp rất tốt. Tuy nhiên khi

phương sai của nhiễu tăng lên, sai số của cả 2 phương pháp cũng tăng lên nhanh.

Đặc biệt khi phương sai của nhiễu lớn hơn 2, sai số trong việc ước lượng phổ trở

nên lớn hơn, dẫn đến chất lượng của việc ước lượng giảm. Nhìn chung thì đối

với tín hiệu có biên độ nhỏ, phương pháp MUSIC cho sai số nhỏ hơn tức là khả

năng nhận biết tốt hơn do đặc tính chứa sidelobe nhỏ của MUSIC so với

Periodogram. Với các tín hiệu có tần số gần nhau thì Periodogram cho kết quả

nhận dạng tốt hơn với một lượng mẫu quan sát hữu hạn.

II.

PROBLEM 2: ADAPTIVE FILTERS

1. Yêu cầu

Consider the use of Adaptive FIR filter (AF) using Recursive Least Squares

(RLS) algorithm for Channel estimation. The signal and noise are stochastic

processes with Gaussian distribution and zero mean. The signal and noise

processes are with variances of 흈^ퟐ_풔= ퟏ. ퟐ and 흈_풏^ퟐ= ퟎ. ퟑퟓ , respectively. The

number of samples can be selected arbitrarily.

a) Estimate the weight vector w of Adaptive FIR filter.

b) Estimate the number of samples for the convergence.

c) Compare the estimated weight vector w with the optimum weight vector using

Wiener FIR filter.

d) Evaluate the root mean squared error (RMSE) between the estimated weight

vector w and the optimum weight vector for different values of 휎_푛²using Monte

Carlo simulations.

12

Stochastic Signal Processing

PGS.TS Đỗ Hồng Tuấn

2. Thực hiện

2.1. Ước lượng thông số của kênh truyền sử dụng bộ lọc thích nghi dùng giải

thuật RLS.

- Sử dụng giải thuật RLS (Recursive Least Squares) để cập nhật lại thông số bộ

lọc AF sau mỗi vòng lặp theo công thức:

Khởi tạo các giá trị trọng số ban đầu của bộ lọc cũng như nghịch đảo của ma

trận tự tương quan của giá trị đầu vào lúc ban đầu, thông thượng chọn 훿 nhỏ để

các giá trị x ban đầu hầu như không tương quan nhau:

푤₀= 0

−1

( )

푃 0 = 훿 퐼

Thực hiện vòng lặp đệ quy với 푛 = 1,2, … , 푁 để cập nhật trọng số của bộ lọc

dựa trên các giá trị trọng số và sai số trước đó.

∗

( )

푧 푛 = 푃(푛 − 1)푥 (푛)

1

( )

푔 푛 =

푧(푛)

^푇( ) ( )

λ + 푥 푛 푧 푛

푇

( )

훼 푛 = 푑 푛 − 푤_푛−1푥(푛)

( )

푤_푛= 푤_푛−1+ 훼 푛 푔(푛)

1

퐻

( )

[ (

)

]

푃 푛 = 푃 푛 − 1 − 푔(푛)푧 (푛)

λ

(

)

Trong đó hệ số λ được gọi là hệ số quên 0 ≤ λ ≤ 1 . Giá trị λ thể hiện sự ảnh

hưởng của mẫu trước đó đến giá trị của ma trận hiệp phương sai. Giá trị λ gây

ảnh hưởng lên khả năng bám theo của thuật toán thích ứng. Khi λ càng bé thì

13

Stochastic Signal Processing

PGS.TS Đỗ Hồng Tuấn

cập nhật các thông số càng nhanh, tuy nhiên thuật toán lại nhạy cảm với nhiễu.

Trong thực tế λ thường được chọn trong khoảng từ 0,98 đến 1.

- Giải thuật RLS trong Matlab:

function [W, alpha] = rls(x,d,nord,lambda)

delta = 0.001;

X=convm(x,nord);

[M,N] = size(X);

if nargin < 4

lambda = 1.0;

end

P = eye(N)/delta;

W(1,:)= zeros(1,N);

alpha(1)= d(1) - X(1,:)*W(1,:).'

for k=2:M-nord+1;

z = P*X(k,:)';

g = z/(lambda+X(k,:)*z);

alpha(k) = d(k) - X(k,:)*W(k-1,:).';

W(k,:) = W(k-1,:)+alpha(k)*g.';

P = (P-g*z.')/lambda;

end

- Sử dụng giải thuật RLS đã nêu ở trên để thực hiện chương trình ước lượng kênh

truyền với số mẫu là 1000, hệ số quên chọn là 1, giả sử kênh truyền FIR thực tế

có dạng:

−1

퐻 푧 = 1 + 2푧 + 5푧⁻²

( )

14

Stochastic Signal Processing

PGS.TS Đỗ Hồng Tuấn

So sánh với việc thực hiện giải thuật LMS:

Nhận xét: Phương pháp sử dụng bộ lọc thích nghi với giải thuật RLS cho kết quả

ước lượng kênh truyền tốt, kết quả đạt được sau 1000 mẫu là [1.0233 1.9965 5.0126]

hầu như đúng với giá trị thực. So với sử dụng giải thuật LMS, giải thuật RLS cho

kết quả chính xác hơn, tốc độ hội tụ cao hơn nhiều mặc dù thuật toán có phức tạp

hơn sơ với LMS.

- Quan sát sai số giữa tín hiệu đầu ra khi đi qua kênh truyền thực tế và đầu ra của

bộ lọc thích nghi. Thực hiện phép thử 200 lần để tìm trung bình bình phương

của sai số, kết quả cho thấy sai số trung bình bình phương của tín hiệu đầu ra

giữa bộ lọc thích nghi và kênh truyền thực tế là hằng số và bằng 0.59822 (gần

về 0) cho thấy phương pháp ước lượng dựa trên AF RMS này là phù hợp để ước

lượng kênh truyền.

15

Stochastic Signal Processing

PGS.TS Đỗ Hồng Tuấn

- Thực hiện lại bộ lọc AF RLS với kênh truyền FIR thực tế có dạng:

퐻 푧 = 1 + 1.4푧⁻¹+ 5.6푧⁻²+ 2.5푧⁻³+ 4.7푧⁻⁴

( )

16

Stochastic Signal Processing

PGS.TS Đỗ Hồng Tuấn

- Thực hiện lại với kênh truyền FIR thực tế có dạng:

−1

퐻 푧 = 1 + 3푧 + 2. 8푧⁻²+ 1.5푧⁻³+ 2.3푧⁻⁴+ 5.6푧⁻⁵

( )

17

Stochastic Signal Processing

PGS.TS Đỗ Hồng Tuấn

Nhận xét: Sau khi khảo sát nhận dạng các kênh truyền có bậc khác nhau cho thấy

phương pháp sử dụng bộ lọc thích nghi với giải thuật RLS cho kết quả ước lượng

kênh truyền có độ chính xác cao và tốc độ hội tụ nhanh. Tín hiệu ngõ ra của bộ lọc

AF và tín hiệu ngõ ra thực tế của kênh truyền chưa biết khi có nhiễu là giống nhau,

cho thấy bộ lọc đã ước lượng được một cách chính xác kênh truyền chưa biết. Đây

chính là những ưu điểm vượt trội của RLS so với các giải thuật đơn giản như LMS.

- Thực hiện lại bộ lọc AF RLS có phương sai nhiễu tăng lên 휎_푛²= 0.5 với kênh

truyền FIR thực tế có dạng:

퐻 푧 = 1 + 1.4푧⁻¹+ 5.6푧⁻²+ 2.5푧⁻³+ 4.7푧⁻⁴

( )

18

Stochastic Signal Processing

PGS.TS Đỗ Hồng Tuấn

Nhận xét: Kết quả đạt được cho thấy sai số MMSE của bộ lọc AF RLS là 0.70589

lớn hơn so với trường hợp khảo sát với 휎_푛²= 0.35 ở trên (MMSE đạt 0.62701). Điều

này cho thấy khi phương sai nhiễu tăng lên, khả năng ước lượng của bộ lọc AF cho

chất lượng ước lượng giảm xuống với cùng một lượng mẫu hữu hạn đã chọn.

- Thực hiện lại bộ lọc AF RLS có hệ số quên λ = 0.98 với kênh truyền FIR thực

tế có dạng:

퐻 푧 = 1 + 1.4푧⁻¹+ 5.6푧⁻²+ 2.5푧⁻³+ 4.7푧⁻⁴

( )

Nhận xét: Hệ số quên có ảnh hưởng đến quá trình ước lượng RLS. Khi hệ số quên

càng giảm, sai số của phép ước lượng càng lớn, do bộ lọc AF lúc này nhạy cảm hơn

với nhiễu của kênh truyền.

2.2. Ước lượng số lượng mẫu cần thiết để đạt được sự hội tụ.

- Ở câu a đã tiến hành thực hiện ước lượng kênh truyền với số mẫu cố định là

1000. Tuy nhiên, số mẫu thực tế tùy thuộc vào nhiễu kênh truyền , số tham số

ước lượng và sai số mục tiêu đặt ra để đạt được sự hội tụ. Giả sử, sai số lớn nhất

có thể giữa các giá trị 푤̂ ước lượng và các giá trị thực tế của hàm truyền yêu

푘

cầu cho sự hội tụ là 10⁻³:

−3

{

(

)

}

푚푎푥 푎푏푠 푤̂ − 푤_푘/푤_푘≤ 10

푘

19