Báo cáo tóm tắt Đề tài Nghiên cứu phát triển mô hình dự báo dữ liệu thời gian sử dụng phương pháp cửa sổ dịch chuyển và máy học véc-tơ hỗ trợ được tối ưu bởi thuật toán trí tuệ bầy đàn
BỘ GIÁO DỤC VÀ ĐÀO TẠO
ĐẠI HỌC ĐÀ NẴNG
BÁO CÁO TÓM TẮT
ĐỀ TÀI
KHOA HỌC VÀ CÔNG NGHỆ CẤP ĐẠI HỌC ĐÀ NẴNG
NGHIÊN CỨU PHÁT TRIỂN MÔ HÌNH DỰ BÁO DỮ LIỆU
THỜI GIAN SỬ DỤNG PHƯƠNG PHÁP CỬA SỔ DỊCH
CHUYỂN VÀ MÁY HỌC VÉC-TƠ HỖ TRỢ ĐƯỢC TỐI ƯU
BỞI THUẬT TOÁN TRÍ TUỆ BẦY ĐÀN
Mã số: B2017-ĐN06-02
Chủ nhiệm đề tài: ThS. Trương Thị Thu Hà
Email: [email protected].vn
Đà Nẵng, 06/2019
II
DANH SÁCH NHỮNG THÀNH VIÊN THAM GIA ĐỀ TÀI
VÀ ĐƠN VỊ PHỐI HỢP
Thành viên tham gia nghiên cứu đề tài
TT
Họ và tên
Đơn vị công tác và lĩnh vực chuyên môn
Khoa Quản lý dự án, Trường Đại học
Bách Khoa, Đại học Đà Nẵng
1 TS. Ngô Ngọc Tri
ThS. Huỳnh Võ
Duyên Anh
Khoa Kỹ thuật Xây dựng, Trường Đại
học Sư phạm Kỹ thuật, Đại học Đà Nẵng
2
III
MỤC LỤC
IV
V
BỘ GIÁO DỤC VÀ ĐÀO TẠO CỘNG HÒA XÃ HỘI CHỦ NGHĨA VIỆT NAM
Độc lập - Tự do - Hạnh phúc
ĐẠI HỌC ĐÀ NẴNG
THÔNG TIN KẾT QUẢ NGHIÊN CỨU
1. Thông tin chung:
- Tên đề tài: Nghiên cứu phát triển mô hình dự báo dữ liệu thời
gian sử dụng phương pháp cửa sổ dịch chuyển và máy học véc-tơ hỗ
trợ được tối ưu bởi thuật toán trí tuệ bầy đàn
- Mã số: B2017-ĐN06-02
- Chủ nhiệm đề tài: ThS. Trương Thị Thu Hà
- Tổ chức chủ trì: Đại học Đà Nẵng
- Thời gian thực hiện: từ 06/2017 đến 05/2019.
2. Mục tiêu:
- Phát triển mô hình dự báo tích hợp để dự đoán dữ liệu chuỗi thời
gian bằng cách tích hợp phương pháp cửa sổ dịch chuyển và mô hình
máy véc-tơ hỗ trợ được tối ưu bởi thuật toán con đom đóm. Mô hình
dự báo được phát triển trên ngôn ngữ lập trình MATLAB.
- Nâng cao độ chính xác và độ tin cậy trong việc dự báo dữ liệu
chuỗi thời gian.
3. Tính mới và sáng tạo:
- Đề tài đã phát triển một mô hình dự báo chuỗi thời gian bằng
cách tích hợp phương pháp cửa sổ dịch chuyển và mô hình máy học
được tối ưu bởi thuật toán trí tuệ bầy đàn. Mô hình dự báo đề xuất
được xây dựng trên ngôn ngữ lập trình MATLAB;
- Mô hình dự báo đề xuất được ứng dụng cho thị trường năng
lượng và tài chính ở Việt Nam;
- Đề tài chỉ ra sự cần thiết phải sử dụng phương pháp cửa sổ dịch
chuyển trong dự báo chuỗi thời gian.
5. Sản phẩm:
- Báo cáo tổng kết đề tài;
- 01 bài báo khoa học quốc tế đăng trên tạp chí thuộc danh mục
ISI: N.-T. Ngo, T.T.H. Truong, Forecasting Time Series Data Using
Moving-Window Swarm Intelligence-Optimized Machine Learning
VII
BỘ GIÁO DỤC VÀ ĐÀO TẠO CỘNG HÒA XÃ HỘI CHỦ NGHĨA VIỆT NAM
Độc lập - Tự do - Hạnh phúc
ĐẠI HỌC ĐÀ NẴNG
INFORMATION ON RESEARCH RESULTS
1. General information:
- Project title: Research and development a time series forecast
model using moving-window concept and support vector machines
optimized by swarm intelligence algorithm
- Code number: B2017-ĐN06-02
- Coordinator: MSc. Thi Thu Ha Truong
- Implementing institution: The University of Danang
- Duration: from 06/2017 to 05/2019
2. Objective:
- Develop an integrated forecast model for predicting time series
data by integrating the moving-window concept and the support
vector model that is optimized by the firefly algorithm. The forecast
model is developed in the MATLAB programming language.
- Increase the accuracy and the reliability in predicting time series
data.
3. Creativeness and innovativeness:
- The research developed a time series forecast model by
integrating the moving-window concept and the machine learning
regression that is optimized by the swarm intelligence. The proposed
model was developed in the MATLAB programming language.
- The proposed forecast model was adopted to energy and
financial markets of Vietnam;
- The research indicated a necessity of using the moving-window
concept for predicting time series data.
4. Research results:
The findings in this study indicated the outperformance of the
proposed forecast model MFA-LSSVR to other models including
MARIMA and MLSSVR in predicting time series data. This study
also shows the necessity of using the moving-window approach and
its effect on the forecast accuracy.
VIII
5. Products:
- Final report;
- 01 article published by ISI-indexed journals: N.-T. Ngo, T.T.H.
Truong, Forecasting Time Series Data Using Moving-Window
Swarm Intelligence-Optimized Machine Learning Regression,
International Journal of Intelligent Engineering Informatics 7 (2019).
- 01 article published by the Board of State Professors-rated
journal: T.T.H. Truong, N.-T. Ngo, T.K.V. Tang, Electric load
consumption forecasting in da nang city using a hybrid of moving-
window concept and swarm intelligence-optimized machine learning
regression, Journal of Science and Technology-The University of
Danang 11(132) (2018) 108-112.
- 01 computer program developed on MATLAB programming
language.
6. Transfer alternatives, application institutions, impacts and
benefits of research results:
- Method for transferring research results: Represent in person to
Acceptance Board for Scientific and Technological topics of the
University of Danang;
- Locations for application: Investors, agencies and enterprises of
interest; researchers in the field of time series forecasting;
- This study will provide a potential solution to time series data
forecasting. The findings of this study could be applied into practice
to forecast time series data in energy, finance, tourism, environment,
etc. These forecasts help investors, enterprises, and regulators to
make right decisions.
1
MỞ ĐẦU
1. TÍNH CẤP THIẾT CỦA VẤN ĐỀ NGHIÊN CỨU
Dự báo dữ liệu chuỗi thời gian (time series data forecasting) là
việc sử dụng mô hình toán học để dự báo các điểm dữ liệu tương lai
dựa vào dữ liệu quá khứ; chẳng hạn dự báo doanh thu bán hàng của
doanh nghiệp, dự báo lượng điện tiêu thụ hàng tháng, hàng năm, dự
báo giá đóng cửa của các cổ phiếu trên thị trường chứng khoán, dự
báo tỷ giá hối đoái,…Dữ liệu chuỗi thời gian thường phi tuyến,
không ổn định, phi mùa vụ; vì vậy, dự báo chuỗi thời gian là lĩnh vực
đầy thử thách, thu hút sự quan tâm của nhiều nhà nghiên cứu trong
nhiều thập niên qua.
Tại Việt Nam, các nghiên cứu về dự báo chuỗi thời gian mới tập
trung ở lĩnh vực kinh tế, chủ yếu là dự báo doanh thu, dự báo thị
trường chứng khoán mà chưa tập trung ở các lĩnh vực khác như năng
lượng, môi trường.,…Phần lớn những nghiên cứu ở Việt Nam sử
dụng các phương pháp/mô hình thống kê hay truyền thống để dự báo.
Vì vậy, trong nghiên cứu này, nhóm tác giả phát triển một mô hình
dự báo dữ liệu chuỗi thời gian bằng cách tích hợp phương pháp cửa
số dịch chuyển (moving-window) và máy véc-tơ hỗ trợ được tối ưu
bởi thuật toán con đom đóm.
2. MỤC TIÊU NGHIÊN CỨU
- Phát triển mô hình để dự báo dữ liệu chuỗi thời gian bằng cách
tích hợp phương pháp cửa sổ dịch chuyển và mô hình máy véc-tơ
hỗ trợ được tối ưu bởi thuật toán con đom đóm. Mô hình dự báo
được phát triển trên ngôn ngữ lập trình MATLAB;
- Nâng cao độ chính xác và độ tin cậy trong việc dự báo dữ liệu
chuỗi thời gian
3. CÁCH TIẾP CẬN
Quá trình nghiên cứu thực hiện đề tài này gồm 04 bước cơ bản:
- Bước 1: Thu thập và xử lý dữ liệu nghiên cứu;
- Bước 2: Phát triển mô hình dự báo dữ liệu chuỗi thời gian trên
ngôn ngữ lập trình MATLAB;
2
- Bước 3: Ứng dụng mô hình dự báo;
- Bước 4: Phân tích và đánh giá kết quả dự báo.
4. PHƯƠNG PHÁP NGHIÊN CỨU
- Đề tài này sử dụng các phương pháp nghiên cứu sau:
- Phương pháp phân tích và tổng hợp lý thuyết để xác định tính cấp
thiết của nội dung nghiên cứu;
- Phương pháp mô hình hóa để xây dựng mô hình dự báo;
- Phương pháp toán học để đánh giá kết quả dự báo.
5. ĐỐI TƯỢNG VÀ PHẠM VI NGHIÊN CỨU
- Đối tượng nghiên của đề tài là mô hình dự báo dữ liệu chuỗi thời
gian được tích hợp bởi phương pháp cửa sổ dịch chuyển và máy
học véc tơ hỗ trợ được tối ưu bởi thuật toán con đom đóm.
- Phạm vi nghiên cứu: Các bộ dữ liệu chuỗi thời gian trong lĩnh vực
năng lượng và tài chính tại Việt Nam.
6. NỘI DUNG NGHIÊN CỨU
- Dự báo dữ liệu chuỗi thời gian: khái niệm, phân loại, tầm quan
trọng;
- Tổng quan các nghiên cứu về dự báo dữ liệu chuỗi thời gian;
- Xây dựng mô hình dự báo chuỗi thời gian tích hợp phương pháp
cửa sổ dịch chuyển và mô hình máy véc-tơ hỗ trợ được tối ưu bởi
thuật toán con đom đóm;
- Phân tích, đánh giá mô hình đề xuất thông qua dữ liệu thu thập
được trên cơ sở so sánh với các mô hình dự báo khác.
3
CHƯƠNG 1: TỔNG QUAN VỀ DỰ BÁO DỮ LIỆU CHUỖI
THỜI GIAN
1.1. Dự báo dữ liệu chuỗi thời gian: khái niệm và phân loại
1.1.1. Khái niệm dự báo dữ liệu chuỗi thời gian
Dữ liệu chuỗi thời gian (time series data) là một chuỗi các điểm
dữ liệu, được đo theo từng khoảng khắc thời gian liền nhau theo một
tần suất thời gian thống nhất.
Dự báo chuỗi thời gian (time series forecasting) là việc sử dụng
mô hình để dự báo các điểm dữ liệu tương lai dựa vào dữ liệu quá
khứ. Việc dự báo dựa trên các mô hình toán học với giả định mối liên
hệ giữa các yếu tố được thiết lập trong quá khứ sẽ lặp lại trong tương
lai. Tìm ra một phương pháp hiệu quả để dự báo chuỗi thời gian có ý
nghĩa quan trọng cả trong lĩnh vực kỹ thuật và kinh tế.
1.1.2. Phân loại dự báo dữ liệu chuỗi thời gian
a) Theo thời đoạn dự báo: Dự báo ngắn hạn, trung hạn và dài hạn.
b) Theo giai đoạn dự báo: dự báo hậu nghiệm và dự báo tiền nghiệm.
c) Theo lĩnh vực dự báo: dự báo kinh tế-tài chính, dự báo năng
lượng, dự báo trong lĩnh vực môi trường, thủy văn,...
1.2. Tầm quan trọng của dự báo dữ liệu chuỗi thời gian
1.2.1. Trong lĩnh vực năng lượng
Các đơn vị điều hành hệ thống, cung cấp năng lượng, các tổ chức
tài chính và các bên tham gia sản xuất, truyền tải và phân phối điện
đều hưởng lợi nếu tải điện được dự báo chính xác. Việc tăng một vài
phần trăm trong độ chính xác dự báo sẽ giúp tiết kiệm hàng triệu đô
thách thức cho việc vận hành hệ thống. Sự dự báo quá cao so với nhu
cầu thực tế dẫn đến sự xây dựng và lắp đặt không cần thiết, lãng phí
các nguồn năng lượng, điều phối năng lượng không hiệu quả, và gia
tăng chi phí vận hành. Ngược lại, sự dự báo quá thấp gây ra sự thiếu
hụt trong việc dự phòng và dẫn đến chi phí vận hành cao khi sản
được xem là yêu cầu từ các ngành dịch vụ công cộng và các đơn vị
vận hành để cung cấp các quyết định điều độ tải điện và các cam kết
4
hiệu quả, kế hoạch dự phòng và phân phối tải tối ưu.
Dự báo nhu cầu phụ tải điện có liên quan mật thiết đến việc lập kế
hoạch đầu tư và vận hành hệ thống điện, dự báo doanh thu, kinh
doanh năng lượng,…cũng như tác động đến việc lập kế hoạch của
nhiều ngành dịch vụ công cộng. Tại Việt Nam, dự báo nhu cầu phụ
tải điện hệ thống điện phân phối là dự báo cho toàn bộ phụ tải điện
được cung cấp điện từ hệ thống điện phân phối, trừ các phụ tải có
nguồn cung cấp điện riêng. Bên cạnh đó, các công ty điện lực còn dự
báo điện thương phẩm, điện nhận, điện giao, từ đó dự báo tổn thất.
Chỉ tiêu tổn thất điện đánh giá hiệu quả vận hành và kinh doanh của
công ty điện lực. Tóm lại, dự báo điện năng (nói chung) là cơ sở để
lập kế hoạch đầu tư phát triển lưới điện phân phối hàng năm, kế
hoạch vận hành hệ thống điện phân phối, kế hoạch vận hành hệ thống
1.2.2. Trong lĩnh vực tài chính
Trên thị trường chứng khoán, sự hình thành thị giá của một doanh
nghiệp bao hàm sự hoạt động của doanh nghiệp đó trong hiện tại và
dự đoán tương lai. Khi giá cổ phiếu của một doanh nghiệp cao (hay
thấp) biểu hiện trạng thái kinh tế là khả năng mang lại cổ tức cao
(hay thấp) cho các cổ đông của doanh nghiệp đó. Do đó, thị giá cổ
phiếu và sự biến động của nó trực tiếp thể hiện triển vọng tương lai
giúp nhà đầu tư xác định đúng đắn thời điểm mua (bán) và qua đó thu
được lợi tức đáng kể; là cơ sở để Chính phủ và các công ty đánh giá
kế hoạch đầu tư cũng như phân bổ hợp lý các nguồn lực.
Bên cạnh dự báo chứng khoán, dự báo chuỗi thời gian trong lĩnh
vực tài chính còn bao gồm dự báo tỷ giá hối đoái, dự báo giá vàng,…
Dự báo chính xác tỷ giá hối đoái giúp đưa ra các quyết định đúng đắn
về quan hệ kinh tế đối ngoại, tình trạng cán cân thanh toán, tăng
trưởng kinh tế, lạm phát và thất nghiệp. Dự đoán giá vàng giúp Nhà
nước đưa ra các quyết định quan trọng để điều hành chính sách tiền
tệ, góp phần ổn định nền kinh tế quốc gia.
5
CHƯƠNG 2: CÁC NGHIÊN CỨU VỀ DỰ BÁO DỮ LIỆU
CHUỖI THỜI GIAN
2.1. Dự báo chuỗi thời gian trên thế giới
Có hai nhóm mô hình để dự báo dữ liệu chuỗi thời gian, gồm: các
mô hình truyền thống và các mô hình dựa trên trí tuệ nhân tạo. Các
mô hình dự báo truyền thống gồm hồi quy đa tuyến (multiple
regression), làm mịn theo cấp số nhân (exponential smoothing), và
Box-Jenkins. Các mô hình dự báo dựa trên trí tuệ nhân tạo gồm mạng
nơ–ron nhân tạo (artifiial neural network), máy học véc-tơ hỗ trợ
(support vector machines), logic mờ (fuzzy logic), và các mô hình kết
hợp.
2.1.1. Các mô hình dự báo trong lĩnh vực năng lượng
exponetial smoothing tập trung vào chu kỳ trong ngày, và mô hình
dựa vào thời tiết để dự báo nhu cầu điện tại nước Anh. Contreras và
hàng giờ ở Tây Ban Nha và Californian (Mỹ). Mặc dù các mô hình
ARIMA hay Box-Jenkins nói chung được sử dụng phổ biến, hạn chế
của chúng là không thể dự báo tốt với những dữ liệu phi tuyến tính
(nonlinear), không ổn định (nonstationary). Do đó, trong những thập
niên gần đây, mô hình dựa trên trí tuệ nhân tạo được ứng dụng rộng
rãi để dự báo các chuỗi dữ liệu thời gian.
Mạng nơ-ron nhân tạo (Artificial Neural Networks- ANNs) là mô
hình xử lý thông tin được mô phỏng dựa trên hoạt động của hệ thống
thần kinh của sinh vật. ANNs xử lý các bài toán phi tuyến dựa trên cơ
chế xấp xỉ hàm tùy ý 'học' được từ các dữ liệu quan sát. Các nghiên
cứu đã chỉ ra mô hình ANNs cho sai số dự báo thấp hơn các mô hình
nhiên, số lượng các tham số của mô hình ANNs tương đối nhiều và
việc xác định các tham số này tương đối khó khăn; mặt khác ANNs
thường vấp phải “điểm cục bộ” trong quá trình dự báo. Do đó, ANNs
cho kết quả dự báo có độ chính xác thấp trong một số trường hợp [1,
9].
6
Máy véc tơ hỗ trợ (support vector machines – SVMs) là một tập
hợp các phương pháp học có giám sát liên quan đến nhau để phân
SVMs xây dựng một siêu phẳng hoặc một tập hợp các siêu phẳng
trong một không gian nhiều chiều hoặc vô hạn chiều. Để sử dụng cho
mục đích hồi quy, máy véc tơ hỗ trợ hồi quy ra đời (Support vector
regresion - SVR). SVR tìm cách tối thiểu giới hạn trên của sai số
tổng quát hóa thay vì tối thiểu sai số thực nghiệm như mô hình mạng
nơ-ron.
Tuy nhiên, nhược điểm của mô hình SVR là độ chính xác dự báo
phụ thuộc đáng kể vào các tham số của mô hình, cụ thể là tham số
kiểm soát (regularization parameter – C) và tham số hàm nhân
(kernel function parameter - ơ). Lựa chọn giá trị của C và ơ là một
bài toán tối ưu. Trong những năm gần đây, tối ưu hóa dựa trên các
thuật toán Metaheuristc được sử dụng phổ biến. Metaheuristic bao
gồm những chiến lược khác nhau trong việc khám phá không gian
tìm kiếm bằng cách sử dụng những phương thức khác nhau và phải
đạt được sự cân bằng giữa tính đa dạng và chuyên sâu của không
gian tìm kiếm. Một số ví dụ về metaheuristic như thuật toán di truyền
(genetic algorithm – GA), thuật toán luyện kim (simulated annealing
– SA), thuật toán tối ưu bầy đàn (particle swarm optimization –
PSO), thuật toán tối ưu đàn kiến (ant colony optimization – ACO),…
Thuật toán con đom đóm (firefly algorithm – FA), được đề xuất
con đom đóm. Các nghiên cứu đã chỉ ra FA thể hiện khả năng tối ưu
hóa hơn hẳn so với các thuật toán khác gồm GA, PSO, SA, ACO,
thuật toán đàn ong (bee colony algorithm - BCA), và thuật toán tiến
ứng dụng FA để tối ưu hóa các tham số của mô hình SVR trong lĩnh
2.1.2. Các mô hình dự báo trong lĩnh vực tài chính
Trong lĩnh vực tài chính, các mô hình dự báo truyền thống như
làm mịn theo cấp số nhân, hồi quy tuyến tính, Box-Jenkins,…. được
7
sử dụng khá phổ biến trong nhiều thập kỉ qua. Ưu điểm nổi bật của
những mô hình này là dễ sử dụng. Tuy nhiên, những mô hình này cho
sai số khá lớn với những dữ liệu dạng phi tuyến và không ổn định.
Với ưu điểm là không cần giả định trước về đặc trưng của dữ liệu,
mô hình ANNs được sử dụng khá nhiều trong các lĩnh vực như như
cá voi để dự báo sự dao động của giá vàng hàng tháng. Kết quả chỉ ra
khả năng dự báo vượt trội của mô hình đề xuất so với mô hình
ARIMA và mô hình ANN đơn lẻ.
Cùng với ANNs, mô hình SVMs được ứng dụng thành công để dự
SVM đã chứng tỏ khả năng dự báo hơn hắn mô hình ANNs. Thông
qua dự báo xu hướng hàng tuần của chỉ số NIKKEI 225, Huang và
báo xu hướng tốt hơn các mô hình random walk (RW), linear
discriminant analysis (LDA), quadratic discriminant analysis (QDA),
và mạng nơ-ron lan truyền ngược Elman (EBNN).
Như đã phân tích trong mục 2.1.1, độ chính xác dự báo của mô
hình SVMs hay SVR phụ thuộc đáng kể vào hai tham số C và ơ. Do
đó, các mô hình kết hợp ra đời, trong đó một thuật toán được dùng để
tối ưu hóa hai tham số trên. Chẳng hạn, Min và cộng sự (2006) [23]
bởi thuật toán di truyền (GA) để dự báo khả năng phá sản của các
ngân hàng; trong đó, GA được dùng để xác định giá trị tối ưu của C
và ơ của mô hình SVM. Thuật toán con đom đóm (FA) cũng là một
metaheuristic, ra đời dựa trên đặc điểm của trí tuệ bầy đàn. FA được
chứng minh có khả năng tối ưu hóa hơn hẳn so với các thuật toán
2.1.3. Dự báo chuỗi thời gian trong các lĩnh vực khác
Bên cạnh hai lĩnh vực phổ biến là năng lượng và tài chính, nhiều
dự báo chuỗi thời gian khác được nghiên cứu như trong lĩnh vực thủy
8
văn, môi trường, kinh tế,…
2.2. Dự báo chuỗi thời gian ở Việt Nam
Tại Việt Nam, trong những năm gần đây các công ty điện lực rất
quan tâm đến dự báo điện năng. Tuy nhiên, phần lớn các công ty đều
tự dự báo dựa vào kinh nghiệm và những phương pháp thống kê đơn
giản như ngoại suy, hồi quy, hệ số đàn hồi. Phương pháp mạng nơ-
ron nhân tạo cũng bắt đầu được sử dụng nhưng mới ở dạng mô hình
đơn lẻ. Nhìn chung, các nghiên cứu sử dụng trí tuệ nhân tạo để dự
báo điện năng tại Việt Nam còn khá ít.
Lĩnh vực kinh tế - tài chính thu hút khá nhiều nghiên cứu, gồm
các dự báo về tỷ giá hối đoái, dự báo lạm phát, dự báo thị trường
chứng khoán (dự báo chỉ số thị trường, dự báo giá cổ phiếu và sự
biến động của thị trường).
2.3. Kết luận
Qua phân tích ở các phần trên có thể nhận thấy
- Trong các mô hình dự báo dựa trên trí tuệ nhân tạo, mô hình SVR
thể hiện khả năng dự báo tốt hơn cả;
- Để cải thiện độ chính xác dự báo của SVR, có nhiều thuật toán
được sử dụng nhằm tối ưu hóa hai tham số C và ơ của mô hình
này; trong đó, thuật toán con đom đóm (FA) được chứng minh có
nhiều ưu điểm hơn so với các thuật toán trí tuệ bầy đàn khác;
- Tại Việt Nam, dự báo trong lĩnh vực năng lượng chưa được quan
tâm, có khá ít nghiên cứu sử dụng trí tuệ nhân tạo để dự báo điện
năng tại Việt Nam. Trong lĩnh vực tài chính, hầu hết các nghiên
cứu đều ứng dụng các mô hình thống kê truyền thống; các mô
hình trí tuệ nhân tạo phần lớn ở dạng đơn lẻ như ANN, SVR.
Chính vì vậy, nghiên cứu này sẽ sử dụng mô hình máy học véc-tơ hỗ
trợ (SVR) được tối ưu hóa bởi thuật toán con đom đóm (FA) để dự
báo dữ liệu năng lượng và tài chính tại Việt Nam. Bên cạnh đó,
phương pháp cửa sổ dịch chuyển (moving-window) được tích hợp
vào mô hình để lựa chọn số lượng dữ liệu quá khứ và cập nhật dữ
liệu. Mô hình đề xuất được xây dựng trên ngôn ngữ lập trình
MATLAB.
9
CHƯƠNG 3: PHÁT TRIỂN MÔ HÌNH DỰ BÁO DỮ LIỆU
CHUỖI THỜI GIAN SỬ DỤNG PHƯƠNG PHÁP CỬA SỔ
DỊCH CHUYỂN VÀ MÁY HỌC VÉC-TƠ HỖ TRỢ ĐƯỢC TỐI
ƯU BỞI THUẬT TOÁN TRÍ TUỆ BẦY ĐÀN
3.1. Phương pháp cửa sổ dịch chuyển
thời gian kéo dài từ quá khứ đến hiện tại. Trong dự báo chuỗi thời
gian, cửa sổ dịch chuyển được sử dụng để lựa chọn dữ liệu lịch sử
hợp lý và cập nhật dữ liệu cho dự báo (Hình 3.1). Khi cửa sổ di
chuyển về phía trước, dữ liệu mới nhất được thêm vào trong khi dữ
liệu cũ nhất được xóa khỏi nó. Kích thước của cửa sổ (số lượng dữ
liệu lịch sử) được giữ không đổi trong suốt quá trình di chuyển này.
Range of
Length of window
prediction
Historical data
Predicted values
Latest observations are added
to the window
Range of
Oldest data are removed
Length of window
prediction
Time horizon
Hình 3.1. Khái niệm cửa sổ dịch chuyển.
Để có thể dự báo, dữ liệu đơn biến ban đầu phải được chuyển đổi
thành dạng hồi quy, quá trình này được gọi là “state reconstruction”.
Xem xét chuỗi dữ liệu đơn biến
, với p là
chiều dài của cửa sổ dịch chuyển, N là tổng số dữ liệu. Quá trình
“state reconstruction” cho dự báo một giá trị tương lai được thể hiện
ở công thức 3.1. Theo đó, dữ liệu ban đầu được chuyển đổi thành ma
trận đầu vào X và ma trận đầu ra Y. Kích thước của X phụ thuộc vào
tham số m, tham số này còn gọi là độ trễ (lag) hay kích thước nhúng
10
x1
x2
x3
xm
x1
x2
x
m1
x 2
m xm1
xm2
(3.1)
m
xpm xpm1
p2 xp1
xp1
xp
xp1
xp1
xpm1 x pm2
p1 xp
3.2. Mô hình máy học véc-tơ hỗ trợ được tối ưu bởi thuật toán trí
tuệ bầy đàn
3.2.1. Mô hình máy học véc-tơ hỗ trợ
Máy véc tơ hỗ trợ (support vector machines – SVMs, được phát
giám sát liên quan đến nhau để phân loại và phân tích hồi quy.
Bình phương nhỏ nhất máy học véc-tơ hỗ trợ hồi quy (least
squares support vector regression - LSSVR), một kỹ thuật máy học
quyết một tập hợp các phương trình tuyến tính trong không gian mới
(dual space) thay vì giải quyết một bài toán lập trình bậc hai với các
ràng buộc bất đối xứng tuyến tính như trong mô hình SVR chuẩn. Do
đó, LSSVR đạt được khả năng tổng quát hóa cao và tốc độ tính toán
nhanh.
Trong một hàm tính toán LSSVR, cho một tập dữ liệu huấn luyện
N
, vấn đề tối ưu hóa được mô tả như sau
x , y
k
k k1
N
1
2
1
2
(3.2)
min J(,e)
C e2
k
,b,e
2
k1
với
yk ,(xk ) b ek , k 1,...N
trong đó, J(,e) là hàm tối ưu; là tham số của hàm tuyến tính; ek ∊
R là các biến sai số; C ≥ 0 là tham số kiểm soát thể hiện sự cân bằng
giữa sai số thực nghiệm và độ phẳng của hàm f(xk); xk là các đặc tính
đầu vào; yk là các nhãn dự báo liên quan đến xk; N là kích thước dữ
liệu.
Mô hình LSSVR để tính toán hàm số là
11
N
(3.3)
f (x) K(x, x ) b
k
k
k1
trong đó,
là hệ số Lagrange và b là hệ số ‘thiên vị’ (bias term).
k
Trong quá trình huấn luyện, hàm nhân (kernel function) được sử
dụng để nhận dạng các support vector dọc theo bề mặt hàm số. Trong
không gian phi tuyến nhiều chiều, hàm radial basis (RB) cho kết quả
thức toán học như sau
2
K(x,xk ) exp( x xk / 2 2
(3.4)
với ơ là tham số của hàm nhân (kernel) dùng để điều khiển độ rộng
của ‘nhân’ được sử dụng để vừa vặn với dữ liệu huấn luyện.
3.2.2. Thuật toán con đom đóm
Trong nghiên cứu này, thuật toán con đom đóm (firefly algorithm
– FA), một thuật toán dựa trên trí tuệ bầy đàn được sử dụng để tối ưu
hai tham số C và σ của mô hình LSSVR. Thuật toán con đom đóm
dựa trên quan sát hành vi của những con đom đóm trên bầu trời.
FA tuân theo 3 quy tắc giả định:
o Tất cả đom đóm là phi giới tính, nghĩa là, một con đom đóm sẽ
bị thu hút bởi đom đóm khác;
o Sự hấp dẫn của một đom đóm tỷ lệ thuận với độ sáng của nó,
độ sáng càng giảm khi khoảng cách giữa chúng càng tăng;
o Độ sáng của một đom đóm bị ảnh hưởng bởi không gian tìm
kiếm của hàm mục tiêu.
3.3. Mô hình dự báo sử dụng phương pháp cửa sổ dịch chuyển
và máy học véc-tơ hỗ trợ được tối ưu với thuật toán con đom
đóm
Mô hình dự báo đề xuất, moving-window FA-LSSVR (MFA-
LSSVR), được thể hiện trong ngôn ngữ lập trình MATLAB (Hình
3.2).
Tải về để xem bản đầy đủ
36 trang
18600
Free
Bạn đang xem 20 trang mẫu của tài liệu "Báo cáo tóm tắt Đề tài Nghiên cứu phát triển mô hình dự báo dữ liệu thời gian sử dụng phương pháp cửa sổ dịch chuyển và máy học véc-tơ hỗ trợ được tối ưu bởi thuật toán trí tuệ bầy đàn", để tải tài liệu gốc về máy hãy click vào nút Download ở trên
File đính kèm:
- bao_cao_tom_tat_de_tai_nghien_cuu_phat_trien_mo_hinh_du_bao.pdf
