Link tải luận văn miễn phí cho ae Kết Nối
Lời Thank ..........................................................................................................3
Mục lục................................................................................................................4
Danh sách hình vẽ...............................................................................................7
Danh sách bảng biểu...........................................................................................9
MỞ ĐẦU ...........................................................................................................10
CHƢƠNG 1 - MẠNG NƠ-RON NHÂN TẠO TRUYỀN THẲNG NHIỀU
LỚP ...................................................................................................................13
1.1 Giới thiệu về mạng nơ-ron nhân tạo......................................................13
1.1.1 Khái niệm cơ bản ......................................................................13
1.1.2 Mô hình mạng nơ-ron nhân tạo .................................................15
1.1.3 Khả năng ứng dụng của mạng nơ-ron nhân tạo..........................18
1.2 Mạng nơ-ron lan truyền thẳng nhiều lớp...............................................19
1.2.1 Mạng perceptron một lớp ..........................................................19
1.2.2 Mạng perceptron nhiều lớp........................................................22
1.2.3 Một số vấn đề cần chú ý khi sử dụng mạng MLP ......................30
Kết luận chương .........................................................................................33
CHƢƠNG 2 - KẾT HỢP GIẢI THUẬT DI TRUYỀN VỚI GIẢI THUẬT
LAN TRUYỀN NGƢỢC SAI SỐ ĐỂ TỐI ƢU HOÁ TRỌNG SỐ MẠNG
NƠ-RON NHÂN TẠO......................................................................................34
2.1 Giới thiệu giải thuật di truyền ...............................................................34
2.1.1 Giới thiệu ..................................................................................34
2.1.2 Tư tưởng chính của giải thuật di truyền .....................................35
2.1.3 Giải thuật di truyền đơn giản .....................................................37
2.2 Ứng dụng giải thuật di truyền vào bài toán tối ưu hoá trọng số của mạng
nơ-ron nhân tạo ..........................................................................................41
2.2.1 Xây dựng hàm giá .....................................................................41
2.2.2 Mã hoá nhiễm sắc thể................................................................41
2.2.3 Lai ghép ....................................................................................43
2.2.4 Đột biến ....................................................................................44
2.2.5 Thử nghiệm...............................................................................44
2.2.6 Giải thuật đề xuất ......................................................................49
2.3 Kết hợp giải thuật di truyền với giải thuật lan truyền ngược sai số để tối
ưu hoá trọng số mạng nơ-ron nhân tạo........................................................51
2.3.1 Đặt vấn đề .................................................................................51
2.3.2 Kết hợp giải thuật di truyền và giải thuật lan truyền ngược sai số53
Kết luận chương .........................................................................................55
CHƢƠNG 3 - ỨNG DỤNG MẠNG NƠ RON NHÂN TẠO VÀO VIỆC DỰ
BÁO LƢU LƢỢNG NƢỚC ĐẾN HỒ HOÀ BÌNH.........................................56
3.1 Điều kiện địa lý, tự nhiên, khí tượng thuỷ văn lưu vực sông Đà............56
3.1.1 Vị trí địa lý................................................................................56
3.1.2 Địa hình ....................................................................................57
3.1.3 Điều kiện địa chất......................................................................57
3.1.4 Điều kiện thổ nhưỡng................................................................57
3.1.5 Đặc điểm khí hậu ......................................................................57
3.1.6 Đặc điểm chế độ thuỷ văn .........................................................58
3.1.7 Thống kê dữ liệu thu thập được .................................................62
3.2 Các phương pháp dự báo ......................................................................63
3.2.1 Dựa trên mô hình vật lý.............................................................63
3.2.2 Dựa trên mô hình toán...............................................................65
3.2.3 Hướng tiếp cận mới...................................................................66
3.3 Một số chỉ tiêu đánh giá kết quả dự báo................................................66
3.4 Dự báo lưu lượng đến hồ Hoà Bình trước 10 ngày................................67
3.4.1 Phần mềm xây dựng..................................................................67
3.4.2 Số liệu sử dụng..........................................................................68
3.4.3 Các tham số...............................................................................69
3.4.4 Các phương án dự báo...............................................................69
Kết luận chương .........................................................................................74
KẾT LUẬN .......................................................................................................75
Khai phá dữ liệu là một trong những lĩnh vực nghiên cứu của khoa học máy tính
hiện nay đang được phát triển rất mạnh mẽ. Nó kết hợp giữa học máy, công nghệ cơ sở
dữ liệu và một số chuyên ngành khác để tìm ra những tri thức, bao gồm cả các thông
tin dự báo, từ những cơ sở dữ liệu lớn.
Luận văn này tập trung khảo sát một số phương pháp học máy tiên tiến, thực hiện
việc kết hợp giữa phương pháp học máy sử dụng mạng nơ-ron nhân tạo [5-7,9-20] với
giải thuật di truyền [4,8,21] và ứng dụng vào bài toán dự báo lưu lượng nước đến hồ
Hòa Bình. Luận văn tập trung khảo sát một số công trình nghiên cứu liên quan trên thế
giới [5-7, 12-14, 19]. Demetris F. Lekkas [12] cung cấp một khung nhìn phương pháp
luận về các phương pháp dự báo dòng chảy. Ibrahim Can cùng các đồng tác giả [5] và
Cristiane Medina Finzi Quintao cùng các đồng tác giả [19] công bố một số kết quả
nghiên cứu cập nhật về dự báo dòng chảy của một số dòng sông tại Thổ Nhĩ Kỳ và
Brazin. Đặc biệt, các công trình này đã cung cấp cách thức đánh giá kết quả thực
nghiệm các phương pháp dự báo thủy văn được đề cập. Các công trình nghiên cứu
khác về mạng nơ-ron nhân tạo, giải thuật di truyền và kết hợp chúng được luận văn sử
dụng để làm nền tảng khoa học cho các nghiên cứu phát triển. Luận văn đã hoàn thành
phần mềm thử nghiệm và tiến hành thực nghiệm trên bộ dữ liệu được thu thập tin cậy
thông qua hệ thống đo đạc thủy văn dọc sông Đà, nguồn nước chính chảy vào hồ Hòa
Bình. Đóng góp khoa học của luận văn là một báo cáo khoa học đã được trình bày tại
Hội thảo khoa học quốc gia Một số vấn đề chọn lọc về Công nghệ thông tin và Truyền
thông lần thứ X được tổ chức tại Đại Lải vào tháng 9/2007 với kết quả thực hiện cho
dự báo nước trước 10 ngày có chỉ số R2 khá cao, lên tới 0.8737 [2]. Cải tiến do luận
văn đề xuất kết hợp đột biến BIASED với đột biến UNBIASED trong đó đột biến
BIASED sẽ đóng vai trò chủ đạo nhằm vượt ra khỏi cực trị địa phương (D. Montana
and L. Davis [16]) là có ý nghĩa. Các kết quả thực nghiệm cải tiến trên cho thấy mọi
tiêu chí đánh giá đều tốt lên, chỉ số R2 nâng lên 0.8742 (so với 0.8737 [2]), sai số quân
phương là 72.28 m3/s (so với 76.10 m3/s [2]).
Nội dung chính của luận văn được tổ chức thành 3 chương có nội dung được
mô tả như dưới đây.
Chương I. Mạng nơ-ron nhân tạo truyền thẳng nhiều lớp. Chương này trình
bày những lý thuyết cơ bản về mạng nơ-ron nhân tạo, tập trung nghiên cứu mạng
truyền thẳng nhiều lớp. Chương này cung cấp một cách nhìn tổng quát nhất, và những
vấn đề về quá trình huấn luyện mạng và thuật toán học của mạng trong đó tập trung
chủ yếu vào thuật toán lan truyền ngược sai số.
Chương II. Kết hợp giải thuật di truyền với giải thuật lan truyền ngược sai số
để tối ưu hoá trọng số mạng nơ-ron nhân tạo. Chương này trình bày về lý thuyết
của giải thuật di truyền và khả năng ứng dụng của giải thuật này kết hợp với thuật toán
lan truyền ngược sai số nhằm đạt tới một kết quả tốt hơn đối với bài toán tối ưu trọng
số mạng nơ-ron nhân tạo.
Chương III. Ứng dụng mạng nơ ron nhân tạo vào việc dự báo lưu lượng nước
đến hồ Hoà Bình. Chương này giới thiệu sơ lược về bộ dữ liệu sử dụng, các phương
pháp đánh giá kết quả dự báo và tập trung vào thử nghiệm các phương pháp để dự báo
lưu lượng nước đến hồ Hoà Bình trước mười ngày, từ đó đánh giá được khả năng ứng
dụng các phương pháp học máy đã trình bày trong dự báo chuỗi thời gian, cụ thể là dự
báo lưu lượng.
Phần kết luận tổng kết những kết quả đã đạt được của luận văn và hướng phát
triển nghiên cứu tiếp theo. Phần phụ lục giới thiệu về phần mềm dự báo và hướng dẫn
cách thức cơ bản sử dụng phần mềm.
CHƯƠNG 1 - MẠNG NƠ-RON NHÂN TẠO TRUYỀN
THẲNG NHIỀU LỚP
Mạng nơ-ron nhân tạo được coi là một công cụ mạnh để giải quyết các bài toán
có tính phi tuyến, phức tạp và đặc biệt trong các trường hợp mà mối quan hệ giữa
các quá trình không dễ thiết lập một cách tường minh. Có nhiều loại mạng nơ-ron
khác nhau trong đó mạng nơ-ron truyền thẳng nhiều lớp là một trong những mạng
nơ-ron thông dụng nhất. Đã có nhiều nghiên cứu sử dụng mạng nơ-ron truyền thẳng
nhiều lớp trong bài toán dự báo [5], [7], [10], [14] và đã chứng tỏ đây là hướng tiếp
cận rất hiệu quả. Trong chương này chúng ta sẽ tìm hiểu những kiến thức về mạng
nơ-ron nhân tạo, mạng nơ-ron truyền thẳng nhiều lớp và khả năng ứng dụng của
chúng trong bài toán dự báo.
1.1 Giới thiệu về mạng nơ-ron nhân tạo
1.1.1 Khái niệm cơ bản
Theo các nhà nghiên cứu sinh học về bộ não, hệ thống thần kinh của con người
bao gồm khoảng 100 tỷ tế bào thần kinh, thường gọi là các nơ-ron. Mỗi tế bào nơ-
ron gồm ba phần:
Thân nơ-ron với nhân bên trong (gọi là soma), là nơi tiếp nhận hay phát ra các
xung động thần kinh.
Một hệ thống dạng cây các dây thần kinh vào (gọi là dendrite) để đưa tín hiệu
tới nhân nơ-ron. Các dây thần kinh vào tạo thành một lưới dày đặc xung
quanh thân nơ-ron, chiếm diện tích khoảng 0,25 mm2
Đầu dây thần kinh ra (gọi là sợi trục axon) phân nhánh dạng hình cây, có thể
dài từ một cm đến hàng mét. Chúng nối với các dây thần kinh vào hay trực
tiếp với nhân tế bào của các nơ-ron khác thông qua các khớp nối (gọi là
synapse). Thông thường mỗi nơ-ron có thể có từ vài chục cho tới hàng trăm
ngàn khớp nối để nối với các nơ-ron khác. Có hai loại khớp nối, khớp nối
kích thích (excitatory) sẽ cho tín hiệu qua nó để tới nơ-ron còn khớp nối ức
chế (inhibitory) có tác dụng làm cản tín hiệu tới nơ-ron. Người ta ước tính
mỗi nơ-ron trong bộ não của con người có khoảng 104 khớp nối (hình 1.1)
Chức năng cơ bản của các tế bào nơ-ron là liên kết với nhau để tạo nên hệ thống
thần kinh điều khiển hoạt động của cơ thể sống. Các tế bào nơ-ron truyền tín hiệu
cho nhau thông qua các dây thần kinh vào và ra, các tín hiệu đó có dạng xung điện
và được tạo ra từ các quá trình phản ứng hoá học phức tạp. Tại nhân tế bào, khi điện
thế của tín hiệu vào đạt tới một ngưỡng nào đó thì nó sẽ tạo ra một xung điện dẫn tới
trục dây thần kinh ra. Xung này truyền theo trục ra tới các nhánh rẽ và tiếp tục
truyền tới các nơ-ron khác.
Hình 1.1 Cấu tạo của tế bào nơ-ron sinh học
Với mục đích tạo ra một mô hình tính toán phỏng theo cách làm việc của nơ-ron
trong bộ não con người, vào năm 1943, các tác giả McCulloch và Pitts [15] đã đề
xuất một mô hình toán cho một nơ-ron như sau:
Hình 1.2 Mô hình nơ-ron nhân tạo
Trong mô hình này, một nơ-ron sẽ nhận các tín hiệu vào xi với các trọng số
tương ứng là wi , tổng các thông tin vào có trọng số là
KẾT LUẬN
Luận văn định hướng nội dung nghiên cứu vào mạng nơ-ron nhân tạo, giải thuật di
truyền, mô hình kết hợp giữa phương pháp học máy mạng nơ-ron với giải thuật di
truyền, đề xuất cải tiến và ứng dụng vào bài toán dự báo lưu lượng nước đến hồ Hòa
Bình.
Các đóng góp khoa học của luận văn
1. Hệ thống hóa các nội dung cơ bản về mạng nơ-ron nhân tạo và giải thuật di
truyền.
2. Nghiên cứu các phương pháp kết hợp giải thuật di truyền với giải thuật lan
truyền ngược sai số nhằm đạt tới một kết quả trọn vẹn của bài toán tối ưu
trọng số mạng nơ-ron nhân tạo.
3. Trong mô hình kết hợp giải thuật di truyền với giải thuật lan truyền ngược
sai số, luận văn đã đề xuất cải tiến việc kết hợp giữa đột biến BIASED và
đột biến UNBIASED (với xác suất đột biến rất nhỏ) để tránh những trường
hợp mạng rơi vào cực tiểu cục bộ. Kết quả thử nghiệm được tiến hành với
bài toán XOR cho thấy rằng cải tiến này là hiệu quả.
4. Xây dựng phần mềm dự báo lưu lượng nước về hồ Hòa Bình triển khai
phương pháp kết hợp mạng nơ-ron nhân tạo và giải thuật di truyền với cải
tiến nói trên. Kết quả thực nghiệm dự báo lưu lượng đến hồ Hoà Bình trước
10 ngày có chỉ số R2 đạt 0.8742, sai số RMSE = 72.28 m3/s. Đây là một kết
quả cao trong dự báo dòng chảy trước 10 ngày.
Nội dung nghiên cứu của luận văn đã được công bố trong một báo cáo khoa
học tại Hội nghị khoa học quốc gia Một số vấn đề chọn lọc về Công nghệ thông tin
và Truyền thông lần thứ X tại Đại Lải vào tháng 9/2007 [2].
Hướng phát triển
Những kết quả nghiên cứu khả quan về ứng dụng mạng nơ-ron nhân tạo với hai
thuật toán học là lan truyền ngược sai số và giải thuật di truyền trong bài toán dự báo
lưu lượng nước đến hồ Hoà Bình đã chứng tỏ rằng đây là một mô hình có thể ứng
dụng hiệu quả đối với bài toán này. Tuy nhiên, một câu hỏi đặt ra là: Liệu các
phương pháp học máy khác như Support Vector Machine (SVM), Decision Tree...
có thu được những kết quả tốt hơn hay không? Đã có nhiều nghiên cứu trên thế giới
thành công khi sử dụng các phương pháp này trong bài toán dự báo chuỗi thời gian.
Vì vậy, một trong những hướng phát triển tiếp theo của đề tài là nghiên cứu, cải tiến
và thử nghiệm các phương pháp học máy tiên tiến khác để có thể nâng cao được kết
quả dự báo và thời gian dự báo.
Do Drive thay đổi chính sách, nên một số link cũ yêu cầu duyệt download. các bạn chỉ cần làm theo hướng dẫn.
Password giải nén nếu cần: ket-noi.com | Bấm trực tiếp vào Link để tải:
Lời Thank ..........................................................................................................3
Mục lục................................................................................................................4
Danh sách hình vẽ...............................................................................................7
Danh sách bảng biểu...........................................................................................9
MỞ ĐẦU ...........................................................................................................10
CHƢƠNG 1 - MẠNG NƠ-RON NHÂN TẠO TRUYỀN THẲNG NHIỀU
LỚP ...................................................................................................................13
1.1 Giới thiệu về mạng nơ-ron nhân tạo......................................................13
1.1.1 Khái niệm cơ bản ......................................................................13
1.1.2 Mô hình mạng nơ-ron nhân tạo .................................................15
1.1.3 Khả năng ứng dụng của mạng nơ-ron nhân tạo..........................18
1.2 Mạng nơ-ron lan truyền thẳng nhiều lớp...............................................19
1.2.1 Mạng perceptron một lớp ..........................................................19
1.2.2 Mạng perceptron nhiều lớp........................................................22
1.2.3 Một số vấn đề cần chú ý khi sử dụng mạng MLP ......................30
Kết luận chương .........................................................................................33
CHƢƠNG 2 - KẾT HỢP GIẢI THUẬT DI TRUYỀN VỚI GIẢI THUẬT
LAN TRUYỀN NGƢỢC SAI SỐ ĐỂ TỐI ƢU HOÁ TRỌNG SỐ MẠNG
NƠ-RON NHÂN TẠO......................................................................................34
2.1 Giới thiệu giải thuật di truyền ...............................................................34
2.1.1 Giới thiệu ..................................................................................34
2.1.2 Tư tưởng chính của giải thuật di truyền .....................................35
2.1.3 Giải thuật di truyền đơn giản .....................................................37
2.2 Ứng dụng giải thuật di truyền vào bài toán tối ưu hoá trọng số của mạng
nơ-ron nhân tạo ..........................................................................................41
2.2.1 Xây dựng hàm giá .....................................................................41
2.2.2 Mã hoá nhiễm sắc thể................................................................41
2.2.3 Lai ghép ....................................................................................43
2.2.4 Đột biến ....................................................................................44
2.2.5 Thử nghiệm...............................................................................44
2.2.6 Giải thuật đề xuất ......................................................................49
2.3 Kết hợp giải thuật di truyền với giải thuật lan truyền ngược sai số để tối
ưu hoá trọng số mạng nơ-ron nhân tạo........................................................51
2.3.1 Đặt vấn đề .................................................................................51
2.3.2 Kết hợp giải thuật di truyền và giải thuật lan truyền ngược sai số53
Kết luận chương .........................................................................................55
CHƢƠNG 3 - ỨNG DỤNG MẠNG NƠ RON NHÂN TẠO VÀO VIỆC DỰ
BÁO LƢU LƢỢNG NƢỚC ĐẾN HỒ HOÀ BÌNH.........................................56
3.1 Điều kiện địa lý, tự nhiên, khí tượng thuỷ văn lưu vực sông Đà............56
3.1.1 Vị trí địa lý................................................................................56
3.1.2 Địa hình ....................................................................................57
3.1.3 Điều kiện địa chất......................................................................57
3.1.4 Điều kiện thổ nhưỡng................................................................57
3.1.5 Đặc điểm khí hậu ......................................................................57
3.1.6 Đặc điểm chế độ thuỷ văn .........................................................58
3.1.7 Thống kê dữ liệu thu thập được .................................................62
3.2 Các phương pháp dự báo ......................................................................63
3.2.1 Dựa trên mô hình vật lý.............................................................63
3.2.2 Dựa trên mô hình toán...............................................................65
3.2.3 Hướng tiếp cận mới...................................................................66
3.3 Một số chỉ tiêu đánh giá kết quả dự báo................................................66
3.4 Dự báo lưu lượng đến hồ Hoà Bình trước 10 ngày................................67
3.4.1 Phần mềm xây dựng..................................................................67
3.4.2 Số liệu sử dụng..........................................................................68
3.4.3 Các tham số...............................................................................69
3.4.4 Các phương án dự báo...............................................................69
Kết luận chương .........................................................................................74
KẾT LUẬN .......................................................................................................75
Khai phá dữ liệu là một trong những lĩnh vực nghiên cứu của khoa học máy tính
hiện nay đang được phát triển rất mạnh mẽ. Nó kết hợp giữa học máy, công nghệ cơ sở
dữ liệu và một số chuyên ngành khác để tìm ra những tri thức, bao gồm cả các thông
tin dự báo, từ những cơ sở dữ liệu lớn.
Luận văn này tập trung khảo sát một số phương pháp học máy tiên tiến, thực hiện
việc kết hợp giữa phương pháp học máy sử dụng mạng nơ-ron nhân tạo [5-7,9-20] với
giải thuật di truyền [4,8,21] và ứng dụng vào bài toán dự báo lưu lượng nước đến hồ
Hòa Bình. Luận văn tập trung khảo sát một số công trình nghiên cứu liên quan trên thế
giới [5-7, 12-14, 19]. Demetris F. Lekkas [12] cung cấp một khung nhìn phương pháp
luận về các phương pháp dự báo dòng chảy. Ibrahim Can cùng các đồng tác giả [5] và
Cristiane Medina Finzi Quintao cùng các đồng tác giả [19] công bố một số kết quả
nghiên cứu cập nhật về dự báo dòng chảy của một số dòng sông tại Thổ Nhĩ Kỳ và
Brazin. Đặc biệt, các công trình này đã cung cấp cách thức đánh giá kết quả thực
nghiệm các phương pháp dự báo thủy văn được đề cập. Các công trình nghiên cứu
khác về mạng nơ-ron nhân tạo, giải thuật di truyền và kết hợp chúng được luận văn sử
dụng để làm nền tảng khoa học cho các nghiên cứu phát triển. Luận văn đã hoàn thành
phần mềm thử nghiệm và tiến hành thực nghiệm trên bộ dữ liệu được thu thập tin cậy
thông qua hệ thống đo đạc thủy văn dọc sông Đà, nguồn nước chính chảy vào hồ Hòa
Bình. Đóng góp khoa học của luận văn là một báo cáo khoa học đã được trình bày tại
Hội thảo khoa học quốc gia Một số vấn đề chọn lọc về Công nghệ thông tin và Truyền
thông lần thứ X được tổ chức tại Đại Lải vào tháng 9/2007 với kết quả thực hiện cho
dự báo nước trước 10 ngày có chỉ số R2 khá cao, lên tới 0.8737 [2]. Cải tiến do luận
văn đề xuất kết hợp đột biến BIASED với đột biến UNBIASED trong đó đột biến
BIASED sẽ đóng vai trò chủ đạo nhằm vượt ra khỏi cực trị địa phương (D. Montana
and L. Davis [16]) là có ý nghĩa. Các kết quả thực nghiệm cải tiến trên cho thấy mọi
tiêu chí đánh giá đều tốt lên, chỉ số R2 nâng lên 0.8742 (so với 0.8737 [2]), sai số quân
phương là 72.28 m3/s (so với 76.10 m3/s [2]).
Nội dung chính của luận văn được tổ chức thành 3 chương có nội dung được
mô tả như dưới đây.
Chương I. Mạng nơ-ron nhân tạo truyền thẳng nhiều lớp. Chương này trình
bày những lý thuyết cơ bản về mạng nơ-ron nhân tạo, tập trung nghiên cứu mạng
truyền thẳng nhiều lớp. Chương này cung cấp một cách nhìn tổng quát nhất, và những
vấn đề về quá trình huấn luyện mạng và thuật toán học của mạng trong đó tập trung
chủ yếu vào thuật toán lan truyền ngược sai số.
Chương II. Kết hợp giải thuật di truyền với giải thuật lan truyền ngược sai số
để tối ưu hoá trọng số mạng nơ-ron nhân tạo. Chương này trình bày về lý thuyết
của giải thuật di truyền và khả năng ứng dụng của giải thuật này kết hợp với thuật toán
lan truyền ngược sai số nhằm đạt tới một kết quả tốt hơn đối với bài toán tối ưu trọng
số mạng nơ-ron nhân tạo.
Chương III. Ứng dụng mạng nơ ron nhân tạo vào việc dự báo lưu lượng nước
đến hồ Hoà Bình. Chương này giới thiệu sơ lược về bộ dữ liệu sử dụng, các phương
pháp đánh giá kết quả dự báo và tập trung vào thử nghiệm các phương pháp để dự báo
lưu lượng nước đến hồ Hoà Bình trước mười ngày, từ đó đánh giá được khả năng ứng
dụng các phương pháp học máy đã trình bày trong dự báo chuỗi thời gian, cụ thể là dự
báo lưu lượng.
Phần kết luận tổng kết những kết quả đã đạt được của luận văn và hướng phát
triển nghiên cứu tiếp theo. Phần phụ lục giới thiệu về phần mềm dự báo và hướng dẫn
cách thức cơ bản sử dụng phần mềm.
CHƯƠNG 1 - MẠNG NƠ-RON NHÂN TẠO TRUYỀN
THẲNG NHIỀU LỚP
Mạng nơ-ron nhân tạo được coi là một công cụ mạnh để giải quyết các bài toán
có tính phi tuyến, phức tạp và đặc biệt trong các trường hợp mà mối quan hệ giữa
các quá trình không dễ thiết lập một cách tường minh. Có nhiều loại mạng nơ-ron
khác nhau trong đó mạng nơ-ron truyền thẳng nhiều lớp là một trong những mạng
nơ-ron thông dụng nhất. Đã có nhiều nghiên cứu sử dụng mạng nơ-ron truyền thẳng
nhiều lớp trong bài toán dự báo [5], [7], [10], [14] và đã chứng tỏ đây là hướng tiếp
cận rất hiệu quả. Trong chương này chúng ta sẽ tìm hiểu những kiến thức về mạng
nơ-ron nhân tạo, mạng nơ-ron truyền thẳng nhiều lớp và khả năng ứng dụng của
chúng trong bài toán dự báo.
1.1 Giới thiệu về mạng nơ-ron nhân tạo
1.1.1 Khái niệm cơ bản
Theo các nhà nghiên cứu sinh học về bộ não, hệ thống thần kinh của con người
bao gồm khoảng 100 tỷ tế bào thần kinh, thường gọi là các nơ-ron. Mỗi tế bào nơ-
ron gồm ba phần:
Thân nơ-ron với nhân bên trong (gọi là soma), là nơi tiếp nhận hay phát ra các
xung động thần kinh.
Một hệ thống dạng cây các dây thần kinh vào (gọi là dendrite) để đưa tín hiệu
tới nhân nơ-ron. Các dây thần kinh vào tạo thành một lưới dày đặc xung
quanh thân nơ-ron, chiếm diện tích khoảng 0,25 mm2
Đầu dây thần kinh ra (gọi là sợi trục axon) phân nhánh dạng hình cây, có thể
dài từ một cm đến hàng mét. Chúng nối với các dây thần kinh vào hay trực
tiếp với nhân tế bào của các nơ-ron khác thông qua các khớp nối (gọi là
synapse). Thông thường mỗi nơ-ron có thể có từ vài chục cho tới hàng trăm
ngàn khớp nối để nối với các nơ-ron khác. Có hai loại khớp nối, khớp nối
kích thích (excitatory) sẽ cho tín hiệu qua nó để tới nơ-ron còn khớp nối ức
chế (inhibitory) có tác dụng làm cản tín hiệu tới nơ-ron. Người ta ước tính
mỗi nơ-ron trong bộ não của con người có khoảng 104 khớp nối (hình 1.1)
Chức năng cơ bản của các tế bào nơ-ron là liên kết với nhau để tạo nên hệ thống
thần kinh điều khiển hoạt động của cơ thể sống. Các tế bào nơ-ron truyền tín hiệu
cho nhau thông qua các dây thần kinh vào và ra, các tín hiệu đó có dạng xung điện
và được tạo ra từ các quá trình phản ứng hoá học phức tạp. Tại nhân tế bào, khi điện
thế của tín hiệu vào đạt tới một ngưỡng nào đó thì nó sẽ tạo ra một xung điện dẫn tới
trục dây thần kinh ra. Xung này truyền theo trục ra tới các nhánh rẽ và tiếp tục
truyền tới các nơ-ron khác.
Hình 1.1 Cấu tạo của tế bào nơ-ron sinh học
Với mục đích tạo ra một mô hình tính toán phỏng theo cách làm việc của nơ-ron
trong bộ não con người, vào năm 1943, các tác giả McCulloch và Pitts [15] đã đề
xuất một mô hình toán cho một nơ-ron như sau:
Hình 1.2 Mô hình nơ-ron nhân tạo
Trong mô hình này, một nơ-ron sẽ nhận các tín hiệu vào xi với các trọng số
tương ứng là wi , tổng các thông tin vào có trọng số là
KẾT LUẬN
Luận văn định hướng nội dung nghiên cứu vào mạng nơ-ron nhân tạo, giải thuật di
truyền, mô hình kết hợp giữa phương pháp học máy mạng nơ-ron với giải thuật di
truyền, đề xuất cải tiến và ứng dụng vào bài toán dự báo lưu lượng nước đến hồ Hòa
Bình.
Các đóng góp khoa học của luận văn
1. Hệ thống hóa các nội dung cơ bản về mạng nơ-ron nhân tạo và giải thuật di
truyền.
2. Nghiên cứu các phương pháp kết hợp giải thuật di truyền với giải thuật lan
truyền ngược sai số nhằm đạt tới một kết quả trọn vẹn của bài toán tối ưu
trọng số mạng nơ-ron nhân tạo.
3. Trong mô hình kết hợp giải thuật di truyền với giải thuật lan truyền ngược
sai số, luận văn đã đề xuất cải tiến việc kết hợp giữa đột biến BIASED và
đột biến UNBIASED (với xác suất đột biến rất nhỏ) để tránh những trường
hợp mạng rơi vào cực tiểu cục bộ. Kết quả thử nghiệm được tiến hành với
bài toán XOR cho thấy rằng cải tiến này là hiệu quả.
4. Xây dựng phần mềm dự báo lưu lượng nước về hồ Hòa Bình triển khai
phương pháp kết hợp mạng nơ-ron nhân tạo và giải thuật di truyền với cải
tiến nói trên. Kết quả thực nghiệm dự báo lưu lượng đến hồ Hoà Bình trước
10 ngày có chỉ số R2 đạt 0.8742, sai số RMSE = 72.28 m3/s. Đây là một kết
quả cao trong dự báo dòng chảy trước 10 ngày.
Nội dung nghiên cứu của luận văn đã được công bố trong một báo cáo khoa
học tại Hội nghị khoa học quốc gia Một số vấn đề chọn lọc về Công nghệ thông tin
và Truyền thông lần thứ X tại Đại Lải vào tháng 9/2007 [2].
Hướng phát triển
Những kết quả nghiên cứu khả quan về ứng dụng mạng nơ-ron nhân tạo với hai
thuật toán học là lan truyền ngược sai số và giải thuật di truyền trong bài toán dự báo
lưu lượng nước đến hồ Hoà Bình đã chứng tỏ rằng đây là một mô hình có thể ứng
dụng hiệu quả đối với bài toán này. Tuy nhiên, một câu hỏi đặt ra là: Liệu các
phương pháp học máy khác như Support Vector Machine (SVM), Decision Tree...
có thu được những kết quả tốt hơn hay không? Đã có nhiều nghiên cứu trên thế giới
thành công khi sử dụng các phương pháp này trong bài toán dự báo chuỗi thời gian.
Vì vậy, một trong những hướng phát triển tiếp theo của đề tài là nghiên cứu, cải tiến
và thử nghiệm các phương pháp học máy tiên tiến khác để có thể nâng cao được kết
quả dự báo và thời gian dự báo.
Do Drive thay đổi chính sách, nên một số link cũ yêu cầu duyệt download. các bạn chỉ cần làm theo hướng dẫn.
Password giải nén nếu cần: ket-noi.com | Bấm trực tiếp vào Link để tải:
You must be registered for see links