Số lượng nơ-ron trong lớp ẩn khi ứng dụng mạng nơ-ron hiệu chỉnh giản đồ hướng anten mạng
Số trang: 7
Loại file: pdf
Dung lượng: 495.86 KB
Lượt xem: 19
Lượt tải: 0
Xem trước 2 trang đầu tiên của tài liệu này:
Thông tin tài liệu:
Bài báo đưa ra một mô hình mạng nơ-ron thực hiện chức năng hiệu chỉnh giản đồ hướng trong hệ thống anten mạng và các khảo sát định tính cũng như định lượng việc tính toán số lượng nơ-ron đối với lớp ẩn của mạng nơ-ron. Mời các bạn tham khảo!
Nội dung trích xuất từ tài liệu:
Số lượng nơ-ron trong lớp ẩn khi ứng dụng mạng nơ-ron hiệu chỉnh giản đồ hướng anten mạngNghiên cứu khoa học công nghệSè L¦îNG N¥-RON TRONG LíP ÈN KHI øNG DôNG M¹NG N¥-RON HIÖU CHØNH GI¶N §å H¦íNG ANTEN M¹NG LÊ DUY HIỆU, HÀ HUY DŨNG, BÙI CÔNG PHƯỚC, CAO VIỆT LINH Tóm tắt: Hiện nay ứng dụng mạng nơ-ron trong việc hiệu chỉnh giản đồ hướng anten mạng đã được thực hiện cả trong phát triển lý thuyết và trong thực tế. Quá trình hoàn thiện các cấu trúc mạng nơ-ron phù hợp cho khả năng tích hợp với hệ thống anten mạng mở ra một số bài toán cần phải được xem xét kĩ lưỡng. Một trong những bài toán quan trọng nhất trong thiết kế mạng nơ-ron đó là số lượng các nơ- ron của các lớp ẩn phù hợp với ứng dụng cụ thể. Bài báo đưa ra một mô hình mạng nơ-ron thực hiện chức năng hiệu chỉnh giản đồ hướng trong hệ thống anten mạng và các khảo sát định tính cũng như định lượng việc tính toán số lượng nơ-ron đối với lớp ẩn của mạng nơ-ron.Từ khóa: Mạng nơ-ron, Cấu trúc mạng nơ-ron, Số lượng nơ-ron. 1. ĐẶT VẤN ĐỀ Mạng nơ-ron trong hiệu chỉnh giản đồ hướng hệ thống anten mạng đóng vaitrò như một bộ tự động hiệu chỉnh thích nghi. Hoạt động của mạng tùy vào sự thiếtkế có thể đáp ứng các tiêu chí như: - Đảm bảo sự chính xác của tổ hợp tín hiệu kích thích các phần tử phát xạtheo các điều khiển chuẩn; - Tự động hiệu chỉnh giản đồ hướng phù hợp với những tác động trongkhông gian hoạt động như chế áp búp sóng phụ, bù suy hao tín hiệu, chế áp búpsóng chính khi cần tránh vùng không gian bị nhiễu quá lớn . . . Để thực hiện được chức năng nêu trên mạng nơ-ron sẽ tiến hành lấy mẫu giảnđồ hướng từ tín hiệu thu về, từ đó đưa ra các đánh giá và tiến hành điều chỉnh lạicác trọng số nơ-ron trong cấu trúc mạng. Mô hình tích hợp mạng nơ-ron và hệthống anten mạng được trình bày tổng quan trên hình 1. H×nh 1. M« h×nh tæng qu¸t hÖ thèng anten m¹ng tÝch hîp m¹ng n¬ -ron.Tạp chí Nghiên cứu KH&CN quân sự, Số 32, 08 - 2014 29 Ra đa Mạng nơ-ron tổng quát hay một hệ thống thích nghi có khả thay thay đổi cấutrúc hoặc biến đổi các thông tin bên trong của nó, độ tin cậy của mạng được quyếtđịnh bởi: - Cấu trúc mạng (số lớp, loại mạng . . .); - Số nơ-ron trong lớp ẩn; - Các hàm hoạt động (tuyến tính, phi tuyến, giới hạn cứng …) - Đầu vào (cấu trúc, dải động . . .) - Thuật toán cập nhật trọng số. Trong một ứng dụng cụ thể một cấu trúc mạng tối ưu và các hàm hoạt độngphù hợp được thiết kế ngay từ đầu và không thay đổi được trong quá trình thíchnghi, điều này cũng tương tự như các thiết kế cấu trúc đầu vào, đầu ra của hệthống. Chính vì điều này nên các nghiên cứu về mạng nơ-ron trong 20 năm gầnđây chủ yếu tập trung vào việc tối ưu số nơ-ron trong lớp ẩn và thuật toán cập nhậttrọng số của mạng [1]. Bài toán được đặt ra đó là khả năng đảm bảo sự hiệu chỉnh nhằm đạt đượcmức sai số trong giới hạn thời gian đặt trước. Bài báo này sẽ giới thiệu các kết quảđịnh tính về số nơ-ron trong lớp ẩn và các tính toán định lượng quá trình cập nhậttrọng số mạng nơ-ron có cấu trúc phản hồi. Kết quả kiểm nghiệm sẽ được thựchiện mô phỏng trên Matlab. 2. ƯỚC LƯỢNG SỐ NƠ-RON TRONG LỚP ẨN VÀ CÔNG THỨC CẬP NHẬT TRỌNG SỐ TỐI ƯU.2.1 Ước lượng số nơ-ron trong lớp ẩn Việc lựa chọn ngẫu nhiên một số nơ-ron trong lớp ẩn sẽ dẫn tới các vấn đề nhưtràn (overfitting) trong tính toán hoặc không đủ khả năng hội tụ các trọng số(underfitting). Một số nơ-ron lớp ẩn tối ưu với ứng dụng là một thách thức khôngnhỏ trong ổn định khả năng làm việc cũng như độ chính xác của mạng nơ-ron. Các công trình nghiên cứu nhằm cố định số lượng nơ-ron trong lớp ẩn bắt đầucó những công bố vào năm 1995 bởi Li và các cộng sự với mạng nơ-ron truyềnthẳng với mục đích tính ra được số nơ-ron lớp ẩn vừa đủ cho mạng [2]. Năm 1997Tamura và Tateishi đưa ra công thức định tính cho số lượng nơ-ron lớp ẩn 1 và lớpẩn 2 lần lượt là N -1; N/2 +3 (N là số đầu vào) dựa theo tiêu chuẩn thông tinAkaike [3]. Công thức này được tổng quát hóa bởi Shibata và Ikeda, theo đó sốlượng nơ-ron lớp ẩn bằng (Ni, No lần lượt là số nơ-ron đầu vào và số nơ-ronđầu ra) [4]. Đặc điểm của những công bố trước năm 2005 đó là kết quả thu đượcchủ yếu nhờ quá trình khảo sát thực nghiệm. Năm 2008 Jiang đã công bố về định mức khoảng giới hạn số lượng nơ-ron lớpẩn dựa vào lý thuyết hội tụ, công bố này đã đưa ra những lập luận chặt chẽ cho tínhtoán. Theo Jiang giới hạn dưới của số lượng nơ-ron lớp ẩn tác động đến khả năngđiều chỉnh tốc độ của mạng và giới hạn trên của số nơ-ron tác động đến điều kiệnhội tụ của mạng nơ-ron [5]. Các nghiên cứu mới nhất hiện nay đã đưa ra các thuậttoán tổng quát và phức tạp hơn với sự tham gia củ ...
Nội dung trích xuất từ tài liệu:
Số lượng nơ-ron trong lớp ẩn khi ứng dụng mạng nơ-ron hiệu chỉnh giản đồ hướng anten mạngNghiên cứu khoa học công nghệSè L¦îNG N¥-RON TRONG LíP ÈN KHI øNG DôNG M¹NG N¥-RON HIÖU CHØNH GI¶N §å H¦íNG ANTEN M¹NG LÊ DUY HIỆU, HÀ HUY DŨNG, BÙI CÔNG PHƯỚC, CAO VIỆT LINH Tóm tắt: Hiện nay ứng dụng mạng nơ-ron trong việc hiệu chỉnh giản đồ hướng anten mạng đã được thực hiện cả trong phát triển lý thuyết và trong thực tế. Quá trình hoàn thiện các cấu trúc mạng nơ-ron phù hợp cho khả năng tích hợp với hệ thống anten mạng mở ra một số bài toán cần phải được xem xét kĩ lưỡng. Một trong những bài toán quan trọng nhất trong thiết kế mạng nơ-ron đó là số lượng các nơ- ron của các lớp ẩn phù hợp với ứng dụng cụ thể. Bài báo đưa ra một mô hình mạng nơ-ron thực hiện chức năng hiệu chỉnh giản đồ hướng trong hệ thống anten mạng và các khảo sát định tính cũng như định lượng việc tính toán số lượng nơ-ron đối với lớp ẩn của mạng nơ-ron.Từ khóa: Mạng nơ-ron, Cấu trúc mạng nơ-ron, Số lượng nơ-ron. 1. ĐẶT VẤN ĐỀ Mạng nơ-ron trong hiệu chỉnh giản đồ hướng hệ thống anten mạng đóng vaitrò như một bộ tự động hiệu chỉnh thích nghi. Hoạt động của mạng tùy vào sự thiếtkế có thể đáp ứng các tiêu chí như: - Đảm bảo sự chính xác của tổ hợp tín hiệu kích thích các phần tử phát xạtheo các điều khiển chuẩn; - Tự động hiệu chỉnh giản đồ hướng phù hợp với những tác động trongkhông gian hoạt động như chế áp búp sóng phụ, bù suy hao tín hiệu, chế áp búpsóng chính khi cần tránh vùng không gian bị nhiễu quá lớn . . . Để thực hiện được chức năng nêu trên mạng nơ-ron sẽ tiến hành lấy mẫu giảnđồ hướng từ tín hiệu thu về, từ đó đưa ra các đánh giá và tiến hành điều chỉnh lạicác trọng số nơ-ron trong cấu trúc mạng. Mô hình tích hợp mạng nơ-ron và hệthống anten mạng được trình bày tổng quan trên hình 1. H×nh 1. M« h×nh tæng qu¸t hÖ thèng anten m¹ng tÝch hîp m¹ng n¬ -ron.Tạp chí Nghiên cứu KH&CN quân sự, Số 32, 08 - 2014 29 Ra đa Mạng nơ-ron tổng quát hay một hệ thống thích nghi có khả thay thay đổi cấutrúc hoặc biến đổi các thông tin bên trong của nó, độ tin cậy của mạng được quyếtđịnh bởi: - Cấu trúc mạng (số lớp, loại mạng . . .); - Số nơ-ron trong lớp ẩn; - Các hàm hoạt động (tuyến tính, phi tuyến, giới hạn cứng …) - Đầu vào (cấu trúc, dải động . . .) - Thuật toán cập nhật trọng số. Trong một ứng dụng cụ thể một cấu trúc mạng tối ưu và các hàm hoạt độngphù hợp được thiết kế ngay từ đầu và không thay đổi được trong quá trình thíchnghi, điều này cũng tương tự như các thiết kế cấu trúc đầu vào, đầu ra của hệthống. Chính vì điều này nên các nghiên cứu về mạng nơ-ron trong 20 năm gầnđây chủ yếu tập trung vào việc tối ưu số nơ-ron trong lớp ẩn và thuật toán cập nhậttrọng số của mạng [1]. Bài toán được đặt ra đó là khả năng đảm bảo sự hiệu chỉnh nhằm đạt đượcmức sai số trong giới hạn thời gian đặt trước. Bài báo này sẽ giới thiệu các kết quảđịnh tính về số nơ-ron trong lớp ẩn và các tính toán định lượng quá trình cập nhậttrọng số mạng nơ-ron có cấu trúc phản hồi. Kết quả kiểm nghiệm sẽ được thựchiện mô phỏng trên Matlab. 2. ƯỚC LƯỢNG SỐ NƠ-RON TRONG LỚP ẨN VÀ CÔNG THỨC CẬP NHẬT TRỌNG SỐ TỐI ƯU.2.1 Ước lượng số nơ-ron trong lớp ẩn Việc lựa chọn ngẫu nhiên một số nơ-ron trong lớp ẩn sẽ dẫn tới các vấn đề nhưtràn (overfitting) trong tính toán hoặc không đủ khả năng hội tụ các trọng số(underfitting). Một số nơ-ron lớp ẩn tối ưu với ứng dụng là một thách thức khôngnhỏ trong ổn định khả năng làm việc cũng như độ chính xác của mạng nơ-ron. Các công trình nghiên cứu nhằm cố định số lượng nơ-ron trong lớp ẩn bắt đầucó những công bố vào năm 1995 bởi Li và các cộng sự với mạng nơ-ron truyềnthẳng với mục đích tính ra được số nơ-ron lớp ẩn vừa đủ cho mạng [2]. Năm 1997Tamura và Tateishi đưa ra công thức định tính cho số lượng nơ-ron lớp ẩn 1 và lớpẩn 2 lần lượt là N -1; N/2 +3 (N là số đầu vào) dựa theo tiêu chuẩn thông tinAkaike [3]. Công thức này được tổng quát hóa bởi Shibata và Ikeda, theo đó sốlượng nơ-ron lớp ẩn bằng (Ni, No lần lượt là số nơ-ron đầu vào và số nơ-ronđầu ra) [4]. Đặc điểm của những công bố trước năm 2005 đó là kết quả thu đượcchủ yếu nhờ quá trình khảo sát thực nghiệm. Năm 2008 Jiang đã công bố về định mức khoảng giới hạn số lượng nơ-ron lớpẩn dựa vào lý thuyết hội tụ, công bố này đã đưa ra những lập luận chặt chẽ cho tínhtoán. Theo Jiang giới hạn dưới của số lượng nơ-ron lớp ẩn tác động đến khả năngđiều chỉnh tốc độ của mạng và giới hạn trên của số nơ-ron tác động đến điều kiệnhội tụ của mạng nơ-ron [5]. Các nghiên cứu mới nhất hiện nay đã đưa ra các thuậttoán tổng quát và phức tạp hơn với sự tham gia củ ...
Tìm kiếm theo từ khóa liên quan:
Số lượng nơ-ron trong lớp ẩn Mạng nơ-ron hiệu chỉnh giản đồ hướng anten mạng Mạng nơ-ron Cấu trúc mạng nơ-ron Số lượng nơ-ronGợi ý tài liệu liên quan:
-
Bộ điều khiển trượt dựa trên mạng nơ-ron hàm cơ sở xuyên tâm
10 trang 44 0 0 -
Nghiên cứu mạng nơ-ron học sâu: Phần 1
89 trang 33 0 0 -
Phân loại luồng dữ liệu mạng sử dụng mạng nơ-ron
6 trang 27 0 0 -
Ước lượng băng thông sử dụng mô hình mạng nơ-ron LSTM
6 trang 25 0 0 -
Bài giảng Học sâu và ứng dụng - Bài 2: Giới thiệu về mạng nơ-ron
38 trang 24 0 0 -
Mô hình huấn luyện mạng nơ ron dựa trên ảnh mô phỏng
7 trang 23 0 0 -
Luận văn Xây dựng hệ thống phát hiện xâm nhập bằng phần mềm Snort
72 trang 21 0 0 -
Bài toán động học thuận của robot dây song song
4 trang 21 0 0 -
Điều khiển bù nhiễu cho cánh tay máy đôi sử dụng mạng nơ ron nhân tạo
6 trang 21 0 0 -
Đặc điểm quá trình chiết của nguyên tố đất hiếm Sm, Gd, Dy, Y với tác nhân chiết pc88A
6 trang 21 0 0