Mạng nơron phản hồi và tính ổn định của mạng nơron phản hồi

Bài viết Mạng nơron phản hồi và tính ổn định của mạng nơron phản hồi trình bày cấu trúc mô hình mạng nơron Cohen-Grossberg, mạng nơron Hopfield liên tục cùng các mối liên hệ giữa hai mô hình này và giới thiệu về cách xây dựng hàm Lyapunov để phân tích GAS phụ thuộc vào trễ của RNNs.
Nội dung trích xuất từ tài liệu:
Mạng nơron phản hồi và tính ổn định của mạng nơron phản hồi KHOA HỌC CÔNG NGHỆ MẠNG NƠRON PHẢN HỒI VÀ TÍNH ỔN ĐỊNH CỦA MẠNG NƠRON PHẢN HỒI Lê Đào Hải An* ABSTRACT The article describes the recurrent neural network model, which is the Cohen-Grossberg neural network and the Hopfield neural network, and the relationships between these two models. These are two neural network models that have proven to have far-reaching applications in practice. Up to now, the study of the stability of the recurrent neural networks is still a matter of interest to scientists. In which, building a suitable Lyapunov function and finding less conservative conditions is a very important issue to study the stability of the recurrent neural networks. Keywords: Recurrent neural networks (RNNs), Hopfield neural networks, Cohen-Grossberg neural networks. Received: 16/3/2023; Accepted: 10/04/2023; Published: 28/05/2023 1. Đặt vấn đề đề phân tích, nhận dạng giọng nói và giải quyết các Mạng nơron phản hồi (RNNs) lần đầu tiên được bài toán tối ưu hóa. Tiếp nối Hopfield, đối với các Kohonen, Anderson và Nakano đề ra từ những năm mạng trong kĩ thuật, năm 1983, lần đầu tiên, hai nhà 1972. Mục đích đưa phản hồi ngược vào cấu trúc khoa học là Cohen và Grossberg đã đề xuất một mô mạng nơron để tạo ra mô hình động lực học với một hình nổi tiếng về mạng nơron phản hồi tổng quát và số điểm cố định, còn gọi là điểm cân bằng. Trong chứng minh được tính ổn định của nó, đánh dấu bước trường hợp tổng quát, mô hình động lực học của ứng dụng mạnh mẽ của mạng nơron vào các ngành mạng nơron phản hồi được mô tả như sau: khoa học-kĩ thuật phục vụ con người. Vấn đề ổn định của mạng nơron phản hồi (RNNs) liên tục đã được nghiên cứu rất sâu rộng trong ba thập kỷ qua và có rất nhiều bài báo đã được công bố trong x(t) là biến trạng thái, I(t) là đầu vào từ bên ngoài, k là các tài liệu hiện có. Ta biết rằng, cách tiếp cận dựa tham số, F(.) là hàm mô tả cấu trúc mạng nơron, G(.) là trên mạng nơron phản hồi mục đích là để giải quyết hàm mô tả quan hệ giữa biến trạng thái và đầu ra y(t). các vấn đề tối ưu hóa, sử dụng các tính toán tương Mạng nơron phản hồi là một mạng lưới với các tự được thực hiện trên các thiết bị điện tử để thay thế nút giống nơron, trong đó mỗi nơron được nối trực tính toán số được thực hiện bởi các thuật toán toán tiếp với các nơron khác. Các nơron trong mạng được học, điều này đã thu hút sự chú ý của các nhà khoa chia thành các nơron đầu vào (nhận dữ liệu từ bên học trong suốt 3 thập kỷ qua. Một vấn đề đặt ra là ngoài), các nơron đầu ra (kết quả mang lại) và các do sự tồn tại của nhiều điểm cân bằng trong RNNs, nơron ẩn (sửa đổi dữ liệu trên đường từ đầu vào tới trong đó sẽ có các nghiệm tối ưu giả, điều này hạn đầu ra). Mỗi nơron có một kích hoạt giá trị thực biến chế các ứng dụng của mạng nơron phản hồi. Do đó, thiên theo thời gian (hàm số kích hoạt) và mỗi khớp vấn đề ổn định tiệm cận toàn cục (GAS) hay ổn định nối synap có trọng số thực có thể thay đổi. Năm 1982, mũ toàn cục (GES) của một điểm cân bằng duy nhất lần đầu tiên Hopfield đã thiết kế một mạng nơron trong RNNs có tầm quan trọng rất lớn trên cả hai lĩnh phản hồi đặc biệt, là mạng nơron một lớp dạng rời vực lý thuyết và ứng dụng. rạc với hàm kích hoạt phi tuyến dạng bước nhảy và Nghiên cứu ban đầu về tính ổn định toàn cục của tất cả các kết nối giữa các nơron là đối xứng. Công RNNs dựa trên một số phương pháp phân tích đại bố này đã chỉ ra được tính năng đặc biệt của mạng số, chẳng hạn như M-ma trận, bất đẳng thức đại số, nơron phản hồi là nó có thể sử dụng bộ nhớ trong để chuẩn ma trận, độ đo ma trận và bán kính phổ. Thông xử lý các chuỗi đầu vào tùy ý, tính năng này làm cho thường, các tiêu chí ổn định toàn cục có được từ các mạng nơron Hopfield có thể ứng dụng trong các vấn phương pháp này là các tiêu chí độc lập với trễ do *Trường Đại học Hàng hải Việt Nam 70 TẠP CHÍ KHOA HỌC QUẢN LÝ VÀ CÔNG NGHỆ - SỐ 25 QUÝ II/2023 KHOA HỌC CÔNG NGHỆ không bao gồm thông tin về độ trễ thời gian. Các tiêu (2). Trong mạng nơron ở [4], do ảnh hưởng của độ trễ chí này có thể xây dựng một số mối quan hệ nhất tín hiệu, ta được mô hình mở rộng của mạng nơron định giữa các tham số hệ thống, do đó chúng có ý Hopfield sau: nghĩa cả trong thực tế và lý thuyết [1]. Nếu không biết thông tin về trễ thì các tiêu chí ổn định độc lập với (3) trễ thực sự hữu ích để kiểm tra tính ổn định toàn cục của RNNs với trễ. Bài báo trình bày cấu trúc mô hình w1ij là hệ số trọng số kết nối liên kết với số hạng có trễ. mạng nơron Cohen-Grossberg, mạng nơron Hopfield Ta thấy rằng, trong các mạng nơron sinh học và mạng liên tục cùng các mối liên hệ giữa hai mô hình này và nơron thực tế, cả truyền tín hiệu tức thời và truyền tín giới thiệu về cách xây dựng hàm Lyapunov để phân hiệu trễ thường xuyên xảy ra đồng thời và tạo ra các hiện tích GAS phụ thuộc vào trễ của RNNs. tượng phức tạp hơn. Do đó, tương tự mô hình (2), các 2. Nội dung nghiên cứu mô hình ...