Bài giảng Mạng nơron và ứng dụng trong xử lý tín hiệu: Giới thiệu - Nguyễn Công Phương

Bài giảng Mạng nơron và ứng dụng trong xử lý tín hiệu sau đây giới thiệu những nội dung tổng quan về mạng nơron như: Phân loại mạng nơron, thiết lập trọng số (Huấn luyện có giám sát, huấn luyện không giám sát, trọng số cố định), hàm kích hoạt, nơron MCP. Mời các bạn cùng tham khảo.
Nội dung trích xuất từ tài liệu:
Bài giảng Mạng nơron và ứng dụng trong xử lý tín hiệu: Giới thiệu - Nguyễn Công Phương Nguyễn g y Công g Phương g Mạng nơron và ứng dụng trong xử lý tín hiệu Giới thiệu Nội dung • Giới thiệu • Các mạng nơron đơn giản dùng cho phân loại mẫu • Kết hợp mẫu • Các mạng cạnh tranh • Lý thuyết cộng hưởng thích nghi • Mạng lan truyền ngược • Lô í h mờ Lôgích ờ vàà mạng nơron ơ lô í h mờ lôgích ờ • Một số ứng dụng trong xử lý tín hiệu Giới thiệu 2 Tài liệu tham khảo • L. Fausett. Fundamentals of Neural Networks – Architectures, Algorithms, and Applications. Prentice Hall,1994 • J. Freeman, D. Skapura. Neural Networks – Algorithms, Applications, and Programming Techniques. Addison- Wesley, 1991 • A. Galushkin. Neural Network Theory. Springer, 2007 • N. Kasabov. Foundations of Neural Networks, Fuzzy Systems, and Knowledge Engineering. MIT Press, 1998 • https://sites.google.com/site/ncpdhbkhn/ Giới thiệu 3 Nội dung • Giới thiệu • Phân loại mạng nơron • Thiết lập trọng số • Hàm kích hoạt • Nơron MCP Giới thiệu 4 Giới thiệu (1) • Mạng ạ g nơron nhân tạo ạ ((MNN):) hệệ thốngg xử lýý thôngg tin có một ộ số tính chất giống với mạng nơron sinh học • Tính chất: – Thông tin được xử lý ở các phần ầ tử đơn giản gọi là nơron – Tín hiệu lan truyền giữa các nơron thông qua các kết nối – Mỗi kết nối có một trọng số (được nhân với tín hiệu lan truyền) – Mỗi nơron có một hàm kích hoạt (thường là phi tuyến) tác động lên đầu vào để tạo thành đầu ra • Đặc trưng: – Kiểu kết nối giữa các nơron (gọi là cấu trúc) – Phương pháp xác định các trọng số (gọi là thuật toán học/huấn luyện) – Hàm kích hoạt Giới thiệu 5 Giới thiệu (2) X1 Z1 w1 v1 X2 w2 Y w3 v2 Lớp ẩn X3 Z2 Đầu vào Đầu ra y  f ( w1 x1  w2 x2  w3 x3 ) Giới thiệu 6 Giới thiệu (3) • Các ứng dụng chính: – Xử lý tín hiệu – Điều khiển – Nhận dạng mẫu – Y học – Tổng hợp tiếng nói – Nhận dạng tiếng nói – Ki h doanh Kinh d h Giới thiệu 7 Nội dung • Giới thiệu • Phân loại mạng nơron – Mạng một lớp – Mạng nhiều lớp – Mạng cạnh tranh • Thiết lập trọng số • Hàm kích hoạtạ • Nơron MCP Giới thiệu 8 Mạng một lớp w11 X1 Y1 w1j wi11  wn1  Xi wij Yj  wim w1m  Xn wnm Ym Giới thiệu 9 Mạng nhiều ề lớp w11 w11 X1 Z1 Y1 w1j wi11 w1j wi1  wn1  wn1  Xi wij Zj wij Yi  wim w1m  wim w1m  Xn wnm Zp wnm Ym Giới thiệu 10 Mạng cạnh tranh 1 1  A1 Am     1 A1 A1 1  Giới thiệu 11 Nội dung • Giới thiệu • Phân loại mạng nơron • Thiết lập trọng số – Huấn luyện có giám sát – Huấn luyện yệ khôngg ggiám sát – Trọng số cố định • Hàm kích hoạt ạ • Nơron MCP Giới thiệu 12 Huấn ấ luyện có giám sát • Véctơ huấn luyện (mẫu) được kèm theo véctơ mục tiêu • Các trọng số được điều chỉnh theo một thuật toán huấn luyện yệ • Thường dùng cho các bài toán phân loại • VD: mạng lan truyền ngược Giới thiệu 13 Huấn ấ luyện không giám sát • Mạng tự tổ chức • Nhóm các véctơ đầu vào với nhau, không cần biết đặc điểm của ((mỗi)) nhóm • Không có véctơ mục tiêu • Mạng tự tạo ra véctơ đặc trưng của từng nhóm • VD: mạng Kohonen Giới thiệu 14 Trọng số ố cố ố định • Dùng khi khó huấn luyện • VD: mạng Boltzmann, mạng Hopfield liên tục Giới thiệu 15 Nội dung • Giới thiệu • Phân loại mạng nơron • Thiết lập trọng số • Hàm kích hoạt – Đồng nhất – Bước nhị phân – Sigmoid g nhịị p phân – Sigmoid lưỡng cực • Nơron MCP Giới thiệu 16 Hàm đồng ồ nhất ấ f ( x) x f ( x)  x ...