LUẬN VĂN: THUẬT TOÁN BAYES VÀ ỨNG DỤNG

Thống kê (toán học) là bộ môn toán học rất quan trọng và có nhiều ứng dụng to lớn trong thực tế, giúp con người rút ra thông tin từ dữ liệu quan sát, nhằm giải quyết các bài toán thực tế trong cuộc sống. Trong khóa luận này trình bày về một tiếp cận thống kê trong việc dự đoán sự kiện dựa vào lý thuyết Bayes. Lý thuyết này nói về việc tính xác suất của sự kiện dựa vào các kết quả thống kê các sự kiện trong quá khứ. Sau việc tính toán mỗi sự kiện...
Nội dung trích xuất từ tài liệu:
LUẬN VĂN:THUẬT TOÁN BAYES VÀ ỨNG DỤNG ĐẠI HỌC QUỐC GIA HÀ NỘI TRƯỜNG ĐẠI HỌC CÔNG NGHỆ ------------------ Nguyễn Văn Huy THUẬT TOÁN BAYES VÀ ỨNG DỤNGKHOÁ LUẬN TỐT NGHIỆP ĐẠI HỌC HỆ CHÍNH QUY Ngành : Công Nghệ Thông Tin HÀ NỘI – 2009 ĐẠI HỌC QUỐC GIA HÀ NỘI TRƯỜNG ĐẠI HỌC CÔNG NGHỆ ------------------ Nguyễn Văn Huy THUẬT TOÁN BAYES VÀ ỨNG DỤNGKHOÁ LUẬN TỐT NGHIỆP ĐẠI HỌC HỆ CHÍNH QUY Ngành : Công Nghệ Thông Tin Cán bộ hướng dẫn: ThS. Nguyễn Nam Hải Cán bộ đồng hướng dẫn: ThS. Đỗ Hoàng Kiên HÀ NỘI – 2009Thuật toán Bayes và ứng dụng Lời cảm ơn Viết khóa luận khoa học là một trong những việc khó khăn nhất mà em phảihoàn thành từ trước đến nay. Trong quá trình thực hiện đề tài em đã gặp rất nhiều khókhăn và bỡ ngỡ. Nếu không có những sự giúp đỡ và lời động viên chân thành củanhiều thầy cô bạn bè và gia gia đình có lẽ em khó có thể hoàn thành luận văn này. Đầu tiên em xin gửi lời cảm ơn chân thành đến thày Nguyễn Nam Hải và thàyĐỗ Hoàng Kiên đã trực tiếp hướng dẫn em hoàn thành luận văn này. Nhờ có thày màem được tiếp cận với nguồn tài liệu giá trị cũng như những góp ý quý giá sau này. Bêncạnh sự giúp đỡ đó, em còn được các thày bên Trung tâm máy tính tạo mọi điều kiệntốt nhất về cơ sở vật chất cũng như hướng dẫn chỉ bảo ân cần để em được tiếp cận vớihệ thống. Em biết ơn những ngày tháng được làm việc bên các thày, em không thể nàoquên những ngày tháng tuyệt vời đó. Trong quá trình góp nhặt những kiến thức quý báu, các thày, cô, bạn bè lànhững người đã cùng em sát cánh trong suốt thời gian em học tập và nghiên cứu dướimái trường Đại học Công nghệ. Trong những nỗ lực đó, không thể không kể đến công lao to lớn không gì có thểđền đáp của cha mẹ những người đã sinh thành, dưỡng dục con nên người, luôn nhắcnhở, động viên con hoàn thành tốt nhiệm vụ. Hà Nội Tháng 5, 2009 Nguyễn Văn Huy iiThuật toán Bayes và ứng dụng Tóm tắt nội dung Thống kê (toán học) là bộ môn toán học rất quan trọng và có nhiều ứng dụng tolớn trong thực tế, giúp con người rút ra thông tin từ dữ liệu quan sát, nhằm giải quyếtcác bài toán thực tế trong cuộc sống. Trong khóa luận này trình bày về một tiếp cận thống kê trong việc dự đoán sựkiện dựa vào lý thuyết Bayes. Lý thuyết này nói về việc tính xác suất của sự kiện dựavào các kết quả thống kê các sự kiện trong quá khứ. Sau việc tính toán mỗi sự kiệnđược gán xác xuất hay điểm (tùy vào mỗi phương pháp đánh giá) ứng với khả năng cóthể xảy ra với sự kiện đó. Và cuối cùng dựa vào ngưỡng để phân loại cho các sự kiện. Sau phần lý thuyết chúng ta sẽ tìm hiểu về bài toán thực tế trong ngành côngnghệ thông tin. Bài toán về việc lọc thư rác tự động. Giải quyết bài này là sự kết hợptừ rất nhiều phương án như DNS Blacklist, kiểm tra người nhận, người gửi, dùng bộlọc Bayes, chặn địa chỉ IP, Blacklist/Whitelist,.... Dùng bộ lọc Bayes là phương ánthông minh nó gần gũi với người dùng bởi chính người dùng đã huấn luyện nó nhậnbiết thư rác. Khóa luận này tập chung vào việc tìm hiểu bộ lọc thư rác Bayesspam –mã nguồn mở, cài đặt cho hệ thống email có tên là SquirrelMail – mã nguồn mở đangđược dùng cho hệ thống email của trường đại học Công nghệ - Coltech Mail. Kết quảcho thấy bộ lọc có mức độ hoạt động hiệu quả là khác nhau tùy thuộc việc người dùnghuấn luyện cho bộ lọc thông qua các thư điện tử mà họ cho là thư rác nhưng nói chungbộ lọc đã đem lại hiệu quả khá tốt. iiiThuật toán Bayes và ứng dụng Mục lụcChương 1 Giới thiệu .................................................................................. 1 1.1 Tổng quan....................................................................................................... 1 1.2 Cấu trúc .......................................................................................................... 3Chương 2 Cơ sở lý thuyết .......................................................................... 4 2.1 Phát biểu định lý Bayes .................................................................................. 4 2.2 Cực tiểu hóa rủi ro trong bài toán phân lớp Bayes........................................... 5 2.3 Phân lớp Bayes chuẩn tắc ............................................................................. 13 2.4 Miền quyết định................................................ ...