Bài giảng Học máy (IT 4862): Chương 3 - Nguyễn Nhật Quang

Chương 3 - Các phương pháp học dựa trên xác suất. Chương này trình bày những nội dung chính sau: Các khái niệm cơ bản về xác xuất, biểu diễn xác suất, các biến ngẫu nhiên hai giá trị, các biến ngẫu nhiên đa trị, xác suất có điều kiện, các biến độc lập vè xác suất,... Mời các bạn cùng tham khảo nội dung chi tiết.
Nội dung trích xuất từ tài liệu:
Bài giảng Học máy (IT 4862): Chương 3 - Nguyễn Nhật QuangHọc Máy(IT 4862)Nguyễnễ Nhậthậ Quangquangnn-fit@mail.hut.edu.vnTrường Đại học Bách Khoa Hà NộiViện Công nghệ thông tin và truyền thôngNăm học 2011-2012Nội dungdmônô học:h„Giới thiệu chungg„Đánh giá hiệu năng hệ thống học máy„Cá phươngCáchpháphá họch dựadt ê xáctrêná suấtất„Các phương pháp học có giám sát„Các phương pháp học không giám sát„Lọc cộng tác„Học tăng cườngHọc Máy – IT 48622Các phương pháp học dựa trên xác suất„Các phương pháp thống kê cho bài toán phân loại„Phâ lloạii dPhândựa trênt ê mộtột môô hìhìnhh xácá suấtất cơ sởở„Việc phân loại dựa trên khả năng xảy ra (probabilities)của các phân lớp„Các chủ đề chính:• Giới thiệu về xác suất• Định lý Bayesgcực đại (Maximum(a posteriori)p)• Xác suất hậu nghiệm• Đánh giá khả năng có thể nhất (Maximum likelihood estimation)• Phân loại Naïve Bayes• Cực đại hóa kỳ vọng (Expectation maximization)Học Máy – IT 48623Các khái niệm cơ bản về xác suất„Giả sử chúng ta có một thí nghiệm (ví dụ: đổ một quân xúc sắc) mà kếtquả của nó mang tính ngẫu nhiên (phụ thuộc vào khả năng có thể xảyra)„Không gian các khả năng S. Tập hợp tất cả các kết quả có thể xảy raVí dụ: S=S {1{1,2,3,4,5,6}2 3 4 5 6} đối với thí nghiệm đổ quân xúc sắc„Sự kiện E. Một tập con của không gian các khả năngVí dụ: E= {1}: kết quả quân súc xắc đổ ra là 1Ví dụ:d E= {1,3,5}: kết quảả quânâ súcú xắcắ đổ ra là mộtột sốố lẻ„Không gian các sự kiện W. Không gian (thế giới) mà các kết quả của sựkiện có thể xảy raVí dụ: W bao gồmồ tấtấ cả các lầnầ đổổ súc xắcắ„Biến ngẫu nhiên A. Một biến ngẫu nhiên biểu diễn (diễn đạt) một sựkiện, và có một mức độ về khả năng xảy ra sự kiện nàyHọc Máy – IT 48624Biểu diễn xác suấtP(A): “Phần của không gian (thế giới) mà trong đó A là đúng”Không gian sự kiệncủa ((khôngg ggian củatất cả các giá trị cóthể xảy ra của A)Không gian màtrong đó A làđúngKhông gian màtrong đó A là sai[http://www cs cmu edu/~awm/tutorials][http://www.cs.cmu.edu/~awm/tutorials]Học Máy – IT 48625