Bài giảng Lý thuyết xác suất và thống kê toán học: Chương 8 - Phan Văn Tân

Bài giảng "Lý thuyết xác suất và thống kê toán học - Chương 8: Lý thuyết tương quan và hồi quy" cung cấp cho người học các kiến thức: Tính độc lập và quan hệ phụ thuộc ngẫu nhiên, hệ số tương quan, hệ số tương quan mẫu,... mời các bạn cùng tham khảo nội dung chi tiết.
Nội dung trích xuất từ tài liệu:
Bài giảng Lý thuyết xác suất và thống kê toán học: Chương 8 - Phan Văn Tân LÝ THUYẾTXÁC SUẤT VÀ THỐNG KÊ TOÁN HỌC Phan Văn Tân Bộ mô Khí tượngCHƯƠNG 8. LÝ THUYẾT TƯƠNG QUAN VÀ HỒI QUI8.1 Tính độc lập và quan hệ phụ thuộc ngẫu nhiên•  Xét hai đại lượng ngẫu nhiên X, Y•  Giả sử f(x,y) là phân bố đồng thời của hệ (X,Y)•  Khi đó có thể biểu diễn: f(x,y)=f(y/x).f1(x)=f(x/y).f2(y)•  Trong đó f(y/x), f(x/y) là các phân bố có điều kiện còn f1(x), f2(y) là các phân bố riêng ∂ 2 F ( x, y ) f ( x, y ) = , F ( x, y ) = P ( X < x, Y < y ) +∞ ∂x∂y +∞ f1 ( x ) = ∫ f ( x, y )dy , f 2 ( y ) = ∫ f ( x, y )dx −∞ −∞ f ( x, y ) f ( x, y ) f ( y / x) = +∞ , f ( x / y) = +∞ ∫ f ( x, y )dy −∞ ∫ f ( x, y )dx −∞CHƯƠNG 8. LÝ THUYẾT TƯƠNG QUAN VÀ HỒI QUI8.1 Tính độc lập và quan hệ phụ thuộc ngẫu nhiên•  Nếu X và Y độc lập với nhau:•  f(y/x)=f2(y), f(x/y)=f1(x) è f(x,y)=f1(x).f2(y)•  Tức là sự biến thiên của đại lượng này không ảnh hưởng đến sự biến thiên của đại lượng kia và ngược lại•  Nói chính xác hơn, xác suất để Y nhận giá trị nào đó không bị ảnh hưởng bởi việc cho trước giá trị x của X, và ngược lại•  Nếu X và Y không độc lập với nhau, khi đó ta nói X và Y phụ thuộc lẫn nhau•  Có hai khái niệm phụ thuộc giữa X và Y: –  Phụ thuộc hàm –  Phụ thuộc tương quanCHƯƠNG 8. LÝ THUYẾT TƯƠNG QUAN VÀ HỒI QUI8.1 Tính độc lập và quan hệ phụ thuộc ngẫu nhiên•  Nếu X và Y phụ thuộc hàm với nhau, khi đó có thể biểu diễn: Y = f(X) hoặc X = g(Y)•  Điều đó có nghĩa là nếu X nhận giá trị x nào đó thì tương ứng Y nhận giá trị y=f(x), hoặc khi Y nhận giá trị y nào đó thì X nhận giá trị tương ứng x=g(y)•  Tuy nhiên, trong thực tế các đại lượng ngẫu nhiên thường phụ thuộc lẫn nhau phức tạp hơn nhiều•  Ví dụ: –  Quan hệ giữa nhiệt độ và độ ẩm tương đối không khí trong ngày: Qui luật chung là nhiệt độ tăng thì độ ẩm giảm, nhưng đó là mối quan hệ không đơn trị và không phải là quan hệ hàm –  Quan hệ giữa chiều cao và cân nặng của cơ thể người –  …CHƯƠNG 8. LÝ THUYẾT TƯƠNG QUAN VÀ HỒI QUI8.1 Tính độc lập và quan hệ phụ thuộc ngẫu nhiên YMinh họa sự phụ thuộcgiữa Y và X: Ứng với mộtgiá trị x∈X có thể cónhiều giá trị của Y, vàngược lại – Không phải làquan hệ hàmTập giá trị Y/X=x (hoặcX/Y=y) sẽ tuân theo luậtphân bố nào đó mà ta gọilà phân bố có điều kiện: Xf(y/x) (hoặc f(x/y)Sự phụ thuộc giữa Y và X trong trường hợp này được gọi là phụ thuộcngẫu nhiên. Quan hệ giữa Y và X được gọi là quan hệ tương quanCHƯƠNG 8. LÝ THUYẾT TƯƠNG QUAN VÀ HỒI QUI8.2 Hệ số tương quan•  Một trong những đặc trưng quan trọng để nghiên cứu mối quan hệ tương quan giữa hai biến ngẫu nhiên là hệ số tương quan•  Theo định nghĩa, hệ số tương quan giữa hai đại lượng ngẫu nhiên X, Y là số vô thứ nguyên được xác định bởi: M [( X − M [ X ])(Y − M [Y ])] ρ xy ≡ ρ = 2 2 = M [( X − M [ X ]) ].M [(Y − M [Y ]) ] M [( X − mx )(Y − m y )] µ xy cov( X , Y ) = = ≡ M [( X − mx )2 ].M [(Y − m y ) 2 ] Dx D y Dx D y•  Một số ký hiệu thường gặp ρ xy ≡ ρ ≡ ρ ( X , Y ) = ρ (Y , X ) µ xy ≡ cov( X , Y ) = cov(Y , X ) Dx ≡ σ 2 ≡ σ x2 ≡ var( X ) CHƯƠNG 8. LÝ THUYẾT TƯƠNG QUAN VÀ HỒI QUI 8.2 Hệ số tương quan Một số tính chất của hệ số tương quan 1)  Nếu Z1=aX+b, Z2=cY+d (a,b,c,d là các hằng số, a>0, c>0) thì ρ(Z1,Z2) = ρ(X,Y)2)  Trị số của hệ số tương quan nằm trong khoảng [–1,1]: |ρ| ≤ 13)  Điều kiện cần và đủ để |ρxy| = 1 là Y và X thực sự có quan hệ hàm tuyến tính, tức Y=aX+b, hoặc X=cY+d. ρxy = 1 khi và chỉ khi a>0, hoặc c>0, ρxy=–1 khi aCHƯƠNG 8. LÝ THUYẾT TƯƠNG QUAN VÀ HỒI QUI8.2 Hệ số tương quanÝ nghĩa của hệ số tương quan•  Từ các tính chất của hệ số tương quan suy ra rằng –  Hệ số tương quan là đại lượng đặc trưng cho mối quan hệ tuyến tính giữa hai biến ngẫu nhiên X và Y –  Hệ số tương quan bằng 0 thì hai biến không có quan hệ tương quan tuyến tính nhưng chưa chắc chúng độc lập với nhau (trừ chúng có phân bố chuẩn) –  Hệ số tương quan dương thì hai biến quan hệ đồng biến với nhau, hệ số tương quan âm hai biến quan hệ nghịch biến với nhauCHƯƠNG 8. LÝ THUYẾT TƯƠNG QUAN VÀ HỒI QUI8.3 Hệ số tương quan mẫu•  Hệ số tương quan ρ đã xét trên đây là hệ số tương quan lý thuyết giữa hai biến ngẫu nhiên. Nó là một hằng số chưa biết•  Xét hai biến ngẫu nhiên (X,Y) và mẫu (X1,Y1),…,(Xn,Yn)•  Hệ số tương quan mẫu giữa hai đại lượng ngẫu nhiên X, Y là đại lượng được xác định bởi: 1 n ∑ ( X i − X )(Yi − Y ) n i =1 µ~xy Rxy rxy ≡ r = = ~ ~ ≡ss n n 1 2 1 2 Dx D y x y ∑ i ( X − X ) ∑ i (Y − Y ) n i =1 n i =1•  Khác với hệ số tương quan lý thuyết ρ, hệ số tương quan mẫu r là một đại lượng thống kê nên nó là một biến ngẫu nhiênCHƯƠNG 8. LÝ THUYẾT TƯƠNG QUAN VÀ HỒI QUIVí dụ: Tính hệ số tương quan T ...