Chương 3: Hồi quy bội (P2)

Hồi quy tuyến tính không biến. Mô hình hồi quy tuyến tính.Ma trận
Nội dung trích xuất từ tài liệu:
Chương 3: Hồi quy bội (P2) Chương 3HỒIQUYTUYẾNTÍNH BỘI(tiếptheo)I. HỐI QUY TUYẾN TÍNH K BIẾN1. Hàmhồiquytổngthể(PRF)Yi = β1 + β 2 X 2i + β3 X 3i + ... + β k X ki + U i Trongđó •Y là biến phụ thuộc •X2,X3,…,Xk là các biến độc lập •Ui là các sai số ngẫu nhiên •β1 :Hệ số tự do β 2, β 3,…, β k là các hệ số hồi quy riêngI. HỐI QUY TUYẾN TÍNH K BIẾN1. Hàmhồiquytổngthể(PRF)Quan sát thứ 1 :Y1 = β1 + β 2 X 21 + β3 X 31 + ... + β k X k1 + U1Quan sát thứ 2 :Y2 = β1 + β 2 X 22 + β 3 X 32 + ... + β k X k 2 + U 2……………………………………………………………………Quan sát thứ n :Yn = β1 + β 2 X 2 n + β3 X 3n + ... + β k X kn + U nI. HỐI QUY TUYẾN TÍNH K BIẾN1. Hàmhồiquytổngthể(PRF) Ký hiệu  Y1   β1   U1        Y2  β2  U2  Y = β=  U =  ...   ...   ...         Yn   βk  U n I. HỐI QUY TUYẾN TÍNH K BIẾN1. Hàmhồiquytổngthể(PRF) Và  1 X 21 X 31 ... X k 1     1 X 22 X 32 ... X k 2 X=  ... ... ... ... ...     1 X 2n X 3n ... X kn I. HỐI QUY TUYẾN TÍNH K BIẾN1. Hàmhồiquytổngthể(PRF) Khi đó , hệ thống các quan sát có thể được viết lại dưới dạng : Y = X .β + UI. HỐI QUY TUYẾN TÍNH K BIẾN1. Cácgiảthiếtcủamôhìnhhồiquyk biếnGiả thiết 1 : Các biến độc lập X1, X2,…,Xk đã chovà không ngẫu nhiênGiả thiết 2 : Các sai số ngẫu nhiên Ui có giá trịtrung bình bằng 0 và có phương sai không thay đổiGiả thiết 3: Không có sự tương quan giữa các saisố UiI. HỐI QUY TUYẾN TÍNH K BIẾN1. Cácgiảthiếtcủamôhìnhhồiquyk biếnGiả thiết 4 : Không có hiện tượng cộng tuyến giữacác biến độc lập X2, X3,…,XkGiả thiết 5 : Không có tương quan giữa các biếnđộc lập X2,X3,…,Xk với các sai số ngẫu nhiên UiI. HỐI QUY TUYẾN TÍNH K BIẾN1. ƯớclượngcácthamsốHàmhồiquymẫu:SRF: Yi = βˆ1 + βˆ2 X 2i + βˆ3 X 3i + ... + βˆk X ki + eihoặc: Y = βˆ + βˆ X + βˆ X + ... + βˆ X ˆ i 1 2 2i 3 3i k kiHay : (Viết dưới dạng ma trận ) ˆ +e Y = XβI. HỐI QUY TUYẾN TÍNH K BIẾN1. Ướclượngcácthamsố Với ˆ  β1   e1      ˆ β2  e2  ˆ = β   e= ...   ...     β  ˆ  en   k I. HỐI QUY TUYẾN TÍNH K BIẾNSRF: Yi = βˆ1 + βˆ2 X 2i + βˆ3 X 3i + ... + βˆk X ki + eihoặc: Y = βˆ + βˆ X + βˆ X + ... + βˆ X ˆ i 1 2 2i 3 3i k ki Khi đó ˆ ei = (Yi − Yi ) ˆ ˆ ˆ ˆ = Yi − β1 − β 2 X 2i − β3 X 3i − ... − β k X kiI. HỐI QUY TUYẾN TÍNH K BIẾNTheonguyênlýcủaphươngphápOLSthìcácthamsốˆ ˆ ˆ ˆβ , β , β ,..., β đượcchọnsaocho 1 2 3 k ( ) 2 ∑e = ∑ Yi −Yi 2 i ˆ ( ) 2 = ∑ Yi − β1 − β2 X 2i − β3 X 3i − ... − βk X ki ˆ ˆ ˆ ˆ → minI. HỐI QUY TUYẾN TÍNH K BIẾNTa ký hiệu X ,Y , β T ˆ T , eT T là các ma trận ˆchuyển vị của X , Y , β , e Tức là Y = ( Y1 , Y2 ,..., Yn ) T e = ( e1 , e2 ,..., en ) T β 1 ( ˆ T = β , β ,..., β ˆ ˆ 2 ˆ k )I. HỐI QUY TUYẾN TÍNH K BIẾN  1 1 1 ... 1     X 21 X 22 X 23 ... X 2 n X=  ... ... ... ... ...     X k1 Xk2 X k3 ... X kn I. HỐI QUY TUYẾN TÍNH K BIẾN Khi đó : βˆ = (X X ) X Y T −1 T I. HỐI QUY TUYẾN TÍNH K BIẾN Trong đó (XTX) là ma trận có dạng  n  ∑X 2i ∑X 3i ... ∑X ki    ∑ X 2i ∑X ∑X X ∑X X 2 ... 2 i ki X= 2i 2i 3 ...