ĐA CỘNG TUYẾN

I.GIỚI THIỆU VỀ ĐA CỘNG TUYẾN:Thông thường các biến độc lập không có mối quan hệ tuyến tính, nếuquy tắc này bị vi phạm sẽ có hiện tượng đa cộng tuyến. Như vậy, đacộng tuyến là hiện tượng các biến độc lập trong mô hình phụ thuộclẫn nhau và thể hiện được dưới dạng hàm số
Nội dung trích xuất từ tài liệu:
ĐA CỘNG TUYẾN A. LÍ THUYẾT: I.GIỚI THIỆU VỀ ĐA CỘNG TUYẾN: Thông thường các biến độc lập không có mối quan hệ tuyến tính, nếu quy tắc này bị vi phạm sẽ có hiện tượng đa cộng tuyến. Như vậy, đa cộng tuyến là hiện tượng các biến độc lập trong mô hình phụ thu ộc lẫn nhau và thể hiện được dưới dạng hàm số II. CÁC CÁCH PHÁT HIỆN HIỆN TƯỢNG ĐA CỘNG TUYẾN R 2 cao nhưng tỉ số t thấp1.Trong trường hợp R 2 cao (thường R 2 > 0,8) mà tỉ số t thấp thì đó chính làdấu hiệu của hiện tượng đa cộng tuyến . Tương quan cặp giữa các biến giải thích cao2.Nếu hệ số tương quan cặp giữa các biến giải thích cao (vượt 0,8) thì cókhả năng có tồn tại đa cộng tuyến. Tuy nhiên tiêu chuẩn này thườngkhông chính xác. Có những trường hợp tương quan cặp không cao nhưngvẫn có đa cộng tuyến. Thí dụ, ta có 3 biến giải thích X 1 , X 2 , X 3 như sauX 1 = (1,1,1,1,1, 0,0,0,0,0, 0,0,0,0,0, 0,0,0,0,0)X 2 = (0,0,0,0,0, 1,1,1,1,1, 0,0,0,0,0, 0,0,0,0,0)X 3 = (1,1,1,1,1, 1,1,1,1,1, 0,0,0,0,0, 0,0,0,0,0)Rõ ràng X 3 = X 2 + X 1 nghĩa là ta có đa cộng tuyến hoàn hảo, tuy nhiêntương quan cặp là: r 12 = -1/3 ; r 13 = r 23 =0,59Như vậy đa cộng tuyến xảy ra mà không có sự bảo trước cuả tươngquan cặp những dẫu sao nó cũng cung cấp cho ta những kiểm tra tiênnghiệm có ích. Xem xét tương quan riêng3.Vì vấn đề được đề cập đến dựa vào tương quan bậc không. Farrar vàGlauber đã đề nghị sử dụng hệ số tương quan riêng. Trong hồi quy của Y 2đối với các biến X 2 , X 3 ,X 4 . Nếu ta nhận thấy răng r 1, 234 cao trong khi đó 2 2 2r 12,34 ; r 13, 24 ; r 14, 23 tương đối thấp thì điều đó có thể gợi ý rằng các biến X 2, X 3 và X 4 có tương quan cao và ít nhất một trong các biến này là thừa. Dù tương quan riêng rất có ích nhưng nó cũng không đảm bảo rằng sẽcung cấp cho ta hướng dẫn chính xác trong việc phát hiện ra hiện tượngđa cộng tuyến. Hồi quy phụ4. Một cách có thể tin cậy được để đánh giá mức độ của đa cộng tuyếnlà hồi quy phụ. Hồi quy phụ là hồi quy mỗi một biến giải thích X i theocác biến giải thích còn lại. R 2 được tính từ hồi quy này ta ký hiện R i2 Mối liên hệ giữa F i và R i2 : Ri2 /(k − 2) F= (1 − Ri2 ) /( n − k + 1) F i tuân theo phân phối F với k – 2 và n-k +1 bậc tự do. Trong đó n là ,k là số biến giải thích kể cả hệ số chặn trong mô hình. R i2 là hệ số xácđịnh trong hồi quy của biến X i theo các biến X khác. Nếu F i tính đượcvượt điểm tới hạn F i (k-2,n-k+1) ở mức ý nghĩa đã cho thì có nghĩa là X icó liên hệ tuyến tính với các biến X khác. Nếu F i có ý nghĩa về mặtthống kê chúng ta vẫn phải quyến định liệu biến X i nào sẽ bị loại khỏimô hình. Một trở ngại của kỹ thuật hồi quy phụ là gánh nặng tính toán.Nhưng ngày nay nhiều chương trình máy tính đã có thể đảm đương đượccông việc tính toán này. Nhân tử phóng đại phương sai5. Một thước đo khác của hiện tượng đa cộng tuyến là nhân tử phóngđại phương sai gắn với biến X i , ký hiệu là VIF(X i ).VIF(X i ) được thiết lập trên cơ sở của hệ số xác định R i2 trong hồi quycủa biến X i với các biến khác nhau như sau: 1 VIF(X i ) = 1 − R 2 (5.15) iNhìn vào công thức (5.15) có thể giải thích VIF(X i ) bằng tỷ số chungcủa phương sai thực của β 1 trong hồi quy gốc của Y đối với các biến Xvà phương sai của ước lượng β 1 trong hồi quy mà ở đó X i trực giao vớicác biến khác. Ta coi tình huống lý tưởng là tình huống mà trong đó cácbiến độc lập không tương quan với nhau, và VIF so sánh tình huông thựcvà tình huống lý tưởng. Sự so sánh này không có ích nhiều và nó khôngcung cấp cho ta biết phải làm gì với tình huống đó. Nó chỉ cho biết rằngcác tình huống là không lý tưởng. Đồ thị của mối liên hệ của R i2 và VIF là 0 V IF100 50 2 Ri 10 0,9 1 1Như hình vẽ chỉ ra khi R i2 tăng từ 0,9 đến 1 thì VIF tăng rất mạnh. Khi R i2 =1 thì VIF là vô hạn. Có nhiều chương trình máy tính có thể cho biết VIF đối với các biếnđộc lập trong hồi quy.6. Độ đo Theil Khía cạnh chủ yếu của VIF chỉ xem xét đến tương quan qua lại giữa cácbiến giải thích. Một độ đo mà xem xét tương quan của biến giải thíchvới biến được giải thích là độ đo Theil. Độ đo Theil được định nghĩa nhưsau: k m = R - ∑ ( R 2 - R 2i ) 2 − i=2Trong đó R 2 là hệ số xác định bội trong hồi quy của Y đối với các biến X2 , X 3 … X k trong mô hình hồi quy: Y = β 1 + β 2 X 2i + β 3 X 3i + ……. + β k X ki + U iR 2 i là hệ số xác định bội trong mô hình hồi quy của biến Y đối với các −biên X 2 , X 3 , … ,X i −1 , X i +1 , … ,X kĐại lượng R 2 - R 2 i được gọi là “đóng góp tăng thêm vào” vào hệ số xác −định bội. Nếu X 2 , X 3 … X k không tương quan với nhau thì m = 0 vìnhững đóng góp tăng thêm đó cộng lại bằng R 2 . Trong các trường hợpkhác m có thể nhận giá trị âm hoặc dương lớn.Để thấy được độ đo này có ý nghĩa, chúng ta xét trường hợp mô hình có 2biến giải thích X 2 và X 3 . Theo ký hiệu đã sử dụng ở chương trước ta có: 2 2 m = R 2 - ( R 2 - r 12 ) – (R 2 – r 13 ) 2 2Tỷ số t liên hệ với tương quan riêng r 12,3 , r 13, 2Trong phần hồi quy bội ta đã biết: 2 2 2R 2 = r 12 + (1- r 12 ) r 13, 2 2R 2 = r 13 + (1- r 13 ) r 12,3 2 2 Thay 2 công thức này vào biểu thức xác định m ta được: 2 ...