Chng 2 HI QUY 2 BIN 2 1
Chương 2 HỒI QUY 2 BIẾN
2. 1. Khái niệm về hồi quy Hồi quy là tìm quan hệ phụ thuộc của một biến, được gọi là biến phụ thuộc vào một hoặc nhiều biến khác, được gọi là biến độc lập nhằm mục đích ước lượng hoặc tiên đoán giá trị kỳ vọng của biến phụ thuộc khi biết trước giá trị của biến độc lập.
2. 2. Mô hình hồi quy tổng thể và hồi quy mẫu 2. 2. 1. Mô hình hồi quy tổng thể (PRF) Ví dụ 2. 1. Hồi quy tiêu dùng Y theo thu nhập X. Xét sự phụ thuộc chi tiêu của một gia đình vào thu nhập ở một địa phương có tổng cộng 40 hộ gia đình. Ta được số liệu cho ở bảng sau:
Bảng 2. 1. Chi tiêu và thu nhập của hộ gia đình: X Y 80 100 120 140 160 180 200 55 65 79 80 102 105 120 60 70 84 93 107 110 136 65 74 90 95 110 140 70 80 94 103 116 115 144 75 85 98 108 118 120 145 113 125 130 88 115 325 462 445 707 678 690 685 E(Y/Xi) 65 77 89 101 113 115 137
Mô hình hồi quy tổng thể: E(Y/Xi) = f(Xi) = b 1 + b 2 Xi b 1 : hệ số chặn - tung độ gốc b 2 : hệ số góc - hệ số đo độ dốc đường hồi quy Ví dụ ở hộ gia đình có mức chi tiêu 130 ta có: 130 = b 1 + b 2. 180 + 15 115 Mô hình hồi quy tổng thể ngẫu nhiên: Slide 4 Yi = b 1 + b 2 Xi + ui ui: sai số ngẫu nhiên của tổng thể ứng với quan sát thứ i ui: đại diện những nhân tố còn lại ảnh hưởng đến chi tiêu
Sai số ngẫu nhiên hình thành từ nhiều nguyên nhân: - Bỏ sót biến giải thích. - Sai số khi đo lường biến phụ thuộc. - Các tác động không tiên đoán được. - Dạng mô hình hồi quy không phù hợp.
160 Y Yi = b 1+b 2 Xi + ui 140 Yi=b 1+b 2 Xi+ui 120 ui E(Y/Xi)=b 1+b 2 Xi Tiêu dùng, 100 Y Yi 80 b 2 Y = E(Y/Xi) 60 40 b 1 50 100 150 Thu nhập khả dụng, X 200 250 X
2. 2. 2. Mô hình hồi quy mẫu (SRF) Mô hình hồi quy mẫu: Trong đó : Ước lượng cho b 1. : Ước lượng cho b 2. : Ước lượng cho E(Y/Xi) Mô hình hồi quy mẫu ngẫu nhiên
2. 2. 3. Mô hình hồi quy tuyến tính (LRF) * Mô hình là mô hình tuyến tính trong các tham số nhưng phi tuyến theo biến số. * Mô hình là mô hình phi tuyến trong các tham số nhưng tuyến tính trong biến số. Hồi quy tuyến tính chỉ yêu cầu tuyến tính trong các tham số, không yêu cầu tuyến tính trong biến số.
TD vs. TN 140 SRF TD 120 PRF 100 80 60 50 100 150 200 Hình 2. 1. Mô hình hồi quy tổng thể và mẫu tuyến tính 250
2. 3. Ước lượng các hệ số của mô hình hồi quy theo phương pháp bình phương tối thiểu-OLS 2. 3. 1. Các giả định của mô hình hồi quy tuyến tính cổ điển Giả thiết 1: Các biến giải thích là phi ngẫu nhiên tức là các giá trị của chúng được cho trước hoặc được xác định. Giả thiết 2: Kỳ vọng của yếu tố ngẫu nhiên ui bằng 0, tức là: Giả thiết 3: Các ui có phương sai bằng nhau (phương sai thuần nhất)
Giả thiết 4: Không có tự tương quan giữa các ui: Giả thiết 5: Không tự tương quan giữa ui với Xi: Định lý Gauss-Markov Với các giả định của mô hình hồi quy tuyến tính cổ điển, mô hình hồi quy tuyến tính theo phương pháp bình phương tối thiểu là ước lượng tuyến tính không thiên lệch tốt nhất
Giả thiết bổ sung (Gujarati, 1995) Giả thiết 7: Mô hình là tuyến tính theo tham số. Giả thiết 8: Số quan sát n lớn hơn số tham số của mô hình. Giả thiết 9: Giá trị của X không được đồng nhất (bằng nhau) ở tất cả các quan sát. Giả thiết 10: Mô hình được xác định đúng. Giả thiết 11: Không tồn tại đa cộng tuyến hoàn hảo giữa các biến giải thích.
2. 3. 2. Nội dung của phương pháp Cho n quan sát của 2 đại lượng (Yi, Xi) Mô hình hồi quy mẫu ngẫu nhiên
Tìm ∑ei 2 => 0: Phương pháp bình phương bé nhất Điều kiện để phương trình trên đạt cực trị là:
Giải hệ phương trình trên được: đặt n bˆ 2 = åy x i =1 n i åx i =1 2 i i
Ví dụ 2. 2: Quan sát sự biến động của nhu cầu gạo Y (tấn/tháng) vào đơn giá X (ngàn đồng/kg) ta được các số liệu cho ở bảng. Hãy lập mô hình hồi quy mẫu biểu diễn mối phụ thuộc về nhu cầu vào đơn giá gạo STT 1 Xi 1 Yi 10 2 3 4 5 6 4 2 5 5 7 6 9 5 4 2
Giả sử mô hình hồi quy mẫu là: STT 1 Xi 1 Yi 10 Xi 2 1 2 3 4 5 6 ∑ 4 2 5 5 7 24 6 9 5 4 2 36 24 18 25 20 14 111 16 4 25 25 49 120
Như vậy, mô hình hồi quy mẫu ÞX và Y có quan hệ nghịch biến * : nhu cầu tối đa là 11, 5 tấn/tháng * : khi giá tăng 1000 đồng/kg thì nhu cầu trung bình sẽ giảm 1, 375 tấn/tháng với các yếu tố khác trên thị trường không đổi.
2. 4. Phương sai, sai số chuẩn của các ước lượng, hệ số xác định R 2, hệ số tương quan r 2. 4. 1. Phương sai và sai số chuẩn của các ước lượng
Phương sai Sai số chuẩn var (ei) được dùng để ước lượng cho 2 và dùng ước lượng không chệch là:
2. 4. 2. Hệ số xác định R 2 và hệ số tương quan r Thước đo độ phù hợp của mô hình đối với dữ liệu là R 2 Y SRF Yi Yi Y Xi X
TSS (Total Sum of Squares): Tổng bình phương tất cả các sai lệch giữa giá trị thực tế của Y với giá trị trung bình của nó. ESS (Explained Sum of Squares): Tổng bình phương tất cả các sai lệch giữa giá trị của Y được tính theo mô hình với giá trị trung bình của nó. RSS (Residual Sum of Squares): Tổng bình phương tất cả các sai lệch giữa giá trị thực tế với giá trị lý thuyết theo mô hình của Y.
Trong mô hình 2 biến, người ta chứng minh được rằng => Có thể nói R 2 phản ánh tỷ lệ mô hình lý thuyết phản ánh thực tế. * Tính chất của R 2 - 0≤ R 2 ≤ 1. Với R 2=0 thể hiện X và Y độc lập thống kê. R 2 =1 thể hiện X và Y phụ thuộc tuyến tính hoàn hảo - R 2 không xét đến quan hệ nhân quả.
Hệ số tương quan r: Hệ số tương quan r đo lường mức độ phụ thuộc tuyến tính giữa 2 đại lượng X và Y.
Tính chất của r: - r > 0: giữa X và Y có quan hệ đồng biến r→ ± 1: X và Y có quan hệ tuyến tính chặt chẽ r → 0: X và Y có quan hệ tuyến tính không chặt chẽ r < 0: X và Y có quan hệ nghịch biến - Hệ số tương quan có tính chất đối xứng: r. XY = r. YX - r độc lập với gốc toạ độ và các tỷ lệ. Nghĩa là: với a, c > 0, b, d là hằng số, và: Thì : r. XY = r. X*Y*
- Nếu X, Y độc lập theo quan điểm thống kê thì hệ số tương quan giữa chúng bằng 0. - r chỉ là đại lượng đo sự kết hợp tuyến tính hay phụ thuộc tuyến tính. r không có ý nghĩa để mô tả quan hệ phi tuyến. r. XY = ± R VD: Với R 2 = 0, 81
2. 5. Phân bố xác suất của các ước lượng Giả thiết 6: ui có phân phối N (0, 2) Với các giả thiết nêu trên, các ước lượng có các tính chất sau: - Chúng là các ước lượng không chệch - Có phương sai cực tiểu - Khi số quan sát đủ lớn thì các ước lượng này xấp xỉ với giá trị thực của phân phối
2. 6. Khoảng tin cậy của các tham số Ước lượng khoảng cho hệ số hồi quy với mức ý nghĩa α (độ tin cậy 1 -α) như sau
2. 7. Kiểm định giả thiết về hệ số hồi quy Có 3 cách để kiểm định giả thiết: Cách 1: Kiểm định t Quy tắc quyết định Nếu thì bác bỏ H 0. Nếu thì ta không thể bác bỏ H 0.
f(t) a/2 -t a/2 -4 -3 -2 t -1 0 t 1 a/2 2 3 4
Cách 2: Phương pháp khoảng tin cậy Giả sử ta tìm được khoảng tin cậy của βi là: với mức ý nghĩa trùng với mức ý nghĩa của gt H 0 Quy tắc quyết định Nếu chấp nhận H 0 bác bỏ H 0
Cách 3: Phương pháp P-value Tính Quy tắc quyết định Nếu p ≤ : Bác bỏ H 0 Nếu p > : Chấp nhận H 0 (Phương pháp này thường dùng khi tiến hành trên máy vi tính)
Quy tắc thực hành - Trị thống kê t trong các phần mềm kinh tế lượng Mức ý nghĩa hay được dùng trong phân tích hồi quy là α = 5% Giả thiết Trị thống kê trở thành Quy tắc quyết định Nếu thì bác bỏ H 0. Nếu thì ta không thể bác bỏ H 0.
2. 8. Kiểm định sự phù hợp của mô hình – Dự báo 2. 8. 1. Kiểm định sự phù hợp của mô hình Kiểm định giả thiết H 0: R 2 = 0 với mức ý nghĩa hay độ tin cậy 1 - Xét thống kê Quy tắc quyết định Nếu F > F (1, n-2): Bác bỏ H 0 Nếu F ≤ F (1, n-2): Chấp nhận H 0
F Thống kê F =0, 05 Miền bác bỏ Miền chấp nhận F (1, n-2)
2. 8. 2. Dự báo Cho trước giá trị X = X 0, hãy dự báo giá trị trung bình và giá trị cá biệt của Y với mức ý nghĩa hay độ tin cậy 1 - . * Dự báo điểm
* Dự báo giá trị trung bình của Y Với:
* Dự báo giá trị cá biệt của Y Với:
Ví dụ 2. 3: Với số liệu và kết quả ở ví dụ 2. 2 a. Tìm khoảng tin cậy của β 1, β 2 với α=0, 05 b. Hãy xét xem nhu cầu của loại hàng hóa trên có phụ thuộc vào đơn giá của nó không với α=0, 05 c. Hãy dự báo nhu cầu trung bình và nhu cầu cá biệt của loại hàng hóa trên khi đơn giá ở mức 6. 000 đồng/kg với độ tin cậy 95%
STT 1 2 3 4 5 6 Sum Average Xi 1 4 2 5 5 7 24 4 Yi 10 6 9 5 4 2 36 6 xi -3 0 -2 1 1 3 0 yi 4 0 3 -1 -2 -4 0 xi 2 9 0 4 1 1 9 24 yi 2 16 0 9 1 4 16 46
Mô hình hồi quy mẫu: a. Ta có: Mà
10, 4981 ≤ β 1 ≤ 12, 5019 -1, 5987 ≤ β 2 ≤ -1, 1513
. b. Kiểm định giả thiết β 2 = 0 H 0: β 2 = 0 C 1: Sử dụng kết quả ở câu a, với α=0, 05, β 2 không thuộc khoảng tin cậy bác bỏ H 0 C 2: Bác bỏ H 0, hay nhu cầu trung bình có phụ thuộc vào đơn giá.
C 3: Sử dụng kiểm định F đối với mô hình hai biến Mà F 0, 05(1, 4)=7, 71 < Ftt Bác bỏ H 0 hay nhu cầu trung bình có phụ thuộc vào đơn giá.
c. Dự báo điểm: Dự báo giá trị trung bình của Y (tấn/tháng)
Dự báo giá trị cá biệt của Y Vậy, khi đơn giá là 6. 000 đồng/kg ở một tháng nào đó thì nhu cầu sẽ dao động từ 2 -4, 5 tấn
- Slides: 49