Regresi Linier Berganda 1 Asumsi Analisis Regresi Linier

Regresi Linier Berganda 1

Asumsi Analisis Regresi Linier 1. Data Y berskala minimal interval Data X berskala minimal nominal (jika data X berskala nominal / ordinal harus menggunakan bantuan variabel dummy) 2. Existensi untuk setiap nilai dari variabel x yang tetap, y adalah variabel random dengan distribusi probabilitas tertentu yang mempunyai mean dan varians. 2

Asumsi Analisis Regresi Linier 3. Nilai y secara statistik saling bebas 4. Linieritas, nilai rata-rata y adalah sebuah fungsi garis lurus dari x 5. Homoscedasticity. Varians dari y adalah sama pada beberapa x 6. Distribusi normal pada beberapa nilai tertentu x, y mempunyai distribusi normal 3

Asumsi Analisis Regresi Linier 4

Asumsi Analisis Regresi Linier 5

Regresi Linier Berganda Model regresi linier berganda melibatkan lebih dari satu variabel bebas. Modelnya : Dimana Y = variabel terikat Xi = variabel bebas ( i = 1, 2, 3, …, k) 0 = intersep i = koefisien regresi ( i = 1, 2, 3, …, k) Model penduganya adalah 6

Regresi Linier Berganda Misalkan model regresi dengan kasus 2 peubah bebas X 1 dan X 2 maka modelnya : Sehingga setiap pengamatan Akan memenuhi persamaan 7

Menaksir Koefisien Regresi Dengan Menggunakan Matriks Dari hasil Metode Kuadrat Terkecil didapatkan persamaan normal : …. . 8

Menaksir Koefisien Regresi Dengan Menggunakan Matriks Tahapan perhitungan dengan matriks : 1. Membentuk matriks A, b dan g 9

Menaksir Koefisien Regresi Dengan Menggunakan Matriks 10

Menaksir Koefisien Regresi Dengan Menggunakan Matriks 2. Membentuk persamaan normal dalam bentuk matriks Ab=g 3. Perhitungan matriks koefisien b b = A-1 g 11

Metode Pendugaan Parameter Regresi Dengan Metode Kuadrat Terkecil, misalkan model terdiri dari 2 variabel bebas Tahapan pendugaannya : 1. Dilakukan turunan pertama terhadap b 0 , b 1 dan b 2 12

Metode Pendugaan Parameter Regresi 2. Ketiga persamaan hasil penurunan disamakan dengan nol 13

Metode Pendugaan Parameter Regresi 3. Nilai b 1 dan b 2 dapat diperoleh dengan memakai aturan-aturan dalam matriks 14

Uji Kecocokan Model 1. Dengan Koefisien Determinasi R 2 menunjukkan proporsi variasi total dalam respon Y yang dapat diterangkan oleh model r merupakan koefisien korelasi antara Y dengan kelompok X 1 , X 2 , X 3 , … , Xk 15

Uji Kecocokan Model Dengan Pendekatan Analisis Ragam Tahapan Ujinya : 1. Hipotesis = H 0 : 0 H 1 : 0 dimana = matriks [ 0, 1, 2, … , k ] 2. 16

Uji Kecocokan Model 2. Tabel Analisis Ragam Komponen Regresi SS db MS Fhitung Regresi JKR k JKR /k s 2 Galat JKG n – k – 1 s 2 = JKG / n-k-1 Total JKT 17 n– 1

Uji Kecocokan Model 3. Pengambilan Keputusan H 0 ditolak jika Fhitung > Ftabel(1 , n-k-1) pada taraf kepercayaan 18

Uji Parsial Koefisien Regresi Tahapan Ujinya : 1. Hipotesis = H 0 : j 0 H 1 : j 0 dimana j merupakan koefisien yang akan diuji 19

Uji Parsial Koefisien Regresi 2. Statistik uji : Dimana : bj = nilai koefisien bj s = cjj = nilai matriks A-1 ke-jj 20

Uji Parsial Koefisien Regresi 3. Pengambilan keputusan H 0 ditolak jika thitung > t /2(db= n-k-1) pada taraf kepercayaan 21

Pemilihan Model Terbaik 1. All Possible Regression Tahapan pemilihan : i. Tuliskan semua kemungkinan model regresi dan kelompokkan menurut banyaknya variabel bebas ii. Urutkan model regresi menurut besarnya R 2 iii. Periksalah untuk setiap kelompok apakah terdapat suatu pola variabel yang konsisten iv. Lakukan analisa terhadap kenaikan R 2 pada tiap kelompok 22

Pemilihan Model Terbaik Contoh : Akan dianalisis model regresi yang terdiri dari 4 variabel bebas Pembagian kelompoknya Kelompok A terdiri dari koefisien intersep Kelompok B terdiri dari 1 variabel bebas Kelompok C terdiri dari 2 variabel bebas Kelompok D terdiri dari 3 variabel bebas Kelompok E terdiri dari 4 variabel bebas 23

Pemilihan Model Terbaik Persamaan regresi yang menduduki posisi utama dalam setiap kelompok adalah Kelompok Model Regresi B Y = f(X 4) C Y = f(X 1 , X 2) Y = f(X 1 , X 4) D Y = f(X 1 , X 2 , X 4) E Y = f(X 1 , X 2 , X 3, X 4) R 2 67, 5% 97, 9% 97, 2% 98, 234% 98, 237% Persamaan terbaiknya adalah Y = f(X 1 , X 4) 24

Pemilihan Model Terbaik 2. Backward Elimination Procedur Tahap pemilihannya : i. Tuliskan persamaan regresi yang mengandung semua variabel ii. Hitung nilai t parsialnya iii. Banding nilai t parsialnya a. b. 25 Jika t. L < t. O maka buang variabel L yang menghasilkan t. L, kemudian hitung kembali persamaan regresi tanpa menyertakan variabel L Jika t. L > t. O maka ambil persamaan regresi tersebut

Pemilihan Model Terbaik Contoh : Akan dianalisis model regresi yang terdiri dari 4 variabel bebas Model regresi yang mengandung semua variabel bebas Persamaan Regersi Model terbaiknya t parsial Y = f(X 1, X 2, X 3, X 4) Y = f(X 1, X 2) 157, 266* X 1 4, 337* X 2 0, 497* X 3 0, 018 X 4 0, 041* Y = f(X 1, X 2, X 4) 26 Y = f(X 1, X 2) F 166, 83* X 1 154, 008* X 2 5, 026* X 4 1, 863 229, 5*

Pemilihan Model Terbaik 3. Stepwise Regression Procedur Tahap pemilihannya : i. Hitung korelasi setiap variabel bebas terhadap variabel Y. Variabel bebas dengan nilai korelasi tertinggi masukkan dalam model regresi (syarat uji F menunjukkan variabel ini berpengaruh nyata) ii. Hitung korelasi parsial setiap variabel bebas tanpa menyertakan variabel bebas yang telah mauk model. Masukkan variabel bebas dengan korelasi parsial tertinggi ke dalam model iii. Hitung nilai t parsial variabel yang telah masuk model, jika tidak berpengaruh nyata keluarkan dari model iv. Kembali ke langkah ii 27

Pemilihan Model Terbaik Contoh : Akan dianalisis model regresi yang terdiri dari 4 variabel bebas 28

Model Variabel Korelasi riy 0, 731 r 2 y 0, 816 r 3 y -0, 535 r 4 y -0, 821 t parsial Y = f(X 4) Model terbaik Y = f(X 1 , X 2) F 22, 798* r 1 y. 4 0, 915 r 2 y. 4 0, 017 r 3 y. 4 0, 801 Y = f(X 1, X 4) 176, 627* r 2 y. 14 0, 358 X 1 = 108, 223* r 3 y. 14 0, 320 X 4 = 159, 295* Y = f(X 1, X 2, X 4) 166, 832* X 1 = 154, 008* X 2 = 5, 026* X 4 = 1, 863 29 r 3 y. 124 Y = f(X 1, X 2) 0, 002 229, 504*