GaussMarkov Teoremi 1 Dorusal olmaldr regresyon modelindeki bir

Gauss-Markov Teoremi 1. Doğrusal olmalıdır, regresyon modelindeki bir stokastik değişken olan Y'nin doğrusal fonksiyonu olmalıdır. 2. Sapmasız olmalıdır, yani ortalaması veya beklenen değeri E( gerçek b 2 değerine eşit olmalıdır: E( ), )=b 2 3. Doğrusal sapmasız tahminciler sınıfında minimum varyanslı olmalıdır; minimum varyanslı sapmasız bir tahminciye etkin tahminci denir. 1

GAUSS-MARKOV TEOREMİ İLE b 1 VE b 2’nin SAPMASIZLIĞI Basit Bağlanım (Regresyon) Modeli: Y = b 1 + b 2 X + u Gauss-Markov Şartları: 1. E(ui) = 0 Regresyon katsayılarının istenen özelliklere sahip olması hata terimi ile ilgili şu dört varsayımın sağlanmasına bağlıdır. 2

GAUSS-MARKOV TEOREMİ İLE b 1 VE b 2’nin SAPMASIZLIĞI Basit Bağlanım (Regresyon) Modeli : Y = b 1 + b 2 X + u Gauss-Markov Şartları: 1. E(ui) = 0 İlki, u hata terimimin beklenen değeri sıfır olup, bu nedenle de y’i ne pozitif ne de negatif olarak etkileme eğiliminde değildir. 3

GAUSS-MARKOV TEOREMİ İLE b 1 VE b 2’nin SAPMASIZLIĞI Basit Bağlanım (Regresyon) Modeli : Y = b 1 + b 2 X + u Gauss-Markov Şartları: 1. E(ui) = 0 Varsayım E(ui) = mu 0. Eğer denklemde sabit terim var ise bu şartın kendiliğinde sağlanacağını varsaymak gayet mantıklıdır. u’nun ortalamasının 0 olmadığını kabul edelim. 4

GAUSS-MARKOV TEOREMİ İLE b 1 VE b 2’nin SAPMASIZLIĞI Basit Bağlanım (Regresyon) Modeli : Y = b 1 + b 2 X + u Gauss-Markov Şartları: 1. E(ui) = 0 Varsayım E(ui) = mu Tanım 0. v = u - mu, ya da u = v + mu u’nun ortalamasından sapmaya eş değer yeni bir tesadüfi değişken (v) tanımlayalım. 5

GAUSS-MARKOV TEOREMİ İLE b 1 VE b 2’nin SAPMASIZLIĞI Basit Bağlanım (Regresyon) Modeli : Y = b 1 + b 2 X + u Gauss-Markov Şartları: 1. E(ui) = 0 Varsayım E(ui) = mu Tanım 0. v = u - mu, ya da u = v + mu Y = b 1 + b 2 X + v + m u = ( b 1 + m u ) + b 2 X + v Modeli yeniden düzenleyelim 6

GAUSS-MARKOV TEOREMİ İLE b 1 VE b 2’nin SAPMASIZLIĞI Basit Bağlanım Modeli : Y = b 1 + b 2 X + u Gauss-Markov Şartları: 1. E(ui) = 0 Varsayım E(ui) = mu Tanım 0. v = u - mu, so u = v + mu Y = b 1 + b 2 X + v + m u = ( b 1 + m u ) + b 2 X + v Burada; E(v) = E(u - mu) = E(u) - E(mu) = 0 Yeni modeldeki hata terimi ilk şartı sağlayacaktır. Fakat sabit terim sapmalı olacaktır. 7

GAUSS-MARKOV TEOREMİ İLE b 1 VE b 2’nin SAPMASIZLIĞI Basit Bağlanım (Regresyon) Modeli : Y = b 1 + b 2 X + u Gauss-Markov Şartları: 1. E(ui) = 0 Varsayım E(ui) = mu Tanım 0. v = u - mu, so u = v + mu Y = b 1 + b 2 X + v + m u = ( b 1 + m u ) + b 2 X + v Burada; E(v) = E(u - mu) = E(u) - E(mu) = 0 Sabit terim genellikle açıklayıcı değişken/ler tarafından dikkate alınmayan Y’deki her hangi bir sistematik etkiyi üzerinde topladığından dolayı bu durumu kabul edebiliriz. 8

GAUSS-MARKOV TEOREMİ İLE b 1 VE b 2’nin SAPMASIZLIĞI Basit Bağlanım (Regresyon) Modeli : Y = b 1 + b 2 X + u Normallik Varsayımı u, normal dağılıma sahiptir. Gauss-Markov şartlarına ilave olarak, hata teriminin normal dağılımlı olduğu kabul edilmektedir. Bulun sınamaların geçerliliği için gereklidir. 9

GAUSS-MARKOV TEOREMİ İLE b 1 VE b 2’nin SAPMASIZLIĞI Basit Bağlanım (Regresyon) Modeli : Y = b 1 + b 2 X + u Gauss-Markov Şartları: 2. ui’nin anakitle varyansı tüm i’ler için aynıdır. İkinci şart şudur: Örnekteki farklı gözlemlere göre hata teriminin değerleri sabit varyanslı dağılımdan çekilmiştir. 10

GAUSS-MARKOV TEOREMİ İLE b 1 VE b 2’nin SAPMASIZLIĞI Basit Bağlanım (Regresyon) Modeli: Y = b 1 + b 2 X + u Gauss-Markov Şartları: 2. ui’nin anakitle varyansı tüm i’ler için aynıdır. Bu şartın ayrıntıları farklı varyans konusunda ele alınacaktır. 11

GAUSS-MARKOV TEOREMİ İLE b 1 VE b 2’nin SAPMASIZLIĞI Basit Bağlanım (Regresyon) Modeli : Y = b 1 + b 2 X + u Gauss-Markov Şartları: 3. ui ve uj Anakitle kovaryansı = 0, Bütün i≠j için, Üçüncü şartın anlamı şudur: Her hangi gözlemdeki hata teriminin değeri her hangi bir diğer gözlemdeki hata teriminin değerinden bağımsız olmalıdır. 12

GAUSS-MARKOV TEOREMİ İLE b 1 VE b 2’nin SAPMASIZLIĞI Basit Bağlanım (Regresyon) Modeli : Y = b 1 + b 2 X + u Gauss-Markov Şartları: 3. ui ve uj Anakitle kovaryansı = 0, Bütün i≠j için, Bu şarttan çıkarılacak sonuç ve anlaşılması ile ilgili ayrıntılar otokorelasyon konusunda incelenmek üzere ertelenmiştir. 13 11

GAUSS-MARKOV TEOREMİ İLE b 1 VE b 2’nin SAPMASIZLIĞI Basit Bağlanım (Regresyon) Modeli : Y = b 1 + b 2 X + u Gauss-Markov Şartları: 4. X olasılıksal (stokastik) değildir. Örneğin, tabakalı rastsal örnek, örnek hacmi 1, 000: S n 8 10 9 30 10 50 11 70 12 430 13 100 , v. b. Son şart zayıf ve kuvvetli iki hali bulunmaktadır. Kuvvetli hali şudur: açıklayıcı değişken/ler olasılıksal değildir. Yani tesadüfi unsur içermemektedir. 14

GAUSS-MARKOV TEOREMİ İLE b 1 VE b 2’nin SAPMASIZLIĞI Basit Bağlanım (Regresyon) Modeli : Y = b 1 + b 2 X + u Gauss-Markov Şartları: 4. X olasılıksal (stokastik) değildir. Örneğin, tabakalı rastsal örnek, örnek hacmi 1, 000: S n 8 10 9 30 10 50 11 70 12 430 13 100 , v. b. Bu şartın güçlü hali aslında ekonomik değişkenler için çokta gerçekçi değildir. Bu nedenle şartın zayıf haline dönüştürüyoruz. Bunu da şu şekilde sağlıyoruz: Açıklayıcı değişkenlerin 15 hata teriminden bağımsız dağılması koşulu ile bu değişkenlerin rastsal unsurlar içermesine izin verilmektedir.

GAUSS-MARKOV TEOREMİ İLE b 1 VE b 2’nin SAPMASIZLIĞI Basit Bağlanım (Regresyon) Modeli : Y = b 1 + b 2 X + u Gauss-Markov Şartları: 4. X olasılıksal (stokastik) değildir. Örneğin, tabakalı rastsal örnek, örnek hacmi 1, 000: S n 8 10 9 30 10 50 11 70 12 430 13 100 , v. b. Bununla birlikte, şimdilik tahminci özelliklerinin analizini basitleştirdiğinden dolayı güçlü hali kullanılacaktır. 16

GAUSS-MARKOV TEOREMİ İLE b 1 VE b 2’nin SAPMASIZLIĞI Basit Bağlanım (Regresyon) Modeli : Y = b 1 + b 2 X + u Gauss-Markov Şartları: 4. X olasılıksal (stokastik) değildir. Örneğin, tabakalı rastsal örnek, örnek hacmi 1, 000: S n 8 10 9 30 10 50 11 70 12 430 13 100 , v. b. Burada olasılıksal olmayan bir açıklayıcı değişken örneği vardır. Tamamlanan en son eğitim kurumu, S, ile kazanç arasındaki ilişki ile ilgilenildiği varsayılsın. 17

GAUSS-MARKOV TEOREMİ İLE b 1 VE b 2’nin SAPMASIZLIĞI Basit Bağlanım (Regresyon) Modeli : Y = b 1 + b 2 X + u Gauss-Markov Şartları: 4. X nonstochastic Örneğin, tabakalı rastsal örnek, örnek hacmi 1, 000: S n 8 10 9 30 10 50 11 70 12 430 13 100 , v. b. Nüfus sayımı sonuçlarına göre, nüfusun %1’i S = 8, %3’ü S = 9, 5, %5’i S = 10, %7’si S = 11, %43’ü S = 12, v. b. yıllık eğitime sahiptir. 18

GAUSS-MARKOV TEOREMİ İLE b 1 VE b 2’nin SAPMASIZLIĞI Basit Bağlanım (Regresyon) Modeli : Y = b 1 + b 2 X + u Gauss-Markov Şartları: 4. X olasılıksal (stokastik) değildir. Örneğin, tabakalı rastsal örnek, örnek hacmi 1, 000: S n 8 10 9 30 10 50 11 70 12 430 13 100 , v. b. 1000 hacimlik örnek çektiğimizi ve bu örneğin eğitim durumu dağılımının mümkün olduğunca nüfus sayımındaki eğitim durumu dağılımı ile eşit olduğunu varsayalım. 19

GAUSS-MARKOV TEOREMİ İLE b 1 VE b 2’nin SAPMASIZLIĞI Basit Bağlanım (Regresyon) Modeli : Y = b 1 + b 2 X + u Gauss-Markov conditions 4. X olasılıksal (stokastik) değildir. Örneğin, tabakalı rastsal örnek, örnek hacmi 1, 000: S n 8 10 9 30 10 50 11 70 12 430 13 100 , v. b. Bu durumda tabakalı rastsal örneklemeyi kullanacak her bir eğitim yılına karşılık gelecek birey seçmeliyiz. Yani 8 yıl eğitime sahip 10 kişi, 9 yıl eğitime sahip 30 kişi v. b. Şekilde 20 bireyler seçilmelidir.

GAUSS-MARKOV TEOREMİ İLE b 1 VE b 2’nin SAPMASIZLIĞI Basit Bağlanım (Regresyon) Modeli : Y = b 1 + b 2 X + u Gauss-Markov Şartları: 4. X olasılıksal (stokastik) değildir. Örneğin, tabakalı rastsal örnek, örnek hacmi 1, 000: S n 8 10 9 30 10 50 11 70 12 430 13 100 , v. b. Örnekteki S değerlerinin değerleri önceden belirlendiği için olasılıksal değildir. 21

GAUSS-MARKOV TEOREMİ İLE b 1 VE b 2’nin SAPMASIZLIĞI Basit Bağlanım (Regresyon) Modeli : Y = b 1 + b 2 X + u Gauss-Markov Şartları: 4. X olasılıksal (stokastik) değildir. Örneğin, tabakalı rastsal örnek, örnek hacmi 1, 000: S n 8 10 9 30 10 50 11 70 12 430 13 100 , v. b. Eğitim durumu ve diğer demografik değişkenler nüfus sayımındaki oranlarına göre yaklaşık olarak tabakalı örnekleme yöntemi kullanılarak örnek hacmi için çekilebilirler. 22

GAUSS-MARKOV TEOREMİ İLE b 1 VE b 2’nin SAPMASIZLIĞI Basit Bağlanım (Regresyon) Modeli : Y = b 1 + b 2 X + u Sapmasızlık OLS tahmincilerinin özelliklerini eğim katsayısı ile incelemeye başlayalım. 23

GAUSS-MARKOV TEOREMİ İLE b 1 VE b 2’nin SAPMASIZLIĞI Basit Bağlanım (Regresyon) Modeli : Y = b 1 + b 2 X + u Sapmasızlık Bunun için ilk önce gerçek modeldeki Y değerini tahmincide yerine yazalım. Böylece Y’nin içerdiği unsurları tahmincide ifade etmiş oluruz. 24

GAUSS-MARKOV TEOREMİ İLE b 1 VE b 2’nin SAPMASIZLIĞI Basit Bağlanım (Regresyon) Modeli : Y = b 1 + b 2 X + u Sapmasızlık Pay kısmındaki köşeli parantez içersindeki ifadeyi X ile çarparak Cov ifadesini tekrar düzenleyelim. 25

GAUSS-MARKOV CONDITIONS AND UNBIASEDNESS OF b 1 AND b 2 Basit Bağlanım (Regresyon) Modeli : Y = b 1 + b 2 X + u Sapmasızlık b 1 sabit olduğu için pay kısmındaki ilk terim sıfırdır. İkinci terimde ise b 2 Cov dışına alıyoruz. 26

GAUSS-MARKOV TEOREMİ İLE b 1 VE b 2’nin SAPMASIZLIĞI Basit Bağlanım (Regresyon) Modeli : Y = b 1 + b 2 X + u Sapmasızlık Sonuçta, gerçek değer ile hata terimi ifadeleri elimizde kalmaktadır. 27

GAUSS-MARKOV TEOREMİ İLE b 1 VE b 2’nin SAPMASIZLIĞI Basit Bağlanım (Regresyon) Modeli : Y = b 1 + b 2 X + u Sapmasızlık Sapmasızlığı araştırmak için b 2’nin beklenen değerini alalım. 28

GAUSS-MARKOV TEOREMİ İLE b 1 VE b 2’nin SAPMASIZLIĞI Basit Bağlanım (Regresyon) Modeli : Y = b 1 + b 2 X + u Sapmasızlık Beklenen değeri aldığımızda eşitliğin sağ tarafı yukarıdaki şekilde ayrışır. 29

GAUSS-MARKOV TEOREMİ İLE b 1 VE b 2’nin SAPMASIZLIĞI Basit Bağlanım (Regresyon) Modeli : Y = b 1 + b 2 X + u Sapmasızlık b 2 Sabit olduğu için ilk terim sadece b 2’dir. 30

GAUSS-MARKOV TEOREMİ İLE b 1 VE b 2’nin SAPMASIZLIĞI Basit Bağlanım (Regresyon) Modeli : Y = b 1 + b 2 X + u Sapmasızlık X’in olasılıksal olmaması varsayımı nedeniyle, Var(X)’de olasılıksal değildir. Böylece, eşitliğin sağındaki ikinci terimde bu ifadeyi parantezin dışına alabiliriz. 31

GAUSS-MARKOV TEOREMİ İLE b 1 VE b 2’nin SAPMASIZLIĞI Basit Bağlanım (Regresyon) Modeli : Y = b 1 + b 2 X + u Sapmasızlık Cov(X, u) beklenen değeri sıfırdır. Bu durum kanıtlanabilir. 32

GAUSS-MARKOV TEOREMİ İLE b 1 VE b 2’nin SAPMASIZLIĞI Basit Bağlanım (Regresyon) Modeli : Y = b 1 + b 2 X + u Sapmasızlık (1/n) ifadesi beklenen değerin dışına çıkartıp, birimsel terim toplamları olarak yeniden düzenleyelim. 33

GAUSS-MARKOV TEOREMİ İLE b 1 VE b 2’nin SAPMASIZLIĞI Basit Bağlanım (Regresyon) Modeli : Y = b 1 + b 2 X + u Sapmasızlık X olasılıksal olmadığı için, bu ve ortalamasını içeren terim bir çarpan olarak beklenen değer işleminin dışına alınabilir. 34

GAUSS-MARKOV TEOREMİ İLE b 1 VE b 2’nin SAPMASIZLIĞI Basit Bağlanım (Regresyon) Modeli : Y = b 1 + b 2 X + u Sapmasızlık u’nun beklenen değeri sıfırdır. Böylece, Cov(X, u)’nun beklenen değeride sıfır olmaktadır. 35

GAUSS-MARKOV TEOREMİ İLE b 1 VE b 2’nin SAPMASIZLIĞI Basit Bağlanım (Regresyon) Modeli : Y = b 1 + b 2 X + u Sapmasızlık Sonuçta, b 2’nin, b 2 nin sapmasız tahmincisi olduğunu göstermiş olduk. 36

GAUSS-MARKOV TEOREMİ İLE b 1 VE b 2’nin SAPMASIZLIĞI Basit Bağlanım (Regresyon) Modeli : Y = b 1 + b 2 X + u Sapmasızlık Aynı şekilde, b 1 in b 1’in sapmasız tahmincisi olduğu da gösterilebilir. 37

GAUSS-MARKOV TEOREMİ İLE b 1 VE b 2’nin SAPMASIZLIĞI Basit Bağlanım (Regresyon) Modeli : Y = b 1 + b 2 X + u Sapmasızlık Gerçek modeli kullanarak Y’nin ortalamasını yerine yazalım. 38

GAUSS-MARKOV TEOREMİ İLE b 1 VE b 2’nin SAPMASIZLIĞI Basit Bağlanım (Regresyon) Modeli : Y = b 1 + b 2 X + u Sapmasızlık Sonra beklenen değerini alalım. 39

GAUSS-MARKOV TEOREMİ İLE b 1 VE b 2’nin SAPMASIZLIĞI Basit Bağlanım (Regresyon) Modeli : Y = b 1 + b 2 X + u Sapmasızlık Beklenen değeri kuralarını uygulayarak ifadeyi ayrıştıralım. 40

GAUSS-MARKOV TEOREMİ İLE b 1 VE b 2’nin SAPMASIZLIĞI Basit Bağlanım (Regresyon) Modeli : Y = b 1 + b 2 X + u Sapmasızlık b 1 sabit olduğu için beklenen değeri kendisine eşittir b 2 de sabit olduğundan ikinci terimde parantezin dışına çarpan olarak çıkar. 41

GAUSS-MARKOV TEOREMİ İLE b 1 VE b 2’nin SAPMASIZLIĞI Basit Bağlanım (Regresyon) Modeli : Y = b 1 + b 2 X + u Sapmasızlık u’nun örnek ortalamasının beklenen değeri sıfırdır. Son olarak X’in örnek ortalaması olasılıksal olmadığından, dördüncü terimde parantezin dışına çarpan olarak çıkar. 42

GAUSS-MARKOV TEOREMİ İLE b 1 VE b 2’nin SAPMASIZLIĞI Basit Bağlanım (Regresyon) Modeli : Y = b 1 + b 2 X + u Sapmasızlık E(b 2) , b 2’ye eşittir. Bu nedenle, sonuçta b 1, 43 b 1’nin sapmasız tahmincisidir.

Tesadüfi Değişken Olarak Regresyon Katsayıları Regresyon katsayıları tesadüfi değişkenlerin özel tipidir. X ile Y arasındaki ilişkiyi gösteren basit regresyon modelini kullanarak bu durumu açıklayalım. Yukarıdaki iki eşitlik gerçek 44 model ve tahmin edilen regresyon modelini gösterir.

Tesadüfi Değişken Olarak Regresyon Katsayıları Yukarıda gösterilen eğim katsayısının sıradan EKK tahmincisinin davranışını araştıralım. 45

Tesadüfi Değişken Olarak Regresyon Katsayıları Burada b 2, X ve Y’ye bağlı iken, diğer taraftan Y’deki değişim X, u ve b 1 ve b 2 parametrelerine bağlıdır. Bu nedenle Y’nin davranışı sonuçta X ve u, ve parametreler 46 tarafından etkilenmektedir.

Tesadüfi Değişken Olarak Regresyon Katsayıları b 2’nin davranışını gereği gibi açıklamak için, Y yerine gerçek modeli yerine yazıyoruz. 47

Tesadüfi Değişken Olarak Regresyon Katsayıları İlk kovaryans kuralını kullanarak , payı üç kısma ayıralım. 48

Tesadüfi Değişken Olarak Regresyon Katsayıları b 1 Sabit olduğundan, Cov(X, b 1)sıfırdır. 49

Tesadüfi Değişken Olarak Regresyon Katsayıları İkinci kovaryans kuralını kullanarak, b 2’yi orta terimin dışına alabiliriz. 50

Tesadüfi Değişken Olarak Regresyon Katsayıları Cov(X, X) ile Var(X) ayni ifadedir. Böylece b 2’ iki kısma ayrılabilir : gerçek değer, b 2, ve hata terimi. 51

Tesadüfi Değişken Olarak Regresyon Katsayıları Hata terimi, örnekteki her gözlemin karışıklık teriminin(disturbance term ) değerine bağlıdır, ve böylece de tesadüfi değişkenin özel biçimi olmaktadır. 52

Tesadüfi Değişken Olarak Regresyon Katsayıları Biz onun b 2 üzerindeki etkisini iki şekilde araştırabiliyoruz : İlki doğrudan Monte Carlo denemelerini kullanmak, ikinci ise analitik olarak. 53

Tesadüfi Değişken Olarak Regresyon Katsayıları Y’nin X, parametre değerleri ve u tarafından belirlendiği modeli seçin X için veri seçin Parametre değerlerini seçin u’nun dağılımını seçin Model Y’nin değerlerini üretin Bir monte Carlo denemesi kontrol edilebilen şartlar altında regresyon tahmincilerinin özelliklerini değerlendirmek amacıyla laboratuar benzeri deneme yapmaktır. 54

Tesadüfi Değişken Olarak Regresyon Katsayıları Y’nin X, parametre değerleri ve u tarafından belirlendiği modeli seçin X için veri seçin Parametre değerlerini seçin u’nun dağılımını seçin Model Y’nin değerlerini üretin Basit doğrusal regresyon uygulandığında EKK regresyon katsayılarının davranışını araştıralım. 55

Tesadüfi Değişken Olarak Regresyon Katsayıları Y’nin X, parametre değerleri ve u tarafından belirlendiği modeli seçin X için veri seçin Parametre değerlerini seçin u’nun dağılımını seçin Model Y’nin değerlerini üretin Y’nin X-değişkeni ile hata terimi tarafından belirlendiğini varsayalım. Sonra X değişkeni değerleri ile parametre değerleri seçelim. 56

Tesadüfi Değişken Olarak Regresyon Katsayıları Y’nin X, parametre değerleri ve u tarafından belirlendiği modeli seçin X için veri seçin Parametre değerlerini seçin u’nun dağılımını seçin Model Y’nin değerlerini üretin Ayrıca bilinen bir dağılımdan karışıklık terimleri (disturbance term) değerlerini üretelim. 57

Tesadüfi Değişken Olarak Regresyon Katsayıları Y’nin X, parametre değerleri ve u tarafından belirlendiği modeli seçin X için veri seçin Parametre değerlerini seçin u’nun dağılımını seçin Model Y’nin değerlerini üretin Örnekteki Y’nin değerleri, X değişkeninin değerleri, parametreler ve karışıklık terimi tarafından belirlenecektir. 58

Tesadüfi Değişken Olarak Regresyon Katsayıları Y’nin X, parametre değerleri ve u tarafından belirlendiği modeli seçin X için veri seçin Parametre değerlerini seçin u’nun dağılımını seçin Model Y’nin değerlerini üretin Tahminciler Parametrelerin değerlerinin tahmini Ve sonra yalnızca Y ve X’ler kullanarak parametre tahminleri elde etmek için regresyon tekniğini kullanacağız. 59

Tesadüfi Değişken Olarak Regresyon Katsayıları Y’nin X, parametre değerleri ve u tarafından belirlendiği modeli seçin X için veri seçin Parametre değerlerini seçin u’nun dağılımını seçin Model Y’nin değerlerini üretin Tahminciler Parametrelerin değerlerinin tahmini Tesadüfi olarak elde edeceğimiz yeni karışıklık terimlerini kullanarak ayni X değişkeni ve ayni parametre değerleri ile süreci sonsuz sayıda tekrar edebiliriz. 60

Tesadüfi Değişken Olarak Regresyon Katsayıları Y’nin X, parametre değerleri ve u tarafından belirlendiği modeli seçin X için veri seçin Parametre değerlerini seçin u’nun dağılımını seçin Model Y’nin değerlerini üretin Tahminciler Parametrelerin değerlerinin tahmini Bu şekilde, regresyon tahmincileri için olasılık dağılımını elde edebiliriz. Ve ayrıca onların sapmalı ya da sapmasız olup olmadıklarını kontrol edebiliriz. 61

Tesadüfi Değişken Olarak Regresyon Katsayıları Y’nin X, parametre değerleri ve u tarafından belirlendiği modeli seçin X için veri seçin Parametre değerlerini seçin u’nun dağılımını seçin Y = b 1 + b 2 X + u X= 1, 2, . . . , 20 b 1 = 2. 0 b 2 = 0. 5 u bağımsız olup N(0, 1) Model Y = 2. 0 + 0. 5 X + u Y’nin değerlerini üretin Tahminciler Parametrelerin değerlerinin tahmini Bu denemede örneğimizde 20 gözlem vardır. X, 1, 2, . . . , 20 değerlerini almaktadır. b 1 =2. 0 ve b 2 = 0. 5’dir. 62

Tesadüfi Değişken Olarak Regresyon Katsayıları Y’nin X, parametre değerleri ve u tarafından belirlendiği modeli seçin X için veri seçin Parametre değerlerini seçin u’nun dağılımını seçin Y = b 1 + b 2 X + u X= 1, 2, . . . , 20 b 1 = 2. 0 b 2 = 0. 5 u bağımsız olup N(0, 1) Model Y = 2. 0 + 0. 5 X + u Y’nin değerlerini üretin Tahminciler Parametrelerin değerlerinin tahmini Karışıklık terimi (disturbance term) sıfır ortalamaya ve birim varyansa sahip olacak şekilde normal dağılım kullanılarak tesadüfi olarak üretilir. Böylece Y değerlerini üretiriz. 63

Tesadüfi Değişken Olarak Regresyon Katsayıları Y’nin X, parametre değerleri ve u tarafından belirlendiği modeli seçin X için veri seçin Parametre değerlerini seçin u’nun dağılımını seçin Y = b 1 + b 2 X + u X= 1, 2, . . . , 20 b 1 = 2. 0 b 2 = 0. 5 Model Y = 2. 0 + 0. 5 X + u Y’nin değerlerini üretin Tahminciler Parametrelerin değerlerinin tahmini b 2 = Cov(X, Y)/Var(X); Parametrelerin değerlerini tahmin edin EEK tahmin tekniğini kullanarak Y’nin X’e göre regresyonu tahmin edip değerlerine göre b 1 and b 2 tahminlerimizin nasıl olduğunu göreceğiz. 64 u bağımsız olup N(0, 1) b 1 ve b 2 gerçek

Tesadüfi Değişken Olarak Regresyon Katsayıları Y = 2. 0 + 0. 5 X + u X 2. 0+0. 5 X u Y X 1 2 3 4 5 6 7 8 9 10 Burada keyfi birim esasına göre seçilen X değerleri vardır. 65 2. 0+0. 5 X 11 12 13 14 15 16 17 18 19 20 u Y

Tesadüfi Değişken Olarak Regresyon Katsayıları Y = 2. 0 + 0. 5 X + u X 2. 0+0. 5 X 1 2 3 4 5 6 7 8 9 10 2. 5 3. 0 3. 5 4. 0 4. 5 5. 0 5. 5 6. 0 6. 5 7. 0 Verilen 66 u b 1 ve b 2 katsayılarını Y X 11 12 13 14 15 16 17 18 19 20 2. 0+0. 5 X u Y 7. 5 8. 0 8. 5 9. 0 9. 5 10. 0 10. 5 11. 0 11. 5 12. 0 kullanarak, Y’nin stokastik olmayan unsurunu elde edebiliriz.

Tesadüfi Değişken Olarak Regresyon Katsayıları Stokastik olmayan unsur grafiksel olarak gösterilebilir. 67

Tesadüfi Değişken Olarak Regresyon Katsayıları Y = 2. 0 + 0. 5 X + u X 2. 0+0. 5 X u 1 2 3 4 5 6 7 8 9 10 2. 5 3. 0 3. 5 4. 0 4. 5 5. 0 5. 5 6. 0 6. 5 7. 0 -0. 59 -0. 24 -0. 83 0. 03 -0. 38 -2. 19 1. 03 0. 24 2. 53 -0. 13 Y X 11 12 13 14 15 16 17 18 19 20 2. 0+0. 5 X 7. 5 8. 0 8. 5 9. 0 9. 5 10. 0 10. 5 11. 0 11. 5 12. 0 u Y 1. 59 -0. 92 -0. 71 -0. 25 1. 69 0. 15 0. 02 -0. 11 -0. 91 1. 42 Sonra N(0, 1) dağılımını kullanarak her bir gözlem için tesadüfi bir şekilde karışıklık terimi değeri üretilir. 68

Tesadüfi Değişken Olarak Regresyon Katsayıları Y = 2. 0 + 0. 5 X + u X 2. 0+0. 5 X u Y X 1 2 3 4 5 6 7 8 9 10 2. 5 3. 0 3. 5 4. 0 4. 5 5. 0 5. 5 6. 0 6. 5 7. 0 -0. 59 -0. 24 -0. 83 0. 03 -0. 38 -2. 19 1. 03 0. 24 2. 53 -0. 13 1. 91 11 12 13 14 15 16 17 18 19 20 2. 0+0. 5 X 7. 5 8. 0 8. 5 9. 0 9. 5 10. 0 10. 5 11. 0 11. 5 12. 0 Örneğin ilk gözlem için Y’nin değeri 2. 50 değil 1. 91 olarak elde edilir. 69 u 1. 59 -0. 92 -0. 71 -0. 25 1. 69 0. 15 0. 02 -0. 11 -0. 91 1. 42 Y

Tesadüfi Değişken Olarak Regresyon Katsayıları Y = 2. 0 + 0. 5 X + u X 2. 0+0. 5 X u Y X 1 2 3 4 5 6 7 8 9 10 2. 5 3. 0 3. 5 4. 0 4. 5 5. 0 5. 5 6. 0 6. 5 7. 0 -0. 59 -0. 24 -0. 83 0. 03 -0. 38 -2. 19 1. 03 0. 24 2. 53 -0. 13 1. 91 2. 76 2. 67 4. 03 4. 12 2. 81 6. 53 6. 24 9. 03 6. 87 11 12 13 14 15 16 17 18 19 20 Benzer şekilde diğer 19 gözlem için Y’nin değerleri üretilir. 70 2. 0+0. 5 X 7. 5 8. 0 8. 5 9. 0 9. 5 10. 0 10. 5 11. 0 11. 5 12. 0 u Y 1. 59 -0. 92 -0. 71 -0. 25 1. 69 0. 15 0. 02 -0. 11 -0. 91 1. 42 9. 09 7. 08 7. 79 8. 75 11. 19 10. 15 10. 52 10. 89 10. 59 13. 42

Tesadüfi Değişken Olarak Regresyon Katsayıları 20 gözlemin dağılımı yukarıdadır. 71

Tesadüfi Değişken Olarak Regresyon Katsayıları Y’nin X, parametre değerleri ve u tarafından belirlendiği modeli seçin X için veri seçin Parametre değerlerini seçin u’nun dağılımını seçin Y = b 1 + b 2 X + u X= 1, 2, . . . , 20 u bağımsız olup N(0, 1) Model Y = 2. 0 + 0. 5 X + u Y’nin değerlerini üretin Tahminciler Parametrelerin değerlerinin tahmini Bu noktada biz Monte Carlo denemelerine ulaştık. 72 b 1 = 2. 0 b 2 = 0. 5

Tesadüfi Değişken Olarak Regresyon Katsayıları Y’nin X, parametre değerleri ve u tarafından belirlendiği modeli seçin X için veri seçin Parametre değerlerini seçin u’nun dağılımını seçin Y = b 1 + b 2 X + u X= 1, 2, . . . , 20 b 1 = 2. 0 b 2 = 0. 5 u bağımsız olup N(0, 1) Model Y = 2. 0 + 0. 5 X + u Y’nin değerlerini üretin Tahminciler Parametrelerin değerlerinin tahmini b 2 = Cov(X, Y)/Var(X); Parametrelerin değerlerini tahmin edin Şimdi X ve Y verilerine b 1 ve b 2 için EKK tahmincileri uygulayıp gerçek değerlere göre nasıl tahminler elde edeceğimizi göreceğiz. 73

Tesadüfi Değişken Olarak Regresyon Katsayıları Tekrar dağılma diyagramını inceleyelim. 74

Tesadüfi Değişken Olarak Regresyon Katsayıları Regresyon tahmincileri yalnızca gözlenen X ve Y verilerini kullanır. 75

Tesadüfi Değişken Olarak Regresyon Katsayıları Burada verilere uydurulan regresyon denklemi vardır. 76

Tesadüfi Değişken Olarak Regresyon Katsayıları Karşılaştırma için, gerçek ilişkinin stokastik olmayan unsuruda gösterilmiştir. b 2 (gerçek değeri 0. 50) aşırı tahmin edilirken b 1 (gerçek değer 2. 00) aşağıda tahmin edilmiştir. . 77

Tesadüfi Değişken Olarak Regresyon Katsayıları Y’nin ayni stokastik olmayan unsuruyla başlayarak süreci tekrar inceliyoruz. 78

Tesadüfi Değişken Olarak Regresyon Katsayıları Daha önceden gösterildiği üzere, Y’nin değerleri tesadüfi olarak üretilen karışıklık terimi değerleri ilave edilerek elde edilir. 79

Tesadüfi Değişken Olarak Regresyon Katsayıları Karışıklık teriminin yeni değerleri daha önceden olduğu gibi ayni N(0, 1) dağılımından çekilirken yalnızca bir tanesi şansa bağlı değildir. 80

Tesadüfi Değişken Olarak Regresyon Katsayıları Bu defa eğim katsayısı gerçek değerinin altında, sabit ise gerçek değerinin üzerinde tahmin edilmiştir. 81

Tesadüfi Değişken Olarak Regresyon Katsayıları Süreci bir kez daha tekrar edelim. 82

Tesadüfi Değişken Olarak Regresyon Katsayıları Tesadüfi sayıların yeni seti Y’nin değerlerinin üretilmesinde kullanılmıştır. 83

Tesadüfi Değişken Olarak Regresyon Katsayıları Burada da, gerçek değerlerden eğim katsayısı altta, sabit katsayı ise üstte tahmin edilmiştir. 84

Tesadüfi Değişken Olarak Regresyon Katsayıları Tekerrür 1 2 3 4 5 6 7 8 9 10 b 1 1. 63 2. 52 2. 13 2. 14 1. 71 1. 81 1. 72 3. 18 1. 26 1. 94 b 2 0. 54 0. 48 0. 45 0. 50 0. 56 0. 51 0. 56 0. 41 0. 58 0. 52 Tablo üç regresyon ve ayrıca sürecin 7 kez tekrar edilmesiyle elde edilen sonuçlar özetlenmiştir. 85

Tesadüfi Değişken Olarak Regresyon Katsayıları 10 tekerrür Burada b 2 tahminlerinin histogramı vardır. Ancak henüz hiçbir şey net olarak görülmemektedir. 86

Tesadüfi Değişken Olarak Regresyon Katsayıları 1 -10 11 -20 21 -30 31 -40 41 -50 0. 54 0. 48 0. 45 0. 50 0. 56 0. 51 0. 56 0. 41 0. 58 0. 52 0. 49 0. 54 0. 52 0. 49 0. 53 0. 60 0. 48 0. 54 0. 46 0. 45 0. 50 0. 41 0. 53 0. 47 0. 51 0. 47 0. 52 0. 47 0. 54 0. 53 0. 51 0. 47 0. 55 0. 51 0. 58 0. 49 0. 50 0. 48 0. 44 0. 53 0. 48 0. 47 0. 50 0. 53 0. 51 Burada sürecin ilave 40 tekerrüründen elde edilen 87 b 2 tahminleri vardır.

Tesadüfi Değişken Olarak Regresyon Katsayıları 50 tekerrür Histogram merkezi eğilim göstermeye başlamıştır. 88

Tesadüfi Değişken Olarak Regresyon Katsayıları 100 tekerrür Bu 100 tekerrürün histogramıdır. Burada şunu görebiliriz: gerçek değerin etrafında simetrik bir şekilde ortaya çıkmaktadır ki buda tahmincilerin sapmasız olduğunu gösterir. 89

Tesadüfi Değişken Olarak Regresyon Katsayıları 100 tekerrür Yine de , dağılım hala oldukça girintili çıkıntılıdır. Aslında biz bu süreci en az 1000 tekrar etmeliyiz. 90

Tesadüfi Değişken Olarak Regresyon Katsayıları 1000 tekerrür Kırmızı çizgi dağılımın biçiminin sınırlarını göstermektedir. Gerçek değerin etrafında simetrik olup, tahmincinin sapmasız olduğunu doğrulamaktadır. 91

Tesadüfi Değişken Olarak Regresyon Katsayıları 1000 tekerrür Dağılım normaldir. Karışıklık terimleri normal dağılımdan çekilmiştir. 92

Copyright Christopher Dougherty 1999 -2001. This slideshow may be freely copied for personal use. 93