Çoklu regresyon çÖZÜmlemesi: tahmin sorunu



Yüklə 445 b.
tarix14.09.2018
ölçüsü445 b.


ÇOKLU REGRESYON ÇÖZÜMLEMESİ:

  • TAHMİN SORUNU


ÜÇ DEĞİŞKENLİ MODEL: Gösterimi,Varsayımları

  • Karmaşık bir bilim olan iktisadı açıklamak için iki değişkenli modeller yeterli değildir. Örneğin bir mala karşı olan talep yalnız o malın fiyatına değil, başka rakip ya da tamamlayıcı malların fiyatlarına, tüketicinin gelirine, toplumsal konumuna vb. bağlı olabilir. Bu nedenle iki değişkenli regresyon modelini ikiden çok değişkeni içeren modelleri kapsayacak şekilde genişletmemiz gerekmektedir.



Olabilecek en basit çoklu regresyon

  • Olabilecek en basit çoklu regresyon

  • modeli, bir bağımlı, iki açıklayıcı değişkeni

  • olan üç değişkenli regresyondur.

  • Bu basit modelimizde çoklu doğrusal, yani

  • katsayılarda doğrusal olan regresyon

  • modellerini ele alacağız.

  • Bunlar değişkenlerde doğrusal olabilir ya

  • da olmayabilirler.



İki değişkenli anakütle fonksiyonunu (ARF) genelleştirerek şöyle yazabiliriz;



Üç değişkenli modele ilişkin açıklamaları klasik doğrusal regresyon modeli çerçevesinde sürdürüp, aşağıdaki varsayımlardan hareket edeceğiz.





Model kurma hatası yapılmamıştır.

  • Model kurma hatası yapılmamıştır.

  • Model doğru kurulmuştur.

  • X değişkenleri arasında tam çoklu-doğrusallık yoktur.

  • X2 ile X3 arasında tam doğrusal ilişki yoktur.

  • Çoklu regresyon modeli katsayılarla doğrusaldır.

  • Açıklayıcı değişkenler yinelenen örneklemlerde sabittir.

  • Açıklayıcı değişkenlerde yeterli değişkenlik vardır.



Çoklu doğrusallık nedir?

  • Çoklu doğrusallık, açıklayıcı değişkenlerden hiçbirinin öteki açıklayıcı değişkenlerin doğrusal bir birleşimi olarak yazılamaması demektir.







Çoklu Regresyon Denkleminin Yorumu:



Kısmi Regresyon Katsayılarının Anlamı



Kısmi Regresyon Katsayılarının SEK ve EYO ile Tahmini: SEK Tahmin Edicileri:

  • SEK tahmin edicilerini bulmak için;

  • ÖRF’yi aşağıdaki gibi yazalım:



Kalıntı kareler toplamını en aza indirgeyecek tahmin edicilere ilişkin denklemleri şöyle yazabiliriz;



Bu denklemlerden de hareketle sabit terim ve kısmi regresyon katsayılarının SEK tahmin edicilerini aşağıdaki gibi yazabiliriz.



SEK tahmin edicilerinin varyansları, standart hataları:

  • İki değişkenli regresyon fonksiyonunda olduğu gibi üç değişkenli regresyon fonksiyonunda da güven aralıklarını kurmak önsav sınamalarını yapmak için standart hatalara gerek vardır.

  • İlgili formülleri şöyle yazabiliriz:









SEK Tahmin Edicilerinin Özellikleri



2. Tahmin edilen Yİ’nin ortalaması, gerçek Yi’nin

  • 2. Tahmin edilen Yİ’nin ortalaması, gerçek Yi’nin





olur.

  • olur.

  • 8. Klasik doğrusal regresyon modelinin varsayımları veriyken, kısmi

  • regresyon katsayılarına ilişkin SEK tahmin edicilerinin yalnızca

  • doğrusal ve sapmasız değil, aynı zamanda bütün doğrusal sapmasız

  • tahmin ediciler arasında en küçük varyanslı olduğu da kanıtlanabilir.

  • EYO Tahmin Edicileri:



ÇOKLU BELİRLİLİK KATSAYISI “R²” İLE ÇOKLU KORELASYON KATSAYILARI “R”

  • Çoklu belirlilik katsayısı (R²), üç değişkenli bir modelde

  • Y’deki bir değişimin X2 ve X3 ile topluca açıklanabilen

  • oranını verir.

  • Kavramsal olarak bu değer, iki değişkenli modelde

  • açıkladığımız r² ile yakından ilişkilidir.

  • R²’yi türetebilmek için r² türetme yolunu kullanabiliriz.







R² de r² gibi “0” ile “bir” arasındadır.Eğer ‘1’ ise uydurulan regresyon doğrusu Y’deki değişimin %100’ünü açıklar. ‘0’ ise, model Y’deki değişimi hiç açıklayamaz. R² 1’e ne kadar yakınsa modelin uyumu da o kadar iyidir.

  • R² de r² gibi “0” ile “bir” arasındadır.Eğer ‘1’ ise uydurulan regresyon doğrusu Y’deki değişimin %100’ünü açıklar. ‘0’ ise, model Y’deki değişimi hiç açıklayamaz. R² 1’e ne kadar yakınsa modelin uyumu da o kadar iyidir.

  • Üç ya da daha çok değişkenden oluşan modelde değişkenlerin arasındaki ilişkiyi ölçen katsayı ise çoklu korelasyon katsayısı olarak adlandırılır ve R ile gösterilir.



‘k’ değişkenli bir regresyon modelinde kısmi regresyon katsayısının varyansı ile R² arasındaki ilişki ise şöyle yazılabilir.

  • ‘k’ değişkenli bir regresyon modelinde kısmi regresyon katsayısının varyansı ile R² arasındaki ilişki ise şöyle yazılabilir.



R² ve Düzeltilmiş R²

  • R²’nin önemli bir özelliği, modelde bulunan açıklayıcı ya da bağımsız değişkenlerin azalmayan bir fonksiyonu olmasıdır. Eklenen bir X, R²’yi azaltmaz.

  • İki R² karşılaştırılırken, modeldeki X değişkenlerinin sayısı hesaba katılmalıdır. Aşağıdaki gibi almaşık bir belirlilik katsayısı tanımlanarak bu işlem kolayca yapılabilir.



R² formulünü hatırlayıp, düzeltilmiş R² denkleminde yerine koyarsak;





İki R2’nin Karşılaştırılması

  • İki modeli, ister düzeltilmiş, ister düzeltilmemiş, belirlilik katsayıları temelinde karşılaştırırken örneklem büyüklüğü “n” ile bağımlı değişkenin aynı olması gereği kesinlikle gözardı edilmemelidir.

  • Tahmin edilen modeller arasında seçim yapılırken, R2’si en yüksek olan, daha da önemlisi, modeldeki açıklayıcı değişkenlerin sayısını da dikkate alması nedeniyle düzeltilmiş R2’si en yüksek olan model seçilmelidir. Ancak bu noktadan hareket bizi her zaman doğru sonuca götürmeyebilir. Çünkü yüksek düzetilmiş R2 elde etmek, bazı regresyon katsayılarının istatistik bakımdan anlamsız ya da ters işaretli bulunması sonucunu doğurabilir. Bu nedenle iki model arasında seçim yapılırken açıklayıcı değişkenlerin bağımlı değişkenle olan mantıksal ya da kuramsal ilişkileri ile onların istatistiksel anlamlılıkları birlikte değerlendirilmelidir.



KISMİ KORELASYON KATSAYILARI Basit ve Kısmi Korelasyon Katsayılarının Açıklanması

  • İki değişkenli modelde r korelasyon katsayısını, yani iki

  • değişken arasındaki doğrusal ilişkinin ölçüsünü gösterir.

  • Üç değişkenli modelde üç korelasyon katsayısı

  • hesaplanabilir;

  • r12 : Y ile X2 arasındaki korelasyon katsayısı

  • r13 : Y ile X3 arasındaki korelasyon katsayısı

  • r23 : X2 ile X3 arasındaki korelasyon katsayısı

  • Bu korelasyon katsayılarına brüt ya da basit korelasyon

  • katsayıları veya sıfırıncı dereceden korelasyon katsayıları

  • denir.



Diyelim ki r12, üçüncü bir X3 değişkeni her ikisiyle de ilişkideyken, Y

  • Diyelim ki r12, üçüncü bir X3 değişkeni her ikisiyle de ilişkideyken, Y

  • ile X2 arasındaki doğrusal bir ilişkinin derecesini doğru ölçebilir mi?

  • Genellikle doğru ölçmez. Bu nedenle X3’ün gerek Y, gerek X2

  • üzerindeki etkilerinden bağımsız bir korelasyon katsayısına

  • gereksinimimiz vardır. Böyle bir korelasyon katsayısı vardır ve kısmi

  • korelasyon katsayısı olarak adlandırılır.

  • r12.3 : X3 sabit tutulurken Y ile X2 arasındaki kısmi korelasyon

  • katsayısı

  • r13.2 : X2 sabit tutulurken Y ile X3 arasındaki kısmi korelasyon

  • katsayısı

  • r23.1 : Y sabit tutulurken X2 ile X3 arasındaki kısmi korelasyon

  • katsayısı



Kısmi korelasyon katsayılarını hesaplamanın bir yolu;

  • Kısmi korelasyon katsayılarını hesaplamanın bir yolu;



Buradan, X3 sabitken Y ile X2 arasındaki kısmi korelasyon, Y’nin X3’e göre ve X2’nin X3’e göre regresyonlarından bulunan kalıntılar arasındaki basit korelasyon katsayısından başka bir şey değildir.

  • Buradan, X3 sabitken Y ile X2 arasındaki kısmi korelasyon, Y’nin X3’e göre ve X2’nin X3’e göre regresyonlarından bulunan kalıntılar arasındaki basit korelasyon katsayısından başka bir şey değildir.

  • Kısmi korelasyon katsayılarını daha kolay bir biçimde;



ÇOK TERİMLİ REGRESYON MODELLERİ

  • İktisat ilminde bir malın üretiminin marjinal maliyetinin önce azalan sonra artan bir özellik taşıdığı bir gerçektir.Bunu açıklayacak ekonometri modelini;



ÇOKLU REGRESYON ÇÖZÜMLEMESİ

  • ÇIKARSAMA SORUNU



Varsayımlar;

  • Bu bölümda amacımız anakütle parametrelerinin nokta

  • tahminini yapmanın yanısıra çıkarsama da olduğundan,

  • ui ‘nin belli bir olasılık dağılımına uyduğu varsayımını

  • yapmamız gerekmektedir. Bu noktadan haraketle;

  • ui ‘nin sıfır ortalamalı, sabit σ² varyanslı normal dağılıma

  • uyduğunu varsayacağız.



ÇOKLU REGRESYONDA ÖNSAV SINAMASI: Tekil Kısmi Regresyon Katsayılarına İlişkin Önsav Sınaması

  • Bilindiği gibi sıfır önsavı, Y’nin açıklayıcı değişken X ile herhangi bir ilişkisi olup olmadığını bulmaktır.

  • Sıfır önsavı güven aralığı ile ya da t sınaması yaklaşımıyla kolayca sınanabilir.

  • ui ~ N (0 , σ²) varsayımından hareketle, herhangi bir tekil kısmi regresyon katsayısına ilişkin bir önsavı sınarken t sınamasını kullanabiliriz.



Örneklem Regresyonunun Bütününün Anlamlılık Sınaması Varyans Çözümlemesi Yaklaşımı: F Sınaması

  • Gerçek kısmi eğim katsayılarının aynı anda sıfır olduğu biçimindeki ortak önsavı sınarken alışıldık t sınamasını kullanamayız. Bu ortak önsav, varyans çözümlemesi (VARÇÖZ) tekniği ile sınanabilir. Bu sınama şöyle gösterilebilir:



Üç Değişkenli Regresyon İçin VARÇÖZ Çizelgesi



Aşağıdaki k değişkenli ,

  • Aşağıdaki k değişkenli ,

  • Yi=β1+β2X2İ+β3X3İ+………+βkXki+ui

  • regresyon modeli veriyken,

  • H0: β2=β3=………………=βk=0

  • önsavını (yani bütün eğim katsayılarının aynı anda sıfır olduğu önsavını)

  • H1: Bütün katsayıları aynı anda sıfır değildir önsavına karşı sınamak için,



hesaplanır. Eğer F>Fα(k-1,n-k) ise, H0 reddedilir, aksi halde reddedilmez.

  • hesaplanır. Eğer F>Fα(k-1,n-k) ise, H0 reddedilir, aksi halde reddedilmez.

  • Burada Fα(k-1,n-k), α anlamlılık düzeyinde, payın sd’si k-1; paydanın

  • sd’si n-k iken eşik F değeridir. Yukarıdaki formülden elde

  • edilen F’in değeri yeteri kadar düşükse H0 reddedilir.



R² ile F Arasındaki İlişki;

  • Belirlilik katsayısı R² ile varyans çözümlemesinde kullanılan F

  • sınaması arasında yakın bir ilişki vardır.

  • k değişkenli bir durumda, ui bozucuların normal dağıldığını ve sıfır

  • önsavının,

  • H0 : β2=β3=…………= βk=0 olduğunu varsayarsak,

  • AKT/ (k-1)

  • F= -------------------

  • KKT/ (n-k)

  • değeri, k-1 ve n-k sd ile F dağılımına uyar. Bu formulü biraz

  • genişleterek ve R² = AKT/BKT tanımından yararlanarak, F ile R²

  • ilişkisini aşağıdaki gibi ifade edebiliriz;



n-k AKT

  • n-k AKT

  • F= -------- -----------

  • k-1 KKT

  • n-k AKT

  • = ------- -------------

  • k-1 BKT-AKT

  • n-k AKT/BKT

  • = ------- -----------------

  • k-1 1-(AKT/BKT)

  • n-k R²

  • = ------- ----------

  • k-1 1- R²

  • R²/ (k-1)

  • = ---------------

  • (1- R²)/(n-k)



Üç değişkenli durumda denklemimizi

  • Üç değişkenli durumda denklemimizi

  • R²/2

  • F= -----------------

  • (1- R²)/(n-3)

  • şeklinde ifade edebiliriz.

  • Açıklayıcı Bir Değişkenin “Ek” ya da “Marjinal”

  • Katkısı:

  • Regresyon modelimize X2 ile X3’ü ardarda kattığımızı düşünelim. Bu

  • değişkenlerin modele eklenmesinin AKT’yi (böylelikle de R²’yi ) KKT’ye

  • oranla “anlamlı” bir şekilde artırıp artırmadığı hususu bize açıklayıcı

  • bir değişkenin ek ya da marjinal katkısını verecektir.



Modelimize yeni bir değişken eklendiğinde karşımıza çıkan soruların cevaplarını Varyans çözümlemesi tekniği ile bulabiliriz.

  • Modelimize yeni bir değişken eklendiğinde karşımıza çıkan soruların cevaplarını Varyans çözümlemesi tekniği ile bulabiliriz.

  • X2 ile X3 değişkenlerini ardarda kattığımızda karşımıza çıkan sorular;

  • 1. X2’nin “AKT”yi anlamlı bir biçimde artırıp artırmadığı,

  • 2. X2 zaten modeldeyken ve Y ile anlamlı bir ilişkisi varken

  • X3’ü modele kattığımızda, X3’ün modele ek ya da marjinal katkısı

  • ne kadardır?

  • 3. Bu ek katkı istatistik bakımdan anlamlı mıdır?

  • 4. Bir modele değişkenler hangi ölçüte göre katılır?



Bir/birkaç değişkenin ek katkısını ölçmek için VARÇÖZ çizelgesi



Modele yeni bir değişken ne zaman eklenmelidir?

  • Bir değişkenin modele eklenip eklenmemesi kararını vermede F sınamasından yararlanılır.

  • Bir değişken, düzeltilmiş R²’yi ne kadar yükseltirse KKT’yi istatistik anlamında önemli ölçüde azaltmasa da modelde kalır.

  • Düzeltilmiş R² ne zaman yükselir?

  • Yeni eklenen değişkenin katsayısının t değeri mutlak olarak

  • 1’den büyükse düzeltilmiş R² yükselir.

  • Burada t değeri, söz konusu katsayının anakütledeki değerinin

  • sıfır olduğu önsavı altında hesaplanmıştır.

  • Bir değişken kümesinin modele eklenmesinde de aynı şeyleri söyleyebiliriz.



İki Regresyon Katsayısının Eşitliğinin Sınanması

  • Varsayalım ki;



Böyle bir sıfır önsavını klasik varsayımlar altında şöyle sınayabiliriz;

  • Böyle bir sıfır önsavını klasik varsayımlar altında şöyle sınayabiliriz;



Sınama süreci şu adımlardan oluşur;

  • Sınama süreci şu adımlardan oluşur;



SINIRLI EN KÜÇÜK KARELER: Doğrusal Eşitlik Sınırlamalarının Sınanması

  • İktisat kuramı, bir regresyon modelindeki katsayıların bazı doğrusal eşitlik sınırlamalarını sağlamasını öngerebilir. Mesela Cobb-Douglas üretim fonksiyonunu ele aldığımızda,



Doğrusal eşitlik sınırlamasının geçerli olup olmadığı nasıl anlaşılabilir?

  • Doğrusal eşitlik sınırlamasının geçerli olup olmadığı nasıl anlaşılabilir?

  • t sınaması yaklaşımı:

  • β2 ile β3 tahmin edildikten sonra, sınırlamanın saptanması t

  • sınamasıyla yapılabilir:



F Sınaması Yaklaşımı: Sınırlı En Küçük Kareler

  • F sınamasında sınırlama denkleme işin başında konulur.

  • β2=1-β3 ya da β3=1- β2

  • Bu iki eşitlikten birini kullanarak logaritmik fonksiyonda yazdığımız

  • Cobb-Douglas üretim fonksiyonundaki β katsayılarından birini

  • eleyebilir, kalan denklemi tahmin edebiliriz. β2=1-β3 ‘ü kullanarak

  • Cobb-Douglas üretim fonksiyonunu şöyle yazabiliriz:

  • lnYi=β0+(1-β3)lnX2i+β3lnX3i+ui

  • =β0+lnX2i+β3(lnX3i-lnX2i)+ui

  • ya da

  • (lnYi-lnX2i) = β0+ β3(lnX3i-lnX2i)+ui

  • ln(Yi/X2i) = β0+ β3(lnX3i/lnX2i)+ui



Sınırlamanın geçerli olduğunu nasıl bilebiliriz?

  • Sınırlamanın geçerli olduğunu nasıl bilebiliriz?





GENEL F SINAMASI

  • F Sınaması, aşağıdaki k değişkenli regrosyon modelinde bir ya

  • da daha çok anakütle katsayısının sınanması için genel bir

  • yöntemdir.



Doğrusal eşitlik sınırlamalarının sınanmasına ilişkin F sınaması formülünden F hesaplanır ve;

  • Doğrusal eşitlik sınırlamalarının sınanmasına ilişkin F sınaması formülünden F hesaplanır ve;

  • Eğer hesaplanan F, F (m, n-k)’den büyükse sıfır önsavı reddedilir, aksi halde kabul edilir.



Regresyon Fonksiyon Kalıbının Sınanması: Doğrusal ile Log-Doğrusal Modelleri Arasında Seçim

  • Doğrusal bir regresyon modeli ile log-doğrusal regresyon modeli arasında seçim yapmak üzere MWD sınaması denilen bir sınamayı kullanabiliriz. Bu sınamayı açıklamak için şu varsayımları yapalım;

  • H0: Doğrusal Model: Y, açıklayıcı değişken X’lerin doğrusal bir fonksiyonudur.

  • H1: Log-doğrusal Model: lnY, açıklayıcı değişkenler X’lerin logaritmalarının doğrusal bir fonksiyonudur.



MWD sınaması şu adımları içerir.

  • MWD sınaması şu adımları içerir.

  • Doğrusal modeli tahmin edip, Y değerlerini kestirin; bunlara Yf adını verin.

  • Log- doğrusal modeli tahmin edip lnY değerlerini kestirin; bunlara da lnf adını verin.

  • Z1=(lnYf-Yf) değerlerini hesaplayın.

  • Y’nin X’lere ve 3. adımda bulduğumuz Z1’e göre regresyonunu hesaplayın. Eğer Z1’in katsayısı bildik t sınamasıyla istatistik bakımından anlamlı çıkıyorsa H0’ı reddedin.

  • Z2=(ters lnf-Yf) değerlerini hesaplayın.

  • Y’nin logaritmasının, X’lerin ve Z2’nin logaritmalarına göre regresyonunu bulun. Z2’nin katsayısı bildik t sınamasıyla istatistik bakımından anlamlı çıkıyorsa H1’i reddedin.



  • Hazırlayan:

  • Nazlı YILMAZ ÖZDEMİR





Dostları ilə paylaş:


Verilənlər bazası müəlliflik hüququ ilə müdafiə olunur ©genderi.org 2017
rəhbərliyinə müraciət

    Ana səhifə