Maximum Likelihood (ML)

Yüklə 0,63 Mb.

tarix	17.09.2018
ölçüsü	0,63 Mb.
	#69208

Maximum Likelihood (ML)

Maximum Likelihood (ML)
Pendugaan ML memfokuskan fakta bahwa populasi-populasi yang berbeda membangkitkan contoh-contoh yang berbeda pula. Penduga ML suatu parameter β adalah nilai b yang paling mungkin membangkitkan pengamat-pengamatan contoh Y1, Y2, . . . , Yn. Jika Y menyebar normal, dan masing-masing Y diambil secara bebas, maka penduga ML akan maksimumkan nilai
��(β)=p(Y1)p(Y2). . . . . . P(Yn) . . . . . . . . . . . . . . . (1) .

Di mana P(Yi) mempresentasikan suatu peluang yang dikaitkan dengan sebaran normal. Pers(1) disebut fungsi kemungkinan (likelihood function). Fungsi ini tidak hanya tergantung dari nilai Yi tetapi juga tergantung dari nilai β yang akan diduga. Prose-dur metode ML adalah dengan mencari dugaan parameter yang paling mungkin membangkitkan data contoh tersebut.

Di mana P(Yi) mempresentasikan suatu peluang yang dikaitkan dengan sebaran normal. Pers(1) disebut fungsi kemungkinan (likelihood function). Fungsi ini tidak hanya tergantung dari nilai Yi tetapi juga tergantung dari nilai β yang akan diduga. Prose-dur metode ML adalah dengan mencari dugaan parameter yang paling mungkin membangkitkan data contoh tersebut.
Misalkan model yang akan diduga : Yi = α + βXi + εi. Nilai Y menyebar normal dengan nilai tengah (α + βXi) dan ragam σ2. Sebaran peluangnya adalah:
Likelihood functionnya adalah:

Fungsi pers (3) hanya merupakan fungsi dari vektor parameter β(α, β, σ2) yang tidak diketahui. Untuk mencari dugaan par-meter β(α, β, σ2) dapat diturunkan sbb:

Fungsi pers (3) hanya merupakan fungsi dari vektor parameter β(α, β, σ2) yang tidak diketahui. Untuk mencari dugaan par-meter β(α, β, σ2) dapat diturunkan sbb:
Pers (3) dapat ditulis dalam bentuk log sbb:
Turunan parsial terhadap α, β, σ2 menghasilkan :

Dari Pers (5) sampai dengan (7) mengahsilkan penduga kemung-kinan maksimum (maximum likelihood estimator) sbb:

Dari Pers (5) sampai dengan (7) mengahsilkan penduga kemung-kinan maksimum (maximum likelihood estimator) sbb:
Dari Pers(8) dapat ditunjukkan bahwa dugaan dengan metode ML menghasilkan nilai yang sama dengan metode OLS, dan keduanya adalah BLUE. Namun dugaan σ2 dengan metode ML bersifat bias meskipun konsisten.
Metode Pendugaan Peubah Instrumental
Jika peubah X berkorelasi dengan sisaan ( ) maka metode OLS tidak menghasilkan penduga parameter yang tidak bias dan konsisten. Penyebab utamanya adalah:
Kesalahan pengukuran dalam peubah X
Nilai peubah X ditentukan sebagian oleh Y

Khasus Kesalahan Pengukuran Y:

Khasus Kesalahan Pengukuran Y:
Misal model dalam bentuk deviasi terhadap nilai tengah adalah:
yi= βxi + εi . . . . . . . . . . . . . . . . . . . . . . . . . . (9)
Hasil pengamatan peubah tak bebas adalah y* di mana
y*i = yi + ui , dan Cov(u,x)=0 . . . . . . . . . . . . . . . (10)
Akibatnya adalah :
y*i = βxi + (εi+ui) . . . . . . . . . . . . . . . . . . (11)
Selama x dan u tidak berkorelasi maka penduga β dengan OLS bersifat tidak bias. Kesalahan pengukuran peubah Y hanya mengakibatkan kenaikan ragam galat(sisaan).
Khasus Kesalahan Pengukuran X
Misal model dalam bentuk deviasi terhadap nilai tengah adalah:
yi= βxi + εi . . . . . . . . . . . . . . . . . . . . . . . . . .(12)

Hasil pengamatan peubah tak bebas adalah x* di mana

Hasil pengamatan peubah tak bebas adalah x* di mana
x*i = xi + vi . . . . . . . . . . . . . . . . . . . . . . . .(13)
Akibatnya adalah :
yi = βx*i + (εi-βvi)= βx*i + ε*i . . . . . . . . (14)
Walaupun memenuhi asumsi-asumsi OLS, tetapi sisaan (ε*i ) dan x*i berkorelasi atau covariance tidak sama dengan nol.
Cov(ε*i , x*i )=E(εi-βvi)+ (xi + vi )=-βσv2 . . . . . . . (15)
Oleh karena itu penduga β dengan OLS bersibat bias dan tidak konsisten. Besarnya bias dan ketidak konsistenannya berkaitan dengan ragam dari kesalahan pengukuran. Suatu teknik untuk mengatasi hal ini adalah dengan pendugaan peubah instrumental (instrumental-variables estimation).

Prosedur pendugaan peubah instrumental adalah dengan mencari peubah baru Z(instrument) yang berkorelasi dengan X tetapi tidak berkorelasi dengan ε dan kesalahan dalam pengukuran. Peubah acak Z sebagai instrumen jika :

Prosedur pendugaan peubah instrumental adalah dengan mencari peubah baru Z(instrument) yang berkorelasi dengan X tetapi tidak berkorelasi dengan ε dan kesalahan dalam pengukuran. Peubah acak Z sebagai instrumen jika :
(1) Korelasi Z dengan , u, dan v mendekati 0 pada ukuran contoh menjadi besar.
(2) Korelasi Z dengan X tidak sama dengan 0 pada saat ukuran contoh menjadi besar.
Dugaan parameter dengan metode peubah instrument :
Dari pers(16) dapat ditunjukkan bahwa pendugaan dengan peubah instrumen menjamin bahwa β* akan mendekati β jika ukuran contohnya beras atau cov (z, ε*) → 0. Namun jika x* diganti dengan z maka tdk akan menghasilkan penduga yg konsisten.

Spesifikasi Model dan Tahapan Pemodelan Ekonometrika

Spesifikasi Model dan Tahapan Pemodelan Ekonometrika
Dalam kenyataannya, kita tidak pernah tahu bahwa spesifikasi model yang dibangun pasti benar. Oleh karena itu dalam setiap persamaan struktural selalu mencakup unsur error (ε ) :
Y = f(X1, X2, . . . . , Xk) + error
data = dugaan + sisaan (simpangan)
data = komponen sistematik + komponen non sistematik
Komponen error paling tidak terdapat 4 komponen:
Kesalahan pengukuran dan proxy dari peubah Y maupun X
Bentuk fungsi yang mungkin tidak sesuai (salah)
Peubah penting tidak masuk model
Pengaruh faktor lain yang belum terpikirkan atau tidak dapat
diramalkan (unpredictable effects)

MODEL-MODEL KUALITATIF

MODEL-MODEL KUALITATIF
Dalam bab ini dibicarakan beberapa model kualitatif, yaitu model peluang linier, model probit dan model logit.
Model Peluang Linier
Bentuk Umum model ini adalah :
Di mana Xi = nilai karakteristik individu, misalnya pendapatan
Yi = 1, jika pilihan kesatu dipilih (beli mobil)
Yi = 0, jika pilihan kedua dipilih (tidak beli mobil)
εi = peubah acak yang menyebar bebas dengan nilai
tengah nol.
Interpretasi pers (17) dilakukan dengan menentukan nilai harapan mssing-masing pengamatan peubah Yi

Oleh karena Y hanya mempunyai nilai 0 dan 1 maka:

Oleh karena Y hanya mempunyai nilai 0 dan 1 maka:
Pi =P(Yi=1) dan 1-Pi =P(Yi=0)
Sehingga E(Yi)=1(Pi) + 0(1-Pi)= Pi
Ini berarti bahwa model tersebut menggambarkan peluang bahwa individu ke i dengan pendapatan tertentu akan membeli mobil. Nilai β mengukur pengaruh peubahan 1 unit pendapatan terhadap perubahan peluang membeli mobil.
Dugaan model peluang linier sering ditulis:
Sebaran peluang komponen sisaan ditentukan dengan memasukkan nilai Y dalam pers (17),tercantum pada Tabel 1

Tabel 1.

Tabel 1.
Ragam komponen sisaan adalah:

Peubah Y menyebar menurut sebaran peluang Bernouli.

Peubah Y menyebar menurut sebaran peluang Bernouli.
Sementara itu, Pers (21) menunjukkan bahwa komponen sisaan bersifat heteroskedastisitas. Salah satu cara untuk mengatasinya adalah dengan WLS. Namun hal ini cukup kompleks. Oleh karena itu disarankan tidak menggunakan model ini, tetapi penggunakan model Probit atau Logit.
Model Probit
Dalam model ini nilai Y ditransformasi, yang salah satu bentuk-nya adalah fungsi peluang komulatif (cumulative probability function), F. Sebarannya adalah:
Pi = F(α + βXi ) = F(Zi) (22)
Diasumsikan bahwa indeks Z bernilai kontinu secara teoritis yang ditentukan oleh peubah bebas X, sehingga dapat ditulis :
Zi = α + βXi (23)

Model probit mengasumsikan bahwa Z merupakan peubah acak yang menyebar normal sehingga peluang bahwa Z lebih kecil (atau sama dengan) zi dapat dihitung dari fungsi peluang lomulatif:

Model probit mengasumsikan bahwa Z merupakan peubah acak yang menyebar normal sehingga peluang bahwa Z lebih kecil (atau sama dengan) zi dapat dihitung dari fungsi peluang lomulatif:
Dimana s adalah suatu peubah acak yang menyebar normal dengan nilai tengah 0 dan ragam 1. Dengan pers (24) peubah Pi akan bernilai dalam selang (0, 1). Pi menggambarkan peluang individu berpendapatan Xi memilih pilihan-1(beli mobil). Oleh karena peluang ini diukur berdasarkan luas dibawah kurva baku normal dari ‒∞ sampai Zi, maka peluang pilihan -1 akan makin tinggi jika nilai indeks Z makin tinggi. Untuk menduga indeks Z digunakan inverse dari fungsi normal baku pers(24) dengan:
Zi = F-1(Pi) = α + βXi (25)

Tabel 2. menggambarkan hubungan dalam pers(24) untuk bebe-rapa nilai Z. Fungsi peluang kumulatif digambarkan pada Gambar 1.

Tabel 2. menggambarkan hubungan dalam pers(24) untuk bebe-rapa nilai Z. Fungsi peluang kumulatif digambarkan pada Gambar 1.
Tabel 2. Hubungan Z dan Sebaran Peluang Normal Kumulatif

Model Logit

Model Logit
Model ini diturunkan berdasarkan peluang logistik kumulatif :
Di mana e=bilangan dasar logaritma natural (e=2.718….). Pemilihan sebaran logistik kumulatif kareana interpretasinya yang logis , ditunjukkan oleh: 0 ≤ E(Y/Xi) = Pi ≤ 1 . Di samping itu fungsi ini sangat fleksibel, mudah digunakan dan koefisien parameter muda diinterpretasikan.
Pers (26) dapat dirubah :

P/(i-P) dalam pers (27) disebut odds, yaitu rasio terjadinya peluang pilihan-1 terhadap peluang terjadinya pilihan-0 alternatifnya. Jika pers(27) ditransformasikan dengan logaritma natural maka :

P/(i-P) dalam pers (27) disebut odds, yaitu rasio terjadinya peluang pilihan-1 terhadap peluang terjadinya pilihan-0 alternatifnya. Jika pers(27) ditransformasikan dengan logaritma natural maka :
Pers (28) menunjukkan bahwa salah satu karakteristik penting dari model logit adalah menstranformasikan prediksi peluang dalam selang (0, 1) ke masalah prediksi log odds tentang keja-dian (Y=1) dalam selang bilangan ‒∞≤logit(Pi) ≤∞
Pendugaan Parameter Koefisien Model Logit
Pada umumnya pendugaan model logit menggunakan metode kemungkinan maksimum (Maximum Likelihood=ML)

Prosedur metode ML, misalkan:

Prosedur metode ML, misalkan:
Pi= P(y=1/xi) = P(xi) : peluang bahwa Y=1 jika diketahui X=xi
1-Pi= P(y=0/xi) = P(xi) : peluang bahwa Y=0 jika diketahui X=xi
Fungsi peluang untuk pengamatan berpasangan (yi, xi) untuk i=1, 2, . . N adalah :
Karena n pengamatan (x, y) diasumsikan bebas, fungsinya :
Prinsip prosedure MLE adalah menentukan dugaan β yang nilainya akan memaksimumkan peluang bersama n pers(30). Karena turunan pertama pers (30) sulit dicari maka pers (30) ditransformasikan dalam logaritma natural

Aplikasi Model Logistik

Aplikasi Model Logistik
Untuk mengetahui pengaruh umur (X2), jenis kelamin (X3) dan tingkat pendapatan (X4) terhadap keputusan membeli atau tidak membeli mobil digunakan digunakan model sbb:
Di mana Y=1, jika konsumen membeli mobil, Y=0, jika konsumen tidak membeli mobil. X3=1, jika wanita dan X3=0 jika pria. X4 dikonversi menjadi peubah dummy D1 dan D2. D1=1 jika pendapatan sedang, D1=0, jika lainnya, D2=1, jika pendapatan tinggi dan D2=0, jika lainnya. Data diambil dari survey terhadap 150 responden, disajikan pada Tabel 3

Logistic Regression Table

Logistic Regression Table
Log-Likelihood = -96.088
Test that all slopes are zero : G=11.239, DF = 4, P-Value = 0.024
Measures of Association:
(Between the Response Variable and Predicted Probabilities)
Pairrs Number Percent Summary Measures
Concordant 3618 66.3 Somers’ D 0.34
Discordant 1752 32.1 Goodman-Kruskal Gamma 0.35
Ties 86 1.6 Kendall’s Tau-a 0.17
Total 5456 100.0

Dari uji_G = 11.239 dapat disimpulkan bahwa model regresi logistik secara keseluruhan dapat menjelaskan atau memprediksi keputusan responden dalam membeli mobil (Y=1) minimal ada satu β≠ 0 untuk j=2,3,4,5.

Dari uji_G = 11.239 dapat disimpulkan bahwa model regresi logistik secara keseluruhan dapat menjelaskan atau memprediksi keputusan responden dalam membeli mobil (Y=1) minimal ada satu β≠ 0 untuk j=2,3,4,5.
Dari output komputer dapat disimpulkan bahwa faktor yang mempengaruhi keputusan membeli mobil adalah jenis kelamin(X3) dan pendapatan (X4), detailnya sbb:
Peluang membeli mobil konsumen wanita 1.98 kali diban- dingkan konsumen pria, jika umur dan pendapatan sama
Peluang membeli mobil untuk kelompok konsumen berpendapatan sedang (D1=1) sama saja dengan kelompok pendapatan rendah (D1=0). Tetapi peluang membeli mobil kelompok pendapatan tinggi 2.60 dibandingkan lainnya, jika umur dan jenis kelamin sama.

Dari nilai Concordant dapat disimpulkan bahwa 66.3% pengamatan dengan kategori membeli mobil (Y=1) mempunyai peluang membeli mobil lebih besar daripada peluang tidak membeli mobil .

Dari nilai Concordant dapat disimpulkan bahwa 66.3% pengamatan dengan kategori membeli mobil (Y=1) mempunyai peluang membeli mobil lebih besar daripada peluang tidak membeli mobil .
Dari nilai Discordant menujukkan bahwa 32.1% pengamatan dengan kategori tidak membeli (Y=0) mempunyai peluang membeli mobil peluang lebih besar peluang tidak membeli mobil.
Ties merupakan persentase pengamatan dengan peluang pada kategori membeli sama dengan peluang kategori tidak membeli.
Ukuran Asosiasinya (Somers’D, Godman-Kruskal Gamma, dan Kendall’s Tau-a) tidak begitu besar. Ukuran asosiasi semakin dekat dengan nilai 1, maka semakin baik daya prediksinya dari model dugaan yang diperoleh .

Yüklə 0,63 Mb.

Dostları ilə paylaş:

Maximum Likelihood (ML)

Maximum Likelihood (ML)

Maximum Likelihood (ML)

��(β)=p(Y1)p(Y2). . . . . . P(Yn) . . . . . . . . . . . . . . . (1) .

Misalkan model yang akan diduga : Yi = α + βXi + εi. Nilai Y menyebar normal dengan nilai tengah (α + βXi) dan ragam σ2. Sebaran peluangnya adalah:

Likelihood functionnya adalah:

Fungsi pers (3) hanya merupakan fungsi dari vektor parameter β(α, β, σ2) yang tidak diketahui. Untuk mencari dugaan par-meter β(α, β, σ2) dapat diturunkan sbb:

Fungsi pers (3) hanya merupakan fungsi dari vektor parameter β(α, β, σ2) yang tidak diketahui. Untuk mencari dugaan par-meter β(α, β, σ2) dapat diturunkan sbb:

Pers (3) dapat ditulis dalam bentuk log sbb:

Turunan parsial terhadap α, β, σ2 menghasilkan :

Dari Pers (5) sampai dengan (7) mengahsilkan penduga kemung-kinan maksimum (maximum likelihood estimator) sbb:

Dari Pers (5) sampai dengan (7) mengahsilkan penduga kemung-kinan maksimum (maximum likelihood estimator) sbb:

Dari Pers(8) dapat ditunjukkan bahwa dugaan dengan metode ML menghasilkan nilai yang sama dengan metode OLS, dan keduanya adalah BLUE. Namun dugaan σ2 dengan metode ML bersifat bias meskipun konsisten.

Metode Pendugaan Peubah Instrumental

Jika peubah X berkorelasi dengan sisaan ( ) maka metode OLS tidak menghasilkan penduga parameter yang tidak bias dan konsisten. Penyebab utamanya adalah:

Kesalahan pengukuran dalam peubah X

Nilai peubah X ditentukan sebagian oleh Y

Khasus Kesalahan Pengukuran Y:

Khasus Kesalahan Pengukuran Y:

Misal model dalam bentuk deviasi terhadap nilai tengah adalah:

yi= βxi + εi . . . . . . . . . . . . . . . . . . . . . . . . . . (9)

Hasil pengamatan peubah tak bebas adalah y* di mana

y*i = yi + ui , dan Cov(u,x)=0 . . . . . . . . . . . . . . . (10)

Akibatnya adalah :

y*i = βxi + (εi+ui) . . . . . . . . . . . . . . . . . . (11)

Selama x dan u tidak berkorelasi maka penduga β dengan OLS bersifat tidak bias. Kesalahan pengukuran peubah Y hanya mengakibatkan kenaikan ragam galat(sisaan).

Khasus Kesalahan Pengukuran X

Misal model dalam bentuk deviasi terhadap nilai tengah adalah:

yi= βxi + εi . . . . . . . . . . . . . . . . . . . . . . . . . .(12)

Hasil pengamatan peubah tak bebas adalah x* di mana

Hasil pengamatan peubah tak bebas adalah x* di mana

x*i = xi + vi . . . . . . . . . . . . . . . . . . . . . . . .(13)

Akibatnya adalah :

yi = βx*i + (εi-βvi)= βx*i + ε*i . . . . . . . . (14)

Walaupun memenuhi asumsi-asumsi OLS, tetapi sisaan (ε*i ) dan x*i berkorelasi atau covariance tidak sama dengan nol.

Cov(ε*i , x*i )=E(εi-βvi)+ (xi + vi )=-βσv2 . . . . . . . (15)

Oleh karena itu penduga β dengan OLS bersibat bias dan tidak konsisten. Besarnya bias dan ketidak konsistenannya berkaitan dengan ragam dari kesalahan pengukuran. Suatu teknik untuk mengatasi hal ini adalah dengan pendugaan peubah instrumental (instrumental-variables estimation).

Prosedur pendugaan peubah instrumental adalah dengan mencari peubah baru Z(instrument) yang berkorelasi dengan X tetapi tidak berkorelasi dengan ε dan kesalahan dalam pengukuran. Peubah acak Z sebagai instrumen jika :

Prosedur pendugaan peubah instrumental adalah dengan mencari peubah baru Z(instrument) yang berkorelasi dengan X tetapi tidak berkorelasi dengan ε dan kesalahan dalam pengukuran. Peubah acak Z sebagai instrumen jika :

(1) Korelasi Z dengan , u, dan v mendekati 0 pada ukuran contoh menjadi besar.

(2) Korelasi Z dengan X tidak sama dengan 0 pada saat ukuran contoh menjadi besar.

Dugaan parameter dengan metode peubah instrument :

Dari pers(16) dapat ditunjukkan bahwa pendugaan dengan peubah instrumen menjamin bahwa β* akan mendekati β jika ukuran contohnya beras atau cov (z, ε*) → 0. Namun jika x* diganti dengan z maka tdk akan menghasilkan penduga yg konsisten.

Spesifikasi Model dan Tahapan Pemodelan Ekonometrika

Spesifikasi Model dan Tahapan Pemodelan Ekonometrika

Dalam kenyataannya, kita tidak pernah tahu bahwa spesifikasi model yang dibangun pasti benar. Oleh karena itu dalam setiap persamaan struktural selalu mencakup unsur error (ε ) :

Y = f(X1, X2, . . . . , Xk) + error

data = dugaan + sisaan (simpangan)

data = komponen sistematik + komponen non sistematik

Komponen error paling tidak terdapat 4 komponen:

Kesalahan pengukuran dan proxy dari peubah Y maupun X

Bentuk fungsi yang mungkin tidak sesuai (salah)

Peubah penting tidak masuk model

Pengaruh faktor lain yang belum terpikirkan atau tidak dapat

diramalkan (unpredictable effects)

MODEL-MODEL KUALITATIF

MODEL-MODEL KUALITATIF

Dalam bab ini dibicarakan beberapa model kualitatif, yaitu model peluang linier, model probit dan model logit.

Model Peluang Linier

Bentuk Umum model ini adalah :

Di mana Xi = nilai karakteristik individu, misalnya pendapatan

Yi = 1, jika pilihan kesatu dipilih (beli mobil)

Yi = 0, jika pilihan kedua dipilih (tidak beli mobil)

εi = peubah acak yang menyebar bebas dengan nilai

tengah nol.

Interpretasi pers (17) dilakukan dengan menentukan nilai harapan mssing-masing pengamatan peubah Yi

Oleh karena Y hanya mempunyai nilai 0 dan 1 maka:

Oleh karena Y hanya mempunyai nilai 0 dan 1 maka:

Pi =P(Yi=1) dan 1-Pi =P(Yi=0)

Sehingga E(Yi)=1(Pi) + 0(1-Pi)= Pi

Ini berarti bahwa model tersebut menggambarkan peluang bahwa individu ke i dengan pendapatan tertentu akan membeli mobil. Nilai β mengukur pengaruh peubahan 1 unit pendapatan terhadap perubahan peluang membeli mobil.

Dugaan model peluang linier sering ditulis:

Sebaran peluang komponen sisaan ditentukan dengan memasukkan nilai Y dalam pers (17),tercantum pada Tabel 1

Tabel 1.

Tabel 1.

Ragam komponen sisaan adalah:

Peubah Y menyebar menurut sebaran peluang Bernouli.

Peubah Y menyebar menurut sebaran peluang Bernouli.

Sementara itu, Pers (21) menunjukkan bahwa komponen sisaan bersifat heteroskedastisitas. Salah satu cara untuk mengatasinya adalah dengan WLS. Namun hal ini cukup kompleks. Oleh karena itu disarankan tidak menggunakan model ini, tetapi penggunakan model Probit atau Logit.

Model Probit

yi = βxi + (εi-βvi)= βxi + ε*i . . . . . . . . (14)

Walaupun memenuhi asumsi-asumsi OLS, tetapi sisaan (εi ) dan xi berkorelasi atau covariance tidak sama dengan nol.

Cov(εi , xi )=E(εi-βvi)+ (xi + vi )=-βσv2 . . . . . . . (15)

Dari pers(16) dapat ditunjukkan bahwa pendugaan dengan peubah instrumen menjamin bahwa β* akan mendekati β jika ukuran contohnya beras atau cov (z, ε) → 0. Namun jika x diganti dengan z maka tdk akan menghasilkan penduga yg konsisten.