Eng kichik kvadratlar usuli

Baholashning eng kichik kvadratlar usuli

Yana bir marta to‘plamning regressiya tenglamasini ko‘rib chiqamiz:

(1)

Ushbu tenglama bevosita kuzatiladigan hisoblanmaydi. Shunga qaramasdan, biz tanlama to‘plamdan ma’lumotlar to‘plab, a va ning baholarini olishimiz mumkin. Bu bizga quyidagi nisbatni, ya’ni funksiyani kesib o‘tuvchi nuqta va to‘g‘ri chiziqning yotiqligini beradi.

(2)
(2.3) tenglamani regressiya tenglamasining modeli deb atash mumkin. Bu yerda va to‘plam parametrlari a va ning bahosi, esa Y ning prognoz qiymatlarini bildiradi. (Biz regressiya tenglamasini baholovchi modeliga ega bo‘lganimizdan so‘ng, X ning turli qiymatlarida osonlik bilan Y ni prognoz qilishimiz mumkin).

Biz yoyilgan nuqtalardan regressiya chizig‘ini o‘tkazganimizda, ushbu chiziq real Y ga shunchalik yaqinroq joylashishi maqsadga muvofiq bo‘lar edi yoki boshqacha aytganda, ular o‘rtasidagi chetlanishlar minimal bo‘lishi lozim. Buning uchun biz quyidagi mezonni qabul qilamiz: regressiya funksiyasi modelini shunday tanlash lozimki, chetlanishlar kvaratining yig‘indisi minimal bo‘lsin (ya’ni, minimallashtirilsin). Baholashning ushbu usuli ayrim ijobiy xususiyatlarga ega bo‘lib, ular regerssion tahlilning murakkab bo‘lmagan ilovalarida mazkur usulni mashhur usul qiladi. Aynan:

1) qoldiqlar kvadratlaridan foydalanilganda biz farqlar belgisi (+, -) ta’sirini yo‘qotamiz, shunday qilib, musbat va manfiy farqlar bir-birini to‘ldirish imkoni bo‘lmaydi. Masalan, agar biz farqlar yig‘indisini minimallashtirmoqchi bo‘lsak, bunga prognozini ning o‘rtacha qiymatiga teng qilish orqali erishgan bo‘lar edik. Ammo bu umuman yaxshi yaqinlashuvchi chiziq bo‘lmas edi. Shunday qilib, biz shunday o‘zgartirishni xohlaymiz, ya’ni u barcha farqlar (qoldiqlar) ni bir xil belgiga keltiradi hamda eng kichik qiymatlarga erishtiradi. Farqlarni kvadratga ko‘tarib, biz katta farqlarga katta qiymatlar beramiz, haqiqatda katta xatolarni kamaytirish bo‘yicha murakkab ishni bajaramiz.

3) Eng kichik kvadratlar usuli va ning baholovchilarini tanlaydi, ular esa ba’zi miqdoriy va statistik xususiyatlarga ega (samarali va adolatli), ularni keyinroq muhokama qilamiz.

Endi biz EKKU baholari formulalarini qanday olishni ko‘rishimiz mumkin. RSS orqali qoldiqlar kvadrati yig‘indisini belgilab, quyidagiga ega bo‘lamiz:
(3)

Biroq biz bilamizki

(4)

va shuning uchun

(5)

(2.6) ni minimallashtirish uchun birinchi tartibdagi shart bo‘lib, RSS dan va bo‘yicha xususiy hosilalar olib, ularni nolga tenglashtirishimiz kerak. Shunday qilib, biz quyidagiga ega bo‘lamiz:

(6)

va

(7)

Ikkinchi tartibli xususiy hosilalar:

(8)

(9)

(10)

Shuning uchun ham minimum uchun ikkinchi tartibli xususiy hosilalar shartlari rioya qilinmoqda.

bo‘lgani uchun (oddiylik uchun yig‘indi belgisidagi yuqori va pastki indekslarni tushirib qoldiramiz), (9) va (10) tenglamalarni quyidagicha qayta yozishimiz mumkin:

(11)

va

(12)

Yuqorida keltirilgan ikkita tenglamada va lar noma’lum. Shunday qilib, va larni topish uchun ushbu ikkita noma’lumdan iborat ikkita tenglamalar tizimini yechishimiz mumkin. Birinchidan, (12) tenglamaning ikki tomonini n ga bo‘lib, quyidagiga ega bo‘lamiz:

(13)

va belgilab va o‘rin almashtirish orqali quyidagini olamiz:

(14)

(13) ni (14) qo‘yib, quyidagi olamiz:

(15)

yoki

(16)

Va nihoyat, nuqtai nazaridan ko‘paytuvchilarga ajratamiz:

(17)

Shunday qilib, biz ni quyidagicha olamiz:

(18)

ni hisobga olib, topish uchun (17) dan foydalanishimiz mumkin.