Mavzu: Mashinali o’qitishga kirish va uning asosiy tushunchalari, algoritmlari

9. Bagging va tasodifiy o'rmon
Tasodifiy o'rmon - bu juda mashhur va samarali mashinani o'rganish algoritmi. Bu bagging deb ataladigan ansambl algoritmining o'zgarishi .
Bootstrap - bu o'rtacha kabi narsalarni baholashning samarali statistik usuli. Siz ma'lumotlaringizning ko'plab kichik namunalarini olasiz, har birini o'rtacha hisoblaysiz va keyin haqiqiy o'rtacha qiymatni yaxshiroq baholash uchun natijalarni o'rtacha hisoblaysiz.
Bagging xuddi shu yondashuvdan foydalanadi, ammo qaror daraxtlari ko'pincha barcha statistik modellarni baholash uchun ishlatiladi. O'quv ma'lumotlari ko'plab namunalarga bo'linadi, ularning har biri uchun model yaratiladi. Bashorat qilish kerak bo'lganda, har bir model bittasini yaratadi, so'ngra chiqish qiymatining eng yaxshi bahosini berish uchun bashoratlar o'rtacha hisoblanadi.

Tasodifiy o'rmon algoritmida qaror daraxtlari barcha namunalar uchun o'quv ma'lumotlaridan qurilgan. Daraxtlarni qurishda har bir tugunni yaratish uchun tasodifiy xususiyatlar tanlanadi. Alohida-alohida, natijada olingan modellar juda aniq emas, lekin ular birlashtirilganda bashorat sifati sezilarli darajada yaxshilanadi.
Agar qaror daraxtlari kabi yuqori tafovut algoritmi maʼlumotlaringizda yaxshi ishlasa, bu unumdorlikni koʻpincha baggingni qoʻllash orqali yaxshilash mumkin .
10. Boosting va AdaBoost
Boosting - bu ansambl algoritmlari oilasi bo'lib, uning mohiyati bir nechta zaiflar asosida kuchli tasniflagichni yaratishdir. Buning uchun birinchi navbatda bitta model, so'ngra birinchisida xatolarni tuzatishga harakat qiladigan boshqa model yaratiladi. Modellar o'quv ma'lumotlari mukammal bashorat qilinmaguncha yoki modellarning maksimal sonidan oshib ketguncha qo'shiladi.
AdaBoost ikkilik tasniflash uchun ishlab chiqilgan birinchi chinakam muvaffaqiyatli kuchaytirish algoritmi edi. U bilan tanishishni kuchaytirish bilan boshlash yaxshidir . Stochastic Gradient Boosting kabi zamonaviy usullar AdaBoost -ga asoslangan .

AdaBoost qisqa qarorlar daraxtlari bilan birgalikda ishlatiladi. Birinchi daraxt yaratilgandan so'ng, uning har bir o'quv ob'ektidagi ishlashi tekshiriladi, keyingi daraxt barcha ob'ektlarga qanchalik e'tibor berishi kerak. Bashorat qilish qiyin bo'lgan ma'lumotlarga ko'proq, bashorat qilish oson bo'lgan ma'lumotlarga esa kamroq vazn beriladi. Modellar ketma-ket yaratiladi va ularning har biri keyingi daraxt uchun og'irliklarni yangilaydi. Barcha daraxtlar qurilgandan so'ng, yangi ma'lumotlar uchun bashorat qilinadi va har bir daraxtning ishlashi mashg'ulot ma'lumotlarida qanchalik to'g'ri ekanligi bilan belgilanadi.
Ushbu algoritm model xatolarini tuzatishga katta e'tibor berganligi sababli, ma'lumotlarda anomaliyalar mavjud emasligi muhimdir.
Nazorat savollari
1. Mashinali o’qitish nima?
2. Mashinani o’qitishning qanday asosiy usullari mavjud?
3. Mashinani o’qitishdagi qanday qiyinchiliklar va cheklovlar mavjud?
4. Mashinali o’qitishda qanday algaritmlardan foydalaniladi?

Asosiy adabiyotlar:

1. Aurelian Geron, Hands on Machine Learning with Scikit-Learn Keras&Tensorflow // Second edition Concepts, Tools, and Techniques to Build Intelligent Systems, 2019, 510 pages
2. Oliver Theobald, “Machine Learning for Absolute Beginners”, second edition, 2017, 128 pages
3. Жуков Л.А., Решетникова Н.В. Приложения нейронных сетей: Учебное пособие для студентов, учащихся лицея и ЗПШНИ / Л. А. Жуков, Н. В. Решетникова. Красноярск: ИПЦ КГТУ, 2007. 154 с.