Kompyuter injiniringi fakulteti 712-19 guruh talabasining

Sun’iy neyron tarmoqlari modellari
Sun'iy neyron tarmoqlari (ANNlar), odatda oddiy deb nomlanadi asab tarmoqlari (NNlar), hisoblash tizimlari tomonidan noaniq ravishda ilhomlangan biologik neyron tarmoqlari hayvonlarni tashkil qiladi miyalar.
ANN bog'langan birliklar yoki tugunlar to'plamiga asoslangan sun'iy neyronlar, bu erkin tarzda modellashtirilgan neyronlar biologik miyada. Kabi har bir ulanish sinapslar biologik miyada signalni boshqa neyronlarga etkazishi mumkin. Signalni qabul qiladigan sun'iy neyron keyinchalik uni qayta ishlaydi va unga bog'langan neyronlarga signal berishi mumkin. Ulanishdagi "signal" a haqiqiy raqam, va har bir neyronning chiqishi uning kirishlari yig'indisining ba'zi bir chiziqli bo'lmagan funktsiyalari bilan hisoblanadi. Ulanishlar deyiladi qirralar. Neyronlar va qirralar odatda a ga ega vazn bu o'rganishni davom ettirishga moslashtiradigan narsa. Og'irligi ulanish paytida signal kuchini oshiradi yoki kamaytiradi. Neyronlarning chegarasi bo'lishi mumkin, shunda signal faqat yig'ilgan signal ushbu chegarani kesib o'tgan taqdirdagina yuboriladi. Odatda neyronlar qatlamlarga birlashtiriladi. Turli qatlamlar o'zlarining kirishlarida turli xil o'zgarishlarni amalga oshirishi mumkin. Signallar birinchi qatlamdan (kirish qatlami), oxirgi qatlamga (chiqish qatlami), ehtimol qatlamlarni bir necha marta bosib o'tgandan keyin o'tadi.
Entsiklopediya site:uz.wikisko.ru Neyron tarmoqlari misollarni qayta ishlash orqali o'rganadi (yoki o'qitiladi), ularning har biri ma'lum bo'lgan "kirish" va "natija" ni o'z ichiga oladi, bu ikkalasi o'rtasida aniqlik tarkibidagi ma'lumotlar assotsiatsiyasini shakllantiradi. Nerv tarmog'ini keltirilgan misoldan o'rgatish odatda tarmoqning qayta ishlangan chiqishi (ko'pincha bashorat qilish) va maqsadli chiqish o'rtasidagi farqni aniqlash orqali amalga oshiriladi. Bu xato. Keyin tarmoq o'z qoidalariga binoan va ushbu xatolik qiymatidan foydalangan holda o'z vaznli assotsiatsiyalarini sozlaydi. Ketma-ket tuzatishlar neyron tarmoqni maqsadli chiqishga tobora ko'proq o'xshash ishlab chiqarishni keltirib chiqaradi. Ushbu tuzatishlarning etarli sonidan so'ng ma'lum mezonlarga asoslanib, mashg'ulot tugatilishi mumkin. Bu sifatida tanilgan nazorat ostida o'rganish.
Bunday tizimlar, misollarni ko'rib chiqish orqali vazifalarni bajarishni "o'rganadilar", odatda vazifalarga xos qoidalar bilan dasturlashtirilmasdan. Masalan, ichida tasvirni aniqlash, ular qo'lda qilingan misollarni tahlil qilish orqali mushuklarni o'z ichiga olgan rasmlarni aniqlashni o'rganishlari mumkin belgilangan "mushuk" yoki "mushuk yo'q" sifatida va boshqa rasmlarda mushuklarni aniqlash uchun natijalardan foydalanish. Ular buni mushuklar haqida oldindan bilmasdan qilishadi, masalan, ularning mo'ynasi, dumlari, mo'ylovi va mushukka o'xshash yuzlari. Buning o'rniga, ular avtomatik ravishda ishlov beradigan misollardan aniqlovchi xususiyatlarni yaratadilar.Entsiklopediya site:uz.wikisko.ru Uorren Makkullox va Valter Pitts (1943) neyron tarmoqlar uchun hisoblash modelini yaratish orqali mavzuni ochdi.1940-yillarning oxirida, D. O. Hebb mexanizmiga asoslangan o'quv gipotezasini yaratdi asab plastisiyasi deb tanilgan Xebbiylarni o'rganish. Farley va Uesli A. Klark (1954) birinchi bo'lib Hebbian tarmog'ini simulyatsiya qilish uchun "kalkulyator" deb nomlangan hisoblash mashinalaridan foydalangan. Rozenblatt (1958) yaratgan pertseptron. Ko'p qatlamli birinchi funktsional tarmoqlar tomonidan nashr etilgan Ivaxnenko va 1965 yilda Lapa, sifatida Ma'lumotlar bilan ishlashning guruh usuli. Uzluksiz orqaga surish asoslari kontekstida olingan boshqaruv nazariyasi tomonidan Kelley 1960 yilda va tomonidan Bryson 1961 yilda, ning tamoyillaridan foydalangan holda dinamik dasturlash.
1970 yilda, Seppo Linnainmaa uchun umumiy uslubni nashr etdi avtomatik farqlash (AD) joylashtirilgan diskret ulangan tarmoqlar farqlanadigan funktsiyalari. 1973 yilda Dreyfus moslashish uchun backpropagation-dan foydalangan parametrlar xato gradyanlariga mutanosib ravishda tekshirgichlar. Werbosning (1975) orqaga targ'ib qilish algoritm ko'p qatlamli tarmoqlarni amaliy o'qitishga imkon berdi. 1982 yilda u Linnainmaaning AD usulini neyron tarmoqlarga keng qo'llaniladigan usulda qo'llagan. Keyinchalik tadqiqotlar to'xtab qoldi Minskiy va Papert (1969), asosiy pertseptronlar eksklyuziv yoki elektronni qayta ishlashga qodir emasligini va kompyuterlarning foydali neyron tarmoqlarini qayta ishlash uchun etarli kuchga ega emasligini aniqladi.
Neyroning rivojlanishi metall-oksid-yarim o'tkazgich (MOS) juda keng ko'lamli integratsiya (VLSI), shaklida qo'shimcha MOS (CMOS) texnologiyasi, MOS-ni oshirishga imkon berdi tranzistorlar soni yilda raqamli elektronika.Bu 1980-yillarda amaliy sun'iy neyron tarmoqlarini rivojlantirish uchun ko'proq ishlov berish quvvatini ta'minladi.
1992 yilda, maksimal pul yig'ish eng kam o'zgaruvchan invariantlik va yordam berish uchun deformatsiyaga bardoshlik bilan yordam berish uchun kiritilgan Ob'ektni 3D tanib olish. Shmidhuber tarmoqlarning ko'p bosqichli iyerarxiyasini qabul qildi (1992) birma-bir darajani oldindan tayyorlab qo'ydi nazoratsiz o'rganish va yaxshi sozlangan orqaga targ'ib qilish.
Jefri Xinton va boshq. (2006) ikkilik yoki real qiymatlarning ketma-ket qatlamlari yordamida yuqori darajadagi vakillikni o'rganishni taklif qildi yashirin o'zgaruvchilar bilan cheklangan Boltzmann mashinasi har bir qatlamni modellashtirish uchun. 2012 yilda, Ng va Dekan mushuklar kabi yuqori darajadagi tushunchalarni faqat yorliqsiz tasvirlarni tomosha qilish orqali tanib olishni o'rgangan tarmoq yaratdi.Nazorat qilinmagan oldindan tayyorgarlik va hisoblash quvvatining ortishi Grafik protsessorlar va tarqatilgan hisoblash katta tarmoqlardan foydalanishga ruxsat berdi, ayniqsa tasvir va vizual tanib olish muammolarida "chuqur o'rganish".

Ciresan va uning hamkasblari (2010) Yo'qolib borayotgan gradient muammosiga qaramay, GPUlar ko'p qatlamli neyron tarmoqlari uchun backpropagatsiyani amalga oshirishi mumkinligini ko'rsatdi. 2009 yildan 2012 yilgacha ANNlar ANN musobaqalarida sovrinlarni qo'lga kirita boshladilar, dastlab turli darajadagi vazifalar bo'yicha inson darajasidagi ko'rsatkichlarga yaqinlashdilar. naqshni aniqlash va mashinada o'rganish. Masalan, ikki yo'nalishli va ko'p o'lchovli uzoq muddatli xotira (LSTM) ning Qabrlar va boshq. 2009 yilda qo'l yozuvi bilan bog'liq uchta tanlovda g'olib bo'lib, uchta til haqida oldindan bilmagan holda.

Ciresan va uning hamkasblari inson tomonidan raqobatbardosh / g'ayriinsoniy ko'rsatkichlarga erishish uchun birinchi namuna taniydiganlarni yaratdilar yo'l belgilarini aniqlash kabi mezonlarga (IJCNN 2012).Entsiklopediya site:uz.wikisko.ru ANNlar an'anaviy algoritmlar kam muvaffaqiyatga erishgan vazifalarni bajarish uchun inson miyasining arxitekturasidan foydalanishga urinish sifatida boshlandi. Tez orada ular empirik natijalarni yaxshilashga yo'naldilar, asosan biologik kashshoflariga sodiq qolish urinishlaridan voz kechdilar. Neyronlarning chiqishi boshqalarning kirish qismiga aylanishiga imkon berish uchun neyronlar bir-biriga turli xil naqshlarda bog'langan. Tarmoq a yo'naltirilgan, vaznli grafik.
Sun'iy asab tarmog'i simulyatsiya qilingan neyronlarning to'plamidan iborat. Har bir neyron a tugun orqali boshqa tugunlarga ulangan havolalar biologik akson-sinaps-dendrit birikmalariga mos keladigan. Har bir bog'lanishning og'irligi bor, bu bitta tugunning boshqasiga ta'sir kuchini aniqlaydi.
ANNlarning tarkibiy qismlariEntsiklopediya site:uz.wikisko.ru ANNlar tarkib topgan sun'iy neyronlar kontseptual ravishda biologik olingan neyronlar. Har bir sun'iy neyronning kirishlari mavjud va ular bir nechta boshqa neyronlarga yuborilishi mumkin bo'lgan bitta ishlab chiqarishni ishlab chiqaradi. Kirish rasmlar yoki hujjatlar kabi tashqi ma'lumotlar namunasining xususiyat qiymatlari yoki boshqa neyronlarning chiqishi bo'lishi mumkin. Final natijalari chiqish neyronlari asab tarmog'i vazifani bajaradi, masalan, rasmdagi ob'ektni tanib olish.
Neyronning chiqishini topish uchun avval biz tomonidan tortilgan barcha kirishlarning tortilgan yig'indisini olamiz og'irliklar ning ulanishlar kirishlardan neyrongacha. Biz qo'shamiz tarafkashlik ushbu summa uchun muddat. Ushbu tortilgan yig'indiga ba'zan deyiladi faollashtirish. Ushbu tortilgan yig'indidan keyin (odatda chiziqli bo'lmagan) faollashtirish funktsiyasi mahsulotni ishlab chiqarish. Dastlabki yozuvlar tashqi ma'lumotlar, masalan, rasm va hujjatlar. Rasmdagi ob'ektni tanib olish kabi yakuniy natijalar vazifani bajaradi.Entsiklopediya site:uz.wikisko.ru Neyronlar odatda bir nechta qatlamlarga bo'linadi, ayniqsa chuqur o'rganish. Bir qatlam neyronlari faqat oldingi va darhol keyingi qatlamlarning neyronlari bilan bog'lanadi. Tashqi ma'lumotlarni qabul qiladigan qatlam bu kirish qatlami. Yakuniy natija beradigan qatlam bu chiqish qatlami. Ularning orasidagi nol yoki undan ko'p yashirin qatlamlar. Bir qavatli va qatlamsiz tarmoqlardan ham foydalaniladi. Ikki qatlam o'rtasida bir nechta ulanish naqshlari mumkin. Ular bo'lishi mumkin to'liq ulangan, bitta qatlamdagi har bir neyron keyingi qatlamdagi har bir neyron bilan bog'langan holda. Ular bo'lishi mumkin hovuzlash, bu erda bir qatlamdagi neyronlar guruhi keyingi qatlamdagi bitta neyronga ulanadi va shu bilan ushbu qatlamdagi neyronlarning sonini kamaytiradi. Faqat shu kabi birikmalarga ega neyronlar a ni hosil qiladi yo'naltirilgan asiklik grafik va sifatida tanilgan feedforward tarmoqlari. Shu bilan bir qatorda, bir xil yoki oldingi qatlamlarda neyronlar orasidagi bog'lanishni ta'minlaydigan tarmoqlar sifatida tanilgan takroriy tarmoqlar.
Xulosa
Sun'iy neyron tarmoq - bu bir-biri bilan o'zaro ta'sir qiluvchi neyronlar to'plami. Ular ma'lumotlarni qabul qilish, qayta ishlash va yaratishga qodir. Buni tasavvur qilish inson miyasining ishi kabi qiyin. Bizning miyamizdagi neyron tarmoq siz uni hozir o'qiy olishingiz uchun ishlaydi: bizning neyronlarimiz harflarni taniydi va ularni so'zlarga qo'yadi.Sun'iy neyron tarmog'i miyaga o'xshaydi. U dastlab ba'zi murakkab hisoblash jarayonlarini soddalashtirish uchun dasturlashtirilgan. Bugungi kunda neyron tarmoqlar ko'proq imkoniyatlarga ega. Ulardan ba'zilari smartfoningizda.