O. S. Rayimjonova M. G. Tillaboyev sh. U. Ergashev

kodlovchi 
: Kodlovchi manba hujjatni o'qish va uni ichki ko'rinishga kodlash 
uchun javobgardir. 
•
dekoder 
dekoder asl hujjatning kodlangan ko'rinishidan foydalangan holda 
olingan xulosadagi har bir so'zni yaratish uchun mas'ul bo'lgan til modeli . 
Matnni yig'ish uchun kodlovchilar 
Kodlovchi - bu modelning murakkabligi, chunki u asl hujjatning qiymatini olish 
uchun javobgardir. 
LSTM kabi ikki yo'nalishli takrorlanuvchi neyron tarmoqlar ko'proq qo'llanilsa-da, 
har xil turdagi kodlovchilardan foydalanish mumkin. Kodlovchida takroriy neyron 
tarmoqlardan foydalanilgan hollarda, so'zlarni joylashtirish taqsimlangan so'z 
namoyishini ta'minlash uchun ishlatiladi. 
Alexander Rush va boshqalar so'z tartibini o'chirib tashlaydigan oddiy so'zli 
kodlovchidan va n-grammni aniq olishga harakat qiladigan konvolyutsion 
kodlovchilardan foydalanadilar. 
Bizning eng asosiy modelimiz asl tartib yoki qo'shni so'zlar o'rtasidagi 
munosabatlarning xususiyatlarini e'tiborsiz qoldirib, H o'lchamiga qadar 
joylashtirilgan kirish jumlasining so'z paketini ishlatadi. [...] So'z to'plami bilan ba'zi 
modellashtirish muammolarini hal qilish uchun biz kiritilgan jumla uchun chuqur 
konvolyutsion kodlovchidan foydalanishni ham ko'rib chiqamiz. 
Konstantin Lopyrev kodlovchi sifatida 4 ta LSTM takrorlanuvchi neyron 
tarmoqlaridan iborat chuqur stekdan foydalanadi. 
Kodlovchi bir vaqtning o'zida bir so'zdan iborat yangilik maqolasi matni uchun 
kirish sifatida xizmat qiladi. Har bir so'z avval so'zni taqsimlangan ko'rinishga 
aylantiradigan o'rnatish qatlamidan o'tadi. Keyinchalik bu taqsimlangan vakillik 
ko'p qatlamli neyron tarmog'i yordamida birlashtiriladi. 

---

110 
Abigail See va boshqalar kodlovchi sifatida bir qatlamli ikki tomonlama LSTM dan 
foydalanadilar. 
Maqola tokenlari w(i) birma-bir enkoderga (bir qatlamli ikki yoʻnalishli LSTM) 
beriladi va h(i) kodlovchining yashirin holatlari ketma-ketligini yaratadi. 
Ramesh Nallapati va boshqalar . o'z kodlovchilarida ikki tomonlama GRU 
takrorlanuvchi neyron tarmoqlaridan foydalaning va kirish ketma-ketligidagi har bir 
so'z haqida qo'shimcha ma'lumotlarni kiriting. 
Kodlovchi ikki tomonlama GRU-RNNdan iborat... 
Matnni yig'ish dekoderlari 
Dekoder ikkita ma'lumot manbasini hisobga olgan holda chiqish ketma-ketligida har 
bir so'zni yaratishi kerak: 
1.