Amaliy matematika” fakulteti “60610300 – Axborot xavfsizligi

---

O‘zbekiston Respublikasi 
Oliy ta’lim, fan va innovatsiyalar 
vazirligi 
Mirzo Ulug‘bek nomidagi O‘zbekiston milliy 
universiteti Jizzax filiali “Amaliy 
matematika” fakulteti “60610300 – Axborot 
xavfsizligi (sohalar bo‘yicha)” ta’lim 
yo‘nalishi 2-kurs 31-21-guruh talabasi 
Abdurahimov Otabekning 
“SUN’IY INTELLEKT VA 
NEYRONTO‘RLI TEXNOLOGIYALAR” 
fanidan tayyorlagan 
1-mustaqil ishi 
 
 
 
 
 
 
 
 
 
 
 
Bajardi: O.Abdurahimov 
Qabul qildi: 
S.Ergashev 
Jizzax-2023 

---

Mavzu:Giperparametrlar 
Reja: 
1. Sun’iy neyron to‘rlari. 
2. 
Takroriy neyron tarmoqlar (RNN).
3. Recurrent tarmoqlar arxitekturasi. 
4. Xatoliklar funksiyasi. 
1. 
Sun’iy neyron to‘rlari (SNT) – sun’iy neyronlar birlashuvi bilan yuzaga kelgan, biologik nerv 
to‘rini juda ham soddalashtirilgan ko‘rinishidir. Bu o‘rinda soddalashtirish darajasi neyronlar va ular 
o‘rtasidagi bog‘lanishlarning beqiyos murakkabligi bilan belgilanadi. Biologik nerv tizimlarida har 
bir neyron xossalar va funksiyalar to‘plamiga ega bo‘lib, ular ichida miyaning kommunikatsion 
tizimini tashkil qiluvchi nerv tolalari bo‘yicha elektroximik signallarni qabul qilish, ishlov berish va 
uzatish funksiyalari noyob hisoblanadi. Sun’iy neyron to‘rlari o‘z arxitekturasi bilan ajralib turadi: 
neyronlar o‘rtasidagi bog‘lanishlar tuzilmasi, qatlamlar soni, neyronlarni faollashtirish funksiyalari, 
o‘rganish algoritmlari. Bu nuqtayi nazardan mashhur SNT ichidan statistik, dinamik to‘rlar va 
fuzzytuzilmalar; bir yoki ko‘p qatlamli to‘rlarni ajratib ko‘rsatish mumkin. To‘rlardagi hisoblash 
jarayonlarning farqlanishi, qisman neyron-larning o‘zaro bog‘lanish usullaridan kelib chiqadi, shu 
sababli to‘rlarning quyidagi turlarini ajratishadi:
– to‘g‘ri tarqalish to‘rlari (feedforward) – signal to‘r bo‘yicha faqat bitta yo‘nalish o‘tadi: kirishdan 
chiqishga; 
– teskari bog‘lanishli to‘rlari (feedforward / feedback); – yonlanma bog‘lanishli to‘rlar (laterally 
connected); 
– gibrid to‘rlar. 
Umuman olganda, bog‘lanishlar tuzilmasi bo‘yicha SNT ikkita sinfga guruhlanishi mumkin: 
1) to‘g‘ri tarqalishli to‘rlar – tuzilmada teskari bog‘lanishlar yo‘q; 
2) rekkurent to‘rlar – teskari bog‘lanishli. 
To‘rlarning birinchi sinfida eng mashhur va ko‘p 
ishlatiladigani 
sun’iy 
neyronlari 
qatlamli 
joylashgan ko‘p qatlamli to‘rlari hisoblanadi. 
Qatlamlar 
o‘rtasidagi bog‘lanishlar – bir 
yo‘nalishda va aksariyat hollarda har bir neyron 
chiqishi keyingi qatlamdagi barcha neyronlarning 
kirishi bilan bog‘langan bo‘ladi. Bunday to‘rlar 
“statik to‘rlar” deyiladi, chunki o‘z tuzilmasida 
teskari bog‘lanishlarga va dinamik elementlarga 
ega emas, to‘r chiqishi esa faqat kirish sifatida 
berilgan to‘plamga bog‘liq bo‘ladi, to‘rning 
oldingi holatlariga bog‘liq emas. Statik to‘rlardan 
farqli ravishda ikkinchi sinfidagi to‘g‘ri tarqalishli 
to‘rlarga “dinamik to‘rlar” deyiladi. Ularda 
teskari bog‘lanishning mavjudligi tufayli har bir 
vaqt momentidagi holat oldingi holatga bog‘liq bo‘ladi. 
1-rasm.SNT 
Yechilishida SNT ishlatiladigan masalalarni 4 toifaga bo‘lish mumkin: – anglash va klassifikatsiya 
(klaster tahlil, masalan, belgili berilganlarni va nutqni anglash, elektrokardiogrammani, qon 
kataklarini va boshqa berilganlarni sinflarga ajratish; klasterli tahlilda o‘lchov berilganlarini 
guruhlash va ichki xususiyatlari bilan bir-biriga juda ham o‘xshash bo‘lgan berilganlarni bitta sinf 
ostilariga (klasterlarga) guruhlash amallari bajariladi); – tasvirlarga ishlov berish: matn, video-, 
aerofoto suratlar; – identifikatsiya va boshqaruv tizimlari; – signallarni bilan ishlash, xususan, 
modellashtirish masalalarida funksiya approksimatsiyasi. Topologik nuqtayi nazardan neyron to‘rini 
o‘lchangan bog‘lanishli yo‘naltirilgan graf ko‘rinishi tasavvur qilish mumkin. Bunda sun’iy 
neyronlar graf uchlari, sinaptik bog‘lanishlar – graf yoylari bo‘ladi. Sun’iy neyron – biologik 

---

neyronning ba’zi funksiyalarini bajaruvchi SNT elementi bo‘lib, uning asosiy vazifasi kirish 
signallariga bog‘liq holda chiqish signalini shakllantirishdan iborat. Eng keng tarqalgan 
konfiguratsiyalarda kirish signallari moslashuvchi summatorlar orqali silliqlanadi, keyin 
summatorning chiqish signali nochiziqli o‘zgartirgichga (faollashtirish funksiyasiga) kiradi va u 
yerda ham o‘zgartirilib chiqishga uzatiladi. 
2-rasm.Sun’iy neyron. 
Faollashtirish funksiyasi – sun’iy neyronning chiqish signalini (OUT) hisoblovchi nochiziqli funksiya 
bo‘lib, bu o‘rinda asosan quyidagi funksiyalar ishlatiladi: 
3- 
rasm.Faollashtirish funksiyalari. 
Neyroinformatika – biologik neyron to‘rlar ishlash tamoyili asosida hisoblash tizimlarini tadqiq 
qiladigan fan yo‘nalishi bo‘lib, oldingi avlod hisoblash qurilmalaridan bunday tizimlarning asosiy 
farqi: 
− 
hisoblashda yuqori parallellik; 
− 
mavjud berilganlarni umumlashtirish qobiliyati; 
− 
dasturlash 
o‘rnini o‘rganish bilan almashtirish; 
− 
shovqinga nisbatan yuqori turg‘unlik. Neyron to‘rining 
arxitekturasi – neyron to‘rlari alohida elementlarining 
4- 
rasm.Bir qatlamli neyron to‘ri. 
bog‘lanish va tashkil qilish usuli. 
Neyronlarning arxitekturaviy farqlanishidan biri – bu har xil faollashtirish funksiyadan 
foydalanishiga bog‘liqligidir. Neyron to‘rlari arxitekturasiga ko‘ra 2 sinfga ajratish mumkin: to‘g‘ri 
tarqalgan to‘rlar va rekurrent to‘rlar. 

---

1-jadval.To‘g‘ri tarqalgan to‘rlar va rekurrent to‘rlar qiyosiy tahlili 
Neyroto‘rlarni o‘rganish algoritmi – to‘rni talab etilgandek ishlatish maqsadida arxitektura, sinaptik 
bog‘lanishlar vazni va o‘rgatuvchi tanlanma bo‘yicha neyron ostonalarini sozlash protsedurasidir. 
O‘rganishning asosiy paradigmalari: “O‘qituvchili o‘rganish” – o‘rgatuvchi tanlanmada kirish- 
chiqish juftliklari, ya’ni, har bir kirish uchun to‘g‘ri javoblar (to‘rlarning chiqishi) ma’lum bo‘ladi. 
“Yordam bilan o‘rganish” – to‘g‘ri javoblar ma’lum emas, lekin to‘r chiqishi to‘g‘riligining kritik 
bahosi ma’lum. “O‘qituvchisiz o‘rganish” – o‘rgatuvchi tanlanma sifatida faqat kirish qiymatlaridan 
foydalaniladi. “Aralash o‘rganish” – bir qism vaznlar “o‘qituvchili o‘rganish” orqali, qolgan o‘z- 
o‘zini o‘rganish bilan topiladi. Neyroto‘rni o‘rgatuvchi genetik algoritm – bu neyroto‘rni optimal 
arxitekturasini evolutsion yo‘l bilan topuvchi algoritmdir. Bir nechta to‘rlar tasodifiy arxitektura bilan 
yaratiladi va har bir to‘r genetik kodning xromosomasi sifatida qaraladi. Xromosomalar ustida 
chatishtirish (crossover), urchitish, mutatsiya amallari bo‘lishi mumkin. Moslashish (fitness) 
funksiyasini hisoblashda berilgan qadamdagi eng optimal to‘rlar arxitekturasi tanlanadi. 
2. 
Avval "oddiy" neyron tarmoqlar nima ekanligini eslaylik, shundan keyin ularning 
takrorlanuvchi tarmoqlardan qanday farq qilishi darhol aniq bo'ladi. Keling, eng oddiy asab tarmog'i
- perseptronni tasavvur qilaylik. U bitta neyron qatlamini ifodalaydi, ularning har biri kirish 
ma'lumotlarining bir qismini (bir yoki bir nechta bit, haqiqiy sonlar, piksellar va boshqalarni) qabul 
qiladi, o'z vaznini hisobga olgan holda o'zgartiradi va uzatadi. Bir qavatli pertseptronda barcha 
neyronlarning chiqishi u yoki bu tarzda birlashtiriladi va asab tarmog'i javob beradi, ammo bunday 
me'morchilik imkoniyatlari juda cheklangan. Agar siz yanada rivojlangan funksiyalarni olishni 
istasangiz, siz bir necha usullar bilan borishingiz mumkin, masalan, qatlamlar sonini ko'paytirishingiz 
va keladigan ma'lumotlarni turli o'lchamdagi qismlarga "tabaqalashtiradigan" konvolyatsiya 
operatsiyasini qo'shishingiz mumkin. Bunday holda sizda tasvirni qayta ishlash va mushukni tanib 
olishda ustun bo'lgan chuqur o'rganiladigan konvolyatsion neyron tarmoqlar mavjud. Biroq, ibtidoiy 
perceptron ham, konvolyutsion asab tarmog'i ham umumiy cheklovga ega: kirish va chiqish 
ma'lumotlari ham qat'iy, oldindan belgilangan hajmga ega, masalan, 100 × 100 pikselli rasm yoki 256 
bitli ketma-ketlik. Matematik nuqtai nazardan, asab tarmog'i juda murakkab bo'lsa-da, odatdagi 
funktsiya kabi harakat qiladi: u oldindan belgilangan miqdordagi argumentlarga ega, shuningdek, u 
javob beradigan belgilangan formatga ega. Oddiy misol x 2 funktsiyasi bo'lib, u bitta argumentni 
qabul qiladi va bitta qiymatni qaytaradi.

---

5-rasm.RNN
Agar biz bir xil rasmlar haqida yoki oldindan gaplashsak, yuqoridagi xususiyatlar juda qiyin 
emas ma'lum ketma-ketliklar belgilar. Agar matn yoki musiqani qayta ishlash uchun neyron 
tarmoqdan foydalanmoqchi bo'lsangiz nima bo'ladi? Umumiy holda, nafaqat mazmuni, balki 
ma'lumotlarning ketma-ketligi ham muhim bo'lgan har qanday shartli cheksiz ketma-ketlik. Aynan 
shu vazifalar uchun takrorlanadigan neyron tarmoqlari ixtiro qilindi. Biz ularni "oddiy" deb atagan 
qarama-qarshi tomonlar yanada qattiqroq nomga ega - oldinga yo'naltirilgan neyron tarmoqlari, 
chunki ularda ma'lumotlar faqat tarmoq bo'ylab, qatlamdan qatlamga uzatiladi. Qayta tiklanadigan 
asab tarmoqlarida neyronlar bir-biri bilan ma'lumot almashadilar: masalan, yangi keladigan 
ma'lumotlardan tashqari, neyron ham tarmoqning oldingi holati to'g'risida ba'zi ma'lumotlarni oladi. 
Shunday qilib, tarmoq o'z ishining mohiyatini tubdan o'zgartiradigan va qiymatlar qanday tartibda - 
ovozli yozuvlardan tortib to fond kotirovkalariga qadar bo'lgan har qanday ma'lumotlarni ketma- 
ketligini tahlil qilishga imkon beradigan "xotira" ni amalga oshiradi. 
6-rasm.RNN, LSTM va GRU 
Bir qavatli takrorlanuvchi neyronlar tarmog'ining sxemasi: har bir ishlash davrida neyronlarningichki 
qatlami X kirish ma'lumotlari to'plamini va ichki A qatlamining oldingi holati to'g'risida ma'lumot 
oladi, shu asosda u h javobini hosil qiladi.Qayta takrorlanadigan neyron tarmoqlarida xotira 
mavjudligi o'xshashlikni x 2 bilan bir oz kengaytirishga imkon beradi. Agar biz oldinga yo'naltirilgan 

---

neyron tarmoqlarni "oddiy" funktsiya deb atasak, unda vijdon bilan takrorlanadigan neyron 
tarmoqlarni dastur deb atash mumkin. Darhaqiqat, takrorlanadigan neyron tarmoqlarining 
xotirasi(to'liq bo'lmasa ham, ammo keyinroq bu haqda) ularni Turingni to'liq qiladi: agar 
og'irliklar,to'g'ri o'rnatilgan bo'lsa, neyron tarmoq ishni muvaffaqiyatli taqlid qilishi 
mumkin kompyuter dasturlari.Kelinglar, tarixga bir oz chuqurroq kiraylik: RNNlar qachon ixtiro 
qilingan edi, qanday vazifalar va nima uchun, odatdagidek, odatdagi perceptrondan ustun bo'lishi 
kerak edi?Ehtimol, birinchi RNN - bu Hopfild tarmog'i (birinchi bo'lib 1974 yilda eslatib o'tilgan, 
nihoyat 1982- yilda shakllangan), bu assotsiativ xotira hujayrasini amalga oshirdi. Zamonaviy 
RNNlardan farqi shundaki, u belgilangan o'lchamdagi ketma-ketliklar bilan ishlaydi. Oddiy holatda, 
Hopfield tarmog'i bir-biriga bog'langan ichki neyronlarning bir qatlamiga ega va har bir ulanish uning 
ahamiyatini belgilaydigan ma'lum og'irlik bilan tavsiflanadi. Bunday tarmoq bilan bog'liq bo'lgan 
tizimdagi barcha og'irliklarga bog'liq bo'lgan jismoniy "energiya" ning ma'lum bir ekvivalenti. 
Minimal tarmoq ma'lum bir naqshni "eslab qolgan" holatiga mos keladigan bo'lsa, tarmoqni 
energiyadagi gradiyent tushish yordamida o'rgatish mumkin, masalan. 10101 ... Endi unga buzuq, 
shovqinli yoki to'liq bo'lmagan shablon berilsa, aytaylik: 10000 , u "eslab qoladi" va uni odamlarda 
assotsiativ xotira qanday ishlaydi, xuddi shunday tiklaydi. Bu o'xshashlik juda uzoq, shuning uchun 
uni jiddiy qabul qilmaslik kerak. Shunga qaramay, Xopfildning tarmoqlari o'z vazifalarini 
muvaffaqiyatli uddalashdi va o'sha paytda mavjud bo'lgan perkeptronlarni chetlab o'tishdi. Oddiy 
RNNlarda uzoq muddatli xotira muammosi: qanday qilib ko'proq tsikllar u yoki bu ma'lumot 
olinganidan beri o'tgan bo'lsa, ushbu ma'lumotlarning ahamiyati ishning yangi tsiklida katta rol 
o'ynamaydi.