6-amaliy ishi. Sigmoid faollashtirish funksiyasi va umumiylashtirilgan delta qoidasi

Guruch. 4.20.Ko'p qatlamli perseptron
Shunday qilib, 
uchun yashirin qatlam 
nihoyat 
bizda ... bor:
∆wjn = ēdjxn; 
(4,36)
I

---

dj = yj (1−yj)Xd'iwij. 
(4,37)
i=1
Ushbu g'oyadan foydalanib, ixtiyoriy miqdordagi yashirin qatlamlarga ega bo'lgan 
perseptronni o'qitish uchun xatoning orqaga tarqalishi algoritmini yozish oson. 
Biroq, birinchi navbatda biz sigmasimon faollashtirish funktsiyasiga ega bo'lgan 
neyronlardan foydalanamiz (4.13) va formula bo'yicha yig'ish operatsiyasini 
bajaramiz.
(4.6). Ushbu formulaga ko'ra, har bir i-neyron yig'indini hisoblab chiqadi
J
Si=Xwijxj,
j=0
Bu erda wi0 - i-neyronning qo'shimcha kirishining og'irligi, uning biasini 
simulyatsiya qiladi va x0 = 1 - qo'shimcha kirish signalining qiymati.
Kirish qavati k = 0, bir necha yashirin qatlamlari k = 1, 2, bo'lgan ko'p qatlamli 
perseptron uchun xatoning orqaga tarqalishi algoritmini yozamiz. . ., K−1 va chiqish 
qatlami k = K (4.20-rasm).
Kirish qatlamining neyronlari matematik transformatsiyalarni amalga 
oshirmaydi, faqat kirish signallarini birinchi qatlam neyronlariga uzatadi. Har bir k 
qavatda Hk neyronlari mavjud deb taxmin qilamiz. Shunday qilib, perseptronning 
N = H0 kirishlari va M = HK chiqishlari mavjud. Algoritmda quyidagi 
belgilashlardan foydalanamiz: i - k qavat neyronining seriya raqami; j - neyronning 
seriya raqami (k−1) qavat; l - (k + 1) qavatning neyronining seriya raqami (quyida 
4.20-rasmga qarang). 1-qadam. Sinaptik og'irliklar va noaniqliklarni boshlash.
k = 1, 2, dan ortiq davrlarda. . ., K; i = 1, 2, . . ., Hk; j = 0, 1, 2, . . ., Hk
−bitta
Tasodifiy 
sonlar generatori sinaptik og'irliklarga va w(ijk) egilishlarga kichik qiymatlarni 
belgilaydi, masalan, oraliqdan boshlab.−1 dan 1 gacha.
2-qadamq = 1, 2, uchun tsiklni ochish. . ., Q. Keyingi kirish vektori Xq = (x1, x2, 
.. ., xN )q va mos keladigan kerakli chiqish vektori Dq = (d1, d2, . . ., dM )q ga oid 
misollar toʻplamidan taqdimot. , bu erda q - o'quv majmuasidagi misolning soni.

---

3-qadamTo'g'ridan-to'g'ri o'tish.
k = 1, 2, dan ortiq davrlarda. . ., K; i = 1, 2, . . ., Hk chiqish signallari i−K qavatdagi 
th neyron
y
f
, (4,38)
bu yerda y(0)j = xj; x
= 1; yi
perseptronning chiqish signallaridir.
4-qadamOrqaga o'tish.
K = K , K dan ortiq sikllarda−biri, . . ., bitta; i = 1, 2, . . ., Hk; j = 0, 1, 2, . . ., 
Hk
−bitta
sinaptik og'irliklar yangi davr bo'yicha hisoblanadi
w(ijk)(t + 1) = w(ijk)(t) + ∆wij(k) 
, 
(4,39)
qayerda
, (4.40)
va 
uchun hafta oxiri qatlamk= K bo'yicha 
(4.30)
),
a 
uchun hammasi 
boshqa yashirin 
qatlamlar 
ga ko'ra 
(4,37)
H
−.
l=1