14 mavzu. Neyron tarmoqni o’qitish masalasi. Neyron tarmoq aniqligini oshirish yo’llari. Reja

Qatlamlar orasidagi xatoni ko'paytirish. Agar ko'proq qatlamlar bo'lsa, chiqishdan kirishgacha harakat qilib, biz yuqoridagi amallarni har bir qatlam (qator) uchun takrorlaymiz (14.9-rasm).

14.9-rasm. Qatlamlar orasidagi xatoni ko'paytirish.
Bu erda w_ck - yashirin qatlamning bog'lanish vazni, w_bx - kirish qatlamining bo’glanish vazni. Yana bir bor, bu jarayon nima uchun xatolarni orqaga qaytarish deb nomlanishini ko'rishingiz mumkin.
Kirish signallari oldinga yo'nalishda, yashirin qatlam neyronlarida tarqalganda, barcha signallarning yig'indisi va faollashtirish funksiyasidan so'ng boshqa ulanishlarning vaznlari bilan ko'paytirish natijasida bitta chiqish signali hosil bo'ladi. Xatoliklarni teskari tarqalishida yashirin qatlam neyronlaridagi xatoliklarni qanday aniqlash mumkin?
Biz chiqishdagi xatolikni qanday aniqlashni bilamiz – bu maqsad va chiqish qiymatlari o'rtasidagi farqdan iborat bo’ladi. Yashirin qatlamda maqsad yoki kerakli chiqish qiymatlari mavjud bo’lmaydi. Ammo biz yashirin qatlamdagi neyronning barcha chiqadigan ulanishlari bo'yicha xatoliklarni jamlasak, uning umumiy qiymatini olamiz. Ushbu jarayon signalning to’g’ri tarqalishiga juda o'xshaydi, bu erda xatolik signal sifatida ishlatiladi (14.10-rasm):

14.10-rasm. Xatolik signal sifatida ishlatilishi.
14.10-rasmdan ko’rinadiki, e₁ xatolikda w_1,1 vaznning ulushi va e₂ xatolikda w_2,1 vaznning ulushi mavjud bo’ladi.
Yuqoridagilardan w_1,1 va w_2,1 ulanish xatolarining yig'indisini e1_ck deb olsak, u holda quyidagicha yozilish mumkin:

Misol. Ushbu nazariya amalda qanday ishlashini tushunish uchun biz aniq qiymatlar misolida uch qatlamli tarmoqdagi xatolikning teskariga tarqalishi haqidagi misolni keltiramiz:

14.11-rasm.
Keling, xatolardan birining tarqalishini kuzataylik. Chiqish qatlamining birinchi neyronini olaylik. e₁ xatolikning w_1,1=1 va w_1,2 = 2 vaznlari bilan ulanishlari orasidagi mos ravishda 0,23 va 0,47 ga teng qismlarini ko'ramiz. Buni quyidagicha hisoblaymiz:
e₁ * (w_1,1 / (w_1,1 + w_1,2) = 0,7 * (1/(1 + 2)) = 0,23
e₁ * (w_1,2 /( w_1,1 + w_1,2) = 0,7 * (2/(1 + 2)) = 0,47
U holda yashirin qatlamning birinchi neyronidagi birlashtirilgan xatolik - bu taqsimlangan xatoliklar yig'indisi, bu holda 0,23 + 0,21 = 0,44.
Xatolikning kirish qatlamiga yaqinroq tarqalishi shunga o'xshash tarzda amalga oshiriladi (14.12-rasm):

14.12-rasm. Xatolikning kirish qatlamiga yaqinroq tarqalishi.
Ushbu usulni qo'llagan holda biz barcha neyronlar va qatlamlar uchun xatolikni bilib olamiz, bu esa barcha ulanishlarning vaznlarini kerakli nisbatda yangilashga imkon beradi.