14 mavzu. Neyron tarmoqni o’qitish masalasi. Neyron tarmoq aniqligini oshirish yo’llari. Reja

Echim. Shunday qilib, algoritmni qo'llaganimizdan so'ng, vazn 0,063 ga oshdi. Endi H₂ uchun xuddi shunday jarayon amalga oshiriladi.
Echim. Albatta, I₁ va I₂ neyronlarning vazn sinapslari ham bor, ularni ham yangilash kerak. Lekin kirish neyronlari uchun deltalarni topish shart emas, chunki ularda kirish sinapslari mavjud emas.
Echim. NTning chiqishi faqat yangilangan vaznlar bilan hisoblanadi. Teskari tarqalishli xatolikning bir marta takrorlanishidan so'ng, xatolikni 0,04 (6%) ga kamaytirishga muvaffaq bo'lindi. Endi buni xatolik etarlicha kichik bo'lguncha takrorlash kerak.
Xatoliklaarni teskari tarqalishi. Chiqishdagi xatolikni qanday topishni ko’rib chiqqan edik: E = - (Y - y). Ammo yashirin qatlamlardagi xatolikni qanday topish mumkin? Chiqish bilan bog'liq xatolikni qanday qilib orqaga qaytarish kerak?
Barcha ulanishlar uchun bitta chiqishdagi xatolik qiymatidan foydalanish noto’g’ri hisoblanadi. Xatolikning kattaligi bitta emas, balki barcha ulanishdagi neyronlarning hissalari bilan belgilanadi. Shunday qilib, biz qandaydir tarzda, ushbu xatolikni barcha tugunlar orasida, ularning qo'shgan hissalariga mutanosib ravishda taqsimlashimiz kerak. Ya'ni, xatolikning katta qismi ko'proq vaznga ega bo'lgan neyronlarga tegishli bo’ladi, chunki ular chishdagi xatolik miqdoriga ko'proq ta'sir qiladi:

14.7-rasm. Xatoliklaarni teskari tarqalishi.
Bunday holda, chiqish neyronidagi signal ikkita oldinda turgan neyronlar tomonidan hosil bo'ladi. Ularning vaznlari mos ravishda 1 va 3 ga teng. Agar chiqishdagi xatolikni oldinda turgan neyronlarning vaznlarini hisobga olib ular ortasida mutanosib ravishda taqsimlaydigan bo'lsak, u holda kichikroq vaznga ega bo’lgan (w_1,1=1) neyronni yangilash (to’g’rilash) uchun chiqishdagi xatolik qiymatining 1/4 qismini va katta vaznga ega bo’lganini (w_1,2=3) yangilash uchun chiqishdagi xatolikning 3/4 qismi ta’minlash kerak bo’ladi. Agar biz tarmoqning chiqish neyroniga o'xshash tarzda bog'langan ming yoki undan ortiq neyronlarga ega ekanligini tasavvur qilsak, chiqadigan xatolikni ushbu ulanishlardagi neyronlar o'rtasida ularning ulushlariga mos keladigan vaznlarning kattaligi mutanosib ravishda taqsimlaymiz.
Endi chiqishda neyronlar ko’p bo’lganda chiqishdagi xatoliklarni teskari tarqalish holatini ko'rib chiqamiz (14.8-rasm).

14.8-rasm. Xatoliklarni teskari tarqalish holati.
Ko'rib turganimizdek, vaznlarni yangilash uchun o’quv jarayonida barcha neyronlarning chiqishidagi xatoliklar haqida ma'lumot kerak bo’ladi. Xuddi yuqoridagidek (14.8-rasm) chiqishdagi xatolik oldindagi tegishli neyronlarning vazn koeffitsientlariga mutanosib ravishda ko'paytiriladi. Bu holat NT bir nechta chishlardan iborat bo’lganda ham xuddi bitta chiqish bo’lgan holatdagidek amalga oshiriladi.
Shunday qilib, e₁ xatolik w_1,1 va w_1,2 ulanishlarga va e₂ xatolik w_2,1 va w_2,2 ulanishlarga mutanosib ravishda taqsimlanadi (14.8-rasm).
Matematik shaklda xatolik qiymatlari ulanishlar bo'yicha qanday taqsimlanganligini keltiramiz. Masalan, e₁ xatolik w_1,1 va w_1,2 ulanishlardagi xatoliklarni to’g’rilaydi. Bunda w_1,1 vaznning ulushi:

va w_1,2 ning ulushi:

aniqlanadi.
Ushbu ifodalardan ko’rinadiki, chiqishdagi xatolikga ko'proq hissa qo'shgan neyronlar bu haqda ko'proq ulush olishini va aksincha, kichikroq hissa qo'shgan neyronlar kamroq ulush olishini bildiradi.
Masalan, w_1,1 = 1 va w_1,2 = 3 vaznlarga ega bo'lsa, u holda w_1,1 uchun e₁ xatolikning ulushi: e₁ =1/(1 + 3) = 1/4, boshqa w_1,2 vazn uchun esa e₁ =3/(1 + 3) = 3/4 bo’ladi.