Teskari tarqalishli neyronlarni (kitobda 7-bob) kelgusi mavzuda kiritasizmi? Agar kelgusi mavzuga kiritmasangiz shu mavzuning oxiridan kiritish kerak

https://github.com/CaniaCan/neuralmaster
Demak, o'qitilgan neyron ilgari ushbu tanlanmadagi ma'lumotlarni uchratmagan bo'lsa ham butun test to'plamini tanidi.
Bundan tashqari, ko'rib turganimzdek, neyronimiz chiziqli funksiya b parametridan foydalanmasdan masalani mukammal uddaladi. Agar unga ega bo'lsa, u o’quvda ham faol qatnashar edi, qolgan vaznlar ham uni hisobga olgan holda yangilanib borar edi, natijada ular ham to'g'ri javoblarni olishar edi.
Unit Hop funksiyasi va chiziqli funksiya o'rtasidagi afzalliklar va kamchiliklar. Faollashtirish funksiyasini (bitta sakrash) o'quv sikliga kiritish orqali biz neyronimizning funksionalligini sezilarli darajada kengaytirdik. Endi u sinflashdan tashqari raqamlarni taniy oladi. Ammo chiziqli sinfdan xalos bo'lib, uni bitta sakrash funksiyasi bilan almashtirsak, endi biz faqat ikkilik qiymatlar bilan ishlashimiz mumkin - 0 va 1. Bu cheklov chiziqli sinfdan qochish natijasida emas, balki faollashtirish funksiyasini tanlashdir. Yagona o'tish funksiyasining o'zi faqat shu turdagi ma'lumotlar bilan ishlashga qodir. Shubhasiz, har xil sonli ma'lumotlar bilan ishlash uchun boshqa faollashtirish funksiyasi zarur.
Manbalarni quyidagi havola orqali topishingiz mumkin:
https://github.com/CaniaCan/neuralmaster
Ko'rganimizdek, o’quv tanlanmani tekshirganimizda neyronimiz nol sonini hech qanday qiyinchiliksiz taniydi (0.98744). Buning ajablanarli joyi yo'q, chunki u ushbu tanlanmani o’rgandi. Ammo neyron hali ko'rmagan sinov tanlanmasidagi olgan natijalariga ko'ra, ehtimollik sezilarli darajada o'zgarib turadi. Masalan, u test tanlanmadagi ikkinchi nolni eng yaxshisi deb tanib oldi, uning ehtimoli 0,988%. Eng yomon tanib olish ko’rsatkich – bu test tanlanmadgi uchinchi nolni tanib olshdagi ehtimol - 0,614%. Lekin shunga qaramay, ko'pgina neyronning boshqa nollarni tanib olish ehtimoligi ko’rsatkichlari 0,5 dan yuqori. Ta’kidlaymizki, bizning neyronimiz 6 ta nolni tanib olishda adashmadi.
Shunday qilib faollashtirish funksiyalarning, xususan sigmasimon funksiyalarning chiziqli funksiyadan afzalliklari aniq ko’rsatildi. Biz juda ko'p sonli qiymatlardan (ma'lumotlarning statistik normallashishini hisobga olgan holda) cheksiz ko'p parametrlarni kirish sifatida qabul qilishimiz mumkin.
Faqatgina chiziqli sinflash funksiyasidan foydalangan holda raqamni tanib olish mumkin bo'lmaydi.