O'quv darajasi model har bir kuzatuvdagi xatolarni to'g'rilash uchun zarur bo'lgan tuzatish bosqichlarining hajmini belgilaydi. O'qishning yuqori darajasi mashg'ulot vaqtini qisqartiradi, ammo yakuniy aniqligi pastroq, o'qish darajasi pastroq bo'lsa, ko'proq aniqlik olish imkoniyati mavjud. Kabi optimallashtirishlar Quickprop birinchi navbatda xatolarni minimallashtirishni tezlashtirishga qaratilgan bo'lib, boshqa yaxshilanishlar asosan ishonchliligini oshirishga harakat qiladi. Tarmoq ichidagi o'zgaruvchan ulanish og'irliklari kabi tebranishdan saqlanish va konvergentsiya tezligini oshirish uchun yaxshilanishlar adaptiv ta'lim darajasi tegishli ravishda ko'payadi yoki kamayadi.[47] Impuls momenti tushunchasi gradient va oldingi o'zgarish o'rtasidagi muvozanatni og'irlik sozlamalari avvalgi o'zgarishga ma'lum darajada bog'liq bo'lishi uchun tortish imkonini beradi. 0 ga yaqin momentum gradiyentni ta'kidlaydi, 1 ga yaqin qiymat oxirgi o'zgarishni ta'kidlaydi. Makkullox, Uorren; Valter Pitts (1943). "Asabiy faoliyatda doimiy bo'lgan g'oyalarning mantiqiy hisobi". Bulletin of Mathematical Biophysics. 5 (4): 11541. Olingan 17 iyun 2017. ^ Xebb, Donald (1949). The Organization of Behavior. Nyu-York: Vili. ISBN 978-1-135-63190-1. ^ Farley, B.G.; V.A.Klark (1954). "Raqamli kompyuter tomonidan o'z-o'zini tashkil qilish tizimlarini simulyatsiya qilish". Axborot nazariyasi bo'yicha IRE operatsiyalari. 4 (4): 76408. CiteSeerX 10.1.1.588.3775. doi:10.1037 / h0042519. PMID 13602029. ^ Werbos, P.J. (1975). Regressiyadan tashqari: xulq-atvor fanlarida bashorat qilish va tahlil qilishning yangi vositalari. ^ a b v Shmidhuber, J. (2015). "Neyron tarmoqlarida chuqur o'rganish: Entsiklopediya site:uz.wikisko.ru
http://fayllar.org
Do'stlaringiz bilan baham: |
