21-amaliy ish. Falman-liber kaskadli korelyatsiya tarmog‘I

21-AMALIY ISH. FALMAN-LIBER KASKADLI KORELYATSIYA TARMOG‘I
S. E. Falman va K. Libier [91] ishlarida neyron tarmoqni o'qitish jarayonida uning strukturasini bosqichma-bosqich oshirishning original usuli taklif qilingan. Mualliflarning g'oyasi quyidagicha. Birinchidan, eng oddiy bir qatlamli perseptron yaratiladi, so'ngra uni o'rgatishga urinib ko'rgandan so'ng, tarmoqqa bitta yashirin neyronni qo'shishdan iborat bo'lgan bir qator bosqichlar amalga oshiriladi, ularning har biri o'z sinapslari bilan tarmoqning barcha kirish neyronlari bilan bog'lanadi va ilgari qo'shilgan barcha yashirin neyronlarga. Har bir yashirin neyronning sinaptik og'irliklari uning faolligi (ya'ni, chiqish signalining kuchi) va tarmoqni o'qitish xatosi o'rtasidagi maksimal korrelyatsiya koeffitsientini ta'minlash uchun tanlanadi, formula bo'yicha hisoblanadi:
S , (7.1)
bu erda I - chiqish neyronlari soni; Q - ta'lim misollari soni; y(q) - q-chi ta'lim misolidagi nomzod neyronning chiqish signali; q-chi ta'lim misolidagi i-chi chiqish neyronining xatosi; y va ei mos ravishda y va ei ning o'rtacha qiymatlari bo'lib, barcha o'quv misollari to'plami bo'yicha hisoblanadi.
Neyron tarmoq mualliflarining fikricha, bu usul yangi qo‘shilgan yashirin neyronga maksimal talabni ta’minlaydi.
Keyin yashirin neyronning aksoni tarmoqning chiqish neyronlariga ulanadi va uning mashg'ulotlari davom etadi, bunda faqat tarmoqning chiqish neyronlarining sinapslari tuzatiladi. Yashirin neyronlarning sinaptik og'irliklari tarmoqni o'qitishda tuzatilmaganligi sababli, xatoning orqaga tarqalishi algoritmidan foydalanishning hojati yo'q va tarmoq, masalan, umumlashtirilgan delta qoidasi yordamida o'qitiladi.
Bir nechta shunday bosqichlarni bajarish natijasida har safar yangi yashirin neyron qo'shilishi bilan optimal strukturaning neyron tarmog'i hosil bo'ladi.
Shunday qilib, kaskad korrelyatsiya tarmog'ini yaratish algoritmi (mualliflar shunday deb atashgan) quyidagicha.
1-qadam.Neyron tarmoq hosil bo'ladi (7.1-rasm), faqat kirish va chiqish neyronlaridan iborat - bir qatlamli perseptron. Perseptronning kirish va chiqish neyronlari soni muammoning shartlari bilan belgilanadi. 7.1-rasmda tarmoq uchta kirish va ikkita chiqish neyroniga ega, garchi raqam o'zboshimchalik bilan bo'lishi mumkin.