Тип шаблона

2.2 Neyron tarmoqlar nazariyasi

Neyron tarmoqlar nazariyasi sohasida 30 yil davomida rivojlanayotgan rus ilmiy maktabi xorijiy tadqiqotlarga nisbatan ma'lum bir ustuvorlikka ega. Neyron tarmoqlar nazariyasi neyrokompyuterlarning algoritmik asosi hisoblanadi, xuddi mantiqiy algebra bir protsessorli va ko‘p protsessorli kompyuterlar mantig‘i uchun asos bo‘lib xizmat qilgan.

Ko'p qatlamli neyron tarmoqlarni sintez qilishning umumiy texnikasi Neyrokompyuterlar ilmiy markazi xodimlari tomonidan 60-yillarning oxirida ishlab chiqilgan va 30 yil davomida doimiy ravishda ishlab chiqilgan. Natijada, Rossiyada neyron tarmoqlar nazariyasi sohasida bir qator parametrlar bo'yicha xorijiy ishlar darajasidan oshib ketadigan yo'nalish shakllandi. Masalan, ixtiyoriy turdagi neyron va ixtiyoriy sonli qatlamlarga ega neyron tarmoqlarni adaptiv sozlash usullari ishlab chiqilgan; qatlamlar orasidagi har xil turdagi ulanishlar bilan; har xil turdagi optimallashtirish mezonlari bilan; neyron tarmoqlarining og'irlik koeffitsientlari bo'yicha turli cheklovlar bilan.
Mashhur xorijiy neyron paketlarda amalga oshirilgan neyron tarmoq paradigmalari kamida ikkita jiddiy kamchilikka ega:
1) ular tanlangan vazifaga adekvat bo'lmagan neyron tarmoq algoritmini amalga oshiradilar;
2) muammoni hal qilish sifatini yaxshilash uchun foydalanishning birinchi bosqichida mahalliy ta'sirga erishish.
1-jadvalda ko'p qatlamli neyron tarmoqlarni o'rnatishning xorijiy va mahalliy usullarining qiyosiy tavsifi keltirilgan.
Neyron tarmoqlar nazariyasini rivojlantirishning mahalliy usullarining ma'lum bir umumiyligi hisoblash matematikasida yangi yo'nalish - neyromatematikani tashkil etuvchi turli xil muammolarni hal qilish uchun neyron tarmoq algoritmlarini ishlab chiqishda yagona yondashuvni yaratishga imkon berdi. Bu soha neyron tarmoq mantiqiy asosda matematik masalalarni yechish algoritmlarini ishlab chiqish bilan bog'liq. Shuni ta'kidlash kerakki, bu yo'nalishda ilg'or bo'lgan Amerika neyrokompyuterlarni rivojlantirish maktabi kompyuter texnologiyalarining rivojlanish tarixida allaqachon uch marta fundamental xatolarga yo'l qo'ygan.

Jadval 2. Ko'p qatlamli neyron tarmoqlarda orqa tarqalish usuli va ruscha moslashish usullarini taqqoslash

NN		belgisi				Rus usullari ko'p qatlamli neyron tarmoqlarda moslashish	Orqaga tarqalish usuli				Eslatma
1		rivojlanish vaqti va nashrlar				1965 - 1971, 1970 - 1974 yillar	1976 - 1984 yillar
Kirish signalining xarakteristikalari
2		Tasvirlar sinflari soni (o'qituvchining tegishli ko'rsatmalarining signal darajasiga ko'ra darajalar rasmlarni kiritish olingan sinf)				2, K, davomiylik	2
3		Xarakterli kirishning statsionarligi tasodifiy tasvirlar signallari				statsionar, statsionar bo'lmagan	statsionar
4		Xarakterli o'qituvchining "malakalari"				o'zboshimchalik bilan	trening (v=1) kamdan-kam hollarda o'z-o'zini o'rganish (v=0)
5		O'z fikri o'qituvchilari haqida qobiliyatlar				+	-
6		Oldingi ehtimolliklar sinflarning ko'rinishi tasvirlar				o'zboshimchalik bilan	teng
Qaror qabul qilish maydonining tavsifi
7		Qarorlar soni				2, K, davomiylik	2				sinflar sonining har qanday varianti uchun
8		Oldindan ma'lumot shartli zichlik haqida tarqatish ehtimolliklar tasvirlar haqida sinflar				hisobga olish mumkin	hisobga olinmagan
Birlamchi optimallashtirish mezonlari
9		Kriterlar sinfi asosiy optimallashtirish		o'rtacha funktsiya xavf, hisobga olinmagan holda va turli sinflar uchun tarkibiy qismlarga cheklovlar mavjud bo'lganda, maksimal a posteriori ma'lumot va boshqa mezonlar				Energiya funktsiyasi, ildiz o'rtacha kvadrat xatosi		Rus usuli: - min R (o'rtacha xavf funktsiyasi) - min R at (o'rtacha xavf funktsiyasining komponenti) - min R at va boshqalar.
10	Matritsa (funktsiya) yo'qotishlar				o'zboshimchalik bilan				diagonal simmetrik
Ko'p qatlamli neyron tarmoqlarning tuzilmalari
o'n bir	Struktura turlari ko'p qatlamli neyron tarmoqlari		ko'p qatlamli bilan neyron tarmoqlari to'liq va to'liqsiz ketma-ket, xoch va fikr-mulohaza. O'zboshimchalik bilan tuzilmalar, adekvat hal qilinishi kerak bo'lgan vazifalar						bilan uch qatlamli tarmoqlar to'liq ketma-ket ulanishlar
Ikkilamchi optimallashtirish funksiyasi
12	Birlamchi optimallashtirish funksiyasiga mos keladigan ikkilamchi optimallashtirish funksiyasini tanlash usuli		+						-
Ikkilamchi optimallashtirish funksiyasining ekstremumini topish usullari
13	Birlashtirilgan (gradient va tasodifiy qidirish usullari) foydalanish		+						-
14	Stokastik yaqinlashish usulidan foydalanish		+						-
15	Maxsus koeffitsientlar bo'yicha cheklovlar haqida ma'lumotni ko'rib chiqish (masalan, kattalik yoki o'zgarish tezligi bo'yicha)		+						-
16	Imkoniyat foydalanish qidiruv tebranishlari		+						-
17	Imkoniyat zanjirda filtrlash baholashda moslashuvlar funktsional gradient ikkilamchi optimallashtirish		+						-
18	Boshlang'ich tanlov tsikldagi shartlar vaznga moslashish koeffitsientlar		+						-
Oddiy kirish signallari
19	Oddiy kirishlarni tanlash signallari		+						-

Ulardan birinchisi 60-yillarda, og'irlik koeffitsientlarini moslashtirish bilan elementlar bazasiga e'tibor qaratgan holda neyrokompyuterlar yaratilgan. Keyin rus maktabi neyrokompyuterlarni ishlab chiqish kontseptsiyasini qabul qildi, unda ishchi, tanib oluvchi qismi sobit yoki sozlanishi koeffitsientli analog blok shaklida amalga oshirildi va moslashuv bloki universal kompyuterlarda amalga oshirildi.^xv.

Ikkinchi xato Minsky va Papertning "Perceptrons" asarini nashr etish bilan bog'liq bo'lib, go'yo ikki qatlamli neyron tarmog'ida "eksklyuziv yoki" ni amalga oshirish muammosini hal qilishning iloji yo'qligini ko'rsatdi. O'sha paytda ko'p qatlamli neyron tarmoqlarni o'rnatishning umumiy texnikasini bilgan rus mutaxassislari bu sohada o'z ishlarini davom ettirib, 80-yillarning o'rtalariga qadar chet elda deyarli yo'qligini kuzatdilar.
Uchinchi xato, amerikalik olimlarning ishlarida neyron tarmoq mantiqiy asosda individual matematik muammolarni hal qilishda ma'lum neyron tarmoq paradigmalari yo'naltirilganligi bilan bog'liq. Bizning ishimizda neyron tarmoqlarni sintez qilishning umumiy usuli har qanday matematik muammolarni echishning yagona usulini yaratish va yanada rivojlantirish, neyromatematikani - hisoblash matematikasining yangi tarmog'ini yaratish imkonini berdi.