12 mavzu. Sun’iy neyron tarmoqlariga kirish. Bir va ko’p sathli neyron tarmoqlari va ularning turlari

Yagona o'tish (sakrash)funksiyasi. Keling, koordinatalar tekisligidagi holatimizni tasvirlashga harakat qilaylik:

12.17-rasm. Faollashtirish funksiyalari.

Bizning holatimiz koordinatalarda juda aniq ko'rinishga ega. Bizning holatimizni ma'lum bir funksiya deb aytishimiz mumkin. Va bunday funksiya nomi bor - birlik o'tish funksiyasi. O'quv jarayonida qatnashadigan funksiyalar - faollashtirish funksiyalari deb ataladi(12.17-rasm). Hammasi bo'lib o'ndan ortiq faollashtirish funksiyalari mavjud. Kelajakda biz ularning eng mashhurlarini tahlil qilamiz.

Matematik tilda birlik sakrashni faollashtirish funksiyasini yozamiz:



12.7. Bir va ko’p sathli neyron tarmoqlari va ularning turlari

12.7.1. Neyronli tarmoqlarning turlari

Ma’lum koʻrinishda bogʻlangan neyronlardan (tugunlardan) ma’lum sondagi kirish va chiqishlarga ega boʻlgan NTlar¹ quriladi. Odatda uch turdagi neyronlarni ajratish mumkin: kiruvchi (neyronning kiruvchi qatlami yoki Input Layer), chiquvchi (chiquvchi qatlam yoki Output Layer) va neyronning yashirin qatlamlari (Hidden Layers) (12.18-rasm) [15-17].
Kiruvchi qatlam Yashirin qatlam Chiquvchi qatlam

12.18-rasm.Toʻgʻri bogʻlanishli NT.

NTlarning faoliyati ikki bosqichdan iborat boʻladi [15-17]: toʻrni kiruvchi axborotga oʻrgatish (kiruvchi vektor) va oʻrgatilgan toʻrda kiruvchi vektorlarni aniqlash uchun qoʻllash. Oxirgi bosqich odatda testdan oʻtkazish deyiladi. Boshqacha aytganda toʻr kiruvchi vektorlarni aniqlashga, ya’ni kiruvchi vektorning tanilgan sinfiga mos keluvchi chiquvchi vektorni shakllantirishga oʻrganadi. Bunda kiruvchi vektorlarning chiquvchi vektorlarga mosligi haqidagi bilimlar neyron chegaralarida saqlanadi.
NTlarning ba’zi modellarida kiruvchi va chiquvchi signallar ajratilmaydi (masalan, Xopfild modeli) va toʻrning ularga mos kirishlari (chiqishlari) toʻrning faoliyat koʻrsatish jarayonida oʻz vazifalarini almashishi mumkin.
NTlarning faoliyati koʻpincha optimallashtirish masalalari terminlarida tavsiflanadi. Uni oʻqitishni toʻr energiyasi deb ataladigan maqsad funksiyasi bilan aniqlanadigan n-oʻlchamli gipersirtning shakllanishi sifatida tasavvur qilish mumkin. Bu gipersirtni tasvirlash neyron boʻsagʻa(yetarli cheklanish)larida saqlanadi. Masalan, Xopfild modeli holatida energetik funksiya quyidagi formula bilan tavsiflanadi:

Bu yerda N - neyronlar soni (kiruvchi vektor oʻlchami); w_ij - i- va j- neyronlar orasidagi bogʻlanish kuchi; x_i -i - neyron holati.
Oʻrgatilgan NTni sinash (ishlatish) jarayonida maqsad funksiyaning eng yaqin minimumini qidirish jarayoni sodir boʻladi. Bunda kiruvchi vektorlar siqilgan razryadlarining tiklanish jarayoni yoki berilgan (ma’lum) razryadlar bilan assotsiativ bogʻlangan noma’lum razryadlarni saqlash jarayoni sodir boʻladi.
Hozirgi kunda NTlarning juda koʻp xilma-xilliklari mavjud. Ularni toʻr tuzilishi, neyron modelining xususiyatlari, oʻqitish xususiyatlariga koʻra ajratishadi.
Tuzilishiga koʻra NTlarni toʻliqsiz bogʻlanishli (yoki qatlamli) va toʻliq bogʻlanishli, tasodifiy va regulyar (qat’iy) bogʻlanishli, simmetrik va nosimmetrik bogʻlanishli kabi turlarga ajratish mumkin.
Toʻliqsiz bogʻlanishli NTlar toʻliqsiz bogʻlangan yoʻnaltirilgan graflar bilan tavsiflanadi. Bunday NTlarning keng tarqalgan turi perseptronlar hisoblanadi. Ular bir qatlamli (oddiy perseptronlar) va koʻp qatlamli, toʻgʻri, kesishuvchi va teskari bogʻlanishli turlarga boʻlinadi. Toʻgʻri bogʻlanishli NTlarda j-qatlam neyronlari kirishlarda faqat i-qatlamdagi neyronlar, ya’ni quyi qatlamdagi neyronlar bilan bogʻlanishi mumkin (bu yerda ). Kesishuvchi bogʻlanishli NTlarda bir qatlam ichida bogʻlanishga ruxsat beriladi, ya’ni yuqorida keltirilgan tengsizlik ga almashadi. Teskari bogʻlanishli NTlarda boʻlganda j-qatlamning kirishlarda i-qatlam bilan aloqasi ham ishlatiladi. Bundan tashqari bogʻlanish shakliga qarab perseptronlar regulyar va tasodifiy bogʻlanishli turlarga ajratiladi.
Kirish va chiqishlarda ishlatiladigan signallarga qarab NTlar analog va binar turlarga boʻlinadi.
Vaqtni modellashtirish boʻyicha NTlar uzluksiz va diskret vaqtli toʻrlarga boʻlinadi. Dasturiy foydalanish uchun diskret vaqtli turi ishlatiladi.