Ma’ruza №15 Mavzu: Neyron tarmoqlari

5. Neyron tarmoqlarning turlari

Hozirgi kunda NTlarning juda koʻp xilma-xilliklari mavjud. Ularni tarmoq tuzilishi, neyron modelining xususiyatlari, oʻqitish xususiyatlariga koʻra ajratishadi. Tuzilishiga koʻra NTlarni toʻliqsiz bogʻlanishli (yoki qatlamli) va toʻliq bogʻlanishli, tasodifiy va regulyar (qat’iy) bogʻlanishli, simmetrik va nosimmetrik bogʻlanishli kabi turlarga ajratish mumkin.
Toʻliqsiz bogʻlanishli NTlar toʻliqsiz bogʻlangan yoʻnaltirilgan graflar bilan tavsiflanadi. Bunday NTlarning keng tarqalgan turi perseptronlar hisoblanadi. Ular bir qatlamli (oddiy perseptronlar) va koʻp qatlamli, toʻgʻri, kesishuvchi va teskari bogʻlanishli turlarga boʻlinadi. Toʻgʻri bogʻlanishli NTlarda j-qatlam neyronlari kirishlarda faqat i-qatlamdagi neyronlar, ya’ni quyi qatlamdagi neyronlar bilan bogʻlanishi mumkin (bu yerda ). Kesishuvchi bogʻlanishli NTlarda bir qatlam ichida bogʻlanishga ruxsat beriladi, ya’ni yuqorida keltirilgan tengsizlik ga almashadi. Teskari bogʻlanishli NTlarda boʻlganda j-qatlamning kirishlarda i-qatlam bilan aloqasi ham ishlatiladi. Bundan tashqari bogʻlanish shakliga qarab perseptronlar regulyar va tasodifiy bogʻlanishli turlarga ajratiladi.
Kirish va chiqishlarda ishlatiladigan signallarga qarab NTlar analog va binar turlarga boʻlinadi.
Vaqtni modellashtirish boʻyicha NTlar uzluksiz va diskret vaqtli tarmoqlarga boʻlinadi. Dasturiy foydalanish uchun diskret vaqtli turi ishlatiladi.
Kirishlarda axborotni uzatish usuliga koʻra Ntlar kirish va chiqish neyronlariga, kirish neyronlarining kuchiga qarab signallarni uzatuvchi turlarga bo’inadi.
Chiqishlarda axborotni uzatish usuliga koʻra Ntlar chiqish neyronlariga qarab va chiqish neyronlari kuchiga qarab signallarni qabul qiluvchi turlarga ajraladi.
Oʻrgatishni tashkil etishga koʻra NTlar oʻqituvchi yordamida o’rgatadigan (supervised neyral networks) va oʻqituvchisiz o’rgatadigan (nonsupervised) turlarga boʻlinadi. Oʻqituvchi yordamida oʻqitishda oʻqitish bosqichida oʻqituvchi misollarni beradigan yoki NT faoliyatining toʻgʻriligini baholaydigan va oʻzining mezonlariga mos holda NTning holatini oʻzgartiradigan yoki NTni kengaytiradigan tashqi muhit bor deb faraz qilinadi. Oʻzgartirish mumkin boʻlgan NTning holati deganda odatda neyronlar kuchi, neyronlar boʻsagʻa(porog)si, neyronlar oʻrtasida yangi aloqalarni oʻrnatish (biologik neyronlarning yangi aloqalarni oʻrnatish va eskilarini yoʻq qilish xususiyati egiluvchanlik deyiladi) tushuniladi.
Oʻqitish usuliga koʻra NTlar kirishlar boʻyicha va chiqishlar boʻyicha oʻqitish turlarga boʻlinadi. Kirishlar boʻyicha oʻqitishda oʻqituvchi misol faqat kiruvchi signallar vektoridan iborat boʻladi, chiqishlar boʻyicha oʻqitishda unga kiruvchi vektorga mos keladigan chiquvchi signallar vektori ham kiradi.
NTlarning arxitekturasi va turlari neyronlarning tarmoqdagi bogʻlanish tartibi bilan belgilanadi. Shuning uchun koʻpincha NTlarni va tizimlarni konneksionistik nomi bilan ataydi (“Connection” -“Bogʻlanish” ingliz soʻzidan).
NTlarini ikki asosiy: toʻliq bogʻlangan va iyerarxikli turlariga ajratadi ( 15.13-rasm).

a) Toʻliq bogʻlangan NT. b) Iyerarxikli NT.
15.13-rasm. NTlar turlari.
Toʻliq bogʻlangan NT - bu har bir neyronning chiqishi barcha boshqa neyronlar kirishlari bilan, uning kirishlari esa qolgan neyronlar chiqishlari bilan bogʻlangan tarmoq. Bundan tashqari har bir neyronning chiqishi uning kirishiga ulangan boʻladi (“oʻz - oʻziga bogʻlanish”) (15.13, a- rasm). neyronlardan iborat boʻlgan toʻliq bogʻlangan NTda bogʻlanish soni teng.
Iyerarxikli NT -bu neyron guruhlarining tegishli alohida qatlam va darajalarda joylashgan tarmogʻi. Bunday NTda tegishli qatlamning har bir neyroni oldingi va keyingi qatlamlarning har bir neyronlari bilan bogʻlangan boʻladi (15.13, b -rasm). Uning kirish va chiqish qatlamlari tashqi muhit bilan ham bogʻlangan.
Bogʻlanish yoʻnalishlari boʻyicha teskari aloqasiz - norekurrent (feed - forward) (15.14-rasm) va teskari aloqali - rekurrent (feed-back) (15.14-rasm) NTlar ajratiladi.

15.14-rasm. Norekurrent NT. 15.15-rasm. Rekurrent NT.

Agar rekurrent NTda oʻzining bir qatlamdagi neyronlar oʻrtasida tormozlaydigan (manfiy bogʻlanishli vaznlar bilan) aloqalari boʻlsa, u holda bunday tarmoqni lateral yoki lateralli tormozlanishli NT deb ataydi (15.16-rasm).

15.16-rasm. Lateralli tormozlanishli NT.
Bir qatlamli NT - bu sodda, iyerarxik, norekurrent turdagi tarmoq. Bunday tarmoqda tashqi muhit signallarini qabul qiladigan va taqsimlaydigan kirish neyronlar qatlami hamda hisoblanadigan neyronlar qatlami mavjud boʻladi. Ularning har birining chiqish signallari uning kirishiga keladigan vaznlangan yigʻindi funksiyasi sifatida belgilanadi. Chiqish signallar majmuisi NTning chiqish vektorini tashkil qiladi. Bu yerda - oʻlchamli kirish vektori; - oʻlchamli ( - chiqish katlamning neyronlari soni) bogʻlanish vaznlar matritsasi; - oʻlchamli chiqish vektori.
Koʻp qatlamli NT - bu bir nechta hisoblanuvchi neyronlar qatlamlaridan iborat boʻlgan tarmoqlar. Bunday qatlamlar soni koʻpayishi bilan tarmoqning hisoblash quvvati ham oshadi.