12 mavzu. Sun’iy neyron tarmoqlariga kirish. Bir va ko’p sathli neyron tarmoqlari va ularning turlari

12.7.2. Mak-Kallok-Pitts neyronli tarmoqiining formal modeli

Sun’iy neyron modeli ilk bor 1943 yilda Dj. Mak-Kallokk va U. Pits tomonidan tavsiflangan. NTlarda bilimlar neyrooʻxshash elementlar (yoki neyronlar) deb ataluvchi toʻplamlar va ular oʻrtasidagi aloqalardan iborat boʻladi. Burchak boshida yoʻnalish konnektivizm deyiladi. Mak-Kallok-Pitts neyronining formal modeli 12.23 - rasmda koʻrsatilgan [15-18].

Bu model hozir ham NTlarda alohida neyronni tavsiflash uchun keng qoʻllaniladi.
Bu yerda:
x_i - neyronning i - kirishidagi signal;
ω_i - neyronning i - kirishi massasi;
y - neyronning chiqishi;
h - neyronning ishlash chegarasi.
Modelda neyron kirishlaridagi signallarning orttirilgan yigʻindisi h chegaraviy qiymat bilan taqqoslanadi, agar u chegaradan oshib ketsa chiqishda signal mavjud boʻladi. Neyronlarning hozirgi modelida chegaraviy funksiya umumiy holda chiziqli funksiya bilan almashtiriladi. Bu funksiya sifatida

keltirish mumkin. parametr odatda siljish deyiladi. Shuning uchun odatda neyron koʻpaytuvchilar, summator va chiziqsiz elementlardan tashkil topgan deyiladi.



12.7.3. Xopfild neyronli tarmoqlari

Xopfild NTlari taniqli assotsiativ xotirali tarmoqlar hisoblanadi [2]. SNTlarning turli shakllari orasida shunday tarmoqlar uchraydiki, ular yordamida obyektlarni sinflashda o’qituvchili o’rgatish [1] va o’qituvchisiz o’rgatish [2] prinsiplari to’g’ri kelmaydi. Bunday tarmoqlarda vaznli koeffitsiyentlar qayta ishlanadigan ma’lumotlar haqidagi axborotlar asosida tarmoqlarning ishga tushishidan oldin, faqat bir marta hisoblanadi va tarmoqlar yordamida barcha o’rgatishlar xuddi ushbu hisobga keltiriladi.

Xopfild tarmogʻi asosida quyidagi gʻoya yotadi - H “Energiya”ni gradiyentli minimallashtirish uchun differensial tenglamalar sistemasi koʻrinishida (Lyapunov funksiyasi) yozib olamiz.
Bunday sistemaning teng ta’sir etuvchi nuqtalari energiyaning minimum nuqtalarida topiladi. Energiya funksiyasini har bir etalonning minimum nuqtasi va minimum nuqtasida obyektlarning barcha koordinatalari qiymat orasida boʻlishi kerak degan mulohazalardan kelib chiqib quramiz.
funksiyasi bu talablarni qat’iy qonatlantirmaydi, lekin taxmin qilish mumkinki, bunda birinchi qoʻshiluvchi etalonlarga yaqinlashishini ta’minlasa (fiksirlangan uzunlikdagi vektor uchun skalyar koʻpaytmaning kvadrati boʻlganda maksimumga erishadi), ikkinchi qoʻshiluvchi esa barcha koordinata nuqtalarining absolyut qiymatlarini 1 ga yaqinlashtiradi.
qiymat bu ikki talab oʻrtasidagi oʻzaro nisbatni xarakterlaydi va vaqt oʻtishi bilan u oʻzgarishi mumkin.
Energiya uchun mavjud ifodadan foydalanib, Xopfild tarmogʻi harakatini tavsiflovchi tenglamalar sistemasini
(12.1)
yozish mumkin.
(12.1) koʻrinishdagi Xopfild tarmogʻi uzluksiz vaqtli tarmoq hisoblanadi. Bu, balkim, ayrim analogli amalga oshirish variantlari uchun qulay boʻlishi mumkin, lekin raqamli kompyuterlarda qadamba-qadam diskret vaqtda ishlaydigan tarmoqlardan foydalanish maqsadga muvofiq boʻladi.
Xopfild NTlarining struktursi 12.24-rasmda keltirilgan [2]. Xopfild neyron tarmogi - bu alohida turdagi rekurrent NT. Bunday tarmoqda har bir neyronning kirishiga, kirish vektorning tegishli komponentasidan tashqari, birinchi qatlamning taqsimlovchi neyronlari orqali boshqa neyronlarning chiqish signallari ham keladi. U bitta neyronlar qatlamidan iborat bo’lib, neyronlar soni bir vaqtda tarmoqning kirishi va chiqishi hisoblanadi.
Assotsiativ xotirali tarmoq sifatida masalani yechish quyidagicha shakllantiriladi. Aytaylik etalon obyektda (tasvirlar, jarayonlar…) qandaydir kirish signallar nabori oldindan ma’lum bo’lsin. NT kirishga berilgan mukammal bo’lmagan ixtiyoriy signallardan ularga mos keluvchi etalonni ajratib olishi yoki kirish signallari bororta ham etalon obyektga mos kelmasligi haqida xulosa berishi kerak. Umumiy holda ixtiyoriy signal X = {x_i: i=0...n-1} shaklda tavsiflanishi mumkin, bu yerda n - tarmoqdagi neyronlar soni va kirish hamda chiqish vektorlarining o’lchovi. Har bir x_i element +1 yoki -1 ga teng. k-etalonni tavsiflovchi vektorni X^k deb, uning komponentalarini mos ravishda -x_i^k deb belgilaymiz, bu yerda k=0...m-1, m - etalonlar soni. NT berilgan ma’lumotlar asosida qandaydir etalonni anglab olganda uning chishida xuddi shu namauna hosil bo’ladi, ya’ni Y = X^k, bu yerda Y- tarmoqning chiqish signallarining qiymatlari: Y = { y_i: i=0,...n-1} bo’ladi. Aks holda chiquvchi vektor birorta ham etalon bilan mos tushmaydi.

Tarmoqni nomlash jarayonida tarmoqning vaznli koeffitsiyentlari quyidagicha o’rnatiladi [2, 18, 19]:

(12.2)
Bu yerda i va j - indekslar, mos ravishda, oldsinaptikli va ortsinaptikli neyronlar; x_i^k, x_j^k- k-etalon vektorining i-va j-elementlarri.
Xopfild NTlarining ishlash algoritmi quyidagicha (p-iteratsiyalar tartib raqami) [2, 18]:
1. Tarmoqning kirishiga noma’lum signal beriladi. Ushbu signalni haqiqiy kiritish aksonlar qiymatlarini o’rnatish yordamida amalga oshiriladi:
y_i(0) = x_i, i = 0...n-1, (12.3)
Qavsdagi nol tarmoqning ishlash sikllaridagi nolli iteratsiyani bildiradi.
2. Neyronlarning yangi holati
, j=0...n-1 (12.4)
va aksonlarning yangi qiymati
(12.5)
hisoblanadi. Bu yerda f-sakrashli ko’rinishdagi aktivlashgan funksiya bo’lib, u 12.25 b-rasmda keltirilgan.

3. Oxirgi iteratsiyadan keyin aksonlarning chiqish qiymatlarining o’zgarganligi tekshiriladi. Agar o’zgargan bo’lsa, u holda 2-qadamga, aks holda tugatish (agar chiqishlar bir maromda bo’lsa). Bu holda chiquvchi signal o’zida kirish signallari bilan eng yaxshi mos tushadigan etalon obyektni aks ettiradi.

Ba’zi hollarda Xopfild NTlari obyektlarni to’g’ri anglab ololmaydi va chiqishda muhim bo’lmagan obyektni beradi. Bu barcha tarmoqlarning imkoniyati chegaralanganligi muammosi bilan bog’liq. Xopfild NTlarida xotirada eslashi mumkin bo’lgan obyektlarning umumiy soni m taxminan 0.15•n ga teng bo’lgan qiymatdan oshmasligi kerak. Bundan tashqari, agarda ikkita A va B obyektlar bir-biriga juda o’xshash bo’lgan holda kirishda A obyekt berlgan bo’lsa, u holda chiqishda B obyektning paydo bo’lishiga olib keladi va aksincha.
Xopfild tarmogʻini diskret vaqt oraligʻida quramiz. Tarmoq kiruvchi vektorni shunday oʻzgartirishni amalga oshirishi kerakki, chiquvchi vektorning hisoblangan toʻgʻri javobi etalonga yaqin boʻlmogʻi kerak.
Tarmoqning oʻzgarishini
(12.6)
koʻrinishda izlaymiz. Bu yerda,  - - etalonning vazni boʻlib, uning x vektorga yaqinligini xarakterlaydi, - chiziqlimas operator, koordinatali vektorni koordinatali vektorga oʻzgartiradi.