6-mavzu. Neyron tarmoqlar

n
2
2
x
3
x
1
x




+
−
−
=
∑
∑
∑
∑
j
j
j
j
j
j
j
i
ij
j
i
y
y
x
y
y
w
E
θ
2
1
j
x
j
θ
j
j
j
i
ij
j
i
y
x
y
w
E
∆






−
+
−
=
∆
∑
≠
θ
)
(
j
y

---

bundan oldin uning qiymati nolga teng bo’lgan bo’lsa, ortish qiymati
ga
teng, agarda neyron bundan oldin ham faol holatda bo’lgan bo’lsa, uning holati
o’zgarmaydi, demak
bo’ladi. Bu degani,
kattalik yoki manfiy
bo’ladi, yoki o’zgarmaydi.
Agarda umumiy kirish boshlang’ich qiymatdan kichik bo’lsa, u holda
neyron “0” holatni qabul qiladi, bu degani
kattalik yoki “-1” yoki “0”
qiymatni qabul qiladi. Bunday holda (6.4) dagi barcha ifodalar yoki manfiy, yoki
nolga teng bo’ladi.
Umumiy kirish boshlang’ich qiymatga teng bo’lgan holda (1.4.4) dagi ikkala
ko’paytuvchi nolga teng bo’ladi, demak,
ham nolga teng bo’ladi.
Shunday qilib, neyronlar holati o’zgarganida tarmoqning energiyasi yoki
kamayadi, yoki o’zgarmaydi va holatlarning chekli sondagi yangilanishlarida u
minimumga intiladi, so’ngra o’zgarmas bo’lib qoladi, bu esa tarmoq
turg’unligining belgisidir. Shuni qayd etish joizki, vaznlar matrisasining
simmetriligi yetarli bo’lsa ham, zaruriy shart emas.
Rekurrent tarmoqlar assotsiativ xotira modellari vazifasini o’tashi mumkin.
Inson xotirasi bilan an’anaviy kompyuterning xotirasi o’rtasida sezilarli farq bor.
Mashina xotirasidan axborotni o’qib olish uchun, axborot joylashgan manzilni
ko’rsatish kerak. Inson xotirasi biroz boshqacharoq tuzilgan. Undan axborotni olish
uchun mazmuniga tegishli ma’lum bir kalit axborot kerak bo’ladi. Masalan, agar
odam unga tanish kitobning nomini eshitsa, u kitobning mualliflarini, mazmunini,
muqovasining rangi va h.k. larni eslashi mumkin. She’riyat ustalari she’rning
birinchi satrlaridanoq butun she’rni eslaydilar, musiqa bilimdonlari hamma
asarlarni ularning biron bir qismini eshitishlari bilanoq eslashlari mumkin va h.k.
Assotsiativ xotirani rekurrent tarmoqlarda modellashtirish uchun, ularning
maqsad holatlarini aniqlash va holat fazosidagi mazkur nuqtalarda energiyani
minimallashtirish kerak. Agar bunday shartlar bajarilsa, to’liq obrazning bir qismi,
yoki buzilgan variantini uzatishda, tarmoq, yuqori imkoniyat darajasi bilan to’liq
obrazni akslantiradi. Rekurrent tarmoqlar bilan ta’minlanuvchi mazkur imkoniyat
axborotni tiklash usullarini ishlab chiqishda katta rol o’ynashi mumkin.
[5] ishda Xopfild assotsiativ xotirani ishlab chiqish uchun quyidagi g’oyani
taklif qildi. Binar vector ko’rinishidagi
obrazlarni xotirada saqlab
qolish kerak bo’lsin. U holda, mazkur obrazlarni “esda tutuvchi” rekurrent tarmoq
asosida, assotsiativ xotirani yaratish uchun uning vazn koeffitsiyentlarini quyidagi
formula bo’yicha hisoblash mumkin:
,
bu yerda - k-vektorning i-komponentasi.
Shunday qilib, vazn koeffitsiyentlarini aniqlagandan so’ng (bunda
- bu tarmoqning barqarorligini ta’minlaydi) tarmoq assotsiativ xotira sifatida
qo’llanilishi mumkin. Agarda uning kirishiga
ning to’liq bo’lmagan yoki
buzilgan variantini ifodalovchi
vektorni uzatsak, tarmoq yuqori imkoniyat
1
=
∆