6-mavzu. Neyron tarmoqlar

j
y
0
=
∆
j
y
Е
∆
j
y
∆
Е
∆
m
y
y
y
,...,
,
2
1
k
j
k
i
m
k
ij
y
y
w
∑
=
=
1
k
i
y
ji
ij
w
w
=
j
y
*
j
y

---

darajasi bilan asl ko’rinishini tiklaydi. Bu kiruvchi vektor uzatilgandan so’ng
tarmoq “o’zini bo’sh qo’yganligi”, ya’ni o’zining energiyasini eng yaqin minimum
tomonga qarab kamaytirgani uchun sodir bo’ladi. Bu minimum global emas, lokal
bo’lib qolgan varianti ham kuzatilishi mumkin.
Shu paytgacha biz boshlang’ich elementli rekurrent tarmoqlarni ko’rib
chiqdik. Sigmoid funksiya boshlang’ich qiymatga qaraganda haqiqatga
yaqinroqdir, chunki neyron bitta holatdan boshqasiga o’tishi uchun ma’lum bir
vaqt talab qilinadi. Xopfild quyidagi ko’rinishdagi sigmoid funksiyani [42]
qo’llovchi tarmoqlarni o’rganib chiqdi
. (6.5)
Bu yerda koeffitsiyent funksiyaning burilish darajasini ko’rsatadi.
cheksizlikka intilganda, (6.5) funsiya boshlang’ichga yaqinlashadi, ni
kichraytirganda funksiyaning egri chizig’i silliqlashadi.
Bunday tarmoqlarga nisbatan ular barqarorligining yetarli sharti, ya’ni vazn
koeffitsiyentlari matrisasining simmetriklilik sharti bajariladi.
)
1
/(
1
∑
+
=
−
i
i
w
x
e
y
λ
λ
λ
λ