Oʻzbekiston respublikasi oliy ta’lim, fan va innovatsiyalar vazirligi mirzo ulugʻbek nomidagi oʻzbekiston milliy universitetining jizzax filiali

2-jadval.Exclusive OR gate. XOR haqiqat jadvali

9-rasm.XOR amalining ko’rinishi.
Darvoza, agar kirish holatlaridan biri rost bo'lsa va FAQAT bo'lsa, chiqish sifatida TRUE qaytaradi.
XOR haqiqat jadvali
Neyron tarmoqlari bilan XOR darvozasi
AND va OR eshiklaridan farqli o'laroq, XOR darvozasi XOR darvozasi mantig'iga erishish uchun dastlabki o'zgartirish uchun oraliq yashirin qatlamni talab qiladi.

10-rasm. Perceptronning ishlash prinsipi.
XOR eshigi XOR shartlari bajarilishi uchun og'irliklarni belgilaydi. Uni bitta qatlamli Perceptron bilan amalga oshirib bo'lmaydi va ko'p qatlamli Perceptron yoki MLP ni talab qiladi.
H yashirin qatlamni ifodalaydi, bu XORni amalga oshirishga imkon beradi.
I1, I2, H3, H4, O5 0 (YOLG'ON) yoki 1 (ROQIQ)
t3= H3 uchun chegara; t4= H4 uchun chegara; t5= O5 uchun chegara
H3= sigmasimon (I1*w13+ I2*w23–t3); H4= sigmasimon (I1*w14+ I2*w24–t4)
O5= sigmasimon (H3*w35+ H4*w45–t5);
Keling, Sigmoid faollashtirish funktsiyasi haqida ko'proq bilib olaylik!
Sigmasimon faollashtirish funktsiyasi
Quyidagi diagrammada sigmasimon faollashtirish funksiyasiga ega Perceptron ko'rsatilgan. Sigmoid eng mashhur faollashtirish funktsiyalaridan biridir.

11-rasm. Sigmoid eng mashhur faollashtirish funktsiyasi.( Perceptron)
Sigmoid funktsiya Sigmoid egri chizig'iga ("S" egri chizig'iga) ega bo'lgan matematik funktsiyadir. Bu logistik funktsiyaning alohida holati bo'lib, quyida keltirilgan funktsiya bilan aniqlanadi:

Bu erda z qiymati:

Sigmasimon egri chiziq

12-rasm. Bu erda "S Curve" deb nomlangan Sigmoid funktsiyasining egri chizig'i ko'rsatilgan.
Bu logistik sigmasimon deb ataladi va 0 dan 1 gacha bo'lgan qiymat ehtimoliga olib keladi.
Bu t kirish parametrining aniq qiymatlari emas, balki ehtimollik xaritasiga qiziqish bildirilganda faollashtirish funksiyasi sifatida foydalidir.
Sigmasimon chiqishi juda salbiy kirish uchun nolga yaqin. Bu neyron tarmoqlarni o'qitishda muammo bo'lishi mumkin va sekin o'rganishga va trening davomida model mahalliy minimallarga tushib qolishiga olib kelishi mumkin. Demak, neyron tarmoqning yashirin qatlamlarida faollashtirish funksiyasi sifatida giperbolik tangens afzalroqdir.

13-rasm.Namuna ma'lumotlari uchun sigmasimon mantiq.
Chiqish
Perceptron chiqishi 0,888 ni tashkil etadi, bu y chiqishi ehtimolini 1 ga tengligini ko'rsatadi.
Agar sigmasimon 0,5 dan katta qiymat chiqarsa, chiqish TRUE deb belgilanadi. Bu erda chiqish 0,888 bo'lgani uchun yakuniy chiqish TRUE deb belgilangan.
Keyingi bo'limda rektifikator va softplus funktsiyalariga e'tibor qaratamiz.
Rektifikator va Softplus funktsiyalari
Ilgari ko'rilgan Sigmoid va Sign faollashtirish funktsiyalaridan tashqari, boshqa keng tarqalgan faollashtirish funktsiyalari ReLU va Softplusdir. Ular salbiy birliklarni yo'q qiladi, chunki maksimal funktsiyaning chiqishi barcha birliklar uchun 0 yoki undan kam bo'ladi.

14-rasm. Rektifikator yoki ReLU (Rectified Linear Unit) tez-tez ishlatiladigan faollashtirish funktsiyasi.
Rektifikator yoki ReLU (Rectified Linear Unit) tez-tez ishlatiladigan faollashtirish funktsiyasidir. Bu funktsiya ANNdagi salbiy birliklarni yo'q qilishga imkon beradi. Bu chuqur neyron tarmoqlarda ishlatiladigan eng mashhur faollashtirish funksiyasi.
Rektifikatorga silliq yaqinlashish Softplus funktsiyasidir.
Softplusning hosilasi logistik yoki sigmasimon funktsiyadir.
Keyingi bo'limda ReLu funksiyasining afzalliklarini muhokama qilaylik.