Oʻzbekiston respublikasi oliy ta’lim, fan va innovatsiyalar vazirligi mirzo ulugʻbek nomidagi oʻzbekiston milliy universitetining jizzax filiali

15-rasm.Dasturiy ko’rinishi.
Ushbu kod softmax formulasini amalga oshiradi va uchta sinfdan biriga tegishli bo'lish ehtimolini chop etadi. Barcha sinflar bo'yicha ehtimollar yig'indisi 1 ga teng.
Keling, keyingi bo'limda giperbolik funktsiyalar haqida gapiraylik.
Giperbolik funksiyalar
1. Giperbolik tangens
Giperbolik yoki tanh funksiyasi ko'pincha neyron tarmoqlarda faollashtirish funktsiyasi sifatida ishlatiladi. U -1 va +1 oralig'ida chiqishni ta'minlaydi. Bu logistik sigmasimonning kengaytmasi; farq shundaki, bu erda chiqish -1 va +1 oralig'ida cho'ziladi.

Giperbolik tangensning logistik funktsiyadan ustunligi shundaki, u kengroq chiqish spektriga ega va ochiq intervalda (-1, 1) diapazonlarga ega, bu esa orqaga tarqalish algoritmining yaqinlashuvini yaxshilashi mumkin.
2. Giperbolik faollashtirish funksiyalari

16-rasm. Quyidagi grafik ushbu faollashtirish funktsiyalarining egri chizig'ini ko'rsatadi.
Ulardan tashqari tanh, sinh va kosh ham faollashtirish funksiyasi uchun ishlatilishi mumkin.

Istalgan natijaga asoslanib, ma'lumot olimi Perceptron mantig'ida ushbu faollashtirish funktsiyalaridan qaysi biri ishlatilishi kerakligini hal qilishi mumkin.
3. Giperbolik tangens

Ushbu kod tanh formulasini amalga oshiradi. Keyin z qiymatida logistik va tanh funktsiyalarini chaqiradi. Tanh funktsiyasi logistik funktsiyadan ikki baravar katta chiqish maydoniga ega.

17-rasm. Tanh funktsiyasi ma'lumotlari .
Kattaroq chiqish maydoni va simmetriya nolga teng bo'lsa, tanh funktsiyasi ma'lumotlarning yanada tengroq ishlashiga olib keladi va yo'qotish funktsiyasida global maksimal darajaga erishish osonroq.
Bir qarashda faollashtirish funksiyalari
Perceptron bilan ishlatilishi mumkin bo'lgan turli faollashtirish funktsiyalari quyida ko'rsatilgan:

18-rasm.Perseptron funksiyalar jadvali.
Amaldagi faollashtirish funksiyasi muammo bayoni va kerakli natijalar shakliga asoslangan holda ma'lumotlar olimi tomonidan qabul qilinadigan sub'ektiv qarordir. Agar o'quv jarayoni sekin bo'lsa yoki yo'qolib borayotgan yoki portlovchi gradientlarga ega bo'lsa, ma'lumot olimi ushbu muammolarni hal qilish mumkinligini bilish uchun faollashtirish funksiyasini o'zgartirishga harakat qilishi mumkin.