Neyron tarmoqni o’qitish algoritmi
Feedforward (oldinga yo‟naltirilgan) neyron tarmoqda – kiruvchi qiymatlar (inputs) qabul qilinadi va neyronlarning og‟irlik koeffitsentlari (weights) tasodifiy qiymat qabul qiladi.
Og‟irlik koeffitsentlari (weights) ning tasodifiy qiymatlarini optimallashtirish yoki sozlash uchun backpropagation (orqaga yo‟naltirish) usulidan foydalaniladi Bu yer barcha koeffitsentlar
Backpropagation – bu neyron tarmoqdagi taxmin qilingan chiqish (prediction output) va maqsadli chiqish (target output) o'rtasidagi xatolikni (error) hisoblash va shunga mos vazn qiymatlarini (og‟irlik koeffitsentlarini) yangilash uchun “gradiyentli tushish” algoritmidan foydalanish jarayonidir.
Og’irlik koeffitsiyentlarini o’zgartirish
Birinchi qadamda tasodifiy shakllantirilgan og‟irlik koeffitsentlarini (w) sozlash neyron tarmoqni o‟qitish davomida 2 xil holatda amalga oshiriladi:
◦ Og‟irlik koeffitsent qiymatini oshirish
◦ Og‟irlik koeffitsent qiymatini kamaytirish
Misol uchun quyidagi o‟quv tanlanma berilgan bo‟lsin
A gar w qiymati (w=3) ga teng bo‟lsa, unda bashorat qilinadigan qiymat
berilgan ko‟rinishda bo‟ladi
Og’irlik koeffitsiyentlarini o’zgartirish
O‟qitishning keyingi bosqichida, og‟irlik koeffitsentini oshirish yoki kamaytirish masalasi qo‟yiladi. Buning uchun berilgan misol bo‟yicha w=4 qiymatida xatolikni tekshirib ko‟ramiz.
Bu shuni ko‟rsatadiki, keyingi qadamda og‟irlik koeffitsentini oshirish xatolikning oshishiga olib keladi va mos ravishda neyron tarmoq keyingi qadamda w qiymatini kamaytiradi
Og’irlik koeffitsiyentlarini o’zgartirish
Agar neyron tarmoq o‟qitish davomida w=2 qiymatni qabul qilsa, unda berilgan dataset uchun quyidagi holat vujudga keladi.
Loss funksiyasi – bu qurilgan modelning o‟quv tanlanmaga nisbatan qanchalik to‟g‟ri shakllantirilganligini baholash usuli hisoblanadi.
Neyron tarmoqni o‟qitish jarayonida loss funksiyasi qanchalik kichik qiymat qaytarsa model ishonchliligi shunchalik yuqori bo‟ladi, agar katta qiymat qaytarsa, model shunchalik ishonchsiz va xatolarga boy bo‟ladi. Loss funksiyasi turalari: ◦ Regression Loss Function:
◦ Binary Classification Loss Functions:
◦ Multi-class Classification Loss Functions:
Do'stlaringiz bilan baham: |