Ishdan maqsad: Mashinali o’qitishda sinflashtirish algoritmlari va ularni dasturlash. Nazariy qism Sinflashtirish tushunchasi, mashinali o’qitishning asosiy yondashuvlaridan biri sifatida deb qaraymiz

RAQAMLAR

Neyron tarmoqlarni regulyarizatsiyalash.


Ishdan maqsad: Mashinali o’qitishda sinflashtirish algoritmlari va ularni dasturlash.
Nazariy qism
Sinflashtirish tushunchasi, mashinali o’qitishning asosiy yondashuvlaridan biri sifatida deb qaraymiz, sinflashtirish masalasi uchun logistik va softmax regressiya funksiyalaridan foydalaniladi.
Sinflashtirish - berilgan ma'lumotlar punktlari sinfini bashorat qilish jarayoni. Sinflar ba'zan maqsadlar / yorliqlar yoki toifalar deb nomlanadi. Sinflashtirishni bashorat qiluvchi modellashtirish (f) xaritalash funktsiyasini kirish o'zgaruvchilaridan (X) diskret chiqish o'zgaruvchilariga (y) yaqinlashtirish vazifasidir.
K ta-yaqin qo’shnilar usuli. K ta yaqin qo’shnilar usuli(k-nearest neighbours, k-NN) boshqa usullardan farqli ravishda o’qitish(train) fazasini talab qilmaydi[7]. Sinflashtirish masalasini yechish usuli ko’p ulchovli belgilar to’plamidan eng ko’p topilgan k ta yaqin qo’shnilarni sinflarga ajratish hisoblanadi. Bu sinflashtirish modellarini o’qitishning eng oddiy algoritmlardan biridir. K soni - bu belgilar sohasidagi sinflanadigan ob'ektlar bilan taqqoslanadigan qo'shni ob’ektlar sonidir. Boshqacha aytganda agar k=10 bo’lsa unda har bir ob’ekt oz’ining 10-ta qo’shnisi orasidagi masofa bilan solishtiriladi. Usul Data Mining texnologiyalarida sinflashtirish masalasini yechish uchun qo’llaniladi.

O’qitish jarayonida algoritm barcha vektor belgilarini va unga mos sinf lebellarini oddiy tarzda eslab qoladi.
Algoritm:
Test to’plamidagi har bir ob’ektni sinflashtirish uchun kema-ket ravishda qo’yidagi amallarni bajarish zarurdir:

• 
  O’qitish tanlanmasidagi har bir ob’ektigacha bo’lgan masofani hisoblash
  
• 
  O’qitish tanlanmasidan bir-biridan masofasi eng minimal bo’lagan k ta ob’ektni tanlab olish
  
• 
  Sinflanadigan ob’ekting sinfi – bu k ta yaqin qo’shnilar orasida ko’p uchraydigan sinfdir.
  

Neyron tarmoqlarni regulyarizatsiyalash

• 
  L1 (Регуляризация Лассо):
  
• 
  L2 (Ridge tartibga solish):
  
• 
  L1 ni tartibga solish koeffitsientlarning mutlaq qiymatlari yig'indisiga teng jarima qo'shadi.
  

L2 ni tartibga solish koeffitsient qiymatlarining kvadratchalarining yig'indisiga teng jarima qo'shadi

• 
  Taroq regression modeli va Lasso regression modeli tartibga solingan lineer modellardir, bu modelni qayta o'qitishni kamaytirish va tartibga solishning yaxshi usuli: uning erkinlik darajasi qanchalik kichik bo'lsa, ma'lumotlarni qayta tayyorlash qiyinroq bo'ladi. Polinom modelini tartibga solishning oddiy usuli-polinom darajalari sonini kamaytirishdir.
  

Amalyotda ko’rib chiqamiz.



1

Y1

H1

X1
W1 W5


W7
W2

X2
W3 W6

Y2

2

H2




W4 W8
X1=0.05 W1=0.15 W3=0.25 W5=0.40 W7=0.50
X2=0.10 W2=0.20 W4=0.30 W6=0.45 W8=0.55
H1= X1* W1 + X2* W2 =0.05*0.15+0.10*0.20=0.0275
H2= X1* W3 + X2* W4=0.0125+0.03=0.0425
H1`=1/(1+ )=0.506
H2`=1/(1+ )=0.51
Y1`= H1`* W5+ H2`* W6=0.2024+0.2295=0.4319
Y2`= H1`* W7+ H2`* W8=0.253+0.2805=0.5335
Y1``=1/(1+ )=0.606
Y2``=1/(1+ )=0.631
Loss1=( =0.355
Loss2=( =0.128