Ma’ruza №15 Mavzu: Neyron tarmoqlari

4.1. Neyron tarmoqlarni oʻrgatish usullari

Oʻrgatish jarayonida NT ning bogʻlanishli vazn koeffitsiyenti, chegara va tuzilma kabi qiymatlari toʻgʻrilanadi. Shu holatda mazkur parametrlarning boshlangʻich qiymatlari odatda tasodifiy ravishda beriladi.

NTning oʻrgatish usullari tasnifi 15.12-rasmda keltirilgan koʻrinishda ifodalanadi.
Tasnifning eng asosiy koʻrsatkichlaridan biri-bu tashqi muhit bilan oʻzaro aloqaning mavjudligi. Oʻrgatish jarayonida tashqi muhitdan keladigan axborotning miqdori va sifati (semantikasi, ma’nosi)ga koʻra supervizorli (supervised learning), nosupervizorli (unsupervised learning) va tasdiqlash (reinforcement learning)ni oʻrgatadigan usul (algoritm)larga ajratiladi.
Supervizorli usulda oldindan barcha oʻrgatish juftlaridan iborat boʻlgan oʻrgatish toʻplami shakllanadi. Oʻrgatish jufti X kirish va unga muvofiq boʻlgan Y chiqish vektorlar qiymatlari bilan ifodalanadi. Bu holatda har bir kirish vektorining - komponentasi - kirish neyronga keladigan signalga muvofiq boʻladi. Shunga oʻxshash har bir chiqish vektorning - komponentasi -chiqish neyronda paydo boʻladigan signalga muvofiq boʻladi.

15.12-rasm. NTning oʻrgatish usullari tasnifi.

Oʻrgatish jarayonida chiqish vektorlarining qiymati berilgan kirish vektorlarining qiymatlariga muvofiq oldindan berilgan chiqish qiymatlarining ogʻishlarini hisobga olib topiladi. Bu ogʻishlarning qiymatiga muvofiq NTning parametrlari mazkur ogʻishlar qiymatlarini minimum(berilgan)ga keltirish bilan toʻgʻirlanadi. Supervizorli oʻrgatish algoritmlarining orasida eng keng tarqalgani xatoliklarni (toʻlqinlarni) teskari tarqatish algoritmi (error backpropagation) hisoblanadi.

Supervizorsiz usullarda oʻrgatish toʻplami faqat kirish vektorlari majmaisini oʻz ichiga oladi. Bu holatda qoʻllaniladigan raqobatli oʻrgatish algoritmi (competitive learning) klasterlash masalalarini yechish uchun NTning parametrlarini toʻgʻrilaydi. Oʻrgatish jarayonida tegishli klasterga kiradigan kirish komponenta(neyron)lari va bu klasterni tavsiflaydigan chiqish neyronlari orasidagi bogʻlanishli vaznlarning qiymatlari maksimal darajada koʻpaytiriladi. Shuningdek, chiqish neyronining faol boʻlmagan kirish neyronlari bilan bogʻlanishli vaznlar qiymatlari kamaytiriladi.
Tasdiqlash bilan oʻrgatish usullari yuqorida keltirilgan ikkita usulning oʻrtasida turadi. Bu usulning asosiy tamoyili tashqi muhitdan (oʻqituvchidan) keladigan “Tasdiqlash-rad qilish” yoki “Ragʻbatlantirish-jazolash” (reward/penalty) signalining mavjudligi boʻladi. Bunday oʻrgatish jarayonida navbatdagi kirish vektori berilganda NTning harakati qoniqarli boʻlsa, u holda tasdiqlash («+1») signal, aks holda - rad qilish («0» yoki «-1») signal orqali bajariladi. Bu holatda tarmoqda tasdiqlash signallarini olish tezligini oshirishni ta’minlash maqsadida vazn koeffitsiyentining qiymatlarini tegishli ravishda oʻzgartiradi. Bu vazn koeffitsiyentining qiymati maqbul darajasiga yetmaguncha oʻrgatish jarayoni davom etadi.
Tuzilmali oʻrgatish usullari endi rivojlana boshladi. Ular murakkab masalalarni yechish uchun moʻljallangan NTni qurishga imkoniyat beradi.
Kirishlarga quyiladigan talablar boʻyicha oʻxshashliklarga va yagona buyruqqa asoslangan oʻrgatish usullariga ajratiladi. Bu holatda tadqiq qilinadigan obyektlarni tavsiflaydigan etalon toʻplam shakllanadi. Berilgan etalonga muvofiq NT parametrlari shunday qilib tanlanadiki, kirish belgilarining tegishli qiymatlarida faqat mazkur belgilarga ega boʻlgan chiqish neyronlari faollashishi kerak.
Stoxastik oʻrgatish usullari ehtimolli qoidalarga, determinalli usullar esa - aniq qoidalarga asoslanadi.