14 mavzu. Neyron tarmoqni o’qitish masalasi. Neyron tarmoq aniqligini oshirish yo’llari. Reja

Qayta o’rgatish nima?

Qayta o’rgatish - bu ma'lumotlar bilan to'lgan neyron tarmog'ini qayta oqitish holatidir. Ushbu muammo tarmoqni bir xil ma'lumotlarga o'rgatish juda uzoq vaqt talab qilsa paydo bo'ladi. Boshqacha qilib aytganda, tarmoq ma'lumotlardan o'rganishni emas, balki ularni yodlash va "siqib" olishni boshlaydi. Shunga ko'ra, ushbu neyron tarmog'ining kiritilishiga yangi ma'lumotlar kiritilganda, olingan ma'lumotlarda shovqin paydo bo'lishi mumkin, bu natijaning aniqligiga ta'sir qiladi. Misol uchun, agar biz NTga turli xil olma fotosuratlarini (faqat qizillari) ko'rsatsak va bu olma deb aytsak. Keyin, NT sariq yoki yashil olma ko'rganda, uning olma ekanligini aniqlay olmaydi, chunki u barcha olma qizil bo'lishi kerakligini eslaydi.

14.2. Neyron to’rlarni oʻrgatish usullari

Oʻrgatish jarayonida NT ning bogʻlanishli vazn koeffitsiyenti, chegara va tuzilma kabi qiymatlari toʻgʻrilanadi. Shu holatda mazkur parametrlarning boshlangʻich qiymatlari odatda tasodifiy ravishda beriladi.

NTning oʻrgatish usullari tasnifi 14.1-rasmda keltirilgan koʻrinishda ifodalanadi.
Tasnifning eng asosiy koʻrsatkichlaridan biri-bu tashqi muhit bilan oʻzaro aloqaning mavjudligi. Oʻrgatish jarayonida tashqi muhitdan keladigan axborotning miqdori va sifati(semantikasi, ma’nosi)ga koʻra supervizorli (supervised learning), nosupervizorli (unsupervised learning) va tasdiqlash (reinforcement learning)ni oʻrgatadigan usul (algoritm)larga ajratiladi.
Supervizorli (o’qituvchili) usulda oldindan barcha oʻrgatish juftlaridan iborat boʻlgan oʻrgatish toʻplami shakllanadi. Oʻrgatish jufti X kirish va unga muvofiq boʻlgan Y chiqish vektorlar qiymatlari bilan ifodalanadi. Bu holatda har bir kirish vektorining - komponentasi - kirish neyronga keladigan signalga muvofiq boʻladi. Shunga oʻxshash har bir chiqish vektorning - komponentasi -chiqish neyronda paydo boʻladigan signalga muvofiq boʻladi.
Oʻrgatish jarayonida chiqish vektorlarining qiymati berilgan kirish vektorlarining qiymatlariga muvofiq oldindan berilgan chiqish qiymatlarining ogʻishlarini hisobga olib topiladi. Bu ogʻishlarning qiymatiga muvofiq NTning parametrlari mazkur ogʻishlar qiymatlarini minimum(berilgan)ga keltirish bilan toʻgʻirlanadi. Supervizorli oʻrgatish algoritmlarining orasida eng keng tarqalgani xatoliklarni (toʻlqinlarni) teskari tarqatish algoritmi (error backpropagation) hisoblanadi.

14.1-rasm. NTning oʻrgatish usullari tasnifi.
Supervizorsiz (o’qituvchisiz) usullarda oʻrgatish toʻplami faqat kirish vektorlari majmaisini oʻz ichiga oladi. Bu holatda qoʻllaniladigan raqobatli oʻrgatish algoritmi (competitive learning) klasterlash masalalarini yechish uchun NTning parametrlarini toʻgʻrilaydi. Oʻrgatish jarayonida tegishli klasterga kiradigan kirish komponenta(neyron)lari va bu klasterni tavsiflaydigan chiqish neyronlari orasidagi bogʻlanishli vaznlarning qiymatlari maksimal darajada koʻpaytiriladi. Shuningdek, chiqish neyronining faol boʻlmagan kirish neyronlari bilan bogʻlanishli vaznlar qiymatlari kamaytiriladi.
Tasdiqlash bilan oʻrgatish usullari yuqorida keltirilgan ikkita usulning oʻrtasida turadi. Bu usulning asosiy tamoyili tashqi muhitdan (oʻqituvchidan) keladigan “Tasdiqlash-rad qilish” yoki “Ragʻbatlantirish-jazolash” (reward/penalty) signalining mavjudligi boʻladi. Bunday oʻrgatish jarayonida navbatdagi kirish vektori berilganda NTning harakati qoniqarli boʻlsa, u holda tasdiqlash («+1») signal, aks holda - rad qilish («0» yoki «-1») signal orqali bajariladi. Bu holatda to’rda tasdiqlash signallarini olish tezligini oshirishni ta’minlash maqsadida vazn koeffitsiyentining qiymatlarini tegishli ravishda oʻzgartiradi. Bu vazn koeffitsiyentining qiymati maqbul darajasiga yetmaguncha oʻrgatish jarayoni davom etadi.
Tuzilmali oʻrgatish usullari endi rivojlana boshladi. Ular murakkab masalalarni yechish uchun moʻljallangan NTni qurishga imkoniyat beradi.
Kirishlarga quyiladigan talablar boʻyicha oʻxshashliklarga va yagona buyruqqa asoslangan oʻrgatish usullariga ajratiladi. Bu holatda tadqiq qilinadigan obyektlarni tavsiflaydigan etalon toʻplam shakllanadi. Berilgan etalonga muvofiq NT parametrlari shunday qilib tanlanadiki, kirish belgilarining tegishli qiymatlarida faqat mazkur belgilarga ega boʻlgan chiqish neyronlari faollashishi kerak.