Тип шаблона

1. Neyrokompyuter tizimlari asoslari

1.1 Sun'iy neyron tarmoqlar asoslari

Texnik holatni aniqlash va bashorat qilish muammolarini hal qilish uchun sun'iy neyron tarmoqlari (ANN) yoki oddiygina, har xil turdagi neyron tarmoqlari (NN) dan foydalanish mumkin.

NN funktsiyalarini maksimal ta'sir bilan amalga oshirish uchun, qoida tariqasida, NN parametrlarining optimal to'plami mavjud. Shu sababli, NN ishlab chiqaruvchisi oldida turgan asosiy vazifalardan biri bu to'plamni tanlash bo'lib, u oxir-oqibat tarmoq turini belgilaydi.
Tarmoqning asosiy elementi - sun'iy neyron (keyingi o'rinlarda neyron) (A ilovasi).
Neyronlar miya neyronlarining ishini taqlid qiluvchi nisbatan oddiy, bir turdagi elementlardir. Har bir neyron o'zining hozirgi holati, qo'zg'alishi va inhibe qilinishi mumkin bo'lgan miya nerv hujayralariga o'xshashligi bilan tavsiflanadi. Sun'iy neyron, shuningdek, uning tabiiy prototipi, boshqa neyronlarning chiqishlari bilan bog'langan sinapslar (kirishlar) guruhiga, shuningdek, qo'zg'alish yoki inhibisyon signali kiradigan aksonga - bu neyronning chiqish aloqasiga ega. boshqa neyronlarning sinapslari. Neyronning umumiy ko'rinishi 1-rasmda ko'rsatilganⁱ.

1-rasm Sun'iy neyron - sun'iy neyron tarmog'ining eng oddiy elementi
yj - j neyronidan keladigan signal;
sk - kirish signallari vektori va og'irliklar vektorining skalyar ko'paytmasi;
fk - qo'zg'alish funktsiyasi;
yk - neyron chiqish signali

Har bir sinaps sinaptik ulanishning qiymati yoki jismoniy ma'noda elektr o'tkazuvchanligiga teng bo'lgan og'irlik wi bilan tavsiflanadi.

Neyronning joriy holati uning kirishlarining vaznli yig'indisi sifatida aniqlanadi:


(1)

Bu erda x - neyronning kirishi va w - bu kirishga mos keladigan og'irlik.

Neyronning chiqishi uning holatining funktsiyasidir, ya'ni. Chiziqli bo'lmagan f(s) funktsiyasi neyronning faollashuvi, qisqarishi yoki qo'zg'alish funktsiyasi deb ataladi. Neyron tarmoqlarda qo'llaniladigan faollashtirish funktsiyalarining asosiy turlari 2-rasmda ko'rsatilgan.



2-rasm Faollashtirish funksiyasi
a) chegara; b) yarim chiziqli; c) sigmasimon

2-rasmda ko'rsatilgan sigmasimon (s-shaklidagi yoki logistik) funksiya ko'pincha faollashtirish funktsiyasi sifatida ishlatiladi. (B ilova). Bu funktsiya matematik tarzda formula bilan ifodalanadi

(2)

Kamaytirilganda sigmasimon funktsiya tekislanadi, chegarada =0 0,5 darajasida gorizontal chiziqqa degeneratsiya; ortishi bilan sigmasimon funksiya tashqi ko'rinishida x=0 nuqtada T chegarasi bo'lgan birlik o'tish funksiyasiga yaqinlashadi. Sigmasimon funktsiyaning ifodasidan ko'rinib turibdiki, neyronning chiqish qiymati [0,1] oralig'ida yotadi. Sigmasimon funktsiyaning foydali xususiyatlaridan biri uning hosilasi uchun oddiy ifoda bo'lib, undan foydalanish keyinroq muhokama qilinadi:

(3)

Shuni ta'kidlash kerakki, sigmasimon funktsiya butun x o'qi bo'yicha differensiallanadi, bu ba'zi o'rganish algoritmlarida qo'llaniladi. Bundan tashqari, sigmasimon funktsiya kichik signallarni katta signallarga qaraganda yaxshiroq kuchaytirish xususiyatiga ega va shu bilan katta signallarning to'yinganligini oldini oladi, chunki ular sigmasimon funktsiya yumshoq nishabga ega bo'lgan argumentlar mintaqalariga mos keladi.ⁱⁱ.

Neyron tarmoq strukturasini tanlash vazifaning xususiyatlari va murakkabligiga muvofiq amalga oshiriladi. Ba'zi individual turdagi muammolarni hal qilish uchun allaqachon tasvirlangan optimal konfiguratsiyalar mavjud. Agar vazifani biron bir ma'lum turga qisqartirish mumkin bo'lmasa, ishlab chiquvchi yangi konfiguratsiyani sintez qilishning qiyin muammosini hal qilishi kerak.
Nazariy jihatdan, neyron tarmog'ining har bir qatlamidagi qatlamlar soni va neyronlar soni o'zboshimchalik bilan bo'lishi mumkin, lekin aslida u kompyuter resurslari yoki neyron tarmog'i odatda amalga oshiriladigan ixtisoslashtirilgan mikrosxema bilan cheklangan.
Neyronlar tarmoqda bajaradigan funktsiyalariga ko'ra uch turga bo'linadi (3-rasm). Kirish neyronlari (kirish qatlamining neyronlari) tashqi muhitdan ma'lumotlarni oladi va uni ma'lum bir tarzda tarmoq orqali tarqatadi. Oraliq neyronlarga (yashirin qatlamning neyronlari) muammoni hal qilish jarayonida asosiy ishtirokchilar roli beriladi. Chiqish neyronlari (chiqish qatlamining neyronlari) tarmoq natijalarini tashqi muhitga (iste'molchi) uzatadi.ⁱⁱⁱ.



3-rasm Neyronlarning tarmoqdagi vazifalariga qarab turlari

Qabul qilingan ma'lumotlarni qayta ishlash mexanizmiga qarab, neyronlarning bir qator matematik modellarini ajratish mumkin (4-rasm). Neyron modellarining ikkita guruhi mavjud bo'lib, ular mos ravishda ikki turdagi tarmoqlarga tegishli: klassik va loyqa. Neyron modellarining har biri bir qator o'ziga xos xususiyatlarga ega, ammo umumiy xususiyatlar ham mavjud bo'lib, ular kirish va chiqish signallarining mavjudligini, shuningdek ularni qayta ishlash blokini o'z ichiga oladi.

Muayyan muammoni hal qilish uchun neyronlarning eng ko'p afzal qilingan modellari mavjud. McCulloch-Pitts neyron modeli, sigmasimon neyron va adalin neyroni o'xshash tuzilishga ega va faqat faollashtirish funktsiyalarining turlari (kiruvchi signalga neyron reaktsiyasi) bilan farqlanadi. Neyronlarning yuqoridagi modellari faqat o'qituvchi bilan o'qitilishi mumkin, ya'ni ular kirish va chiqish vektorlari (qiymatlari) mavjudligini talab qiladi. McCulloch-Pits neyronining faollashuv funktsiyasi diskret bo'lgani uchun (chiqish signali faqat ikkita qiymatni olishi mumkin - 0 yoki 1), chiqish qiymatining o'zgarishini kuzatib bo'lmaydi. Ba'zi vazifalarda kerakli natijaga erishish imkonsiz bo'lishi mumkin. Bunday holda, sigmasimon neyron modeli afzalroq bo'lishi mumkin. "Instar" va "outstar Grossberg" kabi neyronlarning modellari^iv.
WTA tipidagi neyronlar (ingliz tilidan - "g'olib hamma narsani oladi") ko'pincha ma'lumotlar va tasvirlarni tasniflash va tanib olish vazifalarida qo'llaniladi. Ular, Grossbergning neyron modellari kabi, o'quv jarayonida o'qituvchiga ham muhtoj emas. Biroq, ushbu turdagi neyronlarning muhim kamchiliklari raqobatda omon qololmaydigan o'lik neyronlarning mavjudligi sababli sezilarli darajada ortib borayotgan ma'lumotlarni tanib olish xatosidir. Hebb neyron modeli an'anaviy neyron modeliga o'xshaydi (kirish - ishlov berish birligi - chiqish). O'qituvchi bilan yoki o'qituvchisiz o'rganish mumkin. Ushbu modelning o'ziga xos xususiyati shundaki, neyron ulanishining og'irligi uning kirish va chiqish signallari mahsulotiga mutanosib ravishda o'zgaradi.



4-rasm Neyronlarning matematik modellarining turlari

Stokastik modelda neyronning chiqish qiymati, shuningdek, (0,1) oraliqda joylashgan ba'zi tasodifiy o'zgaruvchilarga bog'liq bo'lib, bu og'irliklarni tanlashda ildiz o'rtacha kvadrat xatosini minimal darajaga tushirishga imkon beradi. Loyqa tarmoq neyron modellari asosan ko'p o'zgaruvchilarning har qanday chiziqli bo'lmagan funktsiyasini o'zboshimchalik bilan aniqlik bilan taxmin qilish uchun ishlatiladi va kirish ma'lumotlari ishonchsiz va yomon rasmiylashtirilgan joylarda qo'llaniladi.

Turli tarmoqlardagi bir xil neyron modeli turli xil faollashtirish funktsiyalariga ega bo'lishi mumkin (5-rasm).



5-rasm Neyronlarning faollashuv funktsiyalari

Biroq, bu bayonot barcha turdagi neyronlar uchun to'g'ri emas. Demak, masalan, perseptron faqat chegara faollashtirish funksiyasiga (birlik hop funktsiyasi) ega bo'lishi mumkin. Faollashtirish funktsiyalarining barcha xilma-xilligiga qaramay, eng keng tarqalgani to'yinganlik bilan chiziqli bo'lmagan faollashtirish funktsiyasidir (sigmasimon funktsiya). Shuni ham ta'kidlash kerakki, kirish qatlamining neyronlari bir xil faollashtirish funktsiyalariga ega, bu ularga qabul qilingan signallarni yashirin qatlam neyronlariga o'zgarishsiz tarqatish imkonini beradi.^v.

Neyronlar to'plami neyron tarmoqlarni hosil qiladi. NN lar arxitekturada (6-rasm), uning tarkibiga kiradigan neyronlarning turida (7-rasm), u tomonidan qayta ishlangan signallarning turida (8-rasm), neyronlar holatining o'zgarish turida farqlanadi. vaqt nuqtasi (9-rasm). NN topologiyasi bilan ham farqlanadi. E'tibor bering, statik va dinamik neyron tarmoqlar mos ravishda bir yo'nalishli va takrorlanuvchi neyron tarmoqlardir. Dinamik NS ning salbiy sifatlaridan biri ularning ish paytida yuzaga kelishi mumkin bo'lgan beqarorligidir (B ilovasi).
NN ning bir xilligi (bitta faollashtirish funktsiyasi bilan bir xil turdagi neyronlardan foydalanish) turli vazifalarda NN ning ishlashi va o'rganish tezligiga boshqacha ta'sir qiladi.



6-rasm Neyron tarmoqlarning arxitekturasi bo'yicha umumlashtirilgan tasnifi



7-rasm Neyron tarmoqlarning unga kiritilgan neyronlar turiga ko'ra tasnifi



8-rasm Neyron tarmoqlarning qayta ishlangan signallar turiga ko'ra tasnifi



9-rasm Neyron tarmoqlarning vaqt oralig'idagi holat o'zgarishi turiga ko'ra tasnifi



10-rasm Neyron tarmoqlar topologiyasi (arxitekturasi).

Neyron tarmog'ining sinxronligi shuni anglatadiki, har qanday vaqtda faqat bitta neyron o'z holatini o'zgartiradi. Asinxroniya bir qator neyronlardagi holatlarning o'zgarishini nazarda tutadi (ko'pincha - qatlam). Amalda sinxron NS ga ko'proq ustunlik beriladi.

NN topologiyasi (arxitekturasi) ham juda kengdir, bu ma'lum bir qator muammolarni optimal hal qilish uchun har bir turdagi NNning juda tor yo'nalishini ko'rsatadi. Biroq, murakkab muammolarni hal qilish uchun ko'p qatlamli bir yo'nalishli (teskari aloqasiz) va takroriy neyron tarmoqlar katta qiziqish uyg'otadi.



11-rasm Ko'p qatlamli (qatlamli) neyron tarmoqlar

Tarmoq tomonidan qo'yilgan vazifani bajarish uchun uni o'rgatish kerak, ya'ni ishlab chiquvchiga kerakli natijani berish uchun qanday harakat qilish kerakligini aytib berish kerak. Neyron tarmoqlarni o'rganish strategiyalari 12-rasmda ko'rsatilgan. Nazorat ostidagi o'rganishning (nazorat ostidagi o'rganish) o'ziga xos xususiyati shundaki, kirish vektori (kirish elementlarining qiymatlari) bilan bir qatorda chiqish vektori (kirishlarga mos keladigan chiqish elementlarining qiymatlari) ham apriori ma'lum. Agar NN chiqishining qiymatlari oldindan ma'lum bo'lmasa, unda boshqa strategiyadan foydalanish kerak - nazoratsiz o'rganish. Keyin vazn koeffitsientlarini tanlash (bu o'rganishning mohiyatidir) ma'lum algoritmlardan foydalangan holda tegishli o'rganish strategiyalariga muvofiq amalga oshiriladi..

12-rasm Bo'shashgan neyron tarmoqlarda qo'llaniladigan neyron joylashuvi panjaralarining turlari

Taxminlovchi masalalar uchun to'g'ridan-to'g'ri tarqalishning ko'p qatlamli NS yoki loyqa NS dan foydalanish maqsadga muvofiq ko'rinadi.

Aviatsiya texnikasining holatini aniqlash vazifalari uchun AT parametrlaridagi o'zgarishlarni bashorat qilish muammosini hal qilish uchun takroriy NN va NN dan xatolarni orqaga yoyish usuli bilan o'qitish bilan foydalanish imkoniyatini ko'rib chiqish maqsadga muvofiqdir.
Muayyan muammoni hal qilishga qodir neyron tarmog'ini o'rnatish neyron modelini, ulanishlar topologiyasini, ulanishlar og'irliklarini aniqlashni anglatadi. Neyron tarmoqlari eng kamida neyron modellarida farqlanadi, lekin asosan ulanishlar topologiyasi va og'irliklarni aniqlash qoidalari yoki o'rganish qoidalari (13-rasm), dasturlash.



13-rasm Neyron tarmoqni o'rganish jarayoni



14-rasm Neyron tarmoqni qo'llash jarayoni

Hozirgi vaqtda naqshni aniqlash, optimallashtirish va hokazolarni hal qilish uchun NNni o'rganish muammosini hal qilishning ikkita yondashuvi mavjud. Ulardan biri, tarixan avvalroq, o'quv jarayonida vazn koeffitsientlarini bosqichma-bosqich o'zgartirishdan iborat (15-rasm).

Yuqorida aytilganlarga asoslanib, prognozlash muammolarini hal qilish uchun orqaga tarqalish tarmog'i eng mos keladi degan xulosaga kelish mumkin. Bu tarixiy talab ma'lumotlari asosida talab o'zgarishlarini bashorat qilish uchun tarmoqni rasmiy ravishda o'qitish imkonini beradi.