Mashinali o’qitishga kirish fanidan mustaqil ish mavzu: Rekkurent neyron tarmoqlari Bajardi: 022-19 guruh: Xurramov Jasurbek Tekshirdi: Jurayev. U

Bir nechta vaqt shkalasi modeli 

Ko'p vaqtli takroriy neyron tarmog'i (MTRNN) neyronlarga asoslangan hisoblash modeli bo'lib, u neyronlar orasidagi fazoviy bog'lanishga va har biri o'ziga xos vaqt xususiyatlariga ega bo'lgan neyron faoliyatining alohida turlariga bog'liq bo'lgan o'z-o'zini tashkil qilish orqali miyaning funktsional ierarxiyasini taqlid qilishi mumkin. Bunday turli xil neyron faoliyati bilan har qanday xatti-harakatlar to'plamining uzluksiz ketma-ketligi qayta foydalanish mumkin bo'lgan ibtidoiy qismlarga bo'linadi va ular o'z navbatida turli xil ketma-ket xatti-harakatlarga moslashuvchan tarzda birlashtiriladi. Bunday turdagi ierarxiyaning biologik tasdiqlanishi Xokinsning "Intelligence to'g'risida" kitobida miya funktsiyasining xotirani bashorat qilish nazariyasida muhokama qilingan . iqtibos kerak ]Bunday ierarxiya faylasuf Genri Bergson tomonidan ilgari surilgan MTRNN modeliga kiritilgan xotira nazariyalari bilan ham mos keladi.

Neyron Turing mashinalari

Neyron Tyuring mashinalari (NTM) takrorlanuvchi neyron tarmoqlarni tashqi xotira resurslariga ulash orqali kengaytirish usuli bo'lib, ular diqqat jarayonlari bilan o'zaro ta'sir qilishi mumkin . Kombinatsiyalangan tizim Tyuring mashinasi yoki Von Neumann arxitekturasiga o'xshaydi , lekin oxirigacha farqlanadi , bu esa uni gradient tushishi bilan samarali o'rgatish imkonini beradi .

Differensial neyron kompyuter

Differentsial neyron kompyuterlar (DNCs) Neyron Turing mashinalarining kengaytmasi bo'lib, har bir xotira manzili va xronologiya yozuvining noaniq miqdoridan foydalanishga imkon beradi.

Neyron tarmog'ini pastga tushirish avtomati

Neyron tarmog'ini surish avtomatlari (NNPDA) NTM larga o'xshaydi, ammo lentalar o'zgartirilishi mumkin bo'lgan va o'qitilgan analogli steklar bilan almashtiriladi. Shu tarzda, ular murakkablik jihatidan kontekstsiz grammatikalarni (CFG) tan oluvchilarga o'xshaydi .

Xotira tarmoqlari 

HP Labs xodimi Greg Snayder memristiv nanodevices bilan kortikal hisoblash tizimini tasvirlaydi. Memristorlar (xotira rezistorlari) yupqa plyonkali materiallar yordamida amalga oshiriladi, ularda qarshilik plyonka ichidagi ionlar yoki kislorod bo'sh joylarini tashish orqali elektr bilan sozlanadi . DARPA ning SyNAPSE loyihasi IBM Research va HP Laboratoriyalarini Boston Universitetining Kognitiv va Neyron Tizimlar Departamenti (CNS) bilan hamkorlikda memristiv tizimlarga asoslangan neyromorfik arxitekturalarni ishlab chiqish uchun moliyalashtirdi. Memristiv tarmoqlar jismoniy neyron tarmog'ining o'ziga xos turidir(Little-) Hopfield tarmoqlariga juda o'xshash xususiyatlarga ega bo'lgan tarmoqlar doimiy dinamikaga ega, cheklangan xotira sig'imiga ega va ular Ising modeli uchun asimptotik funktsiyani minimallashtirish orqali tabiiy ravishda bo'shashadi . Shu ma'noda, memristiv sxemaning dinamikasi rezistor-kondensator tarmog'iga nisbatan yanada qiziqarli chiziqli bo'lmagan xatti-harakatlarga ega bo'lgan afzalliklarga ega. Shu nuqtai nazardan qaraganda, analog xotira tarmoqlarini loyihalash neyromorfik muhandislikning o'ziga xos turiga to'g'ri keladi, bunda qurilma harakati elektr simlari yoki topologiyaga bog'liq. Ushbu tarmoqlarning evolyutsiyasini Karavelli - Traversa - oʻzgarishlari yordamida analitik tarzda oʻrganish mumkin. Di Ventra tenglamasi.

Trening