Neyron modellari. Neyron tarmoqlar: > Neyrofiziologiyadan ba'zi ma'lumotlar [

O'quv tarmoqlari. Perseptron [<< | >>]. Muayyan aniq muammolarni hal qilish uchun mo'ljallangan qat'iy tuzilmaga ega neyron tarmoqlar bilan bir qatorda, so'nggi paytlarda tadqiqotchilarning qiziqishini o'qitish natijasida elementlar o'rtasidagi aloqalarning tuzilishi yoki intensivligi o'zgarib turadigan bunday tarmoqlar modellari jalb qilmoqda. Shunga o'xshash konstruktsiyalar shartli reflekslarni, o'quv jarayonini va ayniqsa naqshni aniqlashni modellashtirish uchun ishlatilgan.

Mumkin bo'lgan o'rganish mexanizmlarini soddalashtirilgan shaklda ko'paytirish va o'rganish imkonini beradigan birinchi model 1954 yilda B. Furley va V. Klark tomonidan taklif qilingan (qarang [15]). Ushbu model kompyuter uchun dastur sifatida amalga oshirilgan neyron tarmoq edi. Ushbu model biologlar tomonidan qayta-qayta ta'kidlangan, o'rganish "olovli yo'llar" deb ataladigan narsaga, ya'ni ma'lum bir narsani hal qilish uchun zarur bo'lgan tarmoq elementlari o'rtasidagi aniq aloqalarning paydo bo'lishi va mustahkamlanishiga asoslangan g'oyani sinab ko'rish uchun ishlatilgan ( takroriy) vazifa.

Ushbu model tasodifiy ulanishga ega neyronlar tarmog'i edi. Kirish neyronlarining ma'lum bir guruhi tashqi stimul tomonidan qo'zg'atilganda, tarmoq ma'lum bir chiqish neyronlarining qo'zg'alishi bilan javob berishi kerak edi. Tarmoqning kerakli holatiga o'quv jarayonida neyronlar orasidagi bog'lanishlar samaradorligini o'zgartirish va neyron qo'zg'alish chegaralarini o'zgartirish orqali erishildi.

1950-yillarning oxiridan boshlab neyron tarmoqlarni o'rganishni o'rganish bo'yicha ishlar asosan naqshni aniqlash muammosi bilan bog'liq holda rivojlandi. Bu muammo biologlar va psixologlar, shuningdek, muhandislar va matematiklarning e'tiborini tasodifan tortmadi. Namunani tan olish qaror qabul qilish mexanizmining markazida joylashgan, chunki qaror qabul qilishdan oldin siz vaziyatni tushunishingiz kerak. Bundan tashqari, qat'iy bir xil vaziyatlar mavjud emasligi sababli, o'xshash vaziyatlarni guruhlash, ya'ni umumiy tushunchalarni tasniflash va rivojlantirish muammosi tug'iladi. Va nihoyat, tanada tug'ma qattiq mexanizmlar mavjud bo'lmagan naqshlarni aniqlash vazifalari bevosita o'rganish muammosi bilan bog'liq.

Boshqa tomondan, naqshni aniqlash muammosi bosma va qo'lda yozilgan matnlarni o'qish uchun mashinalarni loyihalash, ovoz bilan boshqariladigan avtomatlarni yaratish, tibbiy diagnostika uchun mashina usullarini ishlab chiqish va boshqalar bilan bog'liq holda katta amaliy ahamiyatga ega. yaqinda bu muammoga katta e'tibor qaratildi (masalan, [4, 7, 8, 35]). Biz keyingi bobda naqshni aniqlash muammosiga qaytamiz.

1957 yildan boshlab F. Rozenblat tomonidan protsentronlar deb atalgan tasodifiy ulanishlar bilan neyron tarmoqlarni o'rganish naqshini aniqlash muammosini qo'llashga bag'ishlangan asarlari nashr etila boshlandi [36].

Perseptron sxemasi Furli va Klarkning "yo'llarni buzish" haqidagi g'oyalariga asoslangan bo'lib, retinaning qatlamli tuzilishi haqidagi g'oyalar bilan to'ldiriladi. Perseptron uch turdagi elementlardan iborat: S-elementlar, A-elementlar va R-elementlar (ikkinchisi birlikda). S-elementlar birinchi qavat, retseptor qatlamini hosil qiladi. Bu retseptorlar qo'zg'atuvchi yoki tormozlovchi bo'lishi mumkin bo'lgan ulanishlar orqali ikkinchi qatlamni tashkil etuvchi A-elementlar bilan bog'lanadi. Har bir retseptor ikkita holatda bo'lishi mumkin - dam olish yoki qo'zg'alish. A-elementlar (assotsiativ elementlar) polga ega bo'lgan qo'shimchalardir. Demak, A-element unga retseptorlardan kelayotgan qo’zg’alishlarning algebraik yig’indisi ma’lum bir qiymatdan – uning chegarasidan oshib ketganda qo’zg’aladi. Bunda qo'zg'atuvchi bog'lanish orqali keladigan retseptordan kelgan signal musbat, tormozlovchi aloqa orqali kelayotgan signal esa manfiy hisoblanadi. Qo'zg'atilgan A-elementlardan kelgan signallar R toplayıcıga, i-assotsiativ elementdan signal esa ki koeffitsienti bilan uzatiladi.

Retseptorlar va A-elementlar orasidagi bog'lanishlar tizimi, shuningdek, A-elementlarning chegaralari qandaydir tasodifiy, ammo qat'iy belgilangan tarzda tanlanadi va o'rganish faqat ki koeffitsientlarini o'zgartirishdan iborat. Ushbu trening quyidagi sxema bo'yicha o'tishi mumkin. Avval barcha ki nol bo'lsin. Biz perseptronni ob'ektlarning ikkita sinfini, aytaylik, doiralar va kvadratlarni farqlashni "o'rgatmoqchi". Biz unga birinchi sinf ob'ektini "ko'rsatamiz". Bunday holda, ba'zi A-elementlar hayajonlanadi. Bu hayajonlangan elementlarga mos keladigan ki koeffitsientlarini 1 ga oshiramiz. Keyin ikkinchi sinfdan ob'ektni "ko'rsatamiz" va bu ko'rsatish paytida qo'zg'atiladigan elementlarning koeffitsientlarini 1 ga kamaytiramiz. Bu jarayon mashg'ulot uchun mo'ljallangan barcha material tugaguncha davom etadi. charchagan. Trening natijasida ki koeffitsientlarining ba'zi qiymatlari hosil bo'ladi. Shundan so'ng, bunday "o'qitilgan" perseptron o'quv materialiga kiritilmagan ob'ekt bilan taqdim etiladi. Qo'zg'atilgan A-elementlar R-elementga tegishli ki koeffitsientlari yig'indisiga teng signal uzatadi. Agar bu yig'indi ijobiy bo'lsa, unda taqdim etilgan ob'ekt birinchi sinfga tegishli, agar salbiy bo'lsa, ikkinchisiga tegishli qaror qabul qilinadi.

Aytilganlardan ko'rinib turibdiki, perseptronga quyidagilar xosdir:

1.retseptor elementlarining assotsiativ elementlar bilan bog'lanishining tasodifiy tabiati;
2.chiqish elementidagi assotsiativ elementlar signallarining chiziqli yig'indisi;
3.juda oddiy o'rganish algoritmi - bu testda ishlagan assotsiativ elementlarning barcha koeffitsientlarini bir vaqtning o'zida oshirish (yoki kamaytirish).

Bir qarashda, bunday tizim hech narsani o'rgana olmaydiganga o'xshaydi. Misol uchun, biz perseptronni vertikal va gorizontal chiziqlarni farqlashni o'rgatishni xohlaymiz. Keling, birinchi navbatda retseptor qatlamiga vertikal chiziqni loyihalashtiramiz. Yuqoridagilarga muvofiq, biz bu holatda ishlagan barcha assotsiativ elementlarning koeffitsientlarini oshirishimiz kerak. Shundan so'ng, biz perseptronga gorizontal chiziqni taqdim etamiz va yuqorida aytilganlarga muvofiq, biz bir vaqtning o'zida qo'zg'aladigan A-elementlarga mos keladigan koeffitsientlarni kamaytiramiz. Ammo birinchi va ikkinchi marta ishlagan A-elementlar orasida umumiy bo'lishi mumkin. Birinchi marta ularning koeffitsientlarini oshirdik, ikkinchi marta esa kamaytirdik. Aftidan, keyingi “darslar” natijalari avvalgi yutuqlarni barbod qilishi mumkin. Shunga qaramay, perseptronlarni o'rganish jarayonini qat'iy tahlil qilish bilan, koeffitsientlarning boshlang'ich qiymatidan qat'i nazar va o'qitish jarayonida namunalar qanday tartibda ko'rsatilishidan qat'i nazar, perseptron ob'ektlarning ikkita sinfini farqlashni o'rganadi. cheklangan miqdordagi bosqichlarda, ya'ni agar bunday qiymatlar umuman mavjud bo'lsa, kerakli koeffitsient qiymatlarini tanlaydi. , bu sinflar ajratilgan. Ushbu bayonot odatda idrok etuvchi konvergentsiya teoremasi deb ataladi. Shunday qilib, loyihalash va ishlash algoritmining soddaligiga qaramay, perseptron ob'ektlarning ikkita sinfini farqlashni o'rganishi mumkin. Biroq, bu erda teoremani shakllantirishda mavjud bo'lgan ogohlantirish printsipial jihatdan muhimdir: agar bu ikki sinfni perseptron bilan farqlash mumkin bo'lsa, u albatta o'rganiladi.

Teorema qaysi sinflarni ajratish mumkinligi haqida hech narsa aytmaydi. Afsuski, uch qatlamli perseptronlarning haqiqiy imkoniyatlari unchalik katta emas edi. Bundan tashqari, teorema psrceptronning o'qitish vaqti chekli ekanligini ta'kidlagan bo'lsa-da, o'rganish tezligining taxminlari keltirilmagan. Shu bilan birga, ko'plab muammolar uchun mashg'ulot vaqti juda uzoq bo'lib chiqdi. Shu sabablarga ko'ra, texnik qurilmalarda perseptronlardan foydalanish umidlari amalga oshmadi.

Tadqiqotlar shuni ko'rsatdiki, perseptronlarning zaif tomonlari (xususan, uzoq o'rganish vaqti) asosan uning elementlari orasidagi bog'lanishlarning tasodifiyligi bilan bog'liq. Biroq, bu konstruktiv xususiyat perseptronni ijobiy sifat - ishonchlilik bilan ham ta'minlaydi: perseptronning sezilarli sonidagi elementlarning ishdan chiqishi uning ishlash sifatiga unchalik ta'sir qilmaydi (22-rasm). Perseptronlarni tahlil qilish biologlar uchun ham, matematiklar uchun ham juda foydali bo'lib chiqdi. Perseptronning soddaligi uni tanib olish va o'rganish jarayonlari uchun qulay modelga aylantirdi va uni o'rganish bir qator muhim savollarni tug'dirdi. Shu bilan birga, tahlilning salbiy natijalari ham qiziq edi. Masalan, assotsiativ elementlar faqat retinaning kichik cheklangan joylarida joylashgan retseptorlardan signallarni yig'adigan perseptron taqdim etilgan rasmning oddiygina bog'langan yoki bog'lanmaganligini hal qila olmasligi ko'rsatildi. Bu natija biologlar uchun muhimdir, chunki bu vazifani bajara oladigan hayvonlarning ko'rish tizimida retinaning individual retseptiv maydonlaridan signallarning oddiy sinaptik yig'indisidan ko'ra murakkabroq mexanizmlar mavjudligini ko'rsatadi. Biroq, ehtimol, perseptronlarni o'rganish matematiklar oldiga qo'ygan eng muhim savollardir.

Ushbu asosiy savollardan biri ma'lum jarayonlarning nazariy va haqiqiy amalga oshirilishi o'rtasidagi farqdir. Yuqorida aytib o'tganimizdek, printsipial ravishda perseptronlar tomonidan hal qilinishi mumkin bo'lgan vazifalar haqiqatdan ham uzoq vaqt talab qilishi mumkin. Yana bir misol: M.Minski va S.Papert [26] ishlarida koʻrsatilganidek, obʼyektlarning ayrim sinflarini perseptronlar boʻyicha farqlash uchun assotsiativ elementlarning bir qismining koeffitsientlari shunchalik katta boʻlishi kerakki, ularni kompyuterda saqlash. bu ikki sinfning barcha aniq ob'ektlarini eslab qolishdan ko'ra ko'proq xotira talab qiladi.

Hisoblash matematikasi uchun alohida qiziqish uyg'otadigan yana bir muhim savol quyidagicha. Perseptron odatiy parallel harakat mashinasidir: barcha assotsiativ elementlar retseptorlardan ma'lumot yig'adi va ularni bir vaqtning o'zida va bir-biridan mustaqil ravishda jamlaydi. Biroq, assotsiativ elementlarning katta qismi behuda ishlaydi, chunki ularning ma'lumotlari natijaga ta'sir qilmaydi. Bunday holda, hisob-kitoblarning umumiy soni oldingi hisob-kitob natijalariga ko'ra keyingi hisoblash to'g'risida qaror qabul qilinganda, yaxshi tashkil etilgan ketma-ket jarayonda bajarilishi kerak bo'lgan sondan ancha oshib ketishi mumkin. Qaysi hollarda parallel hisob-kitobni qo'llash foydalidir (ya'ni, vaqt o'tishi bilan qo'shimcha hisob-kitoblar xarajatlarini qoplaganida)? Perseptronlarni tahlil qilishda yuzaga kelgan ushbu va boshqa matematik savollar M.Minski va S.Papert [26] kitobida yorqin va maftunkor tarzda berilgan. Aytgancha, u to'r pardaga proyeksiya qilingan oddiy bog'langan figuralar soni bo'yicha murakkab muammoni ketma-ket protsedura yordamida o'zaro ta'sir qiluvchi avtomatlar jamoasi tomonidan qanday tezda hal qilish mumkinligini ko'rsatadi.