Konvolyutsion neyron tarmog'ining tuzilishi

Kirish. Kompyuter ko'rish texnologiyalarining keng rivojlanishi va tarqalishi inson hayotining boshqa kasbiy sohalarida o'zgarishlarni keltirib chiqaradi. Konvolyutsion neyron tarmoqlar ob'ekt va yuzni aniqlash tizimlarida, tasvirlarni tahlil qilish uchun maxsus tibbiy dasturiy ta'minotda, avtonom tizimlar bilan jihozlangan avtomobillar navigatsiyasida, xavfsizlik tizimlarida va boshqa sohalarda qo'llaniladi. Shaxsiy kompyuterlarning hisoblash kuchining o'sishi, shuningdek, tasvirlar ma'lumotlar bazalarining paydo bo'lishi bilan chuqur neyron tarmoqlarni (chuqur neyron tarmoqlarini) o'qitish mumkin bo'ldi. Tasvirni aniqlash muammosida konvolyutsion neyron tarmoqlari (Convolutional Neural Networks) qo'llaniladi. Maqolaning maqsadi tasvirlarni tasniflash muammosi uchun konvolyutsion neyron tarmoqlarining zamonaviy arxitekturasini ko'rib chiqishdir.
Mashinani o'rganishning vazifalaridan biri tasvirlarni tasniflash muammosidir. Tasvirdagi ob'ektni tasniflash, tan olingan ob'ekt tegishli bo'lgan raqamni ko'rsatishni anglatadi. Mashinani o'rganish algoritmlarini baholash uchun odatda etiketli tasvir ma'lumotlar bazalari ishlatiladi, masalan, CIFAR-10, ImageNet, PASCAL VOC. dan
Rasmlar, masalan, ImageNet tasvirlar ma'lumotlar bazasida bir nechta ob'ektlarni o'z ichiga olishi va faqat bittasi belgilangan (annotatsiya qilingan) uchun asosiy xato mezoni top-5 xatodir. Bular. ob'ektning to'g'ri toifasi algoritm tomonidan eng ehtimoliy deb berilgan besh toifadan bo'lsa, algoritm xato qilmagan deb hisoblanadi. Shunday qilib, tasvirni tasniflash uchun ko'plab neyron tarmoqlar top-5 xatolik yordamida baholanadi [1].
Konvolyutsion neyron tarmoqlari (CNN) optik naqshni aniqlash, tasvirni tasniflash, ob'ektni aniqlash, semantik segmentatsiya va boshqa vazifalar uchun ishlatiladi. Zamonaviy SNS arxitekturasining asoslari birinchi tarmoqlardan biri - LeNet-5da Yan LeKun tomonidan qo'yilgan.

Konvolyutsion neyron tarmog'ining tuzilishi

Konvolyutsiya tarmog'i - bu ko'p qatlamli perseptron (perceptron, lotincha perceptio - idrok etish [2]) - miqyosga, o'zgarishlarga va boshqalarga yuqori darajada qarshilik ko'rsatadigan 2D sirtlarni tanib olish uchun mo'ljallangan, miya tomonidan ma'lumotni qabul qilishning matematik yoki kompyuter modeli. deformatsiya turlari. Bunday muammoni hal qilishni o'rganish mustahkamlash bilan amalga oshiriladi, bunda arxitekturasi quyidagi cheklovlarga mos keladigan shakl tarmoqlari qo'llaniladi [3].
Xususiyatlarni chiqarish. Har bir neyron oldingi qatlamdagi mahalliy retseptiv maydondan ma'lumot oladi va uning mahalliy xususiyatlarini chiqaradi. Xususiyat qaytarilgach, uning joylashuvi muhim emas, chunki taxminan boshqa xususiyatlarga nisbatan o'z o'rnini aniqladi.
Funktsiyani ko'rsatish. Tarmoqning har bir hisoblash qatlami xususiyatlar xaritalari to'plamidan iborat. Har bir xususiyat xaritasi barcha neyronlar bir xil sinaptik og'irliklarni bo'lishishi kerak bo'lgan tekislik shaklida bo'ladi. Strukturaviy cheklashning bu shakli afzalliklarga ega.
Siqilishning o'zgarmasligi. Noto'g'ri o'zgarmaslik "tekislash" funktsiyasini bajaradigan kichik yadro konvolyutsiyasi yordamida xususiyat xaritalari tomonidan amalga oshiriladi.

Rasm 1. Tasvirni qayta ishlash uchun konvolyutsiya tarmog'i

Kichik namuna. Orqadahar bir konvolyutsiya qatlamidan keyin mahalliy o'rtacha va kichik namunalarni amalga oshiradigan hisoblash qatlami keladi. Mahalliy o'rtacha yordamida xususiyat xaritalari uchun piksellar sonini pasaytirishga erishiladi. Bunday operatsiya xususiyatni xaritalash operatorining chiqish signalining sezgirligining pasayishiga, shuningdek, o'zgarishlarning boshqa shakllariga olib keladi.
1-rasmda bitta kirish, to'rtta yashirin va bitta chiqish neyron qatlamidan tashkil topgan konvolyutsion tarmoq diagrammasi ko'rsatilgan. Ushbu tarmoq tasvirni qayta ishlash, xususan, qo'l yozuvini tanib olish uchun yaratilgan. 28×28 datchik tugunlari matritsasidan tashkil topgan kirish qatlami turli belgilar tasvirlarini oladi.
Oldindan markazlashtirilganva o'lcham uchun normallashtirilgan. Shundan so'ng, hisoblash qatlamlari navbatma-navbat konvolyutsiya va kichik namuna olish operatsiyalarini amalga oshiradi.
Birinchi yashirin qatlam konvolyutsiyani amalga oshiradi. U to'rtta xususiyatli xaritadan iborat bo'lib, ularning har biri 24 × 24 neyronlarning matritsasidir. Har bir neyron 5×5 sezuvchanlik maydoniga mos keladi.
Ikkinchi yashirin qatlam mahalliy o'rtacha operatsiyani, shuningdek, quyi namuna olishni amalga oshiradi. Shuningdek, u 12 × 12 matritsalarni o'z ichiga olgan 4 ta xususiyatli xaritadan iborat. Har bir neyron 2 × 2 qabul qiluvchi maydonga, sigmasimon faollashtirish funktsiyasiga, sozlanishi polga, sozlanishi koeffitsientga ega. Sozlanishi mumkin bo'lgan koeffitsient va chegara neyronning ish maydonini aniqlaydi. Masalan, kichik koeffitsient bilan neyron kvazi chiziqli rejimda ishlaydi.
Uchinchi yashirin qatlam shunday qiladitakroriy konvolyutsiya operatsiyasi. Qatlam 12 ta xususiyat xaritasidan iborat bo'lib, ularning har biri 8×8 neyronlardan iborat matritsadir. Uchinchi yashirin qatlamning har bir neyroni oldingi yashirin qatlamdan turli xususiyat xaritalari bilan sinaptik aloqalarga ega bo'lishi mumkin.
To'rtinchi yashirin qatlam yana ikkinchi kichik namuna olish va mahalliy o'rtacha operatsiyani bajaradi. Qatlam 12 ta xususiyat xaritasidan iborat, ammo har bir xususiyat xaritasi 4×4 neyronlar matritsasidan iborat.
Chiqish qatlami oxirgi konvolyutsiya bosqichini amalga oshiradi. Qatlam 26 ta neyrondan iborat bo'lib, ularning har biri lotin alifbosining 26 ta harfidan biriga to'g'ri keladi. Har bir neyron 4×4 retseptiv maydonga mos keladi [4].